カツプロ
ログイン
← 投稿一覧
AI・生成AI調べてみた 2026年9月25日

GPT-6のプロンプトキャッシュが改善|確認ツールと使い方の要点

かつ

かつ

2026/09/25

GPT-6のプロンプトキャッシュが改善|確認ツールと使い方の要点

OpenAIは2026年9月22日、GPT-6向けのプロンプトキャッシュを改善したと発表しました(公式ページ)。プロンプトキャッシュとは、前回のリクエストと同じ内容の入力を使い回して、応答を速く・安くする仕組みです。

改善の中身は、キャッシュに当たる率が標準で上がったことと、状況を見る・調べる・選ぶための新しい道具が加わったことです(公式ページ)。対象は、APIでAIを自分のシステムに組み込む開発者です(公式ページ)。

この発表は開発者向けで、ChatGPTの画面を使うだけの方が設定する項目は、公式ページには出てきません。ただし、APIで自動化やチャットボットを作る制作者や、その運用費を預かる方には、費用と待ち時間に関わる話です。

3行でまとめると

  • 標準でキャッシュに当たりやすくなった。対象の共通部分を30分以内に再利用すると、割引の対象になります(公式ページ)。
  • 見る道具と調べる道具が加わった。Prompt Caching Dashboardと、外れた理由を調べる診断ツールが追加されました(公式ページ)。
  • 使う側で選べる設定が増えた。キャッシュの範囲の指定、推論の強さの変更、事前準備などが使えます(公式ページ)。

何が起きたのか

公式ページは、GPT-6を「何時間も続けて複雑な作業をこなす持続型エージェントを動かせるモデル」として紹介しています(公式ページ)。エージェントとは、AIが自分で手順を進めて作業する仕組みのことです。

こうしたアプリは、前のやり取りに積み重ねる形で、何度もAPIリクエストを送ります。そのたびに、同じ指示・ツールの定義・過去の文脈を付けて送ることが多いと説明されています(公式ページ)。

OpenAIはこの共通部分をキャッシュして計算を使い回し、応答時間を短くしています。開発者には、キャッシュされた入力トークンに最大90%の割引があります(公式ページ)。トークンとは、AIが文章を数える単位のことです。

GPT-6ファミリーの公開時に、改善したキャッシュの仕組みを導入済みで、標準でキャッシュに当たる率が上がったと書かれています(公式ページ)。今回の発表は、その上に新しい道具を加える内容です(公式ページ)。モデル自体の違いは、この記事では扱いません。

変わったこと

標準で当たりやすくなった

対象になる共通の先頭部分を30分以内に再利用すると、キャッシュの割引が付きます(公式ページ)。先頭部分とは、リクエストの頭から途中までが前回と同じ内容の部分のことです。

この改善は標準の動きで、後から加わる道具は任意の操作だと位置づけられています(公式ページ)。

状況を見て、外れた理由を調べる

新しいPrompt Caching Dashboardでは、入力のうちキャッシュから出た分の割合を見られます(公式ページ)。ヒット率の推移と、キャッシュ済み・未キャッシュのトークンを比べる入力構成のグラフがあります(公式ページ)。

想定外のキャッシュ外れが出たときは、診断ツール(prompt caching diagnostics)を使います。リクエストと最近の応答を比べて、モデル・ツール・設定・入力のどこが変わったかを調べられます(公式ページ)。影響したトークンの推定数も出るので、影響の大きさを判断できます(公式ページ)。

項目出力例の値読み方
typecache_missキャッシュに当たらなかった
reasontools_changedツールの定義が変わった
comparison_reusable_tokens5629比較で再利用できるはずだったトークン数
cache_missed_tokens5629キャッシュに当たらなかったトークン数

上の表は、公式ページに載っている診断結果の出力例です(公式ページ)。この例では、ツールの変更が外れた理由として示されています(公式ページ)。

自分で選べる設定

設定できること使う場面
明示的なキャッシュ境界再利用する先頭部分を自分で選ぶ変わらない部分だけを確実に使い回したいとき
推論の強さの変更応答の間で強さを変えても、キャッシュが切れない難しい依頼は強く、定型の続きは弱くしたいとき
ツールと指示の変更への対応定義を消さずに、使えるツールだけ絞る。新しい指示は末尾に足す途中で使うツールや指示が変わるとき
事前準備(prewarming)共通の指示やツール定義などを先に準備する最初の質問の待ち時間を減らしたいとき

この表は公式ページの説明をもとにまとめました(公式ページ)。

推論の強さの変更は、GPT-6のモデルで使えます。応答の間で変えるには、configuration_updateを追加し、リクエスト全体の推論の強さは変えずにおきます(公式ページ)。

ツールが変わるときは、ツールの定義・スキーマ・順序を安定させます。使えるツールを絞るにはallowed_toolsを使い、ツールが不要なときはtool_choiceをnoneにします。定義を消すことはしません(公式ページ)。古い指示を上書きしたいときは、新しいdeveloperメッセージを文脈の末尾に足します(公式ページ)。

事前準備では、共通の指示・ツール定義・参考資料を、ユーザーが最初に質問する前の起動時に準備できます。処理がユーザーの待ち時間の外に移ります(公式ページ)。

導入企業の数字

企業公式ページの談話の要点期間など
GitHub Copilot新たに処理が必要なプロンプトトークンの割合を、以前の基準より50%超減らしたここ数か月、数十億件のリクエスト
談話を寄せた企業(1社)ヒット率が数ポイント上がり、コストが20%減った記載なし
Manusヒット率が約85%から、安定して90%超に1週間足らず
談話を寄せた企業(もう1社)評価でのヒット率が83%から91%へ。キャッシュの書き込みは約3分の2減り、推論コストは36%減った1週間足らず

上の表は、公式ページに載っている各社の談話を要約したものです(公式ページ)。前提条件は企業ごとに違うので、数字を並べて比べるものではありません。

小さな会社・Web制作者にはどう効くか

ここからは、公式ページの記述をもとにしたカツプロの分析です。

APIを使っていないなら、今やることはない

ChatGPTの画面や、AIが入った既製のサービスを使うだけなら、ここで説明した設定を触る場面はありません。公式ページが対象にしているのは、APIでアプリを作る開発者です(公式ページ)。

APIで作っている・作る予定なら

まず、何もしなくてよいことを押さえます。キャッシュの改善は標準で入っていて、追加の道具は任意です(公式ページ)。

そのうえで、次の順に進めるのが無理がありません。

  1. 費用や待ち時間が気になったら、ダッシュボードでヒット率を見る(公式ページ)。
  2. ヒット率が急に下がったら、診断ツールで、モデル・ツール・設定・入力のどれが変わったかを調べる(公式ページ)。
  3. 作り方を見直す。変わらない指示やツール定義を前に置き、変わる内容は末尾に足す(公式ページ)。

制作者の仕事では、この3の考え方が一番効きそうです。問い合わせ対応のチャットや、社内の自動化を作るとき、ツールの定義を毎回入れ替えると、キャッシュが外れる原因になります(公式ページ)。使わないツールは消さずに、allowed_toolsで絞る方が、公式ページの推奨に合います。

今は、やらなくていいこと

最初から全部の設定を入れる必要はありません。キャッシュ境界の指定や事前準備は、標準の性能の上に足す任意の設定です(公式ページ)。まず数字を見て、外れている理由が分かってから足せば十分です。

また、割引は「最大90%」です(公式ページ)。常に90%引きになるという意味ではありません。導入企業の数字も、それぞれの条件での結果です(公式ページ)。自社で同じになるとは限らないので、見積もりにそのまま使うのは避けましょう。

納品や運用の説明に使える点

お客様にAI機能を納品する場合、運用費の説明が必要になります。ヒット率を見られるダッシュボードと、外れた理由を示す診断ツールがあれば、費用が増えたときの原因を説明しやすくなります(公式ページ)。コードの見直しにCodexを使う方法も、公式ページの「始め方」で案内されています(公式ページ)。

確かめたこと

カツプロ調べ:2026年9月25日にOpenAIの公式ページを読み、発表日、30分の条件、最大90%の割引、ダッシュボードと診断ツール、各設定の説明、導入企業の談話の記載を確かめました(公式ページ)。

確かめたのは公式ページの記載までです。自分のAPIで動かして測ったものではありません。

まとめ

GPT-6のプロンプトキャッシュは、標準で当たりやすくなりました。加えて、状況を見るダッシュボードと、外れた理由を調べる診断ツールが加わりました(公式ページ)。

APIを使っていない方は、今は何もしなくて構いません。APIで作っている方は、まずヒット率を見て、外れていたら診断ツールで原因を調べる順が現実的です。

作り方の基本は、変わらない部分を前に、変わる部分を末尾に置くことです(公式ページ)。設定は任意なので、必要になってから足せば足ります。

出典

この記事の著者・監修

カツ
生成AIエンジニア/フロントエンドエンジニア/舞台監督などなど

カツ

カツプロ運営者のカツです! AI・Web関連から、日常のことなど、私目線の回答も交えながらお伝えします!

この記事をシェア

note

スポンサーリンク

コメント(0)

まだコメントはありません。

コメントは Tier 1(有料)の機能です。ログインのうえアップグレードしてください。

こちらの記事も読まれています