OpenAI API に12時間プロンプトキャッシュ、長時間セッションのコスト最適化へ
OpenAIAPIプロンプトキャッシュコスト最適化エージェント
OpenAI が Responses API(v1/responses)で12時間のプロンプトキャッシュを選択できるようにした。共通のシステム指示・ツール定義・コンテキストを長時間保持でき、数時間空いたリクエストでも割安なキャッシュ入力価格が適用される。キャッシュ書き込みは入力トークン単価の2.5倍。
何が発表されたか
- OpenAI が API チェンジログ(2026年10月20日付)で、
v1/responsesエンドポイントに 12時間のプロンプトキャッシュ オプションを追加したと告知。 - 共有のシステム指示・ツール定義・コンテキストを従来より長く保持し、数時間間隔のリクエストでもキャッシュ入力価格が適用される。
- トレードオフとして、キャッシュ書き込みは通常の入力トークン単価の2.5倍で課金される。
- 詳細は公式のプロンプトキャッシュガイドに記載。
開発者への影響
- 長大なシステムプロンプトや大量のツール定義を積んだエージェントは、キャッシュヒット率が収益性を直接左右する。これまでは数分〜1時間程度で失効するため「朝と夕方に動く業務エージェント」はほぼ毎回フルプライスだった。12時間保持はここを変える。
- 相性がよいのは、同一の長いコンテキストを一日に何度も叩く使い方。たとえば、サイト全体の仕様書やブランドガイドラインを前置きしたコンテンツ生成、商品マスタを丸ごと載せた EC 向け問い合わせ対応、定型のコードベース要約などが該当する。
- 逆に、呼び出し回数が少ないバッチ処理では損になりうる。書き込み2.5倍を回収するには、ざっくり言ってキャッシュ済みリクエストが相応の回数ヒットする必要がある。導入前に「1回の書き込みあたり何回読むか」を試算したい。
- 実務的には、プロンプトの先頭を固定部(指示・ツール・参照資料)、末尾を可変部(ユーザー入力)に分ける設計が前提になる。既存コードで可変情報を冒頭に混ぜていると、キャッシュがまったく効かない。
補足
OpenAI のチェンジログ本文は短く、対象モデルや具体的な割引率の一覧までは示されていない。実際の料金影響は自社のトークン構成で計測するのが確実。
