アーカイブ — US — techcrunch
Google、最新のAIモデルへのアクセスを安価にする「インプリシットキャッシング」を導入
Googleは、Gemini APIで「暗黙のキャッシュ」を導入し、AIモデルを利用する開発者のコストを削減する取り組みを発表しました。この自動キャッシングは手動キャッシングの代わりとなり、繰り返しリクエストによる最大75%の節約が可能となります。この新機能は、高額なAPI請求や複雑な設定に対する以前の苦情に対処するものです。新機能はGemini 2.5 Proおよび2.5 Flashに適用され、最小のトークン要件が引き下げられ、開発者の負担を軽減する可能性があります。
要点
- Googleは、Gemini APIに暗黙のキャッシュ機能を導入し、継続的なAPI呼び出しで最大75%の節約が可能になりました。
- この機能は、Gemini 2.5 Proおよび2.5 Flashモデルにデフォルトで有効化され、手動設定なしで節約が自動化されています。
- キャッシュを有効にするための最小トークン要件は、2.5 Flashが1K、2.5 Proが2Kに設定され、アクセスが簡素化されました。
- 以前の明示的なキャッシュシステムは、開発者に高コストと手動作業をもたらし、大きな苦情を引き起こしていました。
- 開発者は、キャッシュヒットの機会を最大化するようにプロンプトを構造化することが推奨されています。
なぜ重要か
- AI産業のコスト増加に伴い、企業は競争力を維持するためにコスト削減イノベーションに注力しています。
- 暗黙のキャッシュは、2025年の変化するテクノロジーランドスケープで極めて重要なAIの最適化と効率向上に関連しています。
- 歴史的に、キャッシュなどの機能は、クラウドやAIサービスの提供の標準部分となっており、計算効率の持続的な進展を反映しています。
GoogleのGemini APIにおける暗黙のキャッシング導入は、開発者の運用コスト削減とAIモデルの効率向上に大きな進展をもたらします。これは、最適化とコスト管理に焦点を当てた広範な業界トレンドに沿ったものです。