AIの推論はメモリのボトルネックに直面しつつある。ファーウェイはOceanStor M900でこの課題に取り組む構えだ

何が起きたのか

AIは、短い会話から、長い会話や複雑な推論、自律的に動くエージェントへと使われ方が変わっています。そのため、AIを動かす機械には大量の情報を覚えておく力が必要になっています。ファーウェイは2026年10月、上海の展示会「HUAWEI CONNECT 2026」で、この課題に向けた「OceanStor M900 Context Memory Storage」を紹介しました。

むずかしい点はどこか

AIは「KVキャッシュ」と呼ばれる一時的な記憶を使います。これは、同じ内容を何度も計算し直さないように、過去の計算結果を保存しておく場所です。会話が長くなるほど、このキャッシュは大きくなります。GPUやサーバーのメモリは速いのですが、高価で容量に限りがあります。一方で、普通のストレージは容量が大きい反面、データを届けるまでに時間がかかり、高性能な計算装置が待たされてしまいます。

数字で見るポイント

• 最大容量は64PB（ペタバイト）と、ファーウェイは主張しています。
• アクセスの遅れ（レイテンシー）は60マイクロ秒に減るとしています。
• 特定のAIコーディング作業では、処理できる量（トークンスループット）が約2倍、最初の応答までの時間が約半分になる可能性があるとしています。
• 耐久性は1日あたり最大24回の書き込みで、一般的なSSDの16倍だと説明しています。

なぜ大事なのか

AIの計算装置が速くても、データが届かなければ仕事は進みません。記憶を大きく、速く、安く共有できる仕組みは、AIを大規模に使うための費用を下げるかもしれません。ただし、ここに書かれた数字はファーウェイ自身の主張で、第三者による検証はまだありません。

今後注目したいこと

• 実際の大規模なAIの現場で、主張どおりの速さや費用削減が出るか。
• 他社のストレージやAI基盤も、同じように記憶を分けて扱う方向に進むか。
• 導入コストや、既存の設備との組み合わせやすさ。