アーカイブ — US — techcrunch
Microsoftの研究者、CPU上で動作する超効率的なAIモデルを開発と発表
マイクロソフトの研究者は、CPU向けに最適化された1ビットのAIモデルであるBitNet b1.58 2B4Tを開発しました。このモデルは同等のサイズのAIモデルを凌駕し、かつ大幅に高速でメモリの効率も良いことが特徴です。ただし、カスタムフレームワークが必要であり、GPUのサポートがないため、より広範な適用が制限されています。
要点
- BitNet b1.58 2B4Tは、20億のパラメータを持つ最大規模の1ビットAIモデルです。
- このモデルはMITライセンスのもとで公開されており、AppleのM2を含むCPU上で実行できます。
- BitNetは圧縮可能に設計されており、重みを-1、0、1の3つの値に量子化することで軽量ハードウェア上で実行できます。
- このモデルは4兆トークンでトレーニングされ、MetaのLlama 3.2 1BやGoogleのGemma 3 1Bなど他のモデルを特定のベンチマークで上回る結果を生み出しています。
- 同様のモデルよりも2倍の速度で実行され、かつ大幅に少ないメモリを使用します。
- ただし、GPUをサポートしていないMicrosoftのカスタムフレームワークに依存しています。
なぜ重要か
- 産業におけるより効率的なAIモデルへのトレンドに合致するこの展開は、資源制約や広範なアクセス性の文脈で特に重要です。
- CPUで動作するAIモデルへの推進は、AIをエッジデバイスに展開する方向への成長する動きを反映しており、それは2025年のITトレンドの重要な一つです。
- 歴史的にはGPUへの依存がボトルネックを作り出してきましたが、CPUに対応したモデルの進化はAIのアクセスを民主化する可能性があります。
BitNet b1.58 2B4TはAIモデルの効率性において大きな進歩を表していますが、現在のハードウェア互換性の制限は、普及と既存のインフラへの統合に向けてまだ課題が残っていることを示しています。