UK — The Register
クアルコム、エヌビディア対抗のラックスケールAIシステムを試用提供
半導体2分で読めます
Qualcomm(クアルコム)は、AIの処理を行う新しいラックサイズのシステム「Dragonfly AI200」を、選ばれた顧客がクラウドで試せるようにしました。試験提供はCirrascale(シラスケール)のクラウドを通じて行われます。
何が起きたか
Qualcommは、AIの「推論」(学習済みのAIを実際に使って答えを出す処理)向けのシステム「Dragonfly AI200」の試用を始めました。選ばれた顧客は、Cirrascaleのクラウド上でこのシステムを使えます。Qualcommは、試したあとに本番運用へ進める道もあると説明しています。Cirrascaleは、11月17日から18日にシカゴで開かれたSC26という大きな計算機の展示会でもこのシステムを見せました。
主な数字と事実
- AI200の各カードには768 GBのLPDDRメモリがあります。
- 56枚のカードで、液冷式のラック1台あたり約43 TBになります。
- 70億から10兆パラメータ(AIの中身の数)までのモデルに対応すると説明されています。
- 同じDragonfly製品群には、AI250、AI300、C1000サーバー用CPUもあります。
前提を知ろう
AIを動かすには大量の電気と部品が必要です。現在は Nvidia(エヌビディア)の製品が市場の中心です。Qualcommは、消費電力と運用コストを下げられる別の選択肢として、このシステムを売り込んでいます。ただし、メモリの種類が違うため、Nvidiaと同じ性能が出るかは別問題だと記事は指摘しています。Nvidiaの一部製品は高速で高価なHBM3eを使いますが、Qualcommはスマートフォンに多く使われるLPDDRを選びました。
なぜ重要か
AIの推論は、データセンターで最も大きく大切な仕事の一つになりつつあります。電気代やコストが高すぎると、AIを広く使うのが難しくなります。Qualcommのシステムが実際に節約できるかどうかは、これから顧客が試して確かめることになります。結果次第では、AI向け機器の選び方が変わるかもしれません。
今後の注目点
- 試用した顧客が、電力とコストを本当に下げられたと報告するか。
- 性能がNvidiaの製品と比べてどうなるか。
- 試用から本番のデータセンター導入へ進む顧客が出るか。
用語解説
- Dragonfly AI200
- Qualcommが作った、AIの推論を行うラックサイズのシステムです。
- Cirrascale
- AI向けの計算能力を、クラウド経由で貸し出す会社です。
- Nvidia
- AI向けの高性能な画像処理チップ(GPU)を作る会社です。
- LPDDR
- スマートフォンなどでよく使われる、省電力のメモリ(データを一時的に置く部品)です。
- HBM3e
- 高速だが高価なメモリの一種で、高性能なAI機器に使われます。