アーカイブ — US — techcrunch
フランスの新興企業ZML、AIチップの高速推論を実現する無料製品を発表
フランスのAIスタートアップ、ZMLは、ZML/LLMDという無料の推論性能ソフトウェアを発表しました。このソフトウェアは、さまざまな大規模言語モデルを複数のAIチップ上で実行できるようにし、AI処理を最適化し、ベンダーロックインを削減することを目指しています。Yann LeCunの支持を受けているZMLは、Nvidiaなどとの競争が激化する中で、企業にチップの柔軟性を提供することを目指しています。
要点
- ZML/LLMDは大規模言語モデル向けのニューリリース推論サーバーです。
- このソフトウェアは、Nvidia、AMD、Google TPU、Apple Metal、Intel Arcなどのさまざまなチップ上で動作します。
- 目標は、ベンダーシーロを破ること、チップの利用率を向上させ、処理速度を向上させることです。
- ZMLは、コスト効率に優れ、エネルギー効率の高いAIソリューションを提供することを目指しています。
- Steeve Morinは、欧州の新興AIチップメーカーとの協力を強調しています。
- ZMLは、著名なベンチャーファームから2000万ドルの資金提供を受けています。
- 最初はユーザーの相互作用を学ぶために無料で提供されます。
- ZMLは、BasetenやInferactなどの企業と競合しています。
なぜ重要か
- AI推論の最適化は、モデルが日常生活にますます統合される中で極めて重要になっています。
- AIチップメーカーの台頭は、AI処理能力の多様化を反映した広範なトレンドです。
- ZMLの開発は、Nvidiaの支配の中でAI技術の民主化に向けた動きを強調しています。
- 「推論のゴールドラッシュ」は、AI処理技術への投資と革新が増加していることを示しています。
ZMLの革新的なAI推論手法とチップの柔軟性は、現在の市場環境に大きな変革をもたらす可能性があります。このアプローチは、コスト効率の良いAIテクノロジーの新時代を促し、欧州のAIスタートアップの成長を後押しするでしょう。