EXPLORINEER
ja

アーカイブ — US — techcrunch

Kog、GPUからさらなる推論を引き出すべく深掘りを進める

フランスのスタートアップ、Kogは、ソフトウェアの最適化を通じて従来のGPUでAI推論の速度を向上させようとしています。成功したデモを経て注目を集め、KogはAIワークフローの遅さに悩む企業をターゲットにすると予想しています。CEOのGaël Delalleauは、ソフトウェアが大きなモデルで大幅な加速を実現できると信じていますが、まだ全ポテンシャルを示すために更なる資金調達を確保するためのデモンストレーションが必要です。

要点

  • Kogは、AMD MI300XやNVIDIA H200のような従来のGPUを活用してAI推論をより高速化しようとしています。
  • スタートアップのデモでは、20億パラメータの小さなモデルを使用して3,000のTPSを実現しました。
  • CEOのGaël Delalleauは、適切な最適化を行うことでGPUが期待を上回る性能を発揮できると強調しています。
  • Kogの初期フィードバックには、AIワークフローの高速化に焦点を当てた200のビジネスリードが含まれています。
  • Delalleauの固体物理学とサイバーセキュリティのバックグラウンドが、GPUエンジニアリング手法の向上に役立っています。
  • Kogはより大きなモデルのサポートを計画し、9月までに10倍の高速デモを行い、より多くの資金調達を目指しています。

なぜ重要か

  • AI推論の高速化への需要が増加しています。これは、AIモデルの複雑性が高まっている広範なトレンドを反映しています。
  • Kogの戦略は、2025年のトレンドに合致し、新しいチップを開発するだけでなく、既存のハードウェアを効率的に最適化することを重視しています。
  • 他社のZMLなどもハードウェアに依存しないソリューションを追求しており、業界全体での変化が示唆されています。

Kogの革新的なアプローチは、GPUのAIでの利用価値を再構築しようとしており、推論速度の大幅な向上の可能性を示しています。この手法は、将来の資金調達や市場の持続可能性にとって極めて重要であることが証明されています。