Kog、GPUからさらなる推論を引き出すべく深掘りを進める

핵심 정리

• 1

  Kogは、AMD MI300XやNVIDIA H200のような従来のGPUを活用してAI推論をより高速化しようとしています。

• 2

  スタートアップのデモでは、20億パラメータの小さなモデルを使用して3,000のTPSを実現しました。

• 3

  CEOのGaël Delalleauは、適切な最適化を行うことでGPUが期待を上回る性能を発揮できると強調しています。

• 4

  Kogの初期フィードバックには、AIワークフローの高速化に焦点を当てた200のビジネスリードが含まれています。

• 5

  Delalleauの固体物理学とサイバーセキュリティのバックグラウンドが、GPUエンジニアリング手法の向上に役立っています。

• 6

  Kogはより大きなモデルのサポートを計画し、9月までに10倍の高速デモを行い、より多くの資金調達を目指しています。