アーカイブ — US — techcrunch
ライターが新しいAIモデルとトークンコストを抑えるための改良ハーネスを導入
Palmyra X6 AIモデルとアップグレードされたハーネスを発売したWriterは、マーケターの展開コストを最大50%削減することを目指しています。このモデルは複雑なタスクに効率を重視し、オープンソースモデルGLM-5.2から開発されました。CEOのMay Habib氏は、AIの展開におけるコスト削減の緊急性を強調し、主要なAIラボに対する企業の不満の高まりに対処しています。
要点
- Writerがリリースした新しいAIモデル、「Palmyra X6」はコスト削減を目的としています。
- Z.aiのオープンソースモデルGLM-5.2をベースに構築され、低価格で導入が容易です。
- 新しいモデルとインフラのアップグレードを組み合わせることで、基本的なAIタスクのコストを最大50%削減する見込みです。
- マルチステップタスクの効率向上に焦点を当て、より少ないトークンで高速に実行されます。
- 研究によると、ハーネス最適化がモデル選択よりも効果的なコスト削減戦略であると報告されています。
- モデルに依存しない展開により、既存および外部モデル（Azure、Amazon Bedrock）との統合が可能です。
- CIOたちは、急増するコストと企業への利益提供の非効率性により、主要AI研究所に対する不信感を表明しています。
なぜ重要か
- 2023年、企業は導入費用が上昇する中で効率的なソリューションを求めるため、AIのコスト管理が重要です。
- オープンソースモデルへの移行は、コスト効率に焦点を当てた業界全体のトレンドを反映しています。
- AIの最適化に向けた動きは、持続可能性や運用効率を優先する現在のITトレンドと一致しています。
ライターの新しいアイデアは、Palmyra X6を用いてAIの展開におけるコスト問題に対処する重要な一歩を示しています。これは、業界における運用費用の増加に対応する需要が高まり、単なる性能よりも効率性を求める動きを反映しています。