アーカイブ — US — turtlesai
「Cogito v1：自己改善型オープンソースAI」
Deep Cogitoは、Cogito v1という、3Bから70Bのパラメーターを持つオープンソースの大規模言語モデル（LLM）を発表しました。これらのモデルは、Iterated Distillation and Amplification（IDA）技術を用いて訓練されており、自己改善を促進しています。これらのモデルは、既存のモデルであるLLaMAなどを上回る性能を発揮し、Huggingfaceなどのプラットフォームで利用可能です。将来的には、671Bのパラメーターまでのモデルが計画されており、一般的な超知能に向けた推進を続けています。
要点
- Deep Cogitoは、3Bから70Bのパラメータを持つオープンソースLLMであるCogito v1をリリースしました。
- トレーニングには、反復蒸留と増幅（IDA）技術が使用され、反復的な自己改善が促進されました。
- Cogito v1モデルは、他のモデル（LLaMA、DeepSeek、Qwenなど）と比較して標準ベンチマークで優れています。
- 将来の計画には、671Bのパラメータを持つより大きなモデルや既存のモデルの改善版が含まれています。
- これらのモデルは、Huggingface、Ollama、Fireworks AI、Together AIなどのプラットフォームで利用可能です。
なぜ重要か
- Cogito v1のリリースは、AI研究のトレンドと一致しており、自己改善とモデルの堅牢性に焦点を当てています。
- IDA技術は、人間の限界を超えたモデルの能力向上の可能性に注目されています。
- 過去のAIの進歩は、ユーザーの目標とモデルの整合性を促進するより効果的なトレーニング方法の道を切り開きました。
Cogito v1の発売は、AI技術の著しい進歩を示しており、革新的なトレーニング方法を通じて自己改善を促し、オープンソースの取り組みに貢献し、一般的な超知能の追求に向けて、さらに強力なモデルの登場を予感させています。