Guide Labs、新しいタイプの解釈可能なLLMを発表

サンフランシスコのスタートアップ、Guide Labsは、Steerling-8Bを発表しました。これは8​​0億のパラメータを持つ解釈可能なLLMです。このモデルを使用すると、各出力をそのトレーニングデータに対応付けることができ、その動作の理解を高めることができます。同社はユリウス・アデバヨによって設立され、ブラックボックスAIの課題に取り組むことを目指しており、解釈可能性をLLMアーキテクチャに統合することで、規制された産業や科学的透明性に向けた位置づけを行っています。

Key Points

• Guide Labs は、CEO の Julius Adebayo と CSO の Aya Abdelsalam Ismail によって設立されました。
• 新型の LLM、Steerling-8B は、出力の追跡が可能なアーキテクチャを採用しています。
• この解釈可能性は、特に機密性の高い分野でモデルの振る舞いを明確にすることを目的としています。
• Adebayo の以前の研究では、現行の深層学習の解釈方法の信頼性の欠如が明らかにされました。
• 解釈可能なアーキテクチャは、データの事前注釈を重視し、パフォーマンスを向上させることを強調しています。
• Steerling-8B は、より大きなモデルの最大90%のパフォーマンスを達成しますが、より少ないトレーニングデータが必要です。
• モデルが独立して新しい概念を発見する能力はそのまま維持されています。

Relevance

• AIの解釈可能性への動きは、金融や医療などのセクターにおける規制要求の増加と一致しています。
• LLM（Large Language Models）の登場は、AI機能の透明性がますます求められていることを示しています。
• Guide Labsのアプローチは、AI開発の優先事項の変化を反映しており、責任あるAIの使用と理解に焦点を当てています。
• AIにおける同様の動きは、特に消費者保護とデータプライバシーにおける倫理的考慮を重視しています。

Guide LabsのSteerling-8Bの発売は、LLMsの解釈可能性を向上させる重要な前進です。これにより、AIにおける倫理的および運用上の課題に対処し、規制された産業におけるAI開発の新たな基準を設定し、透明性と責任を推進する可能性があります。