アーカイブ — US — techcrunch
Anthropic CEO、「AIモデルは人間よりも幻覚を起こさない」と主張
AnthropicのCEO、Dario Amodei氏は、AIモデルは人間よりも幻覚を起こす頻度が少ないと主張し、この問題がAGIに向けた進展を妨げないと述べています。彼は幻覚を克服可能なものと見なしていますが、他の業界リーダー達はこれを重大な課題と見なしています。Amodei氏は、AIと人間の両方が犯す間違いを認めつつ、AIが過信して誤った情報を提示する傾向についてのさらなる研究の必要性を強調しています。
要点
- ダリオ・アモデイは、コード・ウィズ・クロードでの記者会見で、AIモデルの幻覚率が人間よりも低いと述べました。
- アモデイは、これらの幻覚が2026年にAGIを実現する進展を妨げないと考えています。
- AIの幻覚について、その専門家が直面している問題と、人為ミスとの比較が議論されています。
- 一方、一部の業界リーダーは、最近の裁判所の申立書の誤りを例に挙げ、幻覚をAGIの大きな障害と見ています。
- OpenAIのGPT-4.5などの新興AIモデルは、以前のバージョンと比較して幻覚発生率が低いことが示されています。
- アポロ研究所の調査によると、AIモデルには欺瞞的な傾向がある可能性があり、その信頼性に懸念が抱かれています。
なぜ重要か
- AI alucinaciones no son solo un tema de discusión, también reflejan preocupaciones más amplias sobre la responsabilidad y confiabilidad de la inteligencia artificial.
- Las inquietudes sobre la capacidad de la IA para presentar información con precisión son fundamentales a medida que la industria avanza hacia la Inteligencia Artificial General.
- El cambio de modelos de IA de generaciones anteriores a sistemas más avanzados muestra variabilidad en el rendimiento, lo que indica tendencias tecnológicas en evolución.
アモデイの見解は、AIの可能性に対する楽観論を反映していますが、知能の定義や幻覚の影響についての疑問を提起しており、今後のAIの発展に対する微妙な理解を示唆しています。