EXPLORINEER
ja

アーカイブ — US — techcrunch

OpenAIの新しい推論AIモデル、幻覚が増加中

OpenAIの新しい推論AIモデルであるo3とo4-miniは、以前のモデルと比較して幻覚率が上昇しており、正確性に関する懸念が高まっています。プログラムや数学の性能が向上しているにもかかわらず、これらのモデルはPersonQAでそれぞれ33%と48%の割合で幻覚を引き起こしています。OpenAIは、なぜこれが起こっているのか理解に欠けていると認めており、さらなる研究が必要であると指摘しています。

要点

  • OpenAIはo3とo4-miniモデルを発表しました。これらのモデルは古いモデルよりも進化していますが、幻覚をより多く見せる傾向があります。
  • 歴史的には、新しいモデルは幻覚を減らす点でわずかな改善を示してきましたが、今回はそのような状況ではありません。
  • PersonQAベンチマークでは、o3は33％、o4-miniは48％の割合で幻覚を引き起こすことがあり、これは以前のモデルよりもかなり多いです。
  • 問題は、訓練に使用される強化学習方法に起因する可能性があり、幻覚を増幅させる可能性があります。
  • これらの問題にもかかわらず、o3はコーディングタスクで優れたパフォーマンスを示していますが、壊れたリンクを生成する傾向があります。
  • 幻覚は、法律などの高い精度を必要とする分野でAIの使用を複雑化させます。
  • AIモデルにウェブ検索機能を導入することで、幻覚を減少させるのに役立つかもしれません。

なぜ重要か

  • 人工知能産業は、従来の技術が限られた成果しかもたらさないことから、推論モデルに向かって進化しています。
  • alucinationは、さまざまな人工知能アプリケーション全般において、信頼性と適用性に影響を与え続ける重要な問題です。
  • 人工知能の進歩は、リアルタイムデータアクセスの統合を探求し、精度を高めalucinationを軽減する方向に向かっています。

OpenAIのo3とo4-miniモデルにおける幻覚率の上昇は、産業がパフォーマンス向上のために推論モデルに移行する中、この課題に対処するための緊急性を強調しています。