EXPLORINEER
ja

アーカイブ — US — techcrunch

OpenAIがAPIに深層研究を導入しない理由とは

OpenAIは、AIが誤情報を広める可能性についてリスクを評価している間、開発者APIからその深い研究モデルを保留しています。会社は、「現実世界における説得リスク」を評価するアプローチを洗練させて展開を続ける目的で、高いコストやモデルの悪用の可能性に懸念を示しています。現時点では、このモデルはChatGPTでのみ利用可能です。

要点

  • OpenAIは、AIの誤情報に関連するリスク要因を評価するまで、ディープリサーチ・モデルをAPIに導入しないことを発表しました。
  • 同社は、ユーザーを誤誘導する可能性のある「実世界説得リスク」を測定する方法を見直しています。
  • OpenAIは、ディープリサーチ・モデルは高コストと処理速度の遅さから、大量の誤情報には適していないと述べています。
  • ディープリサーチ・モデルはテストでは良い成績を収めていますが、人間よりも優れているわけではなく、シンプルなタスクをこなす他のモデルを説得することに優れています。
  • 競合他社であるPerplexityは、独自のディープリサーチAPIを発表し、市場競争を示唆しています。

なぜ重要か

  • 人工知能がデマを拡散させる役割についての懸念が高まっている。
  • 政治的操作や社会工学攻撃が増加する中、AIによる深いフェイク（deepfakes）の台湾選挙中の事件が広範な社会的影響を示している。
  • AI産業が潜在的に有害な機能に対して慎重なアプローチを取ることは、AI倫理や規制に関する議論と一致している。

OpenAIがAPIから深い研究モデルを保留する決定は、AIの倫理的な側面に重要な認識を示しており、特に誤情報の文脈においてその重要性が浮き彫りになっています。これは、AI技術が公に展開される前に継続的な評価と改善が必要であることを強調しています。