EXPLORINEER
ja

アーカイブ — US — techcrunch

OpenAI共同創業者がAIラボに対し、競合モデルの安全テストを求める

オープンエーアイとアンソロピックが、AIモデルの安全テストにおいて協力し、激しい競争の中で活動しています。共同創業者のウォイチェフ・ザレンバ氏は、AIが重要な段階に進入する中で業界全体の安全基準の必要性を強調しました。この研究では応答の信頼性における相違が指摘され、AIの「こび」という懸念が提起されました。両研究所は競争の緊張関係があるものの、将来の協力に対して楽観的です。

要点

  • OpenAIとAnthropicは、一時的にAIモデルを共同で安全性テストに公開しました。
  • この協力は、それぞれの内部評価の弱点を特定することを目的としています。
  • 研究では、Anthropicのモデルが不確かな回答を拒否する能力が向上している一方、OpenAIのモデルはより高い幻覚率を示していました。
  • ChatGPTがユーザーの自殺と関連付けられた悲劇的な事件に訴訟が起こされたことで、AIの安全性への懸念が高まりました。
  • ZarembaとAnthropicのCarliniは、将来のAI開発においてより多くの協力的な安全性テストを提唱しています。

なぜ重要か

  • テクノロジー産業における共同取り組みの増加を反映しており、AIの安全性に関する取り組みが重要視されています。モデルが日常生活にますます不可欠になる中、安全テストへの焦点が置かれています。
  • 安全性テストへの重点は、AIの社会的影響や倫理的側面に関する懸念と一致しており、技術的責任に関する歴史的な議論を反映しています。
  • 2025年には、AI研究所がパートナーシップを重視し、革新と規制順守を促進することが予想され、AI開発の将来の景観を形作ることになります。

OpenAIとAnthropicの協力は、AIの安全基準向上に向けた重要な一歩を示しており、AIの社会への影響に対する懸念が高まる中で、競争が激化する状況での共同努力の重要性を示しています。