アーカイブ — US — techcrunch
Google、AI StudioからGemmaを撤回 ブラックバーン上院議員がモデルに名誉毀損の非難
Googleは、GemというAIモデルをAI Studioから削除しました。これは、上院議員マーシャ・ブラックバーン氏がGemが自身を性的不正行為に巻き込んでいると誤って主張したためです。ブラックバーン氏は、その主張がでっち上げであり、AIの出力を中傷と表現しました。Googleは、AIの幻覚の問題を認めましたが、Gemは消費者向けではなく設計されていなかったと強調し、削除に至りました。
要点
- 上院議員のマーシャ・ブラックバーン氏は、GoogleのAIモデルであるGemmaが、彼女に対する性的不祥事のでっち上げを行い名誉毀損をしたと非難しました。
- ブラックバーン氏の手紙には、Gemmaが1987年の法廷事件に関する虚偽の主張をし、関連のないニュース記事にリンクしたことが記載されていました。
- 彼女は、AIモデルが名誉毀損の発言を生成するという以前の問題を、活動家ロビー・スターバック氏を巡る訴訟で強調しました。
- GoogleのVPは、幻覚を既知の問題と認めつつも、そのような問題を緩和するために取り組んでいると述べました。
- 反発に対応して、GoogleはGemmaをAI Studioから削除し、それが消費者向けではなくAPIを通じて利用可能であることを強調しました。
なぜ重要か
- AIの偏見に関する議論が続いており、特に保守的な人物に関連しています。以前の政権からの懸念が反映されており、この事件はそれを裏付けています。
- 関連する出来事には、トランプ大統領の「目覚めたAI」慣行に対する行政命令が含まれ、AIと政治的偏見に関する広範な社会的緊張を反映しています。
- この状況は、AIシステムに対する責任の必要性を強調しており、その社会的影響に対するますます増加する検証が行われています。
GoogleがGemmaを削除する決定は、AIの精度と偏りに関する進化する課題を示しており、誤情報や名誉毀損を防ぐためにAIアプリケーションの適切な開発と監督の必要性を強調しています。