アーカイブ — US — turtlesai
Search-Based AIは商業利用にはまだ不十分：幻覚と引用問題が浮上
Tow Centerの報告書によると、ChatGPTなどのAIベースの検索ツールは、引用の正確さに苦しんでおり、しばしば不正確な情報を提供している。これはジャーナリズムの信頼性を損なうものである。特にプレミアム版と無料版との間で高い誤り率が見られ、パブリッシャーのトラフィックやコンテンツの可視性に影響を与えている。AIの信頼性を向上させるためには緊急の改善が求められる。
要点
- 1600件のクエリを調査した結果、AIによる応答の60%以上が間違っていることが判明しました。
- プレミアムAIバージョンは無料バージョンよりも引用エラーが多い傾向にあります。
- AIツールは出版社の希望を無視してrobots.txtルールをバイパスすることがあります。
- 正確でない引用は出版社のオーガニックトラフィックを危険にさらす可能性があります。
- OpenAIのChatGPTは200の引用のうち153が間違っているとされています。
- AI応答に不確実性がないことで、信頼性を誤解させる可能性があります。
- AI開発者と出版社の間での協力はリスクを軽減するために必要です。
なぜ重要か
- AI検索エンジンの台頭に伴い、消費者の正確な情報への依存が増加しています。
- 情報の信頼性に対する懸念は、フェイクニュースの台頭時に直面した問題を反映しています。
- ジャーナリズムにおけるAI技術の進化は、情報収集における倫理基準の重要性を浮き彫りにしています。
- 2025年までに、AIのトレンドには、規制当局の監視の増加とコンテンツクリエイターとの透明な連携の需要が含まれる可能性が高いです。
レポートは、AI検索ツールの正確さと信頼性が向上しない限り、ジャーナリズムの信頼性や出版社の可視性に影響を与える可能性があることを強調しています。