アーカイブ — US — techcrunch
研究者が隠れたAIプロンプトで査読に影響を与えようと模索中
研究者たちが、arXivの論文に隠されたAIのプロンプトを埋め込み、ピアレビューの結果に影響を与えようとしていると報じられています。複数の国の機関からの17件の論文が、AIに肯定的なフィードバックを提供するよう促しており、この論議を呼ぶ戦術は、多くの学会がレビューでのAIの使用を制限していることと相まって、倫理的な問題を提起しています。
要点
- 様々な学術機関で合計17の研究論文に、隠されたAIのプロンプトが見つかりました。
- 著者は、日本、韓国、アメリカなど8つの国にまたがる14の機関に所属しています。
- これらの論文は一般的にコンピューターサイエンスに関連し、研究に対する肯定的なAIフィードバックのための簡潔な隠された指示が含まれています。
- このやり方の支持者の一人は、AIを評価に頼る“怠惰な査読者”に対抗するためだと主張しています。
なぜ重要か
- 同僚レビューのプロセスにおける誠実さに関する懸念は、AIツールが学術評価により組み込まれるにつれてますます重要になっています。
- AIの研究や同僚レビューでの利用は、2025年のITセクター全体における自動化とAI利用の倫理的ガイドラインに関連する広範なトレンドを反映しています。
- 歴史的に見て、学術界に技術が導入されると、関連する倫理と誠実さに関する議論が発生する傾向があり、これは過去に盗用検出や自動採点に関する論争で見られてきました。
研究論文に現れる隠れたAIプロンプトの出現は、学術界が直面する倫理的ジレンマを浮き彫りにし、技術への依存がますます増える中で、ピアレビューの信頼性に対する問題を強調しています。