보관된 글 — US — techcrunch
연구자들, 숨겨진 AI 프롬프트로 동료 검토에 영향 미치려 해
연구진들이 보고서에 숨겨진 AI 프롬프트를 심는 것으로 보고되었는데, 이는 동료 평가 결과에 영향을 미치려는 것으로 알려져 있다. 여러 국가의 기관에서 나온 17 건의 논문이 AI에게 긍정적인 피드백을 제공하도록 유도하기 위해 이 기법을 사용했다고 한다. 이 논란이 되는 전술은 특히 많은 학회에서 리뷰에서의 AI 사용을 제한하는 가운데 윤리적인 문제들을 던지고 있다.
핵심 정리
- 다양한 학술 기관에서 17편의 연구 논문에서 숨겨진 AI 프롬프트가 발견되었습니다.
- 저자들은 일본, 한국, 미국을 포함한 8개국의 14개 기관과 연계되어 있습니다.
- 논문들은 주로 컴퓨터 과학과 관련되었는데, 연구에 대한 긍정적인 AI 피드백을 위해 간결하고 숨겨진 지침을 사용했습니다.
- 이러한 관행을 옹호하는 한 명은, 이것이 AI를 평가에 의존하는 '게으른 심사자'들에 대항한다고 주장합니다.
왜 중요한가
- 2025년의 IT 부문에서 자동화 및 AI 사용에 대한 윤리 가이드라인과 관련된 전체 트렌드를 반영하는 연구 및 피어 리뷰에서 AI의 사용이 늘어나면서 피어 리뷰 프로세스의 진정성에 대한 우려가 더 중요해지고 있습니다.
- 기존에 기술이 학계에 도입되면서 윤리와 진실성에 대한 논쟁이 벌어졌던 것은 지난 시대의 표절 검출 및 자동 그레이딩과 관련된 논란에서 나타났습니다.
연구 논문에서 발생한 숨겨진 AI 프롬프트들은 피어 리뷰의 정직성에 대한 학계의 윤리적 딜레마를 강조하며, 기술에 대한 의존이 계속 증가함에 따라 이러한 문제가 더욱 심각해지고 있다.