보관된 글 — US — turtlesai
"검색 기반 AI, 상용화 준비 미흡: 환각 및 인용 문제 지적"
Tow Center 보고서에 따르면, ChatGPT와 같은 AI 기반 검색 도구들은 인용 정확성에 어려움을 겪고 종종 잘못된 정보를 제공하여 언론적 정직성을 저해하고 있다고 밝혀졌습니다. 특히 프리미엄 버전과 무료 버전 간의 높은 오류율은 발행사의 트래픽과 콘텐츠 가시성을 위협하며, AI 신뢰성 개선에 대한 긴요한 필요성을 강조하고 있습니다.
핵심 정리
- 1,600개 쿼리를 조사한 결과, AI로 생성된 응답 중 60% 이상이 잘못되었다고 함.
- 프리미엄 AI 버전은 무료 버전보다 참고 오류가 더 많이 발생한다.
- AI 도구들은 출판사의 로봇.txt 규칙을 우회하여 발행자 선호를 위반한다.
- 부정확한 인용은 출판사의 유기적 트래픽을 위협한다.
- OpenAI의 ChatGPT는 200개 중 153개의 인용이 부정확했다.
- AI 응답의 불확실성 부재는 신뢰감을 부여하는 잘못된 감각을 유발한다.
- AI 개발자와 출판사 간의 협력은 위험을 완화하기 위해 필요하다.
왜 중요한가
- AI 검색 엔진의 발전에 따라 소비자들은 정확한 정보에 대한 의존도가 증가하고 있습니다.
- 정보 신뢰성에 대한 우려는 가짜 뉴스 대두 시 문제들과 유사한 어려움을 반성합니다.
- 저널리즘에서의 AI 기술 발전은 정보 검색에 윤리적 기준의 중요성을 강조합니다.
- 2025년까지 AI 트렌드에는 규제 강화 및 콘텐츠 제작자와의 투명한 협업 수요가 늘어날 것으로 예상됩니다.
리포트는 AI 검색 도구의 정확성과 신뢰성이 크게 향상되지 않는 한, 언론의 정직성과 발행사의 가시성을 위협하며 AI 검색 도구의 잠재력이 충분히 발휘되지 않을 것이라 강조했습니다.