보관된 글 — US — techcrunch
OpenAI, EU에서 ChatGPT 텍스트에 워터마크 적용 시작
OpenAI는 ChatGPT와 Codex가 생성한 텍스트에 보이지 않는 워터마크를 도입할 계획입니다. 유럽 연합의 AI 법에 대한 준수를 위해 투명성과 콘텐츠 식별을 보장할 것입니다. 이 워터마크는 단어 선택을 섬세하게 변경하며, 유럽 내 사용자에게 다음 몇 주 내에 제공될 예정입니다. 전 세계적으로 개발자들은 특정 모델에 대한 선택적 기능을 선택할 수 있지만, 이 기능은 기본적으로 꺼져 있습니다. 감지에 대한 제약사항은 사용자의 익명성을 해치지 않으면서 조심스러운 모니터링이 필요함을 시사합니다.
핵심 정리
- 오픈AI가 ChatGPT와 Codex에 투명한 워터마크를 도입하여 EU AI 법에 준수한다.
- 이 워터마크는 내용 식별을 가능하게 하는 특정 시스템에서 감지할 수 있는 디자인으로 제작되었다.
- 사용 가능한 EU 사용자를 대상으로 다음 몇 주 동안 롤아웃될 예정이며, API 개발자들은 특정 모델에 대해 전 세계적으로 활성화시킬 수 있지만 기본 설정은 꺼져 있다.
- 워터마킹은 단어 선택을 섬세하게 수정해 사람이 읽을 수 없지만 감지할 수 있는 패턴을 생성한다.
- 워터마크를 제거하기 위해서는 상당한 편집이 필요하며, 이로 인해 감지 신뢰성에 대한 논의가 제기되었다.
- 초기 감지기 접속은 워터마크 신뢰성을 평가하기 위해 승인된 연구자들에게만 제한되어 있다.
- 오픈AI는 여러 요인이 감지에 영향을 미치기 때문에 누락된 워터마크가 사람의 저작권을 확인하지는 않는다고 강조했다.
왜 중요한가
- 텍스트 워터마킹은 EU의 AI 규제 노력과 일치하며, 책임 있는 AI 사용에 초점을 맞추고 있습니다.
- Anthropic와 Google과 같은 기술 기업들 사이에 나타나는 AI 투명성 메커니즘 개발과 같은 성장하는 추세를 반영합니다.
- EU AI Act는 AI로 생성된 콘텐츠에 대한 명확한 지침을 수립하려고 하며, 이는 전 세계 표준을 형성할 수 있습니다.
- OpenAI의 이러한 이니셔티브는 사용자들이 워터마킹 정책을 고려할 때 AI 도구의 경쟁적 동력에 영향을 줄 수 있습니다.
유럽연합(EU)에서 인공지능 생성 텍스트에 워터마킹을 도입한 OpenAI는 규정 준수와 사용자 경험 사이의 균형을 강조하며, AI 책임 소재에 대한 선례를 제시하여 투명성과 저작권에 관한 논쟁을 촉발하고 있습니다.