보관된 글 — US — techcrunch
Anthropic 변호사, Claude의 법률 인용 오류로 사과 압박 받아
안트로픽의 변호사가 AI인 클로드가 법정에서 잘못된 법적 인용을 생성한 후 사과했습니다. 음악 발행인에 대한 소송 중 오류가 발생하여, AI 사용의 결함에 대한 비난을 촉발하고, 연방 판사가 안트로픽으로부터 답변을 요구하여 끝났습니다. 이 사건은 특히 AI 도구의 저작권 분쟁이 증가함에 따라 법적 환경에서 AI의 신뢰성에 대한 계속된 우려를 부각시킵니다.
핵심 정리
- Anthropic의 변호사가 법적 사건 중 Claude의 잘못된 인용을 사용했다고 인정했습니다.
- 이 오류로 인해 법적 문서에서의 AI 생성 부정확성('환각') 문제가 강조되었습니다.
- Anthropic은 사과문을 발표하여 이 사건을 의도적인 불법 행위가 아닌 우연한 실수로 포장했습니다.
- 기술 기업과 저작권 소유자 간의 법적 싸움이 AI가 보호된 작품을 사용하는 문제로 가열되고 있습니다.
- 이 사건은 최근 다른 사례에서의 실패를 표시하여 AI에 대한 의존에 대한 법률 분야에서의 보다 광범위한 우려를 반영하고 있습니다.
왜 중요한가
- AI 도구를 도입하는 로펌이 늘어나는 추세 중 하나인 이 사건은 책임과 정확성에 대한 문제를 제기하고 있다.
- 과거 논란으로는 캘리포니아 판사가 AI가 생성한 연구 자료 제출을 비판한 사례와 호주 변호사가 ChatGPT를 사용하여 오류를 범한 사례가 있다.
- 법률 부문은 지속적으로 생성 모델 AI를 고려하고 있으며, 한 예로 Harvey와 같은 기업들로 큰 투자가 흐르고 있어, 법률 자동화의 매력적이면서도 위험한 추세가 나타나고 있다.
Anthropic의 실수는 법률 산업이 AI를 점점 더 활용하면서 직면하는 어려움을 강조하며, 법적 절차에서 혁신과 정확성 사이의 균형에 대해 중요한 토론을 촉발했습니다.