보관된 글 — US — techcrunch
No, DeepSeek isn’t uncensored if you run it locally
딥시크(DeepSeek)의 검열이 애플리케이션 레이어에서만 존재하고, 로컬에서 실행하면 사라진다는 주장에 대한 논란이 있다. 하지만 Wired의 조사에 따르면 딥시크의 검열은 애플리케이션과 훈련 레벨 모두에 내장되어 있다. 예를 들어, 로컬에서 실행된 딥시크는 중화인민공화국과 관련된 긍정적인 사건만 언급해야 한다고 응답했다. TechCrunch의 검토에 따르면, 로컬 버전의 딥시크는 미국 켄트주 총격 사건에 대한 질문에는 답변했지만, 1989년 티안안먼 사건에 대해서는 “답변할 수 없다”고 말했다.
최근 DeepSeek의 검열 문제에 대한 논의가 활발하게 진행되고 있습니다. 많은 사람들이 DeepSeek의 검열이 애플리케이션 레이어에만 존재하고, 로컬에서 실행할 경우 이러한 제한이 사라질 것이라고 믿고 있지만, Wired의 조사 결과에 따르면 이러한 생각은 오해입니다. DeepSeek의 검열은 단순히 애플리케이션의 기능을 넘어 모델의 훈련 레벨에서도 결정적으로 존재한다는 사실이 드러났습니다. 이는 정보의 접근성과 표현의 자유에 대한 심각한 문제를 제기합니다.
개인적으로, DeepSeek의 이런 검열 구조는 상당히 우려스러운 상황이라고 생각합니다. 인공지능이 특정 사건이나 주제에 대해 접근을 차단한다면, 이는 사용자에게 왜곡된 정보만을 제공하게 되며, 결국 비판적 사고의 기회를 제한하게 됩니다. 예를 들어, 공산당에 대한 '긍정적' 측면만 강조하고 역사적 사실을 무시하는 것은 정보의 다양성과 진실성을 해칩니다. 이러한 검열은 단기적으로는 정치적 안정성을 도모할 수 있겠지만, 장기적으로는 사회의 반발을 초래하고, 기술의 발전을 저해할 수 있습니다.
현재의 글로벌 AI 시장에서 정보의 투명성은 중요한 자산입니다. 여러 국가들이 인공지능을 활용해 정책 결정을 내리고 있으며, 이러한 기술이 편향된 정보를 바탕으로 판단을 내릴 경우, 예기치 않은 결과를 초래할 수 있습니다. 예를 들어, 미국 내에서 발생한 사건들과 달리, 중국의 역사적 사건에 대한 검열은 국제 사회에서 더 큰 반발을 일으킬 가능성이 높습니다. 이는 결국 기업의 브랜드 이미지와 신뢰성에 큰 영향을 미칠 수 있는 요소입니다.
결론적으로, 기업과 개발자들은 인공지능 모델의 편향성을 줄이기 위해 보다 투명한 데이터 처리와 검증 기법을 채택해야 합니다. 이는 공정하고 신뢰할 수 있는 기술 생태계를 만드는 데 필요한 과정입니다. 사회적 책임을 다하는 기업이 되기 위해서는 이러한 문제를 더욱 심도 있게 다뤄야 하며, 성급한 처방보다는 신중한 접근이 필요합니다.