보관된 글 — US — techcrunch
유출된 데이터, 중국의 AI 검열 시스템 폭로
중국이 유출된 데이터베이스를 통해 선진 언어 모델을 활용한 첨단 AI 시스템을 개발하여 기존 방법을 뛰어넘는 센서쉽 기능을 가진 방대한 양의 데이터를 사용해 민감한 온라인 콘텐츠를 식별하고 있음이 드러났습니다. 이 시스템은 정치 비판부터 빈곤과 부패 같은 문제에 이르기까지 다양한 이의를 겨냥하며, 권위주의 정권이 억압을 위해 첨단 AI 기술을 도입하고 있는 것을 보여주고 있습니다.
핵심 정리
- 누출된 데이터베이스에는 중국에서 검열 대상으로 플래그 지정된 컨텐츠 예시 13만 3천 건이 포함되어 있습니다.
- 이 인공지능 시스템은 민감한 주제를 자동으로 식별하여 기존 키워드 기반 필터링에 비해 효율성을 높였습니다.
- 주요 대상 주제로는 정치 문제, 사회 불만, 군사 문제 등이 포함되어 있는데, 이는 모두 대중 불안을 유발할 수 있는 영역입니다.
- 데이터는 보안이 제대로 이루어지지 않은 데이터베이스에서 발견되었으며, 이는 미디어 관리에 대한 조심 부족을 시사합니다.
- 중국 정부의 접근 방식은 인공지능과 대중 의견 관리를 결합하여 이질적인 서술을 억압하는 데 활용하고 있습니다.
왜 중요한가
- 독재 정권이 감시와 검열을 위해 AI 기술을 점점 더 활용하는 추세가 늘어나고 있다.
- 과거 중국의 검열은 인력과 간단한 알고리즘에 의존했으나, 이제는 고급 AI 방법으로 이동하고 있다.
- 세계적으로 정부들이 AI를 도입하여 사회적 감정과 불만을 모니터링하고 있는 지속적인 증거들은 인권에 대한 보다 광범위한 영향을 반영하고 있다.
중국에서 AI로 이루어진 검열이 드러나면서 기술이 반대파에 대항하기 위해 무기화된 경향이 부각되었습니다. AI 응용 프로그램들과 그들이 자유 표현에 미칠 수 있는 위협에 대한 지속적인 감시의 필요성을 강조하고 있습니다.