アーカイブ — US — techcrunch
リークされたデータが中国のAI検閲システムを暴露
中国が開発した高度なAIシステムが、従来の方法をはるかに上回る大規模な言語モデルを使用して、検閲能力を高めることができることが漏れて明らかになりました。このシステムは、政治批判から貧困や腐敗といった問題まで幅広い異論を対象とし、独裁政権が弾圧のために先進的なAI技術を採用していることを示しています。
要点
- 流出したデータベースには、中国で検閲対象となったコンテンツの13万3,000件の例が含まれています。
- AIシステムには、従来のキーワードに基づくフィルタリングと比較して、感知度の高いトピックを自動的に特定する機能があり、効率が向上しています。
- 主な対象となるトピックには、政治問題、社会的不満、軍事問題などが含まれており、これらすべてが一般市民の不安を煽る可能性があります。
- データはセキュリティが不十分なデータベースに存在しており、メディア管理に対する警戒心の欠如が示されています。
- 中国政府のアプローチは、AIと世論管理を組み合わせ、異議を唱える物語を抑圧することを目指しています。
なぜ重要か
- 権威主義政権がAI技術を監視と検閲に利用する傾向が増加しています。
- 中国の検閲は過去には人間の労働と基本的なアルゴリズムに頼っていましたが、現在は先進的なAI手法に移行しています。
- 世界中の政府がAIを採用してソーシャルセンチメントや不満を監視する証拠が続くことは、人権に対する広範な影響を反映しています。
中国でAI主導の検閲が明らかになったことは、技術が異議を唱える者に対して武器として使われる問題を浮き彫りにし、統治におけるAIの利用とそれが表現の自由に及ぼす潜在的脅威に対する継続的な検証の必要性を強調しています。