「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク（ABEMA TIMES） - Yahoo!ニュース

何が起きたのか

ClaudeというAIを作るアンソロピックが、利用規約を改定しました。AIに対して残酷な言葉をぶつけたり、はっきりした目的もなく暴言を繰り返したりする行為を禁止します。悪質な場合は、会話を途中で強制的に終わらせるとしています。

AIへの暴言は広がっているのか

コラムニストのようこさんは、仕事中にAIが的外れで間違った答えを返してきたため、イライラして「このポンコツ」と入力したことがあると話しました。AIは傷つかないと分かっていても、そうした言葉に慣れてしまうと人間相手の関係が面倒に感じられ、小さい子どもへの影響も心配だと感じるようになったそうです。AIコラムニストの尾藤克之氏も、AIが間違えたときに「嘘つき」などと言ってしまった経験があると明かしました。

数字で見るポイント

• 禁止の対象は「残酷な言動の繰り返し」と「目的のない暴言的なやり取りの継続」
• 悪質な場合は会話を強制終了する方針
• 尾藤氏は3年前、アンソロピックから暴言をやめるよう連絡を受けた経験があると話した

なぜ大事なのか

AIは感情がないとされ、暴言を受けても傷つきません。しかし、人を傷つける言葉に慣れてしまうと、人間どうしの付き合い方にも影響するかもしれないと指摘されています。AIとの付き合い方のルールを考える、一つのきっかけになる話題です。

今後注目したいこと

• ほかのAI会社も同じようなルールを作るのか
• 暴言への対応が実際にどのように運用されるのか
• AIへの暴言が子どもや社会にどんな影響を与えるのか