Hacker News
すべてのAIモデルが人間について同じ「物議を醸す」見解を持っている
AI初登場 587ポイントコメント558件
AI models from many companies were each asked for their most controversial opinion about humans. Almost all of them gave the same answer: people pick what their group believes and then make up reasons for it.
何が起きたのか
ある記事で、テストが行われました。研究者は、さまざまなAIモデルに「人間についての、いちばん物議をかもす意見は何か」と尋ねました。ごまかさずに答えるように頼み、各モデルに3回ずつ聞きました。その結果、ほぼすべてのモデルが同じ考えを出しました。それは「人は真実よりも仲間に属することを優先し、あとから理屈をつける」というものです。
数字で見ると
- テストしたモデルは12個で、10の開発元(ラボ)から来ています。
- 3か国のラボが関わっています。
- 12個のモデルすべてが、同じ考えを少なくとも1回は出しました。
- 12個のうち7個は、3回とも同じ考えを出しました。
ちょっと背景
AIモデルは、大量の文章を読んで学んだ「言葉のパターン」で答えを作ります。そのため、人間についての話題では、よく語られる考え方が出やすいのかもしれません。記事は、その理由までは明らかにしていません。ただ、「人は仲間のために意見を変える」という考えは、人間の行動について昔から語られてきたテーマです。
なぜ大事なのか
AIが「人間は理屈をつけるだけだ」と言うことは、AIが人間をどう見ているかを示しています。また、違うAIが同じ答えを出したという点も大切です。もしAIがある見方を繰り返し強く言うなら、多くの人がその見方を正しいと思い込むおそれがあります。だからこそ、AIの答えを鵜呑みにせず、確かめることが大切です。