[アン・グァンソプ AIジンテーゼ] 大規模LLMが不平等を増幅

何が起きたのか

ソウル大学のキム・スンソプ教授らの研究チームは、大型のAI言語モデルが少数派の人々を消し、不平等を悪化させるおそれがあると発表しました。研究名は『The Architect of Silence（沈黙の設計者）』です。チームは、NVIDIAのデータセットにある1万人の架空の人物を使い、障害、性的指向、生活経験などのテーマについて、それぞれの人物になりきって答えるようLlama 3.3に頼みました。韓国のコラムニストは、この研究の見出しは研究内容より先へ進みすぎていて、研究結果だけでは見出しの主張すべてを証明できないと述べています。

主な数字

• Llama 3.3では1万人の架空の人物を使いました。ほかの3つのモデルでは、さらに1,000人を試しました。
• Llamaの回答では、障害がある人として登録された人は0人でした。比較に使われた成人の実際の割合は5.9%です。
• 公式な登録はないものの、自分で障害があると答えた人は5人でした。
• レズビアン、ゲイ、バイセクシャル、トランスジェンダー、または外国生まれの人を示す回答は、1つもありませんでした。

データの中身

このデータセットは、実際に100万人へ行ったインタビューではありません。人口統計をもとに作られた『合成』の人物です。NVIDIAも、いくつかの独立性の仮定を使ったこと、要素同士の相互作用を十分にとらえられなかったこと、性別についての広い公的データと生物学的性別を分けきれなかったことを認めています。さらに、各人物への入力は年齢や地域だけではありません。家族、趣味、食べ物、旅行、健康目標などの生活の情報も含まれていました。そのため、障害の欄が空だからといって、モデルが中立で何も偏っていないとは言えません。

なぜ大切なのか

コラムニストは、合成された回答を実際の人々の経験の代わりに使うと害が生じうるという点には同意しています。だからこそ、データが現実の人口を代表しているかを確かめることは重要です。しかし、コラムニストは主張を3つに分けて考えるべきだと言います。1つ目は、モデルの結果が実際の人口データと違うこと。2つ目は、その違いが学習データにある社会的な偏りから来ていること。3つ目は、それが現実社会での不平等を増やすことです。1つ目が見つかっても、2つ目と3つ目が証明されたことにはなりません。また、もっとも可能性が高い答えだけを選ぶことは、人口全体を再現することとは違います。そのため、出力が0%であることは、実際の確率が0%であることを意味しません。単純な例では、はい・いいえの質問で5.9%の確率を毎回サイコロのように選ぶと0人になりますが、確率どおりに選ぶと約590人になります。

今後注目したい点

• AIに『情報が足りない』と答える選択肢を与えたとき、結果が変わるかどうか。
• 生活の話の文章を取り除いたり、少数派であることを明記したりすると、結果が変わるかどうか。
• 回答の方法や質問の順番を変えても、同じパターンが出るかどうか。
• 研究チームが、温度設定（0に設定）や同じチャット内で回答が積み重なる影響といった別の説明に、どう答えるか。