[AIセーフガード] ⑤ 座談会 ―「AIの安全性は産業競争力を左右する要素」…「安全な加速」を提言

何が起きたか

韓国の IT 新聞 The Electronic Times が、政府・大学・産業界の専門家を集めた座談会を開きました。テーマは、AIを安全に使える仕組みをどう作るかです。中心となった考えは「安全な加速」です。AIの開発は速いまま進め、同時に安全にもするという意味です。専門家たちは、AI倫理の大きな理念を、明確な原則や「レッドチーム」(システムの弱点を攻撃して探すチーム)のような、実際に使える安全の道具に変える必要があると述べました。

押さえておきたい数字と事実

• 座談会には5人が参加しました。ソウル大学の法学教授、Upstage の最高戦略責任者、SelectStar の CEO、ソウル教育大学の倫理教育教授、科学技術情報通信部の職員です。
• 韓国政府は「韓国のAI倫理原則」を発表しました。人間中心の設計、プライバシー、公正さ、説明責任、安全性、信頼、透明性という7つの柱があります。
• ノルウェーとフィンランドが主導する協力グループには、28か国がAIのリスクへの対応を話し合う場に参加しています。
• アメリカのホワイトハウスは、企業が自ら規制する一方、政府は基本的な安全ルールだけを定める「ゆるやかな方式」を提案しています。

なぜ話題になっているか

AIはとても速く強くなっています。自分で判断して動く AI もあります。さらに、高性能な「フロンティア」AI モデルは、新しいサイバーセキュリティの脅威を生む可能性があります。そのため、AIの開発をもっとゆっくりにすべきだという声も多くあります。しかし韓国はアメリカや中国に追いつこうとしています。そのため、韓国にとって減速は現実的な選択ではないかもしれません。

なぜ大事か

専門家は、AIの安全性はコストだけではないと言います。信頼と事業の強みにもなるというのです。例えば、SelectStar の金融系の顧客は、外部の顧客に使わせる前に、まず社内でAIを使っています。社外に出すことに不安があるからです。現実に守れる安全ルールがあれば、AIは遅くなるどころか、現実の世界でより早く広がるかもしれません。

今後注目すべき点

• 世界各国が、AIの開発スピードについて共通の合意に至るかどうか。
• 韓国が、話題が正式な議題になる前に、国際的な話し合いへ早く参加できるかどうか。
• AI倫理の原則が、企業や学校向けの本当のルールにどう変わるか。
• 企業が、安全ルールを規制としてではなく、安全に進むための「ガードレール」として受け入れるかどうか。