AIが代わりに契約する時代、法律は備えられているか

何が起きているのか

これまでのAIは、プレゼントを探したり選択肢を出したりするだけでした。今では、エージェントAIが商品を比べ、注文書に入力し、支払いまで行えるようになっています。記事では、母の誕生日に約20万ウォン以下のプレゼントを選んでもらう例が出てきます。もしAIが間違った住所を入力したり、返金できない商品を買ったり、許可なく追加注文をしたりしたら、誰が責任を負うのか、と筆者は問いかけています。

主な数字と事実

• 例として出てくる予算は約20万ウォンです。
• 韓国のAI基本法は1月22日に施行されました。
• EUにはリスクの高さに応じてルールを定めるAI法があります。
• エージェントAIとは、一つずつ細かい指示がなくても、複数の手順を自分で進めて行動するAIのことです。

今ある法律で足りるのか

筆者は、エージェントAIのためだけに新しい法律を作る必要はないと考えています。民法は契約が有効かどうかや、損害を誰が払うのかを決めます。個人情報保護法は個人データを守ります。電子商取引法はネットで買い物をする人を守ります。ユーザーがAIに買い物を頼んだなら、たとえ本人が購入ボタンを押していなくても、その購入は本人の判断とみなされる可能性があります。さらに韓国のAI基本法は、影響の大きいAIに対して、透明性や人による監督などの義務を加えています。

なぜ大切なのか

AIが買い物をして支払いまで行うと、実際のお金の損失やプライバシーの問題が起きえます。古い法律は出発点にはなりますが、どこまで任せてよいか、誰が承認するのか、誰の責任かといった点すべてに答えてくれるとは限りません。筆者は、被害が起きてから対応するのでは不十分だと述べています。問題が大きくなる前にルールを決める必要があるということです。

今後注目すべき点

• 予算の上限など、ユーザーがあらかじめ承認する範囲をはっきりさせること。
• 高額な支払いや重要な契約では、最後に人が承認すること。
• AIが何をしたかの記録を残し、すぐに止める方法を用意すること。
• 企業がまず安全機能を作るのか、消費者が深刻な被害を受ける場合だけ法律で定めるのか。