UK — The Register
英金融当局、企業にAIの障害とヒヤリハットの報告を求める
政策・産業2分で読めます
英国の金融規制当局（FCA）は、金融会社がAIの重大な失敗や「ヒヤリハット」（事故になりかけた出来事）も報告するよう求めています。AIが自分で判断して動く場面が増えるため、責任の所在をはっきりさせることが狙いです。
何が起きたのか
英国のFCAのデータ・情報担当責任者ジェシカ・ルス氏は、会社が報告すべき事故にAIの重大な失敗とヒヤリハットを含めるべきだと述べました。現在のルールでも大きな事故の報告は必要ですが、それをAIの問題にも広げるという考えです。AIが自律的に動くほど、誰が責任を負うのかをはっきりさせる必要があると話しています。
押さえておきたい数字
なぜ今この話題なのか
AIは銀行や保険などの金融分野で広く使われ始めています。中でも、人の指示をあまり受けずに作業をこなす「AIエージェント」が増えています。英国政府は、AIによるサイバー攻撃や、AIが人の手を離れて暴走するリスクから国を守る方法を検討中です。航空業界では、墜落に至らなかった事故も報告が義務づけられており、それを学びに生かしています。
なぜ重要なのか
AIの失敗は、とても速く、大きな規模で広がるおそれがあります。小さな失敗の段階で報告されれば、大きな被害が起きる前に原因を知り、防ぐことができます。一方で、政府はまだAI専用の決まりを法律案に加えるかどうかを決めていません。今後、報告のルールがどこまで整うかが、利用者と金融会社の両方にとって大切になります。
今後の注目点
- 政府がサイバー安全に関する法律案にAI専用の項目を加えるかどうか
- AIのヒヤリハットを報告する義務が、金融分野のルールにどう組み込まれるか
- AIによる市場の急変に備えたストレステストが実施されるかどうか
用語解説
- FCA
- 英国の金融機関を監督し、利用者を守る政府の金融規制当局です。
- AIエージェント
- 人の細かい指示がなくても、目的に向けて自分で作業を進めるAIのことです。
- ヒヤリハット
- 大きな被害にはならなかったものの、もう少しで事故になりかけた出来事のことです。
- OECD
- 先進国を中心とした経済協力の国際組織で、経済政策などについて話し合います。
- ストレステスト
- 大きな危機が起きたときに、会社や仕組みが耐えられるかを試す検査のことです。