영국 금융감독기관, 기업에 AI 오류와 아차사고 보고 요구

무슨 일이 있었나

영국 금융행위감독청(FCA)의 데이터·정보 담당 책임자 제시카 루수는 회사들이 사고를 보고할 때 중요한 AI 실패와 근접 사고(거의 일어날 뻔한 사고)도 포함해야 한다고 말했습니다. 그는 AI가 스스로 판단하고 움직이는 힘이 커질수록 책임 소재를 분명히 해야 한다고 강조했습니다.

핵심 숫자와 사실

• 영국 금융 분야는 2025년에 영국 경제에 2,236억 파운드(약 223.6억 파운드가 아니라 223.6 billion pounds, 즉 2,236억 파운드가 아님에 유의)를 기여했습니다.
• 이는 영국 전체 생산(국가 산출량)의 8%이며, OECD 국가 중 네 번째로 높은 비중입니다.
• 영국 AI 장관 카니시카 나라얀은 AI 관련 심각한 사고와 근접 사고를 다루는 제도를 강화하는 방안을 의회와 함께 검토한다고 밝혔습니다.
• 영국 하원 재무위원회는 1월에 AI로 인한 시장 충격에 대비한 스트레스 테스트를 요구했습니다.

왜 근접 사고를 보고하나

항공 분야에서는 대부분의 나라에서 근접 사고 보고가 의무입니다. 사람이 다치기 전에 위험을 미리 배울 수 있기 때문입니다. 전문가 스티븐 애들러는 AI 감독도 이 방식을 본받을 수 있다고 의회에 말했습니다.

왜 중요한가

AI가 잘못 관리되면 소비자 피해, 사이버 공격에 대한 취약성, 업무 운영 실패가 생길 수 있고, 그 속도와 규모는 사람이 하는 것보다 훨씬 클 수 있습니다. 하지만 정부는 아직 이 법안에 AI 전용 조항을 넣을지 결정하지 않았습니다. 그래서 규칙이 어떻게 바뀔지 지켜볼 필요가 있습니다.

앞으로 지켜볼 점

• 정부가 사이버 보안 및 회복력 법안에 AI 관련 조항을 추가할지 여부
• FCA가 AI 사고 보고 규칙을 실제로 바꿀지 여부
• 금융회사들이 근접 사고를 얼마나 성실하게 보고하는지