영국, AI가 만들어내는 위협에 맞서 AI에 대규모 투자

무슨 일이 있었나

영국 재무부(Treasury)가 이번 주 예산안 발표를 앞두고 AI에 6억 파운드 넘게 투자한다고 밝혔습니다. 이 가운데 1억 3천만 파운드는 AI로 사이버 방어를 강화하는 데 쓰입니다. 정부는 자율적으로 움직이는 AI 에이전트를 나라의 중요한 시설에 배치해, 공격자보다 먼저 보안 허점을 찾게 하려고 합니다.

핵심 숫자

• 사이버 방어 예산: 1억 3천만 파운드
• 국가 사이버 방패(National Cyber Shield): 6,000만 파운드, 영국 보안 기업을 위한 2,500만 파운드 지원금 포함
• 취약점 탐색 센터(NERV): 7,000만 파운드
• AI 생물보안 계획: 1억 6,500만 파운드, 이 중 AI 생물보안 연구소에 1억 파운드
• 정부가 AI 보안 연구소(AISI)에 주는 돈: 1억 2,000만 파운드

배경

최근 PHP2Shell이라는 보안 문제로 영국 정부의 웹사이트 수십 개가 한동안 멈췄습니다. PHP는 웹사이트를 만들 때 널리 쓰는 프로그래밍 언어입니다. 영국 국가사이버보안센터(NCSC)는 OpenAI와 함께 이 허점을 알리는 시점을 조율해, 관련 회사들이 고칠 시간을 가질 수 있게 했습니다. 이번 투자는 이 일이 있은 지 며칠 만에 나온 것입니다.

왜 중요한가

AI는 해커에게도 도구가 될 수 있습니다. 그래서 영국은 AI를 막는 데도 AI를 쓰겠다고 나선 셈입니다. 전문가들은 시설을 튼튼히 잠그고 AI로 방어해야 한다고 말합니다. 다만 AI 방어 도구가 사람의 허락 없이 얼마나 움직일 수 있을지, 언제 배치될지는 아직 분명하지 않습니다.

앞으로 지켜볼 점

• AI 방어 에이전트가 언제 실제로 배치되는지
• 사람의 개입 없이 얼마만큼 행동할 수 있는지 정해지는 규칙
• 규제 샌드박스(시험 공간)에서 자율 보안 도구가 어떤 결과를 내는지
• OpenAI와 Anthropic 등이 참여하는 AI 생물보안 연구소의 진행 상황