AI가 숨겨진 법의 허점을 찾아 법체계를 무너뜨릴 수 있다

무슨 일이 있었나?

스탠퍼드 로스쿨의 펠릭스 링에 연구원과 동료 린우스 폴커츠는 블로그 글에서, 대형 언어 모델(LLM)이 법의 허점을 대량으로 찾아낼 수 있다고 주장했습니다. 컴퓨터 프로그램에 버그가 있듯이, 법 문장에도 악용될 수 있는 허점이 있다는 뜻입니다.

핵심 사례와 숫자

• 연구진은 독일 법에서 여러 허점을 찾았다고 밝혔습니다.
• 독일 직업병 규정(BKV) 개정안은 법적 근거를 밝혀야 하는 헌법 요건을 지키지 않았다고 주장합니다.
• 한 환승 비자 규정은 정부가 법적 근거를 밝히지 않아 무효일 수 있다고 합니다.
• 연구진은 해로움이 없다고 판단한 허점만 공개했습니다.

왜 이런 비유가 나왔나?

법과 컴퓨터 코드를 비교하는 생각은 1999년 로렌스 레식의 책에서도 나왔습니다. 링은 이를 뒤집어 '법은 코드다'라고 말합니다. 다만 법정은 같은 입력에 항상 같은 결과가 나오지 않으므로, 이 비유에는 한계가 있습니다.

왜 중요한가?

법원은 보통 법 문장의 빈틈을 해석으로 메웁니다. 그런데 AI가 허점을 자동으로 많이 찾아내면 법원이 이를 다 감당하기 어려울 수 있습니다. 연구진은 입법자가 법을 만드는 과정을 더 튼튼하게 바꾸어야 한다고 말합니다. 예를 들어 AI를 활용하는 방법이 있습니다.

앞으로 지켜볼 점

• 법원이나 정부가 AI가 찾은 법의 허점에 어떻게 대응하는지
• 입법 과정에서 AI를 활용하는 방식이 실제로 도입되는지
• 법률 분야에서 AI 사용이 얼마나 빠르게 늘어나는지