[기고] AI가 대신 계약하는 시대, 법은 준비됐는가

AI가 대신 물건을 사는 시대

예전 AI는 선물을 검색하고 추천하는 데 그쳤습니다. 이제는 AI가 직접 상품을 비교하고, 주문서를 쓰고, 결제까지 마칠 수 있는 시대가 가까워지고 있습니다. 이런 AI를 '에이전틱 AI'라고 부릅니다. 조언하는 AI가 아니라 심부름까지 하는 비서에 가깝습니다.

실수하면 누가 책임질까

AI가 배송지를 잘못 입력하거나, 환불이 안 되는 상품을 사거나, 허락 없이 추가 상품을 샀다면 누가 손해를 떠안아야 할까요? 글쓴이는 새 법을 서둘러 만들기보다, 민법, 개인정보 보호법, 전자상거래법 같은 기존 법으로 먼저 따져 볼 수 있다고 말합니다. 다만 AI가 여러 단계를 스스로 처리하기 때문에, 기존 법만으로는 부족한 부분도 있다고 봅니다.

우리나라와 유럽의 AI 법

우리나라는 올해 1월 22일부터 '인공지능기본법'을 시행하고 있습니다. 사람의 생명이나 권리에 큰 영향을 주는 '고영향 AI'에는 위험관리와 사람의 감독을 요구합니다. 유럽연합도 AI 위험 수준에 따라 규제를 다르게 하는 'AI법'을 마련했습니다.

글쓴이가 제안하는 방법

• 정보 검색이나 일정 정리에는 AI에게 폭넓은 자율성을 줍니다.
• 상품 구매나 예약처럼 거래에 영향을 주는 일은 미리 승인한 범위를 분명히 합니다.
• 거액 결제나 중요한 계약은 사람이 최종 확인합니다.
• AI가 한 행동을 기록하고, 문제가 생기면 바로 멈출 수 있는 장치를 둡니다.
• 모든 안전장치를 법으로 강제하기보다, 기업이 먼저 자율적으로 마련하게 하고 큰 피해가 날 수 있는 곳에만 최소한의 법적 기준을 둡니다.