[AI 세이프가드] ⑤ 좌담회 - “AI 안전은 산업 경쟁력 결정 요소”…'안전한 가속' 주문

무슨 일이 있었나

전자신문은 특별 기획 'AI 세이프가드'의 마지막 순서로 정부, 학계, 산업계 전문가 5명과 좌담회를 열었습니다. 주제는 AI를 어떻게 안전하게 쓰고 통제할지, 그리고 AI 안전을 위한 기준을 실제로 어떻게 지킬지였습니다. 참석자들은 AI 개발을 멈추자는 주장보다 안전을 챙기며 개발을 이어 가자는 쪽에 대체로 뜻을 모았습니다.

왜 이런 논의가 나왔나

AI가 빠르게 좋아지면서 사람이 통제하기 어려운 AI 에이전트나, 사이버 보안을 위협할 수 있는 고성능 AI 모델 같은 새 위험이 나타났습니다. 미국과 중국을 따라잡아야 하는 한국 입장에서는 개발 속도를 늦추는 것이 현실적인 답이 되기 어렵습니다. 그래서 개발은 빠르게 하고, 안전과 신뢰도 기술 발전에 맞춰 함께 높이자는 이야기가 나왔습니다.

좌담회 핵심 내용

• 참석자는 고학수 서울대 교수, 권순일 업스테이지 최고전략책임자, 김세엽 셀렉트스타 대표, 변순용 서울교대 교수, 이진수 과기정통부 인공지능정책기획관 5명입니다.
• 국제 논의에는 노르웨이와 핀란드가 이끄는 이니셔티브에 28개국이 참여하고 있다고 소개됐습니다.
• 정부는 '대한민국 AI 윤리원칙'으로 7대 원칙을 제시했습니다. 원칙에는 인간 중심성, 프라이버시 보호, 공정성, 포용성, 책임성, 안전성, 신뢰성, 투명성이 들어 있습니다.

왜 중요한가

AI 안전을 지키는 일이 기업과 나라의 경쟁력을 키우는 데도 도움이 될 수 있다는 점이 중요합니다. 안전이 확보되어야 금융처럼 위험에 민감한 분야에서도 AI를 고객 서비스에 쓸 수 있습니다. 전문가들은 AI 윤리 원칙을 말로만 두지 않고, 원칙 세우기와 레드팀(공격하듯 약점을 찾아보는 시험팀) 운영 같은 실제 장치로 바꿔야 한다고 강조했습니다.

앞으로 지켜볼 점

• AI 속도 조절을 두고 국제사회가 실제로 합의에 이를지 지켜볼 필요가 있습니다.
• 개발 조직과 책임 조직의 역할을 어떻게 나눌지, 그리고 산업 현장에 맞는 AI 가이드라인이 나올지 주목됩니다.
• AI 윤리교육을 학교에서 어떻게 구성하고 운영할지도 중요한 과제입니다.