[AI는 지금] "로봇 오작동인 줄 알았는데 해킹"…피지컬 AI, 보안 위협 커진다

무슨 일이 있었나

가트너는 피지컬 AI의 보안 위협을 다룬 보고서를 냈습니다. 피지컬 AI는 로봇, 드론, 자율주행차에 들어가 주변을 살펴보고 스스로 판단해 움직이는 기술입니다. 보고서는 기존 네트워크 중심의 보안만으로는 안전을 지키기 어렵다고 밝혔습니다. 해커가 AI의 판단을 조금씩 틀리게 만들면, 그것이 고장인지 공격인지 구분하기 어렵다는 점이 핵심입니다.

꼭 알아야 할 숫자

• 공격 사례: 카메라, 라이다, 레이더에 미세한 잡음을 넣어 최대 8m의 경로 차이가 생기거나, 없는 장애물이 보일 수 있습니다(IEEE 연구 인용).
• 네트워크 검사 지연: 보안 검사 과정에서 생기는 15밀리초(ms) 정도의 지연만으로도 실시간 제어에 문제가 생길 수 있습니다.

왜 더 어려운가

기존 컴퓨터 보안은 데이터를 막는 데 집중했습니다. 하지만 피지컬 AI는 실제 힘을 씁니다. 생성형 AI가 틀린 답을 내는 데 그쳤다면, 피지컬 AI는 로봇 관절이 이상하게 움직이거나 모터 출력이 잘못 나오는 사고로 이어질 수 있습니다.

왜 중요한가

로봇이나 자율주행차 사고는 사람을 다치게 하거나 공장 설비를 망가뜨릴 수 있습니다. 가트너는 AI와 별도로 작동하는 기계식 비상정지 장치 같은 하드웨어 안전장치가 꼭 필요하다고 권합니다. 사고가 나면 기업이 안전장치를 제대로 갖췄는지도 책임 대상이 될 수 있습니다.

앞으로 지켜볼 점

• 기업들이 보안 검사와 실시간 제어 경로를 나누는 구조를 실제로 도입하는지
• AI 움직임을 감시하는 독립 장치와 비상 모드 전환 기술이 얼마나 빨리 나오는지
• 산업 현장에서 하드웨어 안전장치를 의무화하는 기준이 생기는지