US — Ars Technica
누출되는 AI 공급망, 사용자의 민감한 데이터를 심각한 속도로 노출하고 있다
보안1분 읽기
AI 앱이 사용자 정보를 처리할 때 거치는 중간 서비스들이 민감한 데이터를 많이 새게 한다는 연구 결과입니다. 연구자들이 일부러 가짜 '함정 정보'를 흘려보내 어디서 샜는지 추적했습니다.
무슨 일이 있었나
연구자들은 AI 서비스 네트워크에 200만 개의 디지털 함정을 심었습니다. 그 결과, 민감한 정보가 체처럼 줄줄 새는 구조가 드러났습니다. 많은 AI 앱은 OpenRouter나 Vercel 같은 '중개 서비스'를 씁니다. 이런 'AI 라우터'는 사용자의 질문을 받아 가격이나 적합성을 따져 알맞은 AI 모델로 보냅니다.
실험의 핵심 숫자와 사실
- 함정 정보 200만 개를 요청 안에 심었습니다.
- 함정은 AWS 접근 키, 비밀번호, 비공개 저장소 주소 등 실제로 쓸 수 있는 정보처럼 보이게 만들었습니다.
- 각 비밀 정보는 한 번만, 한 제공자에게만 보냈습니다.
- 아무도 한 번도 쓰지 않은 새 정보였고, 연구자는 그 정보를 받는 서버를 직접 관리했습니다.
함정 실험은 어떻게 이루어졌나
연구자 HD Moore는 비밀번호와 접속 키 같은 가짜 정보 묶음을 만들었습니다. 각 정보는 '카나리아'라고 불렸습니다. 탄광에서 위험을 알리던 새처럼, 정보가 새면 누가 새게 했는지 알려 주는 역할을 합니다. 이렇게 하면 정보가 사슬의 어느 고리에서 샜는지 찾아낼 수 있습니다.
왜 중요한가
AI 앱은 사용자의 개인 정보나 회사 비밀을 다룰 때가 많습니다. 중간 서비스를 여러 번 거치면, 정보가 누구 손에 가는지 개발자도 잘 모르게 됩니다. 이 실험은 그 빈틈이 실제로 얼마나 큰지 보여 줍니다. 그래서 AI를 쓰는 회사와 사용자 모두 중간 서비스의 보안을 더 꼼꼼히 확인해야 합니다.
용어 풀이
- OpenRouter
- 여러 AI 모델을 한곳에서 연결해 주는 AI 라우터 서비스입니다.
- Vercel
- 웹 앱을 쉽게 만들고 올릴 수 있게 도와주는 개발 플랫폼 회사입니다.
- HD Moore
- 이번 실험을 이끈 보안 연구자입니다.