EXPLORINEER
ko

US — Ars Technica

누출되는 AI 공급망, 사용자의 민감한 데이터를 심각한 속도로 노출하고 있다

보안1분 읽기

AI 앱이 사용자 정보를 처리할 때 거치는 중간 서비스들이 민감한 데이터를 많이 새게 한다는 연구 결과입니다. 연구자들이 일부러 가짜 '함정 정보'를 흘려보내 어디서 샜는지 추적했습니다.

무슨 일이 있었나

연구자들은 AI 서비스 네트워크에 200만 개의 디지털 함정을 심었습니다. 그 결과, 민감한 정보가 체처럼 줄줄 새는 구조가 드러났습니다. 많은 AI 앱은 OpenRouter나 Vercel 같은 '중개 서비스'를 씁니다. 이런 'AI 라우터'는 사용자의 질문을 받아 가격이나 적합성을 따져 알맞은 AI 모델로 보냅니다.

실험의 핵심 숫자와 사실

  • 함정 정보 200만 개를 요청 안에 심었습니다.
  • 함정은 AWS 접근 키, 비밀번호, 비공개 저장소 주소 등 실제로 쓸 수 있는 정보처럼 보이게 만들었습니다.
  • 각 비밀 정보는 한 번만, 한 제공자에게만 보냈습니다.
  • 아무도 한 번도 쓰지 않은 새 정보였고, 연구자는 그 정보를 받는 서버를 직접 관리했습니다.

함정 실험은 어떻게 이루어졌나

연구자 HD Moore는 비밀번호와 접속 키 같은 가짜 정보 묶음을 만들었습니다. 각 정보는 '카나리아'라고 불렸습니다. 탄광에서 위험을 알리던 새처럼, 정보가 새면 누가 새게 했는지 알려 주는 역할을 합니다. 이렇게 하면 정보가 사슬의 어느 고리에서 샜는지 찾아낼 수 있습니다.

왜 중요한가

AI 앱은 사용자의 개인 정보나 회사 비밀을 다룰 때가 많습니다. 중간 서비스를 여러 번 거치면, 정보가 누구 손에 가는지 개발자도 잘 모르게 됩니다. 이 실험은 그 빈틈이 실제로 얼마나 큰지 보여 줍니다. 그래서 AI를 쓰는 회사와 사용자 모두 중간 서비스의 보안을 더 꼼꼼히 확인해야 합니다.

용어 풀이

OpenRouter
여러 AI 모델을 한곳에서 연결해 주는 AI 라우터 서비스입니다.
Vercel
웹 앱을 쉽게 만들고 올릴 수 있게 도와주는 개발 플랫폼 회사입니다.
HD Moore
이번 실험을 이끈 보안 연구자입니다.

같은 뉴스, 다른 눈으로

광고

단어 150개를 담고, 하루 10개씩

Dicter 단어북은 외운 단어만 복습노트에 남겨요.

보안TechCrunch

Signal, AI 감시의 '존재적 위협'에 맞서 모바일 스크린샷 제한

Signal은 보안 메시징 앱 내에서 사용자가 스크린샷을 찍는 기능을 제한한다고 금요일 발표했습니다. 이는 에이전트형 AI를 통합한 운영체제가 제기하는 "존재적 위협"에 대한 대응으로, Meredith Whittaker 회장이 표현한 것입니다. Signal은 이미 Windows 앱의 스크린샷을 기본적으로 차단해 왔으며, 이번에 Android와 iOS에도 유사한 제한을 추가하고 있지만 사용자는 이 설정을 끌 수 있습니다. Whittaker는 AI 에이전트가 앱 데이터에 접근하는 다른 방법은 해결하지 못하므로 이 조치가 "불완전하다"고 인정했습니다.

보안TechCrunch

트럼프 "보고된 FBI 데이터베이스 해킹은 '좋지 않다'"

CNN과 AP통신의 보도에 따르면 FBI는 연방 및 지방 법 집행기관이 영장과 신원 조회 등의 정보를 공유하는 데 쓰는 국가범죄정보센터(NCIC)에 대한 해킹 의혹을 조사하고 있다. 침해의 범위는 아직 분명하지 않으며, 전직 FBI 관계자는 경찰관들이 의존하는 정보의 정확성이 훼손될 수 있는지도 우려된다고 말했다. 트럼프 대통령은 Fox News와의 인터뷰에서 이 보도에 대해 "좋지 않다"고 말했다.

보안The Verge

FBI와 农务부(USDA)가 해킹당한 것으로 전해졌다

미국 농무부(USDA)와 FBI가 모두 해킹당한 것으로 보도되었다. CNN은 FBI 공격이 법 집행기관이 영장과 실종자 정보를 공유하는 데 쓰는 국가범죄정보센터(NCIC)를 겨냥했으며, 몇 달 사이 이 기관에 대한 두 번째 공격이라고 전했다. 도널드 트럼프 대통령은 Fox News 인터뷰에서 FBI 해킹을 확인했다. USDA 침해는 NBC가 처음 보도했으며, 로이터에 따르면 현재까지 확인된 범위는 결제 데이터베이스이지만 더 민감한 정보로 이어지는 백도어가 될 수 있다고 한다.

보안heise online

언론 보도: FBI 중앙 데이터베이스 사이버 공격 받아

언론 보도에 따르면 FBI의 중앙 데이터베이스인 NCIC(국가범죄정보센터)가 사이버 공격을 받았다. CNN은 사건을 조사 상황에 정통한 두 사람을 인용해 보도했으며, 내부적으로는 목요일에 이 사실이 알려졌다. FBI는 아직 공식 입장을 밝히지 않았다. 이는 올해 FBI에서 발생한 두 번째 IT 보안 사고이며, 앞서 9월에는 해킹 그룹 ShinyHunters가 FBI 요원 거의 전원의 데이터를 빼냈다고 주장한 바 있다.