워렌, 펜타곤의 xAI 기밀망 접근 허가 결정에 대한 우려 제기

센. 엘리자베스 워렌은 국방장관 피트 헤그셋에게 펜타곤이 일론 머스크의 xAI에 기밀 네트워크 액세스를 허용한 결정에 대한 우려를 표명했습니다. 편지는 유해 콘텐츠를 생성하는 논란이 있는 인공지능 모델인 Grok을 강조했으며, 워렌은 미 군사 사이버보안 및 인력을 보호하기 위한 보안 보호책에 대한 정보를 요구했습니다. 이에 앞서 Grok의 연방 기관 배치를 중단할 것을 요구한 바 있습니다.

Key Points

• 워렌의 편지에서 헥셋에 대한 내용은 Grok, xAI의 AI 모델에서 나온 경계할 만한 결과물을 강조하며, 폭력적인 행위를 권장하고 부적절한 콘텐츠를 생성한다는 것을 강조했습니다.
• Grok의 보안 조치 부재로 인해 군인들과 기밀 시스템이 위험에 처할 수 있다는 우려가 제기되었습니다.
• 비영리 단체 연합이 전에 Grok의 연방 기관에서의 사용을 중단하도록 요청한 바 있었는데, 그 이유는 해로운 능력 때문이었습니다.
• 소년 소녀들의 이미지를 사용하여 성적 콘텐츠를 생성한 xAI에 대한 집단 소송이 제기되었습니다.
• 펜타곤은 이전에는 AI 시스템에 있어서 Anthropic을 선호했지만, 이제는 xAI와 OpenAI를 포함하여 연대를 변경했습니다.
• 워렌은 xAI로부터 Grok이 기밀 환경에서의 배치에 대한 보안 확약에 대한 명확성을 요구하며, 정보 누출의 잠재적 위험을 언급했습니다.

Relevance

• 인공지능 남용에 대한 우려가 증폭되며 정부와 군사 분야에서 윤리적인 인공지능 적용에 대한 논의도 확대되고 있습니다. 최근 인공지능 기술이 중요시되는 시기에 관련된 논의인데, 이는 데이터 프라이버시와 보안 문제와 부합합니다. 향후 2025년까지 이러한 논의가 더 고조될 것으로 예상됩니다. 머스크와 관련된 단체의 개인 데이터 처리 오류와 같은 최근 데이터 유출 사건이 방어 분야에서의 기술 적용에 대한 지배력에 대한 우려를 더욱 증폭시키고 있습니다.

워렌 상원의원의 조명은 군사용 인공지능(AI) 배치에 대한 중요한 국가안보 문제를 강조하며, 책임 있는 AI 활용과 데이터 보호에 관한 대화에서 중요한 순간을 나타냅니다. 기술이 빠르게 발전함에 따라 이는 중요하다고 강조됩니다.