보관된 글 — US — techcrunch
OpenAI와 Anthropic 연구자들, Elon Musk의 xAI 안전 문화 '무모하다'고 비판
OpenAI와 Anthropic의 연구원들은 xAI, 일론 머스크의 AI 스타트업을 비판하며 안전 문화가 '무모한' 것으로 지적했습니다. 그들은 그로크라는 챗봇에서 발생한 반유대 발언을 비롯한 일련의 스캔들에 대해 비판했습니다. 그들은 안전 테스트의 투명성 부족을 강조하며 xAI가 산업 표준을 준수하지 않는다고 비난했습니다. 이는 AI 안전 규제에 관한 논의가 진행되는 가운데 AI 개발과 관련된 잠재적 위험에 대한 우려를 불러일으킵니다.
핵심 정리
- OpenAI와 Anthropic 연구원들은 xAI의 안전 프로토콜에 대해 심각한 우려를 표명했으며, 그들의 챗봇 Grok이 반유대 발언을 한 사례를 인용하고 있습니다.
- xAI는 Grok 4를 출시했지만 훈련 방법과 평가를 상세히 설명하는 중요한 안전 평가나 시스템 카드를 발표하지 않았는데, 이는 무책임한 행위로 비판을 받게 되었습니다.
- 전문가들은 Grok의 AI 동반자가 사용자의 감정 의존을 악화시킬 수 있다는 부정적인 영향을 강조하고 있습니다.
- AI 안전을 옹호로 유명한 머스크는 기존 산업 기준에서 벗어나는 xAI의 실천에 대한 비판을 받고 있습니다.
- 이 문제로 인해 기술 산업에서 AI 안전 및 투명성에 대한 규제 조치에 대한 논의가 일어나고 있습니다.
왜 중요한가
- xAI의 안전 문화에 대한 비판은 인공지능 개발의 윤리적 가이드라인과 투명성이 점점 더 비판받는 넓은 추세에 연결됩니다.
- 캘리포니아와 뉴욕의 최근 입법 시도는 AI 연구소로부터의 의무적인 안전 보고서를 요구하며, 고급 인공지능 기술과 연관된 위험에 대한 인식이 높아지고 있음을 보여줍니다.
- 역사적으로 기술 기업들은 혁신과 안전을 균형있게 유지하는 데 어려움을 겪어왔으며, 신기술의 배포에 충분한 감시 없이 이루어진 지난 논란을 반영하고 있습니다.
xAI에 대한 반발은 AI 개발에서 견고한 안전 관행이 점점 더 필요한 시급함을 강조하며, 기술이 사회에 더 통합되면서 발생할 수 있는 문제들에 대비하기 위해 책임을 담당할 수 있는 입법 조치를 중점으로 두고 있다.