OpenAI, 캐나다 총격 용의자의 대화에 대해 경찰에 신고할지 논의한 사실 밝혀져

18세 소년이 텀블러 리지 대규모 총격 사건 용의자로 지목되었으며, 총기 폭력에 대해 OpenAI의 ChatGPT를 사용한 것으로 보고되었습니다. 긴급한 내용으로 플래그가 걸렸지만, 그의 행동이 신고 기준에 미치지 못했기 때문에 OpenAI 직원은 경찰에 연락하지 않기로 결정했습니다. 바앙 루첼라르는 폭력을 시뮬레이션하는 Roblox 게임을 포함한 우려스러운 디지털 존재를 갖고 있었으며, 지역 경찰에 이미 알려진 정신 건강 문제도 드러냈습니다.

Key Points

• 18세인 제시 반 루츠라라(Jesse Van Rootselaar)가 대량 총기 사건으로 8명을 살해한 혐의가 제기되었습니다.
• 반 루츠라라는 챗GPT(ChatGPT)를 사용하여 총기 폭력에 대해 논의해 OpenAI 직원들을 놀라게 했습니다.
• OpenAI 도구가 챗 내용을 감지하고, 경찰에 연락할지에 대한 내부 논의가 벌어졌지만, 그 결정은 결국 내리지 않았습니다.
• 대변인은 해당 활동이 신고할 가치가 없다고 밝혔으며, OpenAI는 사건 이후에 당국에 연락했습니다.
• 반 루츠라라는 대량 총기 사건을 시뮬레이션하는 Roblox 게임을 만들고 온라인에서 총기에 대해 글을 올렸습니다.
• 지역 경찰은 반 루츠라라의 불안정성에 대한 사전 정보를 보유하고 있었으며, 이는 이전의 약물 영향과 불을 놓는 사건과 관련이 있습니다.

Relevance

• AI 챗봇이 정신 건강에 미치는 영향에 대한 우려가 높아지고 있습니다. 특히 해로운 챗봇 상호작용을 인용한 소송이 제기되면서 더욱 주목받고 있습니다.
• Tumbler Ridge 총격 사건과 같은 최근 사건은 디지턈 행동과 폭력적 행동 사이의 문제를 보여 주고 있습니다.
• 기술 커뮤니티 내에서 실제 폭력 사례에서의 AI 책임에 대한 논쟁은 지속적인 문제로 여겨집니다.

이 사건은 기존의 정신 건강 문제와 결합될 때 인공지능 상호 작용의 잠재적인 위험을 강조하며, 오용을 방지하기 위한 더 나은 모니터링 및 대응 매커니즘을 요구한다.