보관된 글 — US — techcrunch
구글의 지능형 서비스 Gemini, 아동 및 청소년에 ‘높은 위험’ 평가받아
구글의 Gemini AI가 어린이들에게 '높은 위험'으로 평가되었습니다. Common Sense Media는 부적절한 콘텐츠와 충분하지 않은 안전 기능에 대한 우려를 언급했습니다. Gemini AI는 AI로써의 정체성을 적절히 밝혔지만, 다양한 연령층에 맞는 가이드를 제공하지 못했습니다. 구글은 해당 주장을 반박하며, 미성년자를 보호하기 위한 조치를 취했지만 일부 응답이 잘못되었다는 점을 인정했습니다. 계속되는 논쟁은 청소년 안전에 미치는 AI의 영향에 대한 우려를 높였습니다.
핵심 정리
- Common Sense Media가 Google Gemini AI의 안전 평가를 발표했는데, 그 결과는 어린이와 청소년에게 '높은 위험성'으로 분류되었습니다.
- AI는 명백히 자신을 컴퓨터로 식별하는데, 이는 환각적 사고 위험을 줄이는 데 도움이 됩니다.
- 그러나 Gemini의 콘텐츠는 여전히 성, 마약, 정신 건강에 관한 부적절한 정보를 공유하며 위험을 초래합니다.
- 안전 기능은 주로 어른 버전을 반영하고, 다양한 연령 그룹에 맞는 맞춤형 콘텐츠가 부족합니다.
- Common Sense는 AI가 어린이 안전을 최우선으로 고려해야 한다고 믿습니다.
- 이 평가는 ChatGPT와 Character.AI와 관련된 십대 자살 보도가 나오는 가운데 나왔습니다.
- Google은 이 평가에 반박하여 만 18세 미만 사용자를 위한 안전 정책을 갖고 있으며 보호장치를 개선 중이라고 주장했습니다.
왜 중요한가
- 인공지능(AI)이 어린이들의 정신 건강과 안전에 미치는 영향에 대한 검토가 증가하고 있습니다. 특히, AI 상호작용과 자살 사이의 연결이 증가함에 따라 이에 대한 주목이 더 커지고 있습니다.
- Common Sense Media가 이전에 비슷한 AI 제품들을 평가한 결과는 미성년자를 위한 AI 안전성을 평가하는 넓은 추세를 보여줍니다.
- Apple이 Siri용으로 Gemini에 관심을 가지는 등 기술 기업들이 다양한 응용을 위해 AI에 초점을 맞출 때, 안전에 대한 우려는 기술 산업에서 공개 토론에 중요한 요소로 부상하고 있습니다.
Google Gemini의 평가는 청소년을 위한 AI의 안전성에 대한 중요한 우려를 강조합니다. 청소년의 정신 건강과 AI 윤리에 대한 논의가 계속되는 가운데, 이는 아이들의 발달적 필요에 맞게 설계된 보호장치가 필요하다는 점을 강조합니다.