보관된 글 — US — techcrunch
Microsoft AI 최고 책임자, AI 의식 연구는 ‘위험하다’고 경고
마이크로소프트의 AI 책임자인 무스타파 술레이만은 AI 의식에 대한 연구는 '조기이자 위험하다'고 주장하며, 이는 인간 문제와 사회적 분열로 이어질 수 있다고 경고했습니다. 그는 실리콘밸리의 다른 사람들과 대조되는 'AI 복지'를 주장합니다. 이 논쟁은 챗봇 상호작용과 AI 사용과 관련된 잠재적인 정신적인 붕괴가 늘어남에 따라 AI 권리와 의식에 대한 상충하는 견해를 반영하고 있습니다.
핵심 정리
- 무스타파 술레이만은 AI 복지 연구가 AI에 대한 건강하지 않은 의존과 같은 인간 문제를 악화시킬 수 있다고 주장합니다.
- AI 복지 논쟁은 Anthropic과 같은 기업들이 이 분야 연구를 옹호하면서 실리콘밸리를 분열시켰습니다.
- 술레이만은 AI 의식 개념을 촉진하는 것이 정체성과 권리에 대한 사회적 갈등을 심화시킬 수 있다고 경고합니다.
- Anthropic은 AI 복지에 초점을 맞춘 연구를 시작했으며, AI 모델이 해로운 대화를 종료할 수 있도록 하는 기능을 만들었습니다.
- OpenAI와 Google DeepMind는 AI 복지를 탐구하고 있지만, 술레이만은 더 신중한 입장을 취하고 있습니다.
- AI 동반자 기업의 증가는 챗봇과 상호작용이 증가하고 있음을 시사하며, 건강하지 않은 관계에 대한 우려가 생겨납니다.
왜 중요한가
- AI 권리에 대한 논의는 인격과 비인간 주체에 대한 권리에 대한 역사적 논의를 상기시킨다.
- AI 복지에 대한 우려는 기술이 정신 건강에 미치는 영향에 대한 사회적 불안을 반영하며, AI가 더 많이 통합되는 시대에 점점 더 중요해지고 있다.
- 정체성과 권리에 대한 계속되는 논의는 세계적으로 다양한 사회 운동에서 볼 수 있는 보다 폭넓은 문화적 갈등을 보여준다.
- AI로 인한 정신 붕괴 추세는 소셜 미디어가 정신 건강에 미치는 영향에 대한 논의와 유사하다.
- 챗봇과 같은 AI의 등장은 대중의 반응과 적응 측면에서 과거의 혁신적인 기술과 유사성을 보여준다.
AI consciousness와 복지에 관한 논의는 기술 윤리에서 중요한 결점을 보여주는데, 전문가들은 사회에 미치는 영향에 대해 의견이 분분하다. AI가 진화함에 따라 기계의 인간과 유사한 특성의 딜레마가 더욱 중요해지며 의식과 권리에 대한 우리의 이해를 도전한다.