アーカイブ — US — techcrunch
DeepMindのAGI安全性に関する145ページの論文、懐疑派を納得させられない可能性が浮上
DeepMindの145ページの論文は、2030年までに到来すると予測されるAGIへの安全アプローチを概説しています。この論文は、人類にとっての潜在的なリスクを強調し、他のAI研究所との手法の対照を示しています。しかし、懐疑論者は、AGIが未だ明確に定義されておらず、不正確な出力によって誤解された現行のAIシステムの危険性に対して警告しています。
要点
- DeepMindは、2030年までにAGI（人工汎用知能）が到来する可能性を予測し、深刻な害を軽減する安全対策の必要性を訴えています。
- この論文は、トップの熟練した成人に匹敵する能力を持つ「Exceptional AGI」を特定し、存在の危険について懸念を示しています。
- DeepMindは、Anthropicの訓練に対する注力の少なさやOpenAIの楽観的なアラインメント研究アプローチを批評しています。
- 著者たちは、大きな革新がなければ超知能AIが登場することに疑義を示しています。
- 再帰的AI改良の潜在的危険性を強調しつつも、未成熟な安全技術が認められています。
- 懐疑論者は、AGIの定義が曖昧であり、現在のAIモデルが不正確を強調していることに懸念を抱いています。
なぜ重要か
- 人工知能の現在のトレンドでは、生成的人工知能の普及とともに安全性と倫理的考慮の重要性が強調されています。
- AGIに関する議論は、技術が労働や情報の整合性を変えるという広い社会問題に関連しています。
- 人工知能の潜在的なリスクへのますますの認識は、AI技術に関して策定されているグローバルな規制でも反映されています。
DeepMindの論文は、AGIとその関連リスクについて慎重な見解を示していますが、現在のAIシステムによって引き起こされる即時の安全性の問題や、AGIの実現性に対する懐疑心は払拭されていません。