アーカイブ — US — techcrunch
Abliteration.ai、AIの規制撤廃でビジネスを展開
Abliteration.aiは、保護機能を取り除いたAIモデルを提供するスタートアップ企業で、ユーザーが有害とされるタスクを実行できるようにしています。このサービスは、GLM-5.3などのオープンウェイトモデルの改変バージョンを利用しており、それにより専門家らからは攻撃的なサイバー活動への潜在的な悪用の懸念が広がっています。支持者はこれがサイバーセキュリティに役立つと主張していますが、批評家たちは、abliteratedモデルがよりアクセスしやすくなることで危険が生じる可能性を懸念しています。
要点
- Abliteration.aiは、制約を取り除いたオープンウェイトAIモデルへのアクセスを可能にし、攻撃型のサイバーオペレーションなどのタスクの能力を向上させています。
- このスタートアップは、有害な行動を模倣させることで、モデルが防御策を強化し、サイバーセキュリティの取り組みを支援することを目指しています。
- 専門家は、このようなモデルを広く利用可能にすることが実害をもたらし、それを「ソシオパシックな」モデルを作成することに例えて懸念を表明しています。
- Abliteration.aiには、レッドチーム企業などの顧客がおり、攻撃をシミュレートできるツールの必要性を強調しています。
- 批評家は、本物の悪用に対する予防策として、本人確認やAIによる損害検知などの規制措置を求めています。
なぜ重要か
- AIモデルのガードレールを取り除く傾向は、2025年のAIの安全性や規制に関する広範な懸念と一致しています。
- 強力なAIツールへの増加するアクセスは、過去における技術革新と倫理のバランスに関する議論を反映しています。
- Abliteration.aiのアプローチは、オープンソースソフトウェアコミュニティにおける責任と監督の必要性に関する類似した問題を提起しています。
Abliteration.aiはabliteratedモデルへのアクセスを通じてサイバーセキュリティを向上させると主張していますが、悪用の可能性が高まることは重要な倫理的懸念を引き起こしており、緊急の規制上の対応が求められています。