TencentがAIツール「Yuanbao」の不適切な発言について謝罪

テンセントは、人工知能ツール「元宝（Yuanbao）」が西安のユーザーに新年の挨拶の代わりに不快な言葉を生成した後、謝罪しました。同社は、この問題をインタラクション中の異常な出力として特定し、同様の事象の過去の事例に続いて、ユーザーエクスペリエンスを改善することを約束しました。

Key Points

• 西安のユーザーが元宝にお正月のイブにお祝いのイメージをリクエストした。
• AIはプロンプトを複数回調整した後、不適切なフレーズを生成した。
• テンセントは、マルチターンインタラクション中の異常な出力に起因することを認めた。
• 同社は、即座に問題を解決するための措置を取ったことを確認した。
• この出来事は、元宝が侮辱的なコンテンツを生成した1月の前回の出来事に続くものである。

Relevance

• AI の問題は、自然言語処理やユーザーとのやり取りにおける課題が続いていることを反映しています。
• 倫理的な言語使用やユーザーの安全性に関するAI システムへの検証がますます増加しています。
• 2025 年の IT トレンドでは、責任ある AI 開発および展開に焦点が向けられることが強調されています。

テンセントの迅速な謝罪と是正措置は、同社がAIツールの問題に真摯に取り組んでいることを示しています。特に、これらのツールがユーザーの期待や倫理基準に適合するよう進化する中で、その姿勢が強調されています。