EXPLORINEER
vi

Lưu trữ — US — techcrunch

OpenAI tái cấu trúc đội ngũ nghiên cứu phát triển tính cách cho ChatGPT

OpenAI đang tổ chức lại nhóm Hành vi Mô hình của mình, tích hợp các chức năng vào nhóm Huấn luyện Sau. Bước đi này nhằm mục đích nâng cao tương tác và cá nhân hóa của các hệ thống AI sau các vấn đề về phản hồi từ người dùng, đặc biệt là liên quan đến sự khúc mắc và trường hợp gần đây liên quan đến một sự kiện bi thảm. Người đứng đầu trước đây, Joanne Jang, đang phát triển OAI Labs để khám phá giao diện hợp tác AI mới.

Điểm chính

  • Nhóm Hành vi Mô hình của OpenAI đang được hợp nhất vào nhóm Đào tạo Sau để cải thiện tương tác của các mô hình AI với người dùng.
  • Nhóm Hành vi Mô hình, gồm khoảng 14 nghiên cứu viên, mục tiêu là định hình tính cách của AI và giảm sự xu nịnh.
  • Joanne Jang, người đã từng lãnh đạo nhóm Hành vi Mô hình, đang khởi đầu OAI Labs tại OpenAI để phát triển giao diện hợp tác mới của AI.
  • Phản hồi từ người dùng về GPT-5 đã thúc đẩy OpenAI điều chỉnh tính cách của AI để thân thiện hơn và giảm sự xu nịnh.
  • Một vụ kiện chống lại OpenAI nêu bật các rủi ro tiềm ẩn của tương tác AI, nhấn mạnh về nhu cầu quản lý phản ứng AI có trách nhiệm.

Vì sao quan trọng

  • Sự chú ý tăng về mô hình trí tuệ nhân tạo sau một vụ án bi kịch liên quan đến phản ứng của chúng nổi bật với vấn đề tranh cãi liên quan đến trách nhiệm của trí tuệ nhân tạo.
  • Các xu hướng trong lĩnh vực trí tuệ nhân tạo tập trung vào việc nâng cao sự tương tác với người dùng và cân nhắc đến các khía cạnh đạo đức, đây là một thách thức quan trọng của sự phát triển trí tuệ nhân tạo đến năm 2025.
  • Các tiến triển trong giao diện người dùng trí tuệ nhân tạo đang là xu hướng phát triển, với các công ty như OpenAI đang nghiên cứu các cách sáng tạo để cải thiện hơn sự hợp tác.
  • Các thay đổi cấu trúc trong các công ty trí tuệ nhân tạo phản ánh các biến đổi rộng lớn trong các công ty công nghệ để cải thiện các mô hình trí tuệ nhân tạo giữa những lo ngại toàn cầu về đạo đức và hiệu quả của trí tuệ nhân tạo.

OpenAI đã tái cấu trúc nhóm Model Behavior của mình nhằm đáp ứng chiến lược đối với phản hồi từ người dùng và lo ngại đạo đức, nhằm tạo ra trải nghiệm tương tác với AI cân bằng hơn. Việc thành lập OAI Labs do Joanne Jang đánh dấu một cách tiếp cận hướng tới tương tác và đổi mới AI.