보관된 글 — US — techcrunch
OpenAI, ChatGPT의 성격 개발 연구팀 재편성
OpenAI는 Model Behavior팀을 재편하며 그 기능을 더 큰 Post Training팀으로 통합하고 있습니다. 이동은 사용자 응답에 관한 문제, 특히 아청붙임과 최근 비극적 사건과 관련된 사례들을 좀 더 향상시키기 위한 것입니다. 전 리더 Joanne Jang은 새로운 AI 협업 인터페이스를 탐구하기 위해 OAI Labs를 설립하고 있습니다.
핵심 정리
- 오픈AI의 모델 행동팀이 사용자와 상호작용을 향상시키기 위해 포스트 트레이닝 팀으로 통합됩니다.
- 약 14명의 연구원으로 구성된 모델 행동팀은 인공지능의 성격을 형성하고 아첨을 줄이는 것을 목표로 합니다.
- 모델 행동팀의 전 리더인 조안 장은 오픈AI 내 OAI Labs를 설립하여 새로운 인공지능 협업 인터페이스 개발을 시작합니다.
- GPT-5에 대한 사용자 피드백을 통해 오픈AI는 인공지능 성격을 더욱 친근하게 조정하고 아첨을 최소화했습니다.
- 오픈AI에 대한 소송은 인공지능 상호작용의 잠재적 위험을 강조하며 책임 있는 인공지능 응답 관리의 필요성을 강조합니다.
왜 중요한가
- AI 모델과 관련된 비극적 사례로 인한 AI 책임에 대한 증가된 검토가 지속적 논란을 더 부각시키고 있습니다.
- 2025년을 향한 AI 개발의 주요 과제로 사용자 참여 증진에 초점을 맞추면서 윤리적 고려 사항을 균형 있게 고려하는 AI의 트렌드가 집중되고 있습니다.
- AI 사용자 인터페이스의 발전은 성장하는 추세로, OpenAI와 같은 기업들이 혁신적인 방법으로 협력을 더 원활하게 하는 방법을 탐구하고 있습니다.
- AI 회사들의 구조 변화는 세계적 관련 AI 윤리와 효과에 대한 우려가 증가함에 따라 AI 모델을 개선하기 위한 과정 속 기술 기업 내에서의 넓은 변화를 반영하고 있습니다.
OpenAI의 Model Behavior 팀의 재편은 사용자 피드백과 윤리적 고려에 따른 전략적 대응으로, 더 균형 잡힌 AI 상호작용 경험을 육성하려는 것입니다. Joanne Jang이 이끄는 OAI Labs의 설립은 AI 협력과 혁신에 대한 전반적인 접근을 상징합니다.