Huawei, openPangu-2.0 프리트레인, SFT 및 RL 코드 오픈 소스화 발표

핵심 정리

• 1

  후아웨이가 AI에 중점을 둔 openPangu-2.0 모델을 위한 오픈소스 코드를 공개했습니다.

• 2

  해당 코드에는 pretraining, 지도 fine-tuning (SFT), 그리고 reinforcement learning (RL) 기능이 포함되어 있습니다.

• 3

  openPangu-2.0-Training은 pretraining과 SFT를 모두 지원합니다.

• 4

  openPangu-2.0-RL은 강화 학습 포스트 트레이닝을 강조합니다.

• 5

  이 프로젝트들은 후아웨이의 Ascend 기반 훈련 생태계를 향상시키는 것을 목표로 합니다.