Sleep 프레임워크: 지속 학습에서 LLM이 지식을 유지하는 새로운 방법

무슨 일이 있었나요?

구글 리서치의 알리 베흐루즈와 바합 미로크니는 '연속 학습'에 수면 단계를 넣는 방법을 소개했습니다. 모델은 깨어 있는 단계에서 정보를 받아 처리하고, 잠든 단계에서는 그 정보를 내부 장기 기억으로 옮깁니다. 이렇게 하면 모델이 새 사실을 익히고 추론 능력도 높일 수 있다고 합니다.

왜 어려운 문제인가요?

지금의 LLM은 배포된 뒤에는 대부분 그대로 머뭅니다. 지식의 기준 날짜가 정해져 있어서 새 정보를 잘 알지 못합니다. 모델을 새 데이터로 계속 업데이트하면 예전에 배운 것을 잊는 '치명적 망각' 문제가 생깁니다. 대화창 안에서만 배우는 방식은 대화가 끝나면 그 내용이 사라집니다.

핵심 내용

• 기존 방식은 대화가 끝나면 짧은 기억이 사라집니다.
• 수면 단계에서 모델은 새 입력 처리를 멈추고 기억을 굳히는 데 집중합니다.
• 연구진은 최대 1,000만 토큰 길이의 긴 문맥 지식을 유지할 수 있다고 밝혔습니다.
• 수면 단계에서는 미리 준비된 MoE(전문가 혼합) 기억 블록을 열어 새 지식을 저장합니다.

왜 중요한가요?

AI가 한 번 만들어진 뒤에도 계속 배우고 발전할 수 있다면, 최신 정보를 반영하고 오래 쓸 수 있는 AI가 가능해집니다. 다만 이 글은 아직 연구 소개 단계이며, 실제 제품에서 얼마나 잘 작동하는지는 더 지켜봐야 합니다.

앞으로 무엇을 지켜봐야 할까요?

• 실제 모델에서 새 지식이 잘 저장되는지 검증 결과
• 이전 지식을 잊지 않는지 여부
• 수면 단계에 드는 시간과 컴퓨터 비용
• 다른 연구팀이나 기업의 후속 연구와 적용 사례