arXiv 2610.22169
렉시컬 참조 프레임: 네이티브 의미로 LM 잔차 스트림 해석하기
Lexical Reference Frames: Interpreting LM Residual Streams in Native Semantics
AI추천 20
저자: Jian Gu, Hongyu Zhang, Chunyang Chen, Aldeida Aleti
개요
저자들은 모든 은닉 상태가 그것을 다음에 읽는 레이어들에 의해 정해지고 문맥에 따라 적응하는 고유한 참조 프레임을 가진다고 주장합니다. 렉시컬 참조 프레임은 정해진 횟수의 어텐션 라운드와 나머지 부분에 대한 전형적인 어텐션 출력을 적용해, 모델의 남은 레이어로 상태를 읽는 방식으로 이 프레임을 근사하며, 모델 출력에 맞춰 어떤 것도 학습시키지 않습니다.
소개
기존의 언어 모델 잔차 스트림 해석 방법은 고정된 렌즈를 재사용하거나 은닉 상태를 점 구름으로 취급하며, 두 방법 모두 모델이 실제로 상태를 읽는 방식으로 읽지 못합니다.
결과
첫 번째 차수 프레임인 LexFrame[1]은 SmolLM3-3B와 OLMo3-7B의 중간 깊이에서 각각 0.97과 0.97에 도달했으며, 이는 렌즈의 상한인 0.30과 0.35를 크게 넘습니다. 또한 이 프레임은 상태를 모델 출력과 0.16 nats 이내로 읽고, 확신 있는 판독으로 조기 종료가 레이어의 0.45와 0.42를 건너뛸 수 있게 하는 반면 렌즈는 거의 건너뛰지 못합니다.
결론
모든 은닉 상태를 읽고, 기여도를 분석하고, 조종할 수 있게 함으로써, 외부 적합이 아니라 모델 자체의 계산을 따르는 해석 도구를 얻게 됩니다.