도요타, 모델 가중치와 OS를 통합 메모리에 저장하는 SoC 공개

무슨 일이 있었나요?

도요타의 대주주인 AISIN이 AI 처리용 칩 시장에 도전장을 냈습니다. 이 칩은 외부 메모리를 거의 쓰지 않도록 설계되었습니다. AI 모델의 가중치(모델이 판단할 때 쓰는 숫자 값)와 운영체제를 칩 안의 STT-MRAM이라는 메모리에 함께 저장합니다. 연구 파트너인 도호쿠대학교와 함께 만들었습니다.

핵심 숫자와 사실

• 전원을 켠 뒤 커널(운영체제의 핵심 부분)이 시작되기까지 65.7밀리초가 걸립니다. 외부 메모리를 쓸 때보다 38배 빠른 속도입니다.
• AI 모델의 가중치 데이터 양을 53% 줄였습니다. 17.7MB에서 9.36MB로 줄었고, 16비트 정밀도는 그대로 유지했습니다.
• 칩은 16nm FinFET 공정으로 만들어졌습니다. CPU는 Arm Cortex A53 듀얼 코어, GPU는 Arm Mali G31입니다.
• 칩은 Tiny YOLOv3 물체 감지 알고리즘을 실행할 수 있습니다.

왜 외부 메모리가 문제인가요?

기존 칩은 AI 모델을 외부 메모리에 저장합니다. 그래서 프로세서와 메모리 사이에 데이터가 계속 오가야 합니다. AISIN은 이 데이터 이동이 이미지 인식 같은 기기 안 AI 기능을 느리고 덜 효율적으로 만든다고 말합니다. 또 요즘 DRAM 가격이 매우 비싼 것도 문제입니다.

왜 중요한가요?

자동차는 점점 이미지 인식 같은 AI 기술에 많이 기대고 있습니다. 로봇 같은 '피지컬 AI'도 자동차와 비슷한 부품이 필요합니다. 엔비디아와 퀄컴도 자동차 회사에 칩을 팔려고 합니다. AISIN은 칩 공급망 안의 기존 회사들이 따라올 수 없는 기술을 내세우려 합니다. 다만 AISIN은 이 칩을 언제 또는 실제로 생산할지는 아직 밝히지 않았습니다.

앞으로 지켜볼 점

• AISIN이 이 칩을 실제 제품으로 생산할지, 그리고 언제 생산할지
• 칩이 실제 자동차나 로봇에서 얼마나 잘 작동하는지
• 엔비디아와 퀄컴 같은 기존 칩 회사들의 대응