Toyota giới thiệu SoC lưu trọng số mô hình và hệ điều hành trong bộ nhớ tích hợp

Chuyện gì đã xảy ra

Toyota, cùng với AISIN, đang thử sức với thị trường chip xử lý AI. AISIN là công ty sản xuất linh kiện ô tô, và Toyota là cổ đông lớn của công ty này. Họ đã giới thiệu một chip gọi là SoC (một con chip gộp nhiều phần chính vào một mảnh silicon). Điểm đặc biệt của chip là nó có bộ nhớ STT-MRAM tích hợp sẵn, dùng để lưu cả trọng số mô hình AI lẫn hệ điều hành.

Các con số chính

• Khởi động từ lúc bật nguồn đến lúc nạp nhân hệ điều hành mất 65,7 mili giây, nhanh gấp 38 lần so với dùng bộ nhớ bên ngoài.
• Chip chạy được thuật toán nhận diện vật thể Tiny YOLOv3 ngay trên chip.
• Nhờ kết hợp phép nhân 8 bit và 16 bit, dung lượng dữ liệu trọng số của mô hình giảm 53%, từ 17,7 MB xuống 9,36 MB, vẫn giữ độ chính xác 16 bit.
• Chip dùng tiến trình sản xuất 16nm FinFET, lõi CPU Arm Cortex A53 hai nhân và GPU Arm Mali-G31.

Vì sao cần chip như vậy

Ô tô ngày càng dựa vào các công nghệ như nhận diện hình ảnh. Robot và các dạng 'AI vật lý' cũng cần những linh kiện tương tự. Theo AISIN, chip thông thường phải lưu mô hình AI vào bộ nhớ bên ngoài. Việc chip liên tục đi lại với bộ nhớ này làm chậm và giảm hiệu quả khi AI chạy trên thiết bị. Ngoài ra, DRAM hiện đang rất đắt.

Vì sao tin này quan trọng

Nếu cách làm này hiệu quả, xe hơi và robot có thể chạy AI nhanh hơn và rẻ hơn. Điều này đặc biệt có ý nghĩa khi giá bộ nhớ đang tăng. Tuy nhiên, Nvidia và Qualcomm cũng đang muốn bán chip cho các hãng xe, nên AISIN sẽ phải cạnh tranh mạnh.

Cần theo dõi điều gì

• AISIN chưa nói rõ chip này có được sản xuất hàng loạt hay không, và khi nào.
• Kết quả nghiên cứu được thực hiện cùng Đại học Tohoku, cần được kiểm chứng thêm trong thực tế.