トヨタ、モデル重みとOSを内蔵メモリに格納するSoCを披露

何が起きたのか

トヨタの大株主である部品メーカーのアイシンが、車や ロボットなどで使う AI 向けのチップ（SoC）を発表しました。このチップは、AI モデルの重みとOSを、チップの中に組み込まれたメモリ（STT-MRAM）に保存します。研究では東北大学も協力しています。

主な数字と事実

• 電源を入れてからカーネル（OSの中心部分）が動き出すまで 65.7 ミリ秒。外部メモリを使う場合より 38 倍速いとしています。
• AI モデルの重みのデータ量を 17.7MB から 9.36MB へ、53% 減らしました。精度は 16 ビットのまま保っています。
• チップは 16nm の製造技術、Arm の Cortex A53 の 2 コア CPU、Arm の Mali G31 GPU を使います。
• 物体検出のアルゴリズム Tiny YOLOv3 をこのチップ上で動かせるとしています。

なぜ外部メモリが問題なのか

今のチップは、AI モデルを外部のメモリに置くことが多いです。そのため、プロセッサとモデルの間で大量のデータがやり取りされます。アイシンは、これが画像認識などの処理を遅くすると考えています。さらに、今は DRAM が非常に高価です。

なぜ大切なのか

車や ロボットが周りを見て素早く判断するには、AI を機器の中で動かす必要があります。チップ内にメモリを置く方法は、速さと費用の面で近道になるかもしれません。一方で、NvidiaやQualcommなどの大手も、車メーカーに自社のチップを売ろうとしています。

今後注目すべき点

• アイシンがこのチップをいつ、そして本当に量産するのかどうか。
• 実際の車やロボットで、速さや効率がどこまで出るか。
• NvidiaやQualcommなどとの競争がどう進むか。