こんにちは！ＡＩ研究所の石川です。
本日のtopicsは、東北マイクロテック株式会社が製品開発した、これまでにない新しい原理に基づき三次元構造を利用したAIチップをご紹介します。
3D-IC技術の研究開発を主体としてビジネス化を目指す東北マイクロテック株式会社は、NEDOの「AIチップ開発加速のためのイノベーション推進事業」の支援のもとに自社の持つ3D-IC技術を使い、東北大学及び長崎総合科学大学と連携して、これまでにない新しい原理に基づき三次元構造を利用したAIチップの製品開発に成功しました。
このAIチップは、時系列情報や音声認識に必要な再帰型ニューラルネットワーク(RNN: Recurrent Neural network)の動作も可能で有り、DNN (Deep Neural Network), CNN (Convolutional Neural Network), RNNなどのニューラルネットワークを要求に応じて切り替えて使用することもでき、今後、応用が広がるとされるセンサーなどのエッジ末端デバイスと一体化して使用し、簡単な学習機能を有するエッジAIチップとして実用化することを目指しています。
製品概要
この新しい積層型AIチップは、ニューロ演算を行うニューロチップと重みデータ等を格納するメモリチップを4層積層した構造を有します。具体的にはニューロチップ2層、メモリチップ2層の4層積層です。
ニューロチップは64個の入力ニューロンと64個の出力ニューロンを、クロスバー方式のシナプス回路アレイで接続した構成です。シナプス回路に2トランジスタ、1キャパシタ型のDRAM(Dynamic Random Access Memory)セルを用いて、ニューロ演算の中核となる積和演算を低電力で高速に実行するMemory-in-Computingの手法を採用しています。シナプス回路アレイで乗算を一括で実行し、その結果を出力ニューロンで一括加算しています。シナプス回路のキャパシタには8ビットに相当する256諧調のアナログ重みデータの保持が可能です。シナプス回路としてはSRAM(Static Random Access Memory)や、新しい不揮発性メモリを使ったものがいろいろ提案されていますが、これらのシナプス回路ではこのような高諧調のアナログデータを保持することは困難です。
今回開発した積層型AIチップでは、このようなニューロチップの入力と出力が対向するように互いに90度回転させて積層しています。これによって、ニューロ演算を上下のチップ間でサイクリックに行うサイクリック・ニューロ動作を可能にしています。ニューロ演算では、積和演算に使用する重みデータを頻繁に書き換える必要があり、通常のニューロチップでは、この重みデータの読み出し・書き込みに膨大な電力と信号遅延が伴います。そのため、今回開発した積層型AIチップでは、重みデータを格納するメモリチップをニューロチップの直上に積層することによって、低電力で一括のデータの読み出し・書き込みが可能となっています。
なお、これまでのニューラルネットワークでは、演算結果の認識率を向上させるために、ニューロン層を100層以上用意して低位のニューロン層から上位のニューロン層へ向かってニューロ演算を繰り返していました。しかし、このようなニューラルネットワークをシリコンチップにマッピングしようとすると、三次元積層型半導体技術を使っても100層以上のニューロチップを積層する必要があり現実的ではりません。そのため、今回開発した三次元積層型AIチップでは、2層積層した上下のニューロチップ間でサイクリックにニューロ演算を繰り返すことによって、実効的に100層以上のニューロ演算を実行できるようにしています。
サイクリック・ニューロ動作を可能としたことにより、時系列情報や音声認識に必要な再帰型ニューラルネットワークの動作も可能となりました。このように、今回開発した三次元積層型AIチップではDNN, CNN, RNNなどの、ニューラルネットワークを要求に応じて切り替えて使用できるようになっており、再構成ニューラルネットワーク(Reconfigurable Neural Network)の最初の実現でもあります。
東北大学と協力して開発した専用ソフトウェアとは
東北マイクロテック株式会社は、このようなサイクリック・ニューロ動作機能を有する三次元積層型AIチップをセンサーなどの末端デバイスと一体化して使用する、エッジAIチップとして実用化することを目指しています。
そのため、東北大学と協力して専用ソフトウェアも開発しています。画像認識用のソフトウェアは、情報科学研究科の岡谷貴之教授のグループが、時系列処理や音声認識用のソフトウェアは、電気通信研究所の堀尾喜彦教授グループが開発を担当しました。
岡谷教授は、新しい画像認識用アルゴリズムとして注目されているビジョントランスフォーマー(ViT)を、三次元積層型AIチップ用に最適化したTiny-ViTを開発しています。また、堀尾教授は、サイクリック・ニューロ動作を基にしたリザーバーニューラルネットワーク(RNNの一種)、カオスニューラルネットワークを使った時系列処理や音声認識用のソフトウェアを開発しています。
共同で設立した12インチウェハによる三次元集積回路製造拠点(GINTI: Global Integration Initiative)での三次元積層型AIチップの早期の製造により、巨大な市場が出現すると言われているエッジAIの世界での先鞭を目指しています。
また、三次元積層型AIチップの用途拡大を目指して共同参画頂ける企業を募集中です。なお、今回の三次元積層型AIチップの開発はNEDOのAIチップ開発加速のためのイノベーション推進事業の支援のもとに実施しました。
東北マイクロテック株式会社が開発した、これまでにない新しい原理に基づき三次元構造を利用したAIチップに注目です！
