カメラやセンサーの近くで画像を認識するエッジAI機器では、電源投入から最初の認識結果を得るまでの時間が重要になる。自動車の周辺監視システムや産業用ロボットでは、障害物などを素早く検出する必要がある一方、バッテリー容量や放熱の制約から待機時の消費電力も抑えなければならない。しかし、従来のシステムでは、電源を切るとデータが消えるDRAMと、データを保持できるものの読み出しに時間がかかるSSDやフラッシュメモリを組み合わせることが多く、起動時に大量のデータを転送する必要があった。
東北大学国際集積エレクトロニクス研究開発センター（CIES）の遠藤哲郎教授らの研究チームと株式会社アイシンは、不揮発性メモリ「STT-MRAM」を32MB集積した16nm FinFETプロセスのAI SoCを開発した。STT-MRAMは、磁性体の磁化状態を利用してデータを記憶するメモリで、電源を切っても内容を保持できる。研究チームは、AIモデルの重みデータとコンパクトLinuxの起動データをチップ内のMRAMに格納し、外部DRAMやSSDを介さずに読み出す「近メモリコンピューティング（Near-Memory Computing：NMC）」方式を採用した。これにより、電源投入からOSカーネルの起動までの時間を65.7ミリ秒に短縮し、従来構成と比較して約39倍の高速化を確認した。
ただし、65.7ミリ秒という数値はOSカーネルの起動に要した時間であり、物体検出まで完了する時間ではない。 電源投入から最初の物体検出結果が得られるまでの所要時間は124.2ミリ秒で、こちらも従来構成の約25分の1に短縮されている。また、今回の性能値は、評価ボード上で軽量な物体検出モデル「Tiny YOLOv3」を動作させた実験結果であり、製品化された車載ECUや民生機器での性能を示すものではない。成果を正しく評価するには、測定対象となった処理の範囲と、モデルをオンチップメモリに収めるために採用した設計上の工夫を理解する必要がある。
- 従来方式（外部SSD+DRAM）
- 開発SoC（混載STT-MRAM）
データを表で見る
| 従来方式（外部SSD+DRAM） (ミリ秒) | 開発SoC（混載STT-MRAM） (ミリ秒) | |
|---|---|---|
| OSカーネル起動時間 | 2,535.3 | 65.7 |
| AI処理時間 | 594.6 | 58.5 |
| システム全体処理時間 | 3,129.9 | 124.2 |
外部メモリへのデータ転送を減らす「近メモリコンピューティング」
深層学習モデルは、画像認識などの処理を行うために、数百万から数千万個に及ぶパラメータ（重みデータ）を保持する必要がある。従来のエッジAI機器では、これらのパラメータを外部のNAND型フラッシュメモリやSSDに保存し、電源投入時にDRAMへ読み込んでから、プロセッサ内の演算ユニットに送り込む構成が一般的だった。この方式では、演算処理に入る前に大量のデータを転送する必要があり、起動時間や消費電力が増える原因となる。
こうした問題は、プロセッサの演算性能とメモリからのデータ供給速度の差によって生じる「フォン・ノイマン・ボトルネック」とも関係している。プロセッサと外部メモリを結ぶ配線には寄生容量があり、データの転送に伴って電力が消費される。AIアクセラレータの演算性能が向上しても、重みデータの読み出しや転送が追いつかなければ、システム全体の性能は十分に高まらない。特に起動時には、外部ストレージからのデータ読み出しやDRAMの初期化などが必要になるため、推論を開始できるまでの時間が長くなりやすい。
今回開発されたSoCは、プロセッサと同じシリコンダイ上に32MBのSTT-MRAMを集積し、外部メモリへの依存を減らしている。チップには、デュアルコアのArm Cortex-A53 CPU、Arm Mali-G31 GPU、専用AIアクセラレータ、32MBの混載STT-MRAMを搭載し、16nm FinFETプロセスで製造した。AIモデルの重みデータだけでなく、OSの起動に必要なデータもMRAMに格納することで、外部SSDからDRAMへデータを読み込む処理を省いている。
この設計の特徴が、近メモリコンピューティング（NMC）である。メモリセル内で演算を直接行う「インメモリコンピューティング（In-Memory Computing）」とは異なり、NMCは演算回路の近くにメモリを配置し、データ転送に必要な距離やエネルギーを削減する方式だ。今回のSoCでは、大容量のMRAMを演算器と同じチップに集積することで、外部メモリとの通信に伴う遅延や電力消費を抑えている。従来の外部メモリを使う構成に比べ、データをやり取りする配線を短くできることが利点となる。
さらに、AIアクセラレータには「4×4タイル重み共有技術」を採用した。これは、畳み込み演算に使用する重みデータを局所的に再利用し、同じデータをメモリから繰り返し読み出す回数を減らす仕組みである。複数のクロックサイクルにわたって重みを再利用することで、オンチップメモリへのアクセス回数を削減し、メモリ帯域と消費電力の両面で効率化を図っている。
OS起動時間は約39分の1、AI推論エネルギーは50.7mJ/frameに
今回の性能向上を評価するうえで重要なのは、OSの起動時間、AI処理時間、システム全体の所要時間を区別することだ。研究チームが比較対象とした従来方式は、外部SSDからDRAMへ12MBの重みデータを転送し、OSを起動した後に推論を実行する構成である。これに対し、開発したSoCでは起動データと重みデータを混載MRAMから直接読み出す。公表資料では、各処理段階について次のような結果が報告されている。
まず、電源投入からコンパクトLinuxのカーネルが起動するまでの時間は、従来方式の2,535.3ミリ秒から65.7ミリ秒へと短縮された。これは約38.6倍の高速化に相当する。不揮発性のMRAMに起動データを保持しておくことで、外部ストレージからの読み出しやDRAMへの展開に伴う処理を削減できたことが大きい。
AI処理時間については、従来方式の594.6ミリ秒に対し、開発システムでは58.5ミリ秒となり、約10.2倍の高速化を達成した。ただし、従来方式の測定値にはSSDからDRAMへ重みデータを転送する時間が含まれている。このため、約10.2倍という差をAIアクセラレータ単体の演算性能の向上と解釈することはできない。外部メモリからのデータ転送を省いた効果も含めた、システムレベルの比較結果である。
OS起動とAI処理を合わせた、電源投入から最初の物体検出結果が得られるまでの時間は、従来方式の3,129.9ミリ秒から124.2ミリ秒へと短縮された。約25.2倍の高速化であり、従来は約3.13秒かかっていた処理が約0.12秒で完了したことになる。自動車や産業機器のように起動直後の応答性が重要になる用途では、こうしたシステム全体の待ち時間を短縮できる点に意味がある。
消費エネルギーについては、Tiny YOLOv3による物体検出1フレームあたり50.7mJ/frameという値が報告された。研究チームは、従来方式と比べて消費エネルギーを約50分の1に削減したと説明している。ただし、公表資料では、比較対象となる従来システムの周辺回路や電源効率、測定対象に含まれる機器の範囲について、詳細な仕様が明らかにされていない。また、複数回の測定結果のばらつきや信頼区間も示されていないため、約50分の1という削減率は、今回の評価条件における実測結果として捉える必要がある。
| 評価項目 | 従来方式（ベースライン） | 開発システム | 報告された変化 | 条件・注記 |
|---|---|---|---|---|
| OSカーネル起動時間 | 2,535.3ミリ秒 | 65.7ミリ秒 | 約38.6倍高速化 | 電源投入からコンパクトLinuxのカーネル起動まで |
| AI処理時間 | 594.6ミリ秒 | 58.5ミリ秒 | 約10.2倍高速化 | 従来方式はSSDからDRAMへの12MBの重み転送を含む |
| システム全体所要時間 | 3,129.9ミリ秒 | 124.2ミリ秒 | 約25.2倍高速化 | 電源投入から最初の物体検出結果が得られるまで |
| 1フレームあたりのAI消費エネルギー | 詳細値は非公表 | 50.7mJ/frame | 約50分の1に削減 | システムレベルの実測値。従来方式の測定条件の詳細は未記載 |
| 重みデータ容量 | 17.7MB | 9.36MB | 約47%削減 | 重み共有とビット幅の最適化を適用 |
| 物体検出精度（mAP） | 0.325 | 0.316 | 0.009低下 | 評価データセットの詳細や誤差範囲は未記載 |
これらの数値から、混載MRAMによる高速起動と、外部メモリへのアクセス削減がシステム全体の性能改善に寄与していることが分かる。一方、起動時間とAI処理時間の比較にはデータ転送の有無が含まれており、演算器そのものの性能差を示すものではない。さらに、50.7mJ/frameというエネルギー値と、電源投入から初回の物体検出までの124.2ミリ秒という所要時間は異なる評価指標であり、同じ測定範囲を表しているとは限らない。実用時の電力効率を判断するには、連続推論時の消費電力や待機状態からの復帰など、用途に応じた追加評価が必要となる。
32MBのMRAMにAIモデルを収めるための重み共有と混合精度演算
今回のSoCに搭載された混載STT-MRAMの容量は32MBである。一般的な深層学習モデルのパラメータをすべて高精度のまま格納するには制約があり、大規模なモデルになるほどオンチップメモリだけで完結させることは難しくなる。研究チームが外部DRAMやSSDを使わずに物体検出を動作させられたのは、MRAMを集積しただけでなく、AIモデルの重みデータを削減するための回路設計を組み合わせたためだ。
開発したアクセラレータには、演算精度を一律に固定せず、必要に応じてビット幅を使い分ける「8/16ビットハイブリッド乗算アーキテクチャ」が採用されている。具体的には、16×16ビット、16×8ビット、8×8ビットの乗算を切り替えられる構成とし、各演算に必要な精度に応じてデータ量や計算負荷を抑えている。16ビット精度が必要な演算にも対応しながら、低いビット幅で処理できる部分では効率を高める設計だ。これに重み共有技術を組み合わせることで、オンチップメモリに格納するパラメータの総量を削減した。
公表資料によると、Tiny YOLOv3の重みデータは、元の17.7MBから9.36MBへと圧縮された。これは元の約53%に相当し、削減率は約47%となる。モデルの容量を抑えたことで、32MBの混載MRAMにOSの起動データとAIモデルの重みデータを収められるようになった。今回のシステムが外部メモリなしで動作できた背景には、メモリの集積技術と、モデルのデータ量を減らす設計の両方がある。
ただし、モデルの圧縮には認識精度とのトレードオフがある。物体検出の精度を示すmAP（mean Average Precision）は、元のモデルで0.325だったのに対し、圧縮後は0.316となり、0.009低下した。今回の評価では比較的小さな低下にとどまったものの、公表資料には評価データセットの詳細や画像解像度、測定結果のばらつきが明記されていない。このため、実際の道路環境や複雑な背景、物体が重なり合う状況でも同程度の精度を維持できるかは分かっていない。
また、実証に使用したTiny YOLOv3は、比較的軽量な物体検出モデルである。より大規模な画像認識モデルや、異なる演算構造を持つニューラルネットワークでも同じ圧縮率や性能改善が得られるとは限らない。今回の成果は、特定のモデルを32MBのMRAMに収め、外部DRAMなしで動作させられることを示したものであり、あらゆるエッジAIモデルに適用できることを実証したわけではない。
車載AIへの応用に期待、実用化には耐久性と量産性の検証が必要
今回の研究成果は、2026年11月1日から4日に台湾・新竹市で開催される半導体集積回路の国際学会「IEEE Asian Solid-State Circuits Conference（A-SSCC）2026」で発表される。11月2日の「Domain-Specific Accelerators」セッションにおける口頭発表として採択されており、論文番号はPaper 1014である。現段階では学会発表を通じた試作チップの技術実証であり、査読付き学術誌に詳細な研究成果が掲載された段階ではない。
研究機関が掲げる「世界初」という位置づけについても、比較対象とする技術や回路構成の範囲に注意が必要だ。混載MRAMを利用したプロセッサや、不揮発性メモリを演算回路の近くに配置する技術は、すでに国内外の半導体メーカーや研究機関で研究が進められている。今回の成果の新規性を判断するには、32MBという混載容量、16nm FinFETプロセス、AIアクセラレータとの統合、外部メモリなしでの物体検出実証といった条件を区別して考える必要がある。
研究には東北大学CIESの遠藤哲郎教授らと、自動車部品大手のアイシンが参加しており、成果の一部は新エネルギー・産業技術総合開発機構（NEDO）の委託業務による支援を受けている。自動車の先進運転支援システム（ADAS）や自動駐車システム、産業用の異常検知カメラなどは、高速起動と低消費電力の両立が求められる用途として考えられる。特に、必要なときだけ電源を入れて画像認識を実行するような機器では、起動時間の短縮がシステム全体の省電力化につながる可能性がある。ただし、今回の発表は具体的な車載製品への採用や量産計画を示したものではない。
実際に車載半導体として採用するには、研究室の評価ボードで良好な結果が得られたというだけでは不十分だ。車載用途では、製品の要求仕様に応じてマイナス40℃から125℃などの広い温度範囲で安定して動作することに加え、長期間のデータ保持や書き換え耐性、動作信頼性が求められる。STT-MRAMは不揮発性という利点を持つ一方、データ保持特性や書き換え寿命は温度や使用条件の影響を受けるため、実際の使用環境を想定した検証が欠かせない。また、16nm FinFETプロセスに大容量のSTT-MRAMを混載する製造工程では、歩留まりやコストも量産化の重要な判断材料となる。
今回の成果は、AIモデルとOSの起動データを同じチップ上の不揮発性メモリに保持し、外部DRAMやSSDを使わずに物体検出まで実行できることを示した点に意義がある。演算性能を高めるだけでなく、起動時のデータ転送やメモリアクセスを削減することで、エッジAIの応答性とエネルギー効率を改善する設計の有効性を示している。一方、実用化に向けては、詳細な測定条件の開示に加え、車載環境を想定した温度・耐久試験、異なるAIモデルでの性能評価、量産時の製造歩留まりなどを確認する必要がある。こうした課題を克服できれば、高速起動と低消費電力を必要とする次世代エッジAI機器の設計に、新たな選択肢をもたらす可能性がある。
