日経クロステック Special

パートナーと共創で価値を創造 LeapMindがOKIとの共創でAIエッジ時代を加速する

エッジ端末に適したディープラーニング技術を得意とする2012年創業のLeapMind(リープマインド)。高い推論精度と応答性を維持しながら、コンパクトかつローパワーなハードウエア実装を実現する、独自の「極小量子化」技術が特長だ。この技術を産業分野などに幅広く応用していくため、同社は沖電気工業(以下、OKI)とAIエッジパートナーを結び、エッジ用ハードウエアの一つとして、OKIのAIエッジコンピューター「AE2100」を採用した。

 センサーを使って装置や環境からデータを集め、それらのデータを分析し、価値を創出するIoT(Internet of Things)が、実際の応用フェーズへと移ってきた。その過程で明らかになってきたのがエッジ処理の重要性だ。装置やセンサーに近いところ(エッジ側)で分析処理を行うことで、サーバーやクラウドへのデータ・トラフィックを削減しながら遅延のないフィードバックを実現できるからだ。そのためいわゆるエッジコンピューティングが、現在のIoTアーキテクチャーの潮流の一つになっている。

 さらに最近になって、エッジ部分にディープラーニングを応用しようという動きが加速してきた。従来のパターンマッチングや機械学習といった手法に対して、画像や音声などの認識精度を高めるのが狙いである。

安村 氏
LeapMind株式会社
General Manager,
Co-development Division
安村 修一

 2012年に創業したLeapMindは、エッジ部分におけるディープラーニング技術の先駆けともいえるAIベンチャー企業の一社だ。サーバーやクラウドに比べてコンピューティング・リソースや使える電力が限られるエッジにおいても、高速かつ高精度な推論を実現する独自の軽量化技術を強みとしている。また、上流ネットワークとの接続がない環境にも対応しており、オフラインでもエッジ側だけで処理を完結できるのも同社のソリューションの特長である。

 「当社は、『機械学習を使った今までにないデバイスをあまねく世に広める』をミッションに、コンパクトかつローパワーな組み込み向けディープラーニング技術の提供や共同研究を行っています」と、LeapMindの安村修一氏は説明する。業種や業界を問わず、画像解析のほか、音声解析や時系列解析など、幅広い応用を手掛けているという。

推論モデルサイズを最大99%削減

 LeapMindは、DNN(Deep Neural Network)の「極小量子化」に強みを持っている。

 DNNは、入力層、複数の中間層(隠れ層)、および出力層で構成されている。ある層のノードと次の層のノードは重み付きシナプスで結ばれており、一般的にはこの重みは32ビット浮動小数点で表現されるが、計算量が多くなってしまい、リソースが限られる組み込み用途には向いていない。

 LeapMindでは、活性化関数を2ビット+重みを1ビットで表現するなど、DNNの大幅な軽量化を実現する方式を開発した(図1)。「推論モデルの軽量化に関しては、ビット数削減のほかに、シナプスを省略する枝切り(プルーニング)などのさまざまな手法が提案されていますが、当社の極小量子化は性能や精度の面でも世界トップレベルと考えています」と安村氏は説明する。

図1
図1

最高で99%もの推論モデルの小型化を実現するLeapMindの極小量子化技術の例

 この技術を応用した推論器のソフトウエアを「Blueoil(ブルーオイル)」として提供しており、従来の軽量化環境に対してモデルサイズの99%削減を実現した例もあるという。その場合でも認識精度はわずか1%程度の低下にとどまっており、実用的に問題ないことが確認されている。

 推論モデルの軽量化はエッジのハードウエア実装に多くのメリットをもたらす。ロジックサイズの小型化、消費電力の低減、メモリ容量の削減などが図れるため、リソースの限られるエッジに最適といえる。マイクロコンピューターのコアを内蔵した最もローエンドのFPGA(Field Programmable Gate Array)デバイスでも、十分な性能が得られる場合が多いという。

 同社はこの極小量子化技術を軸に、すべてのモノにディープラーニングを組み込む「DoT(Deep Learning of Things)」の実現を掲げながら、ディープラーニングのコンサルティングに始まり、データ作成、推論モデル構築、モデル圧縮、ハードウエア向け最適化、IP開発、実装、チューニングまで、一連の開発をトータルで提供している。