Soft neuro

Copyright © 2018 Morpho, Inc. All Rights Reserved. Confidential
世界最速級
ディープ・ラーニング推論エンジン
「SoftNeuro™」
2018年8月
株式会社モルフォ
なにわTECH道×TFUG KANSAI Deep Learningフェス2018

アプリケーション・ソフトウェア（システム）
【はじめに】 SoftNeuroはディープラーニングの推論の高速化エンジン
6
◼SoftNeuroは、推論エンジンであり、下図の赤枠部分の位置づけ
◆人工知能（ディープラーニング）は、予め学習しておき、その結果に基づいて推論を実行
学習環境（例）クラウド、社内オンプレミスサーバ推論環境（例）エッジ側デバイス
推論対象画像
学習システム
複写
教師データ
（学習用画像）
Morpho Deep Learning System
Caffe Keras TensorFlow
出力入力出力
入
力
入
力
学習結果
ファイル
推論エンジン
・画像分類
・画像検出、等
Powered by
SoftNeuro™
学習結果
ファイル
推論結果
✓食べ物
学習モデル
(ﾆｭｰﾗﾙﾈｯﾄﾜｰｸ)
入
力

SoftNeuro™開発の背景～推論速度の課題の顕在化～
7
◼人工知能の実用化に伴い、推論速度の課題が顕在化
◆特にエッジ側では、ハードウェア増強が難しく、速度の課題は顕著
これまでこれから
プロジェクトのフェーズ実証実験、PoC 実用化、商用化、広範化
推論の実行場所
机上、実験環境
クラウド上左記＋エッジ側
課題
学習データの収集
推論精度の向上左記＋推論速度
特にエッジ側において、高速な推論エンジンが求められている

SoftNeuro™の位置づけ
8
◼モルフォは世界最速級のディープラーニング推論エンジン「SoftNeuro™」を開発
◆SoftNeuro™は、ディープラーニングによる学習結果を用いて推論を実行する汎用的なコアエンジン。
◆弊社既存の画像認識エンジン（Morpho Deep Recognizer™等）にも組込んで、高速化
◆音声認識エンジン等の開発者向けにも、ライセンス提供を予定
モルフォ画像認識技術パートナー社（比較参考例）家電
（お客様アプリケーションソフトウェア）製品・洗濯機
・画像分類エンジン
Morpho Deep Recognizer™
・画像検出エンジン
Morpho Deep Detector™
・音声認識エンジン
・文章解析エンジン
部品・モーター
SoftNeuro™ コア部品
・磁石
・コイル、等

SoftNeuro™の特徴
9
特徴背景 SoftNeuro™の特徴の概要
１
世界最速級ディープラーニングによる推論を実用化するにあたり、推
論にかかる時間が遅いなど、処理時間が課題になること
も少なくありません。
CPUのみの処理において世界最速級の処理速度を実
現しています。この高速性は、様々な手法（計算方法、
メモリ使用方法、等）を各プラットフォーム向けに最適化
することで実現しています。
２
マルチ
フレームワーク対応
ディープラーニングの学習を行うフレームワークは現在、
Caffe、Keras等、オープンソースを中心に多数存在して
います。
主要なフレームワークの学習結果を活用可能です。
これまで利用してきたフレームワークの学習資産を無駄に
すること無く、推論処理部分の高速化や、マルチプラット
フォーム対応を実現することが可能です。なお、ソフトウェ
アで実装しており、新しく登場するフレームワーク及びレイ
ヤーに順次対応可能です。
３
マルチプラット
フォーム対応
ディープラーニングを用いて推論が行われる場所は、クラ
ウド上のサーバーに限らず、スマートフォンや自動車、FA
機器等、多様化しつつあります。それらの動作環境では、
CPUやOSといったプラットフォームが異なり、移植や最適
化といった作業が必要となっていました。
現時点ではCPUのみで推論を実行可能ですが、順次
多様なプラットフォームに応じた最適化（GPU、DSPの
活用等）も行う予定です。このマルチプラットフォーム対
応により、学習結果を広範な動作プラットフォームへ展
開することが容易になるだけでなく、動作プラットフォーム
の変更等に容易に対応可能となります。
４
セキュアファイル
フォーマット対応
ディープラーニングを用いて推論が行われる場所は、クラ
ウド上のサーバーに限らず、スマートフォンや自動車、FA
機器等、多様化しつつあります。それらの動作を実現す
るために、学習済みネットワークが様々な場所に複製さ
れることにより、学習時のノウハウや結果（独自のネット
ワーク構造やウェイトパラメータ等）が漏洩するリスクが
増大します。
学習済みネットワークを暗号化する機能を有するため、
学習時のノウハウや結果の漏洩リスクの軽減を実現しま
す。

世界最速級（モルフォ調べ；2018年7月時点）
2
◼処理速度測定結果（Intel: Core i7-6700K 4GHz; CPUのみで処理し、GPU不使用）
項目内容
タスク画像の1,000クラス分類
処理速度測定に使用した学習済みモデル ①MobileNet、②ResNet50、③DenseNet、④VGG16
推論対象画像サイズ 224 x 224 ピクセル
測定環境 Intel Core i7-6700K CPU 4.00GHz
高速

世界最速級（モルフォ調べ；2018年7月現在）
12
◼処理速度測定結果（ARM: Snapdragon 845; CPUのみで処理し、GPU不使用）
項目内容
タスク画像の1,000クラス分類
処理速度測定に使用した学習済みモデル ①MobileNet、②ResNet50、③DenseNet、④VGG16
推論対象画像サイズ 224 x 224 ピクセル
測定環境 Galaxy S9 (Snapdragon 845)
高速

提供形態
17
◼提供形態：ライブラリ（ソフトウェア）
◆SoftNeuro™は、アプリケーションソフトウェアからリンク可能な「ライブラリ」としてご提供します。
➢提供物一式
– ライブラリ・ファイル
– ヘッダ・ファイル
– API仕様書
– サンプルコード、等
◼開発言語：Ｃ言語
◆SoftNeuro™および弊社画像認識エンジンは、全てＣ言語で開発されています。
◆お客様のアプリケーションソフトウェアの動作環境をご指定いただければ、同環境向けのライブラリを作成致
します。

Vision Product of the Year Awards
3
◼「Vision Product of the Year Awards 2018」を受賞
◆SoftNeuro™は、「Embedded Vision Summit 2018」において
「AI Technology」部門の「Vision Product of the Year Awards」を受賞
※１：Embedded Vision Summit: 世界中の画像処理技術関連企業が集まる会合。毎年１回米国サンタクララで開催。
※２：Product of the Year Awardの審査基準：①革新性、②市場や顧客への影響度、③競争力のある差別化要素

「日経Robotics」誌にも、ご紹介いただきました。
4
出処：日経Robotics、2018年9月号
※上記記事の続きは、本誌をご購入の上で、ご参照下さい。

「画像ラボ」誌にも、ご紹介いただきました
5
出処：画像ラボ、日本工業出版、2018年8月号
※上記記事の続きは、本誌をご購入の上で、ご参照下さい。

Soft neuro

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

Similar to Soft neuro

Similar to Soft neuro (20)

Soft neuro