C#/.NETがやっていること 第二版
Your SlideShare is downloading.
×
Check these out next
More Related Content
Slideshows for you (20)
Similar to 機械学習の先端センシングへの適用と展望 (20)
More from The Japan DataScientist Society (20)
Recently uploaded (20)
機械学習の先端センシングへの適用と展望
- 1. 機械学習の 先端センシングへの適用と展望 鷲尾 隆 大阪大学産業科学研究所 産業技術総合研究所人工知能研究センター 2017年11月13日
- 2. IoT時代：多様な分野でセンシング技術開発が進行中 • 先端センシング技術 • 複雑な計測原理の精巧な組み合わせ • 複雑でノイズの多い出力信号から対象を推定 例）遠方銀河測距のための赤方偏移測光, 超解像顕微鏡,細菌・ウイルス検出, DNAシーケンシング,人工嗅覚 機械学習や高度な統計的推定の 導入ニーズ増大
- 3. • 先端センシング技術 • 出力データが複雑な形式を持つことが多い • 時間あたりのデータ出力が膨大であることが多い IoT時代：多様な分野でセンシング技術開発が進行中 例） エッジコンピューティングニーズの増大 ・センサ出力直後の前処理 ・オンサイトでの推定処理 情報通信帯域や 情報処理スルー プットの壁 クラウド処理 の困難
- 4. お話の内容 • ３つの先端計測技術研究開発 1.マイクロ・ナノポアによる極微小生体センシング 2.ナノギャップによる一分子塩基センシング 3.MSSセンサによる嗅覚センシング エッジコンピューティングや 機械学習・統計解析適用の具体例を紹介 • まとめと展望
- 5. 機械学習と計測ナノデバイスという 異分野間共同研究 1.マイクロ・ナノポアによる極微小生体センシング 大阪大学産業科学研究所 • 知能推論研究分野 機械学習技術の検討、数値実験の実施 鷲尾 隆・河原吉伸・吉田 剛・鷹合孝之・二ノ宮陽一 • バイオナノテクノロジー研究分野 計測デバイス開発及び測定実験の実施 谷口正輝・筒井真楠・大城敬人・横田一道・田中裕行
- 6. マイクロ・ナノポアによる細菌の直接計測 1.0 − 5.0𝜇𝑚 40 − 1500 𝑛𝑚 イオン電流パルス の分析による 細菌の検知と識別 電解液 + - 0.8 0.81 0.82 0.83 0.84 0.85 0.86 y_t hat{x}_{t|t-1} パルス 抽出 nσ 細菌の通過時に 電流が減少 エッジコンピューティング １００KHｚ サンプリング ２MB/s ３分で360MB
- 7. パルス抽出のエッジコンピューティング ベースライン ベースライン パルス出現期間 非パルス 期間 非パルス 期間 kステップ期間以上ασ以上の幅でかい離 >ασ >k k:最低パルス継続時間, ασ:最低パルス高 11 ttt uxx ttt vxy モデルベース フィルタによる 変動ベース ライン推定 推定ベースラインを基準に した波高や継続時間を元に パルスを抽出 3分の計測 360MB 3分の計測 360KB
- 8. 細菌計測分析の例 枯草菌のパルス大腸菌のパルス 機械学習による個別パルスの細菌識別 枯草菌大腸菌 若干長くて細い 若干短くて太い 似た形を持ち、 個体差が大きい パルス形状が非常に似ており、かつ熱雑音や 測定ノイズによって汚れている。 ピークが前倒しで尖った 傾向を持つ. ピークが後倒しで尖って いない傾向を持つ.
- 9. 個別パルスの分類 種類は既知 大腸菌 枯草菌 機械学習 分類器 種類は未知 大腸菌 枯草菌 大腸菌 枯草菌 個々のパルス の分類(1) 学習 (2) 計測・分析 大腸菌と枯草菌 の混合
- 10. 波形特徴の生成・抽出と学習分類器（例） ランダムな特徴空間の自動生成・選択 (Rotation Forest法) ハンドクラフトな波形特徴 (1) パルス長 (2) パルス高 (3) ピーク位置 (4) パルス波形尖度 𝑡 𝑠 𝑡 𝑒 Pulse Peak 𝑡 𝑝 𝑥0 𝑥 𝑝 （４） （３） （２） Baseline （１） (𝒙1, 𝑦1) (𝒙𝑖, 𝑦𝑖) (𝒙2, 𝑦2) (𝒙 𝑛, 𝑦𝑛) (𝒙4, 𝑦4) (𝒙 𝑛, 𝑦 𝑛) (𝒙3, 𝑦3) (𝒙𝑖, 𝑦𝑖) (𝒙1, 𝑦1)(𝒙1, 𝑦1) ランダムな特徴選択 PCA PCA PCA 特徴空間生成 ノイズや偏った推定を除去 アンサンブル分類器 分類器 分類器 分類器学習 多数決による判定 エッジコンピューティングレベルで 処理を完結するため、軽量で高 精度な機械学習手法を用いる。 1パルスを数ms以内で推定処理
- 11. 分類性能結果 性能上位10位の分類器 (4.0μm, 1500nm Pore) アンサンブル分類器が高速かつ高性能を発揮 Place Feature Dim Classifier TPRateFPRate Precision RecallFMeasure ROCArea 1st h&wV 128 meta.RandomCommittee 0.988 0.012 0.988 0.988 0.988 0.999 2nd Tie hv&F 8 trees.NBTree 0.976 0.024 0.976 0.976 0.976 0.979 2nd Tie h&wV 128 meta.LogitBoost 0.976 0.024 0.976 0.976 0.976 0.995 2nd Tie h&wV 128 meta.MultiBoostAB 0.976 0.024 0.976 0.976 0.976 0.999 2nd Tie h&wV 128 trees.NBTree 0.976 0.024 0.976 0.976 0.976 0.997 2nd Tieh&wNrmdV 64 meta.RotationForest 0.976 0.024 0.976 0.976 0.976 0.994 2nd Tieh&wNrmdV 128 meta.LogitBoost 0.976 0.024 0.976 0.976 0.976 0.991 2nd Tieh&wNrmdV 128 meta.MultiBoostAB 0.976 0.024 0.976 0.976 0.976 0.999 2nd Tieh&wNrmdV 128 trees.NBTree 0.976 0.024 0.976 0.976 0.976 0.997 2nd Tiehv&F 8 bayes.BayesNet 0.976 0.024 0.976 0.976 0.976 0.992 0.8 0.85 0.9 0.95 1 1ST 2ND 2ND 2ND 2ND 2ND 2ND 2ND 2ND 2ND F-measure
- 12. 機械学習と計測ナノデバイスという 異分野間共同研究 2.ナノギャップによる一分子塩基センシング 大阪大学産業科学研究所 • 知能推論研究分野 機械学習技術の検討、数値実験の実施 鷲尾 隆・河原吉伸・吉田 剛・鷹合孝之・二ノ宮陽一 • バイオナノテクノロジー研究分野 計測デバイス開発及び測定実験の実施 谷口正輝・筒井真楠・大城敬人・横田一道・田中裕行
- 13. 目的： ナノギャップ電極に流れる トンネル電流パルス波形による • ノイズパルス除去 • 個別塩基分子の識別 識別対象塩基： 1. ジチオフェンウラシル 誘導体（BithioU） 2. TTFウラシル誘導体（TTF） BithioU TTF トンネル電流 約1nm ナノギャップ電極を用いた個別塩基識別センサ • 夾雑物の混在 • トンネル電流の量子雑音 • 電極表面原子の熱運動 ノイズ 試料 技術的課題 信号パルスと同程度以上の波高のノイズパルス PUCを用いた計測ノイズ除去による高精度化 エッジコンピューティングで多くの ノイズパルスを除去して、試料パ ルスのみを収集・処理したい。
- 14. PU分類では、ラベル付き正例（Positive, Labeled）とラベル無し 事例（Unlabeled）から学習し、正例負例の２値分類を行う。 ノイズパルス集合P ノイズ特徴を学習 ノイズ除去し 塩基パルス のみ抽出 ノイズP＋塩基N =パルス集合U 特 徴 量 Ｙ 特徴量Ｘ P 分 類 器 学 習 UU =? =? =N =P PU分類器 ノイズパルス と塩基パルス を分離 ノイズパルス 塩基パルス ノイズ除去を行う PU分類器を構築 PU分類器によるノイズ除去
- 15. PUCノイズ除去を用いた一塩基分子センシング BithioU TTF パルス抽出 学習済みノイズ 除去PU分類器 学習済み 塩基分類器 BithioUパルスと ノイズパルスが混在 TTFパルスと ノイズパルスが混在 BithioUパルスのみ TTFパルスのみ テスト用計測 パルスデータ 答えは既知だが 分類器は知らない 分類精度 を評価 BithioU TTF 3272通りの各種解析パラメータ条件に対し、 PUCノイズ除去後の塩基パルス識別精度を検証 塩基分類器 PU 分類器 PU 分類器 エッジコンピューティング 各パルスの識別は数ms
- 16. 塩基識別精度のヒストグラム • 3272通りの各種解析パラメータ条件で、PUCノイズ除去 後の塩基パルス識別精度を検証 • 交差検定法（10CV）による平均精度評価 ノイズ除去なし ノイズ除去あり 精度 F-Measure 各種条件下の 解析事例数 各種条件下における塩基識別精度のヒストグラム 精度100%で識別可能 な解析条件が多数
- 17. 機械学習と計測ナノデバイスという 異分野間共同研究 3.MSSセンサによる嗅覚センシング • 大阪大学 産業科学研究所知能推論研究分野 機械学習技術の検討、数値実験の実施 鷲尾 隆・吉田 剛・鷹合孝之・二ノ宮陽一 • 物質材料研究機構 国際ナノアーキテクトニクス研究拠点 計測デバイス開発及び測定実験の実施 吉川元起・今村 岳
- 18. ニオイ 空気 0 時刻 ニオイ 濃度 矩形のニオイガス インジェクション 従来の嗅覚センサ 0 50 100 150 0 2000 40000 50 100 150 0 2000 4000 推定したい 未知対象計測データ ガスの種類・濃度 の推定結果 ニオイを帯びた空気 無臭のきれいな空気 多種膜型表面応力センサ （MSS) 0 50 0 2000 4000 センサ１ 電圧(mV) Sensor 1 Sensor 4 0 50 100 150 0 2000 4000 センサ２ 電圧(mV) 0 50 100 150 0 2000 4000 センサ３ 電圧(mV) 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) 電圧 ΔV センサ出力(mV) X=[ΔV1,ΔV2,…,ΔV7] センサ 7 出力ΔVと化合物ガスの 種類・濃度の関係を学習 機械学習による推定 濃度 出力電圧 ΔV 特性の異なる複数センサ 情報を統合しニオイを推定 センサ 1 濃度 MFC1 MFC2 MSSチャンバー N2 N2 試料 インキュベータマスフローコントローラ ヘッドスペースガスV1,in (t) V2,in (t) F F ポンプと流量計が必要
- 19. 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) 推定したい 未知対象計測データ ガスの種類・濃度 の推定結果 多種膜型表面応力センサ （MSS) Sensor 1 Sensor 4 センサ出力(mV) X=[ΔV1,ΔV2,…,ΔV7] センサ 7 出力ΔVと化合物ガス の種類・濃度の関係 計測指向の新機械 学習による推定 濃度 出力電圧 ΔV 特性の異なる複数センサ間 で入力の不規則性をキャン セルし、ニオイを推定 センサ 1 濃度 新たに提案する嗅覚センサ 0 時刻 ニオイ 濃度 不規則なニオイ ガス入力 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) 電圧 ΔV 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) MSS MSSのみでOK!! 試料 世界初!!
- 20. 新たに提案する嗅覚センサの実証 MSS ４CH 学習データベースの準備 出力波形：𝑌𝑔1 出力波形：𝑌𝑔2 出力波形：𝑌𝑔3 出力波形：𝑌𝑔4 出力波形：𝑌𝑔1 出力波形：𝑌𝑔2 出力波形：𝑌𝑔3 出力波形：𝑌𝑔4 出力波形：𝑌𝑔1 出力波形：𝑌𝑔2 出力波形：𝑌𝑔3 出力波形：𝑌𝑔4 出力波形：𝑌𝑔1 出力波形：𝑌𝑔2 出力波形：𝑌𝑔3 出力波形：𝑌𝑔4 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) センサ出力(mV) 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) 0 10 20 30 40 50 0 2000 4000 センサ７ 電圧(mV) 機械学習 推定アル ゴリズム? ニオイの実計測 0 50 0 2000 40000 50 0 2000 40000 50 0 2000 40000 50 0 2000 4000 センサ出力(mV) ほぼ１００％正しい ニオイを推定 世界初!!
- 21. 機械学習手法の複雑さと精度・解り易さの関係 現実世界は往々にして複雑 精度良く表すには、その基本的仕組みに加え 細かな効果や未知外乱などの表現が必要。 表現の精度 表現の複雑さ 表現の複雑さ 表現の解り易さ Deep Learning 線形回帰・判別 決定木 Bayesian Net Perceptron Neural Net Suppot Vector/ Kernel Machine Naïve Bayes Deep Learning 線形回帰・判別 決定木 Bayesian Net Perceptron Neural Net Suppot Vector/ Kernel Machine Naïve Bayes 表現の精度と解り易さは相反することが多い。
- 22. 機械学習手法の複雑さと必要データ量の関係 複雑な手法は決めるべきパラメータ数 が多く、性能を出すには多くのデータ 量を必要とする。 必要なデータ量 表現の複雑さ Deep Learning 線形回帰・判別 決定木 Bayesian Net Perceptron Neural Net Suppot Vector/ Kernel Machine Naïve Bayes 表現の精度と解り易さは相反することが多い。 データ量 学習精度 Deep Learning 決定木 1 10 100 1000 104 105 106 0% 100%
- 23. まとめ •機械学習による先端ナノデバイス計測実現の ３つの具体例を紹介した。 •機械学習・高度統計処理によるデータの • 適切な時空間や特徴空間への変換 • 適切な特徴を抽出した推定 • 適切な複数出力情報の抽出・統合による推定 •エッジコンピューティングにおける • 高効率な機械学習・高度統計処理によるデータ の選択・圧縮 •計測分析の高精度化、高信頼化、高機能化、 高効率化、コンパクト化、低コスト化 23
- 24. 今後の展望 •計測技術サイド • 先端計測分析技術は今後一層複雑化 • 機械学習技術との結合ニーズはますます増大 • 計測分析のコンパクト化、低コスト化の実現 • 機械学習サイド • ビッグデータを解析するだけでなく生み出す機械学習 • 計測問題に適合する機械学習技術の発展 • 機械学習原理研究へのフィードバック •留意すべき点 計測デバイスの情報処理の機械学習による置き換えが進む。 計測デバイスのチューニングから機械学習のチューニングに。 計測技術・センサ技術やその製品のコモディティー化が進む。
