AIによる分析手法 【センサエキスポジャパン2021】
•Download as PPTX, PDF•
0 likes•173 views
センサエキスポジャパン2021にて講演した、よく使われるAI技術とその特徴をまとめた資料です。
Recommended
More Related Content
What's hot
What's hot (9)
Similar to AIによる分析手法 【センサエキスポジャパン2021】
Similar to AIによる分析手法 【センサエキスポジャパン2021】 (20)
More from Koichi Masukura
Recently uploaded
Recently uploaded (9)
AIによる分析手法 【センサエキスポジャパン2021】
- 4. Bright Vision 人工知能の特徴 人工知能ができること 人工知能ができないこと 決められた仕事を正確にこなす - モノや人を運ぶ、きれいにする - 作物を育てる、製品を組み立てる - 事務処理、管理作業 何かを見分けて、適切な答えを返す - 不審者や犯罪等の監視 - 定型的な顧客対応 (販売, 問い合わせ対応など) - 翻訳、通訳、テープ起こし 今までのデータに基づき、分析や予測する - 会社分析、株価予測 - 天気予報 - ビジネス分析、人事 ビジョンや目標を設定する - 事業経営、新規ビジネスの創出 - 戦略策定、ロードマップの作成 目に見えない問題を発見し解決する - カウンセリング、教師、コンサルティング - 研究者、リサーチャー 0から、まったく新しいものを作り出す - アーティスト、クリエーター、デザイナー - プロデューサー、新商品開発 感情や感性に関わるコミュニケーション - ディレクター、マネージャー、 営業提案 - ライター、演出 人と人工知能のそれぞれに得手不得手がある
- 7. Bright Vision 人工知能の主な適用例 運 輸 金 融 • AIでのコールセンター業務 • 倒産や貸倒リスクの予測 • 株や先物などの自動 トレーディング • SNS書き込みを使った 株価予測 メディア • トラックやフォーク リフトの自動運転 • ドローンによる運輸 • 配送ルートの最適化 • 倉庫の自動整理、 自動ピッキング • 記事の自動生成 • 読者の興味に合わせた ニュースの提供 • 広告効果の予測と最適化 店 舗 / サービス • 画像認識による自動レジ • 万引き等の自動監視 • 個々の商品ごとの売上げ 予測と仕入れの自動化 • 顧客の好みに合わせた 商品をおすすめする 製 造 • 組立ロボットの自動制御 • 品質チェックの自動化 • 売上げ、在庫予測と生産 計画の最適化 医 療 / 介 護 • 電気、ガス、水道の 需要予測 • 発電所等の最適制御 • インフラの故障予知 • 機器側の自動最適制御 • 自動監視等のセキュリティ インフラ マネジメント/事務 • 高度なスケジュール管理 • 帳簿づけの自動化 • 音声認識による議事録作成 • 機械翻訳、通訳 • 従業員の評価、管理 • 経営リスクの分析 • レントゲン画像等の 自動診断 • ロボットによる介護 • 医薬の効率的な開発 • 病気診断支援システム ありとあらゆる業界で適用できる可能性がある 6
- 10. Bright Vision 主要なアルゴリズム 特徴、精度、速度がさまざまなので 解決したい課題に合わせて選択する必要がある アルゴリズム例 • ニューラルネットワーク • ランダムフォレスト • サポートベクターマシーン • 遺伝的アルゴリズム • ロジスティック回帰 • 隠れマルコフモデル • K-Means • ナイーブベイズ ： アルゴリズムの分類 • 教師あり学習 望ましい入力と出力の例に基づいてモデルを作る (画像認識、音声認識、分類、予測など) • 教師なし学習 入力データだけでモデルを作成する (異常検知、クラスタリング、特徴量抽出など) • 強化学習 周りの状況がAIの行動が決め、AIの行動が周りの 状況を変えるときの、最適な行動を決める (ロボット制御、ゲームやスポーツをプレイするなど) •進化計算 状況に合わせた最適なパラメータを探索する (組合せ最適化、経路最適化、設計最適化など) 9
- 11. Bright Vision データ分析と機械学習手法の高度化 (教師あり学習) 10 1変数に対する出力を 直線で回帰(判別) 単回帰(最小二乗法) 多変数に対する出力を 直線で回帰(判別) 重回帰分析、線形判別分析、 ロジスティック回帰、線形SVMなど 多変数入力 に拡張 非線形関数 の利用 多変数に対する出力を 非線形関数で回帰(判別) ニューラルネットワーク, カーネルSVM, RandomForest など 空間的, 時間的 特徴の利用 空間的(画像など), 時間的(時系列データ)な 特徴を利用した回帰(判別) 畳み込みニューラルネットワーク(CNN), 再帰ニューラルネットワーク(RNN)など x1 x2 y y x1 x2
- 14. Bright Vision ロジスティクス回帰 13 重回帰分析の回帰値に対して、シグモイド関数を適用することによって、 ２クラス判別問題に利用する手法。 単純パーセプトロンと等価なモデル。 シグモイド関数 (0≦f(x)≦1) という形状でモデル化して、 (ただし, fはシグモイド関数) 計算結果が0に近ければクラス1、1に近ければクラス２に 分類する手法。 重回帰分析と違い解析的にパラメータwを算出することができないため、 勾配降下法や準ニュートン法などを利用してパラメータを算出する。
- 15. Bright Vision K-Means 14 もっともメジャーなクラスタリング手法。 性能が安定しており高速だが、あらかじめクラス数を指定する必要がある K-Meansを一般化したものにEMアルゴリズムがある。 1. ランダムにクラス中心の 初期位置を決める 2. 各データを最も近いクラス中心の クラスに分類する 3. クラスごとのデータの重心位置に、 クラス中心を移動させる 4. 2~3を繰り返して収束したら、 クラスタリング終了 https://en.wikipedia.org/wiki/K-means_clustering
- 16. Bright Vision ナイーブベイズ 15 ベイズの定理を使ったクラス分類手法の一つ。 特徴ベクトルの各要素が互いに独立であるという仮定を置いて、問題を単純化することで 高速でそこそこの精度を実現することができる。 ベイジアンフィルタとして、迷惑メール検出によく使われる手法。 Ci : i番目のクラス x=(x1, ..., xn) : 特徴ベクトルと すると、ベイズの定理より 特徴ベクトルの各要素が 独立だと仮定すると 分母はどのクラスかによらず 一定になるので 上式ですべてのクラスに対して 事後確率を求めて、 最も高いクラスに分類する
- 17. Bright Vision 遺伝的アルゴリズム 16 https://www.oit.ac.jp/japanese/voice/joho/detail.php?id=201708002 進化計算のなかで最もメジャーでよく使われるアルゴリズム。 生物の進化をモデル化した手法。 スケジュール最適化、シフト最適化など、多数の利用がなされている。 1. ランダムで複数の初期個体をつくる 2. 個体の2つを選んで、遺伝子(特徴ベクトル) を混ぜ合わせて新たな個体を作る (交叉) 3. 少ない確率で、遺伝子をランダムに変化させる (突然変異) 4. 各個体を評価して、劣っている個体を減らす （淘汰） 5. 2~4を収束するまで繰り返す
- 19. Bright Vision ランダムフォレスト (Random Forest) 18 決定木を多数作成し、それぞれの決定木の出力の多数決によって判別を行う手法。 回帰のときはそれぞれの決定木の出力の平均とする。 アンサンブル学習(バギング)により、一般的な決定木より性能がよい。 Step1: 学習データから複数の部分データ集合を作成 https://www.nikkei-r.co.jp/glossary/id=1599 Step2: それぞれの部分データ集合で決定木を作成 Step3: それぞれの決定木の出力を多数決して判別する （回帰時は平均値をとる）
- 20. Bright Vision 勾配ブースティング木 (GBDT: Gradient Boosting Decision Tree) 19 ブースティング手法を利用した多数の決定木による学習手法。 現在最も性能がよい手法の一つで、Kaggleなどのコンテストでもよく使われる。 1: 学習データから決定木1を作成 2: 決定木1での残差誤差に対して決定木2を作る。 この際に損失関数をいままでの決定木で偏微分 して勾配を求める 3: 作った決定木の学習率(重み)を求める 4: 2,3を繰り返して多数の決定木をつくる 5: 推論時は、決定木の重み付き平均を結果とする 決定木1 決定木2 決定木3
- 21. Bright Vision ニューラルネットワーク (ディープラーニング) 20 入力 出力 入力層 隠れ層 出力層 x1 x2 x3 x4 y1 y2 単純パーセプトロンを多層に重ね、複雑なモデルをあらわせるようにした手法。 回帰問題にも判別問題にも利用される。 層数が深いもの（4層以上）をディープラーニングという 誤差信号を出力層から入力層に向かって 伝搬させながら、誤差関数の勾配を求める 誤差逆伝搬法を利用して学習を行う。 活性化関数、誤差関数、勾配降下法の種類 などは様々なものを利用できる。 活性化関数に ReLU という関数を使うことで 多層の学習ができるようになった (2012年)
- 22. Bright Vision いろいろなディープラーニング CNN （Convolutional Neural Network：畳み込みニューラルネット） 21 ディープラーニングでの画像認識は、ほぼCNNを利用している 特徴量抽出(畳み込み)と、特徴をまとめる（プーリング）を繰り返して画像の特徴を出す 最近は100層以上の深いネットワークが使われる 画像以外にも、音声認識、自然言語認識等にも使われる https://en.wikipedia.org/wiki/Convolutional_neural_network CS231n: Convolutional Neural Networks for Visual Recognition, Lecture7, p22
- 23. Bright Vision いろいろなディープラーニング RNN （Recurrent Neural Network：再帰ニューラルネット） 22 ネットワーク内にループ構造を持つニューラルネット 機械翻訳、チャットBot、文章生成、音声認識・合成、センサ情報処理など 時系列データを扱うのに有効 ループを時間方向で展開することで、ネットワークの学習を行うことができる ループ構造を持つネットワーク https://en.wikipedia.org/wiki/Recurrent_neural_network RNNによるテキスト翻訳 ループを時間方向に展開 翻訳元テキスト 翻訳後テキスト
- 24. Bright Vision いろいろなディープラーニング GAN （Generative Adversarial Networks：敵対的生成学習） 23 画像生成、画像変換など自動的にコンテンツを作るのによく使われる 生成器(Generator)は判別器(Discriminator)を騙すような画像をつくるように学習、 判別機は本物と生成器で作られた画像とを判別するように学習する CNNと組み合わせたDCGAN(Deep Convolutional Generative Adversarial Networks)が有名 Generator （本物に似せて生成） Discriminator （本物か偽物・生成さ れたものかを判別） ランダム ベクトル 生成された画像 本物の画像 本物か偽物 かの判別結果 GANの概要 DCGANの応用（Pix2Pix） https://github.com/phillipi/pix2pix
- 25. Bright Vision いろいろなディープラーニング 深層強化学習 (Deep Reinforcement Learning) 24 自分の最適な行動を決める強化学習にディープラーニングを組み合わせたもの エージェントが環境に応じて行動を決め、その結果の報酬の総和が最大になるように学習する 囲碁のAlphaGoのベースになったり、テレビゲームで高得点を出したりする ロボットの操作や自動運転などにも応用できる 強化学習の概要 囲碁におけるの強化学習 なにもなし +20点 -30点 -5点 https://www.slideshare.net/DaveSelinger/chakrabarti-alpha-go-analysis
- 26. Bright Vision 機械学習手法の選び方ガイド 25 どのような問題を解きたいか？ 過去の結果に基づいて 何かを予測/分類したい データの特徴を解析 したい。異なるパターン を抽出したい 制約条件化で、 最も効率的な 組合せを見つけたい ロボットやプレイヤー などの最適行動を 決めたい 教師あり学習 進化計算, 数理最適化 教師なし学習 (データマイニング) 強化学習 - ベイズ最適化 - 遺伝的アルゴリズム 深層強化学習 データの形式は? 画像, 映像, 音声, 自然言語, 時系列など 表形式データ ディープラーニング (CNN / RNN) - Random Forest - 勾配ブースティング - サポートベクターマシーン - 異常検知 - 次元削減 (PCAなど) - クラスタリング (K-Means) - 頻出バターン抽出
- 28. Bright Vision IoTシステムの全体像 27 データベース データレイク AI・処理 (データ分析, 判断, 指示) エッジ コンピューティング 機器情報の収集 ユーザ インタフェース データ連携 システム連携 他システム クラウド 機器への指示 判断モデル API ネットワーク デバイス アプリ・UI デバイスの情報をネットワークでクラウドへ、 クラウドで処理した情報をネットワークでデバイスへ
- 31. Bright Vision 自動運転における状況把握 30 入力 データ 状況把握 意味認識 カメラ画像 セグメンテーション 物体認識 ・レーン認識 ・信号認識 ・標識認識 ・障害物検知 ・自車位置推定
- 33. Bright Vision 状況に応じた行動の決定 1. ルールベースの行動決定 • 状況や条件ごとに、どのような行動をとるかを決めておく （決定木、辞書ベースの手法） • 行動のコントロールが容易（おかしな行動をとらない） • 複雑な行動決定は難しい。ルールを決める人以上の性能はでない 32 決定木 https://assign-navi.jp/magazine/consultant/c41.html https://www.ibm.com/think/jp-ja/watson/what-is-knowledge-base/ 辞書による行動決定
- 34. Bright Vision 状況に応じた行動の決定 2. 強化学習での行動決定 • 行動の結果に対して報酬(罰則)を定義して、 報酬を最大化するような行動を試行錯誤で決定する手法 • 複雑な行動決定が可能。人間を超える性能がでる可能性あり • 思いもよらない行動をとる可能性もある。 学習中は何度も望ましくない行動をとる 33 なにもなし +20点 -30点 -5点 強化学習のイメージ 囲碁における強化学習 https://www.slideshare.net/DaveSelinger/chakrabarti-alpha-go-analysis
- 35. Bright Vision IoT&AI PJのよくある失敗パターン 1. 費用と効果を正確に見積もってから取り組もうとする ⇒ IoTは効果が長期間、広範囲に及び、見積もりが難しい。 AIはそもそもやってみないと、どれくらい性能がでるかわからない。 まず小さく始めて、トライ＆エラーで進める必要がある。 2. あらゆるデータを収集、蓄積してから分析しようとする ⇒ 得られるデータのほとんどは価値のないデータで、分析しても有益な 結果は得られない。 仮説を立てる → データ収集 → 分析・モデル化 で進めることが必要。 3. 経営層が関与しない。現場に一任する ⇒ IoT基盤は全社に関係する基盤となる。また技術を導入するだけで なく、プロセスや体制にも影響するため、経営層が関与しないと 単なるカイゼンで終わり、効果も限定的となる。 4. すべて自社内でやろうとする。逆にすべてを社外に丸投げする ⇒ 最新かつ広範囲の技術スキルが必要なので、自社で必要な人材を確保するの は難しく不効率。かといって、すべてを社外では自社にノウハウが残らない。 コアとなるところは自社、それ以外は社外というメリハリが必要。 ニッコロ・マキャヴェッリ 天国へ行く最も有効な 方法は、地獄へ行く道を 熟知することである 34
- 36. Bright Vision 機械学習プロジェクトの全体像 35 現状把握 データの収集 学習方法/モデル選択 データ前処理 モデル作成と学習 学習結果評価 システム導入と運用 実用 不可 継続的に アップデート • 何が課題で、解決したときの効果は？ • どういうデータが、どの程度得られるか？ • 機械学習が向いている課題か？ 可能そうか？ • 実験が可能なデータの質と量 • 教師データも収集/作成 • 学習種類(教師あり/なしなど)の選択 • アルゴリズムの選択 (先行研究などを参考に) • 実用化したときのHW/SW制限なども考慮 • データ欠損、ノイズ等の処理 • データの整形、加工、正規化 • データの水増し (Data Augmentation) • 学習環境の用意 (ローカル/クラウド) • ハイパーパラメータの設定と学習 • 交差検証での評価 • 目視での評価 • まずは小さく始めてみて、次第に拡大する • 判断ミス時の対応を検討しておく
- 37. Bright Vision 便利なサービス、ソフト、ハードウェア 36 クラウドサービス Amazon Web Service Google Cloud AIライブラリ Scikit-learn TensorFlow & Keras ノーコード アプリ開発 Adalo Bubble IoT試作用ハードウェア Raspberry Pi M5Stack 無料から数千円程度で試してみることが可能 日本語の解説書や動画などで、独学でも習得できる
- 38. Bright Vision 例）ラズパイとディープラーニングを使った機器異常検知 37 加速度センサ (ADXL345) 加速度データ (I2C, 1kHz) LED (異常時に点灯) モーター 偏心重り スピードコントローラ （PWM制御） 異常検知する機器 Raspberry Pi3 正常時の加速度データ 正常時モデル ディープラーニングで 正常時モデルを学習 正常時モデルを使って 異常検知する モーターの加速度データから、ディープラーニングで 正常時のモデルを学習して、故障等の異常検知を行う 次世代センサ協議会で、実際に上記システムのハンズオンセミナーを定期的に実施しています。 (現在はコロナウィルスの拡大により休止中)