Copyright © Tokyo Electron Device LTD. All Rights Reserved.
工場内レガシー機器のAIを利用した
IoT化とエッジAIの可能性
東京エレクトロン デバイス株式会社
EC技術本部
第三技術部 グループリーダー
古賀 清人
株式会社ナレッジコミュニケーション
取締役副社長 COO
小泉 裕二
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 2
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 3
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 4
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 5
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 6
 机上では認識OK
 実際の製造工場で実地検証が必要
 カメラの問題
→照明の映り込み。
→外部の明るさの影響。
→設置位置。
机上検証の結果
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 7
東京エレクトロンデバイス長崎/ 会社概要
✓ 所在地 長崎県諫早市
✓ 設立 1987年11月
✓ 資本金 1億3400万円
✓ 従業員 138名
✓ 生産能力 13,000枚/月
※2017年7月1日より弊社の連結子会社
本社
エンジニアリングセンター
自社工場
(東京エレクトロンデバイス長崎)
蓄電ハイブリット電源
遠隔監視装置
CTカードシリーズ
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 8
東京エレクトロンデバイス長崎/ 主要生産設備
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 9
測定対象:全自動低湿庫
ドア開閉部分
センサの設置のクリアランス
縦方向:30㎜
横方向:特に制限なし
高さ(奥行)方向:特に制限なし
7セグのLEDの寸法は、2文字分で、横
25㎜、縦18㎜
ドア開閉部分
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 10
現場に設置&画像収集したセット
LED;ハーフミラー台座+(偏光板)+USBカメラ
映り込み防止と角度が重要
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 11
見えてきた課題:蛍光灯の映り込みと開閉作業に干渉しない設置を実現すること
機械にはこう見える!
蛍光灯の
映り込み
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 12
筐体
蛍光灯ノイズと作業者の低湿庫扉の開閉動作に干渉しないものを作成
筐体の制約で3cmの幅に収める必要あり
スイッチやLED表示が見えなくてもOKなので、
カメラの先端と表示部の間に蛍光灯の明か
りや映り込みがないような構造を検討
7SEG表示部
USBカメラ
ラズパイ
88
採用手法
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 13
使用するカメラ:手軽に手に入るUSBカメラを採用
⚫ 【製品仕様】
全長 約500cm
接続 USB2.0接続
解像度 640×480ピクセル
キャプチャー解像度 最大640×480
フラッシュ機能 LED 4球白色
焦点距離 2~10cm
動画フレーム 30fps
レンズ f2.4
レンズサイズ 約10mm
視角 約62度
防水性 カメラ部分のみ防水加工済み
対応OS
Microsoft Windows
XP/7(32bit/64bit)
防水 IP66
http://www.akibaoo.co.jp/c/01/4528483121327/
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 14
設置状況のまとめ
カメラ設置部 ケーブル取り回し ゲートウェイの設置
ドア開閉に干渉しない筐体
現場作業者の方の邪魔にならな
い取り回し
防湿庫の天面に設置
15Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
CustomVisionの学習プロセスとは?
16Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
会社紹介
16
会社名 株式会社ナレッジコミュニケーション
設立日 2008年11月 (創立2006年5月)
人数 28名
資本金 9,000,000円
代表者 代表取締役 奥沢 明
本社所在地 千葉県市川市相之川3-13-23 丸伝小川ビル3階
支社 熊本支社
事業内容 クラウドAI導入・運用支援等
Cloud
AI
HoloLens
Robot
経営理念
破壊的イノベーションで世界の在り方を変える
クラウド・AI・MRの分野で今までにない
付加価値を提供し、社会に貢献致します。
17Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
沿革
17
2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018
株式会社ナレッジコミュニケーション 設立
自社サービス基盤をパブリッククラウドに移行
クラウドインテグレーションサービス「ナレコムクラウド」提供開始
Microsoft Azure取扱い開始 / クラウド型機械学習提供サービス開始
熊本拠点(DevOps&RD)を設立
Microsoft HoloLensサービス提供開始
MRPP認定 / Azure Goldパートナー認定
創業 学び総合サイト「学び&おけいこのナレコム」提供開始
IoTビジネス共創ラボ参画
18Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
画像をアップロード
タグ付け
Custom Visionとは?
学習 テスト(API)
➢ Azure Cognitive Services のひとつ/画像認識サービス
➢ 機械学習の専門知識がなくても簡単に使用できる
➢ 数十の画像からモデル構築が可能
19Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
Custom Visionとは?
Azure Custom Vision Serviceで「きのこの山」
と「たけのこの里」を判別させてみる
https://azure-recipe.kc-cloud.jp/2017/12/custom_vision_2017adcal/
20Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
光の映り込む場所が変動するこの部分が読み取れない
学習する画像が重要
➢ USBカメラが固定でき一定の視野角が確保する必要有り!
➢ 扉の開閉ににより、USBカメラが少しずつずれる
➢ 蛍光灯の映り込みが発生!
➢ 数字を読み取れる視野角が確保できない
21Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
画像処理
人間の目で判別しづらい画像は精度もいまひとつ
取得画像をそのまま使用 取得画像を加工
22Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
(参考) Custom Visionの精度指標/Precision(適合率)、Recall(再現率)
https://azure-recipe.kc-cloud.jp/2017/12/custom_vision_2017adcal/
Precision
Recall
23Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
検証プログラム過程 検証プログラムの全体システム構成イメージ
全体システムイメージとAzure構成
Functions
(HTTP Trigger)
Functions
(Timer Trigger)
Custom Vision
推論結果
Power BI
Blob Storage
Table Storage
Raspberry Pi
(+SORACOM)
24 ℃
管理者
7セグ数字
データ取得
グラフ表示
開く
GET
推論結果
画像画像送信 画像
画像表示
10分毎に画像を取得
画像のアップロード
画像認識
推論結果の書き込み
Power BIで可視化
ブラウザから画像確認
画像認識
HTML画像取得
24Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
[5] を [2]と認識してしまう(反転)
[6] を [9]と認識してしまう(回転)
画像認識精度結果1
25Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
画像認識精度結果2
学習する画像を調整して精度向上
26Copyright © 2019 Knowledge Communication Co.,Ltd.All Rights Reserved.
画像データの収集
扉開閉時
時間軸(10分間隔)
湿
度
0
1
2
3
4
5
6
7
8
9
10
Power BIでの可視化
湿度安定状態 湿度安定状態
検証プログラムの結果
Copyright © Tokyo Electron Device LTD. All Rights Reserved.
まとめ
Copyright © Tokyo Electron Device LTD. All Rights Reserved. 28
まとめ
✓AzureのCustomVisionを用いることで7セグメントの数
字読み取りについて、高い精度を確認
✓ エッジAIの導入も視野に。
✓Azure IoT Edge:AIをコンテナ化し、Runtimeと一緒にエッジデ
バイスへ実装
✓レガシー機器への適応もアイデア一つでクリアできる!
✓USBカメラ+鏡+筐体
✓カメラの角度や光の加減で数字読み取りの精度が変化
✓カメラの設置場所等の現地環境の考慮が必要

工場内レガシー機器のAIを利用したIoT化とエッジAIの可能性

  • 1.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 工場内レガシー機器のAIを利用した IoT化とエッジAIの可能性 東京エレクトロン デバイス株式会社 EC技術本部 第三技術部 グループリーダー 古賀 清人 株式会社ナレッジコミュニケーション 取締役副社長 COO 小泉 裕二
  • 2.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 2
  • 3.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 3
  • 4.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 4
  • 5.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 5
  • 6.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 6  机上では認識OK  実際の製造工場で実地検証が必要  カメラの問題 →照明の映り込み。 →外部の明るさの影響。 →設置位置。 机上検証の結果
  • 7.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 7 東京エレクトロンデバイス長崎/ 会社概要 ✓ 所在地 長崎県諫早市 ✓ 設立 1987年11月 ✓ 資本金 1億3400万円 ✓ 従業員 138名 ✓ 生産能力 13,000枚/月 ※2017年7月1日より弊社の連結子会社 本社 エンジニアリングセンター 自社工場 (東京エレクトロンデバイス長崎) 蓄電ハイブリット電源 遠隔監視装置 CTカードシリーズ
  • 8.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 8 東京エレクトロンデバイス長崎/ 主要生産設備
  • 9.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 9 測定対象:全自動低湿庫 ドア開閉部分 センサの設置のクリアランス 縦方向:30㎜ 横方向:特に制限なし 高さ(奥行)方向:特に制限なし 7セグのLEDの寸法は、2文字分で、横 25㎜、縦18㎜ ドア開閉部分
  • 10.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 10 現場に設置&画像収集したセット LED;ハーフミラー台座+(偏光板)+USBカメラ 映り込み防止と角度が重要
  • 11.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 11 見えてきた課題:蛍光灯の映り込みと開閉作業に干渉しない設置を実現すること 機械にはこう見える! 蛍光灯の 映り込み
  • 12.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 12 筐体 蛍光灯ノイズと作業者の低湿庫扉の開閉動作に干渉しないものを作成 筐体の制約で3cmの幅に収める必要あり スイッチやLED表示が見えなくてもOKなので、 カメラの先端と表示部の間に蛍光灯の明か りや映り込みがないような構造を検討 7SEG表示部 USBカメラ ラズパイ 88 採用手法
  • 13.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 13 使用するカメラ:手軽に手に入るUSBカメラを採用 ⚫ 【製品仕様】 全長 約500cm 接続 USB2.0接続 解像度 640×480ピクセル キャプチャー解像度 最大640×480 フラッシュ機能 LED 4球白色 焦点距離 2~10cm 動画フレーム 30fps レンズ f2.4 レンズサイズ 約10mm 視角 約62度 防水性 カメラ部分のみ防水加工済み 対応OS Microsoft Windows XP/7(32bit/64bit) 防水 IP66 http://www.akibaoo.co.jp/c/01/4528483121327/
  • 14.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 14 設置状況のまとめ カメラ設置部 ケーブル取り回し ゲートウェイの設置 ドア開閉に干渉しない筐体 現場作業者の方の邪魔にならな い取り回し 防湿庫の天面に設置
  • 15.
    15Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. CustomVisionの学習プロセスとは?
  • 16.
    16Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. 会社紹介 16 会社名 株式会社ナレッジコミュニケーション 設立日 2008年11月 (創立2006年5月) 人数 28名 資本金 9,000,000円 代表者 代表取締役 奥沢 明 本社所在地 千葉県市川市相之川3-13-23 丸伝小川ビル3階 支社 熊本支社 事業内容 クラウドAI導入・運用支援等 Cloud AI HoloLens Robot 経営理念 破壊的イノベーションで世界の在り方を変える クラウド・AI・MRの分野で今までにない 付加価値を提供し、社会に貢献致します。
  • 17.
    17Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. 沿革 17 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 株式会社ナレッジコミュニケーション 設立 自社サービス基盤をパブリッククラウドに移行 クラウドインテグレーションサービス「ナレコムクラウド」提供開始 Microsoft Azure取扱い開始 / クラウド型機械学習提供サービス開始 熊本拠点(DevOps&RD)を設立 Microsoft HoloLensサービス提供開始 MRPP認定 / Azure Goldパートナー認定 創業 学び総合サイト「学び&おけいこのナレコム」提供開始 IoTビジネス共創ラボ参画
  • 18.
    18Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. 画像をアップロード タグ付け Custom Visionとは? 学習 テスト(API) ➢ Azure Cognitive Services のひとつ/画像認識サービス ➢ 機械学習の専門知識がなくても簡単に使用できる ➢ 数十の画像からモデル構築が可能
  • 19.
    19Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. Custom Visionとは? Azure Custom Vision Serviceで「きのこの山」 と「たけのこの里」を判別させてみる https://azure-recipe.kc-cloud.jp/2017/12/custom_vision_2017adcal/
  • 20.
    20Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. 光の映り込む場所が変動するこの部分が読み取れない 学習する画像が重要 ➢ USBカメラが固定でき一定の視野角が確保する必要有り! ➢ 扉の開閉ににより、USBカメラが少しずつずれる ➢ 蛍光灯の映り込みが発生! ➢ 数字を読み取れる視野角が確保できない
  • 21.
    21Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. 画像処理 人間の目で判別しづらい画像は精度もいまひとつ 取得画像をそのまま使用 取得画像を加工
  • 22.
    22Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. (参考) Custom Visionの精度指標/Precision(適合率)、Recall(再現率) https://azure-recipe.kc-cloud.jp/2017/12/custom_vision_2017adcal/ Precision Recall
  • 23.
    23Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. 検証プログラム過程 検証プログラムの全体システム構成イメージ 全体システムイメージとAzure構成 Functions (HTTP Trigger) Functions (Timer Trigger) Custom Vision 推論結果 Power BI Blob Storage Table Storage Raspberry Pi (+SORACOM) 24 ℃ 管理者 7セグ数字 データ取得 グラフ表示 開く GET 推論結果 画像画像送信 画像 画像表示 10分毎に画像を取得 画像のアップロード 画像認識 推論結果の書き込み Power BIで可視化 ブラウザから画像確認 画像認識 HTML画像取得
  • 24.
    24Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. [5] を [2]と認識してしまう(反転) [6] を [9]と認識してしまう(回転) 画像認識精度結果1
  • 25.
    25Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. 画像認識精度結果2 学習する画像を調整して精度向上
  • 26.
    26Copyright © 2019Knowledge Communication Co.,Ltd.All Rights Reserved. 画像データの収集 扉開閉時 時間軸(10分間隔) 湿 度 0 1 2 3 4 5 6 7 8 9 10 Power BIでの可視化 湿度安定状態 湿度安定状態 検証プログラムの結果
  • 27.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. まとめ
  • 28.
    Copyright © TokyoElectron Device LTD. All Rights Reserved. 28 まとめ ✓AzureのCustomVisionを用いることで7セグメントの数 字読み取りについて、高い精度を確認 ✓ エッジAIの導入も視野に。 ✓Azure IoT Edge:AIをコンテナ化し、Runtimeと一緒にエッジデ バイスへ実装 ✓レガシー機器への適応もアイデア一つでクリアできる! ✓USBカメラ+鏡+筐体 ✓カメラの角度や光の加減で数字読み取りの精度が変化 ✓カメラの設置場所等の現地環境の考慮が必要