2018年度 日本顕微鏡学会生体解析分科会 研究会 「失敗から学ぶ顕微・可視化技術」 @ホテルメルパルク松山
Hokkaido MotionControl Network(DoMCN) 石岡 準也
協力:北海道大学 超高圧電子顕微鏡室、 株式会社リコー VC開発部
①本講演の発表資料は
随時写真撮影して頂いて結構です。
SlideShareサービスにも登壇資料をアップロードしています。
②講演中体験デモを3回挟みます。
五分くらいの休憩時間に当てていただいても構いません。
QR
⓪簡単な自己紹介 と 参加の動機
①バーチャルリアリティ(VR)導入
視聴体験、装着体験、事例紹介
②拡張現実(Augmented Reality)導入
HoloLens体験、(事例紹介)
③北大超高圧電顕での実験事例
④これからの未来について分かっている事
⑤DoMCNのコミュニティ紹介
時空間を超越して遠隔イベント体験をできる、
VR・AR技術で科学の進歩とコストダウンが
両立する
石岡 準也
北海道大学工学研究科 応用物理学専攻 修了
鏡映対称の破れた電荷密度波の発見(PRL, 2010)
北海道大学工学研究院附属
エネルギーマテリアル融合領域研究センター
イオン液体中ZnOへの超高圧電顕内レーザー照射
による光腐食効果その場観察(AIP Adv., 2017)
PRL 2010 AIP Adv. 2017
学生へのテーマ指導の中で、失敗と成功の詳細が
視えなくなり始めた困難を解決する方法を考えて実行
RICOH THETA + UCSシステム + Virtual desktop + VR
空間ユーザーインターフェースを利用した実験支援環境
Mikulus/ XVI Inc.
動画
指導係
+自分専用
作業空間
RICOH THETA + HoloLens + Remote Desktop + UCS
空間を全部使って論文検索・PDF同時展開可能
空間ユーザーインターフェースを利用した自己支援環境
動画
学生or
研究員
“体験”をベースに理解できるよう
プログラムしましたので
しばしお付き合いください。
VR体験中の注意
・酔いを感じる手前で
すぐ離す
(脳が慣れるまで個人差あり)
・ゴーグルの脱着を丁寧
にお願いします
Oculus Go
21800円
日本列島360 by VoxcellDesign Inc. @Voxelkei
操作ボタン 不使用
前後左右上下にCG
ゆっくり飛行
Oculus Go
Oculus Goでできること
・全天球画像ビューア
・3DCG動画視聴
・VR内Web会議、ライブ参加
・PCなどに映像のミラーリング
できないこと
・頭、手の位置情報を正確に反映させること
Oculus Go
AR体験中の注意
・酔わないが視野角が狭い
・ゴーグルの脱着を丁寧
にお願いします
Microsoft
HoloLens
333800 円
HoleLenz by VoxcellDesign Inc. @Voxelkei
HoleLenz Gate by VoxcellDesign Inc. @Voxelkei
コツ:HoloLensのカメラに指を見せる
すばやく倒してつまむ動作
マウスで言うところの左クリック
「air tap」
・壁床天井に貼りつく孔を開ける
・2m先に、通過可能な孔を開ける
環境を認識できるコンピュータ
できること
・空間把握と自己位置推定
・動的画像認識、音声認識
・windows 10
・PCと連携、リモートデスクトップ等
・無線デバイス利用(wi-fi,BT)
・複数台での位置情報の相互利用(Sharing)
・写真・動画の撮影→onedriveなどに保存
・両手入力etc.(OSのupdateで進化が続く)
HoloLens
Oculus Go
没入感
HoloLens
現実度0からスタート 現実度100からスタート
自己補助
イメージの世界
現実の世界
集中
自分ゴト化
遮蔽
情報空間
直観的理解
安心感
場所に機能
を付加
没入感
現実度0からスタート 現実度100からスタート
自己補助
・目の前のモニタ
の作業内容
・遠隔の実験風景
・危険の兆候
・実験環境変化
・目の前の実験内容
のアーカイブ
・未経験部分の補足マニュアル
・プロの助言
・参照文献の展開
移動コストの不自由から解放されたい
時空を超えた仕事スタイルのアップデートが近い
https://channel9.msdn.com/Events/de-code/2017/keynote-en
Alex Kipman @Microsoft de:code 2017 keynote 2017/5/23
PC
PC+VR
独立型AR
2人招待すると…
臨場感
場所とデバイスを超越
北海道大学 超高圧電子顕微鏡 JEM-ARM1300
日本電子JEM-ARM1300 HPより
RICOH THETA + HoloLens + Remote Desktop + UCS
空間を全部使って論文検索・PDF同時展開可能
Google
Scholar
Remote
desktop
Wi-fi
Photo
PDF
顕微鏡用
モニタ
(実物)
RICOH THETA + HoloLens + Remote Desktop + UCS
空間を全部使って論文検索・PDF同時展開可能
動画
RICOH THETA + HoloLens + Remote Desktop + UCS
空間を全部使って論文検索・PDF同時展開可能
RICOH R
Win 10 PC
顕微鏡用
モニタ
(実物)
RICOH THETA + UCSシステム + Virtual desktop + VR
Mikulus/ XVI Inc.
360双方向会議アプリ
作業用ディスプレイ
(仮想)
RICOH Rからの映像
自分
RICOH THETA + UCSシステム + Virtual desktop + VR
Mikulus/ XVI Inc.
動画
THETA ① THETA ②
THETA①からのライブ映像
THETA②からのライブ映像
アプリの操作画面
RICOH Unified Communication System Apps
“RICOH TAMAGO 360 VR Live”
ビデオ会議用システム
インターネットクラウドを経由して
複数拠点の画像・音声を送受信するアプリ
PC
Android
iOS
全て対応済み
↓
どこからでも見られる
皆リモートで超高額装置での実験を眺めよう
「その場観察その場観察」
・フルHD解像度360ストリーミング(使用帯域 数Mbps)
映像遅延0.3-0.5 sくらい 射程距離1.5 m
・実験室のモニタ、実験者、マシントラブル予兆
把握できる 通訳の補助も実施済み
・危なくなったら教授にプッシュ通知送信(独自実装)
・全天録画→事件後に検証可能
・機密の仕事はバーチャルの追加モニタ内で完結
・HoloLensでWPFアプリ動かすだけ 簡単
↓2018/10/ 6 Tokyo HoloLens
ミートアップ vol.10
バーチャル空間から現実の講演を眺めよう
「講演空間その場観察」
演者席
遠隔参加席
自宅(札幌) Oculus Rift
(Core2.0
/Mikulus)
V-デスクトップ
Sumsung
Oddysey+
WinMR
V-デスクトップ
クラウドを介した
空間共有で
ライブサポートかつ
知見発掘
or
従来の実験 時間
実験・データ取得 データ整理 データ報告・討論
このあたりで
真の成否に気付き始める
次の実験・再実験
時間
実験・データ実況報告・討論 次の実験・再実験
現実をベースに早く判断する環境
追検証もできる
ライブサポート有りの実験
(イレギュラー発生時) 別実験
2017年
8月にインターン契約を締結。実証試験も許諾を得る。
9月にリコー1ヵ月間滞在。開発と検証を行う。
10月に初期の組み込み、チューニング、バグ報告。
・研究室内に導入し、基本機能を説明する(計4回)。
・プライバシー保護寄りに画質設定し、説明。
・VR機器、AR機器を希望者に貸し出すことを宣言。
11~12月 運用法改善、9月時点で不足の機能実装。
1月 運用終了 使用機器を引き揚げる。
マシンタイムが週1、2日
従来の実験 時間
実験・データ取得 データ整理 データ報告・討論
このあたりで
真の成否に気付き始める
次の実験・再実験
時間
実験・データ実況報告・討論 次の実験・再実験
現実をベースに早く判断する環境
追検証もできる
サポート有りの実験
(イレギュラー発生時)
何も起きなかった(その場観察実験そのものが遅滞)
試料作りに致命的な遅れが生じて観察に辿り着けない
仕方がないので装置の外部利用者(外国人学生)にサポートを試した
年間計画を失敗した。
学生の就活時期の長期化により、
基礎力の養成が不十分なまま秋に突入してしまった
スタッフとしての失敗
実施条件
・研究ツールとして運用
・強制はしない
・使いたくなったら申告→
使い方のレクチャの後
無制限使用可能権利を与える
・遊びに試すも可
・プライバシーは最大限注意
当時のアンケート(5分強制)
実施条件
・研究ツールとして運用
・強制はしない
・使いたくなったら申告→
使い方のレクチャの後
無制限使用可能権利を与える
・遊びに試すも可
・プライバシーは最大限注意
当時のアンケート(5分強制)
リテラシー
受容性
キャズム
リテラシーの世代間格差
「リスクを負う立場の層(教授・技官)」、
「下に教えたことがある」層(D,M)、
「まだ教わるだけ」の層で評価が別れた。
教授
指導環境の選択肢増は歓迎。
ただし、ゴーグルはかけたくはない。
VR技術の情報を追いかける時間はない。
学部生・院生
THETA知らない学生が低学年に分布。
今後ゴーグルが未来に運用される想像が
学部四年生は誰もできていない。
なお、ハイテクの運用に拒否反応も観測。
一方で外国人留学生は非常に好意的
国公立の研究機関の材料研究現場にVR・AR
の技術をまじめに持ち込んだ初めての事例
システムが欲しいと思っても誰も作ってくれないので
前例ごと自分で作ることにした
①すでに必要機材ほぼ全部買ってあった
②たまたまリコーのインターンに受かった
③リスク全部引き受け(2017.9-12月)
(人材育成本部を介した個人-企業間契約
※大学-企業間の共同研究契約を避けた)
④プライバシーと情報管理指針は徹底遵守
学生はすでに学問から離れた進路選びを優先している
教員も削減されて現場のエキスパートが不足
ネットワーキング(学会とか)のハードルを下げないと
意外な発見どころか普通の発見も今後あやうい
しかし前例がないと何も起きない
なので前例を作れる若い人が
ネットワークで自然に繋がる活動が必要
数万円で消費財的に買えるデバイスが続々リリース
便利な組み合わせを考えるだけ
→考えられる人を育てる
RICOH R
約6万円
Insta 360 one X
約6万円
Oculus Go
約2万円
Lenovo Mirage Solo
約5万円
LookingGlass
約5万円
iPhone X
約10万円
Sony LSPX-01
約8万円
Zoom H3-VR
約4万円
撮
撮
録 視る
視せる
Tokyo MotionControl Network(TMCN)の
弟コミュニティとして、2018年5月にゆるく結成(非営利)
TMCN
HMCN(広島)
FMCN(福岡)
KumaMCN(熊本)
T2MCN(台湾)
DoMCN
Tokyo HoloLens Meetup Vol.10
10/6 マイクロソフト品川本社
(石岡も5分間トークで登壇)
KMCN(関西)
”HoloMagicians”
TMCN系列の中でも
ウェアラブル系に
興味の強い人々
2043人
札幌 HoloLens Meetup Vol.1(4/21)札幌 HoloLens Meetup Vol.2(7/21)札幌 HoloLens Meetup Vol.3(10/27)
・サービスを有効活用して
効率的に勉強会を開催して
・特にSNSを活用して、
リピーターを増やす
・直接会って信頼を深めたり
地方参加のきっかけを作ったり
個人の活動履歴 https://connpass.com/user/Junya_Ishioka/
ほぼ好奇心だけで遊びに来てくれる人たちの輪が大学の外にあることが判明(超少数)
情報量の点では、
会って一緒にいる事 ≫ 遠隔から参加する事
に変わりがないが、質が変わった。
(電話で物足りなかった部分が360電話では補完)
時空間を超越して遠隔イベント体験をできる、
VR・AR技術で科学の進歩とコストダウンが
両立する
研究部会
安永先生並びに
ご同席の皆様
登壇の機会を
与えていただき
ありがとうございます
実証試験協力: 北海道大学 超高圧電子顕微鏡室
技術協力: 株式会社リコー VC開発部
https://www.slideshare.net/JunyaIshioka/180721-the-
concept-of-social-electron-microscope-107005816
Social Electron Microscope構想
-先端VRとHoloLensを大学の材料研究現場に唐突にぶっこんでみーた話-
2018/7/21 札幌HoloLens ミートアップ vol.2 ~夏編~
https://www.slideshare.net/JunyaIshioka/181006-social-
electron-microscope2-simulation-of-propagating-xr-culture
電子顕微鏡運用の遠隔支援システム(VR×360゜×AR) を実装してわかったこと
2018/10/6 東京HoloLensMeatup Vol.10@日本マイクロソフト
https://www.slideshare.net/JunyaIshioka/181017-
osakaxrmeetinglt
YOUは何しに大阪へ!?
2018/10/17 【大阪】XRミーティング@大阪駆動開発
関連発表
#DoMCN

181227-effect of introduction of VR/AR technique and 360 livestreaming for High-Voltage Electron Microscope