Uploaded byEiji Sasahara, Ph.D., MBA 笹原英司
医療機器人財育成教育セミナー イン 九州
第三限：11:00-11:50 【防御は最大の武器：サイバーセキュリティーと医療機器】 イノベーション推進基盤としての医療機器サイバーセキュリティ
More Related Content
![AIシステムのセキュリティ：脅威となりつつあるAIの現状と課題 [English] Security of AI Systems: The Current...](https://cdn.slidesharecdn.com/ss_thumbnails/20241023css2024-250829030738-876ce56e-thumbnail.jpg?width=640&height=640&fit=bounds)
![サイバーセキュリティ対策の自動化に向けた機械学習技術の活用 [TTCセミナー, 2017/9/12]](https://cdn.slidesharecdn.com/ss_thumbnails/20170912ttcseminar-170917132813-thumbnail.jpg?width=640&height=640&fit=bounds)
医療機器人財育成教育セミナー イン 九州
- 1.
- 2. AGENDA 1. 海外の最新事例から 2. ビッグデータの相互運用性標準化とAI 3.サイバーセキュリティ／プライバシーとAI 2
- 3.
- 4. 1-1.医療機器に関連するセキュリティ脆弱性事例(1) （事例1）米国土安全保障省（DHS）ICS-CERT 「Advisory (ICSMA-17-318-01) PhilipsIntelliSpace Cardiovascular System and Xcelera System Vulnerability」 （2017年11月14日） （https://ics-cert.us-cert.gov/advisories/ICSMA-17-318-01） 心血管画像情報管理システムの セキュリティ脆弱性を公表 権限のない攻撃者がシステムに保存 された機微情報にアクセスしたり、機器 の構成情報を変更したり、ネットワーク 接続された機器にアクセスしたりする ことが可能 遠隔で不正利用することが可能 4
- 5. 1-1.医療機器に関連するセキュリティ脆弱性事例(2) （事例2）米国・国土安全保障省（DHS）ICS-CERT 「Advisory (ICSMA-16-089-01) CareFusionPyxis SupplyStation System Vulnerabilities」（2016年3月29日） （https://ics-cert.us-cert.gov/advisories/ICSMA-16-089-01) ケアフュージョン「Pycis SupplyStation」 システムの脆弱性 製薬剤管理システム「Pycis SupplyStation」 について、ベンダーサポートが切れた Windows Server 2003/XP版に多数の脆弱性 が存在するとして、注意喚起を行う US-CERT「Alert (TA14-310A) Microsoft Ending Support for Windows Server 2003 Operating System」(2014年11月） US-CERTが、ベンダーサポート切れWindows Server 2003について注意喚起を行っていた 5
- 6. 1-1.医療機器に関連するセキュリティ脆弱性事例(3) （事例3）オーストラリア・ロイヤルメルボルン病院 「Update regarding MelbourneHealth computer virus」 （2016年1月19日） （https://www.thermh.org.au/news/update-regarding-melbourne-health-computer-virus） 病理部門のWindows XPコンピューターがウイルス感 染し、院内の部門システムやWebサイトがダウンする事 案が発生 病院スタッフは、人海戦術で対応する事態と なった 病院建て替え費用をどう捻出するかが問題 となり、Windows XPのリプレースを先送りに した矢先に発覚 インシデントを受けて、ビクトリア州政府が 予算を計上することを表明 6
- 7. 1-1.医療機器に関連するセキュリティ脆弱性事例(4) 米国NIST・国立サイバーセキュリティセンターオブエクセ レンス（NCCoE）「NIST SP 1800-8：医療提供組織におけ る無線輸血ポンプのセキュア化」草案（2017年5月） 【無線輸血ポンプと通信系サーバの間のデータフロー】 医薬品ライブラリーの修正 ソフトウェアアップデートの実行 デバイスの遠隔管理 データフロー／プロセスの監査 7 出典：NISTNCCoE「NIST Cybersecurity Practice Guide SP 1800-8: Securing Wireless Infusion Pumps in Healthcare Delivery Organizations - Draft」（2017年5月）
- 8. 1-1.医療機器に関連するセキュリティ脆弱性事例(5) （続き）医療機器メーカーは医療機関の外部委託先！ ⇒サイバーサプライチェーン・リスクマネジメントにおける役割、 責任分界点の明確化が不可欠（クラウド環境では特に） ネットワークのコントロール ポンプのコントロール ポンプサーバのコントロール エンタープライズレベルの コントロール 8 出典：NIST NCCoE「NIST CybersecurityPractice Guide SP 1800-8: Securing Wireless Infusion Pumps in Healthcare Delivery Organizations - Draft」（2017年5月）
- 9.
- 10.
- 11. 1-2.マルウェアに起因するインシデント事例(3) （事例3）英国・国民保健サービス（NHS）関連医療施設で、 ランサムウェア「WannaCry」に起因する被害が多発 （2017年5月） 影響を受けるソフトウェアはWindows OS 「WannaCry」に感染するとコンピュータのファイルが暗号化され、OS が 起動しなくなり、コンピュータが使用できない被害が発生する可能性が ある 11 出典：NHSDigital （2017年5月18日更新）出典：National Audit Office「Investigation: WannaCry cyber attack and the NHS.」 （2017年10月27日）
- 12.
- 13.
- 14. 1-2.マルウェアに起因するインシデント事例(6) （事例5）米国・国土安全保障省（DHS） ・ICS-CERT「Alert (ICS-ALERT-17-181-01C) Petya MalwareVariant」（2017年6月30日） （https://ics-cert.us-cert.gov/alerts/ICS-ALERT-17-181-01C） ・US-CERT「Alert (TA17-181A) Petya Ransomware」 （2017年7月1日） （https://www.us-cert.gov/ncas/alerts/TA17-181A) マルウェア「Petya」に関する注意喚起 2017年6月27日、国家サイバーセキュリティ通信統合センター（NCCIC）が、 複数の国でマルウェア「Petya」によるイベントが発生し、複数のセクターに影 響が及んでいることを通知 影響を受けるソフトウェアはWindows OS 「Petya」に感染するとコンピュータのファイルが暗号化され、OS が起動しなく なり、コンピュータが使用できない被害が発生する可能性がある 14
- 15.
- 16. 1-3.ロボット／AIのセキュリティ脆弱性(1) （事例1）「To Make aRobot Secure: An Experimental Analysis of Cyber Security Threats Against Teleoperated Surgical Robotics」 Tamara Bonaci, Jeffrey Herron, Tariq Yusuf, Junjie Yan, Tadayoshi Kohno, Howard Jay Chizeck （2015年5月22日） （http://brl.ee.washington.edu/wp-content/uploads/2014/05/arXiv_April_2015.pdf） 米国ワシントン大学の研究 チームが、次世代遠隔操作 手術支援ロボットにハッキン グできたことを発表 16 出典：Tamara Bonaci et al.「To Make a Robot Secure: An Experimental Analysis of Cyber Security Threats Against Teleoperated Surgical Robotics.」（2015年5月22日）
- 17. 1-3.ロボット／AIのセキュリティ脆弱性(2) （事例2）「Hacking Robots BeforeSkynet」 Cesar Cerrudo, Lucas Apa, IOActive（2017年2月28日） （http://blog.ioactive.com/2017/02/hacking-robots-before-skynet.html) 調査により問題が発覚したロボット SoftBank Robotics: NAO and Pepper robots UBTECH Robotics: Alpha 1S and Alpha 2 robots ROBOTIS: ROBOTIS OP2 and THORMANG3 robots Universal Robots: UR3, UR5, UR10 robots Rethink Robotics: Baxter and Sawyer robots Asratec Corp: Several robots using the affected V-Sido technology 17
- 18.
- 19. 1-3.ロボット／AIのセキュリティ脆弱性(4) （参考）英国NHSのクラウド／ビッグデータ／AI導入事例 ゲノミクスイングランド × UKCloud （ゲノムデータ向けクラウドストレージ） 南ロンドン・モーズレイNHS財団トラスト ×MicrosoftOffice 365 （クラウド） ロンドン・ロイヤルフリー病院 ×Google DeepMind （AI） ロンドン・ムーアフィールド眼科病院 ×Google DeepMind (AI) 19 出典：NHS Digital「NHS Digital data and information strategy」（2016年11月）
- 20. 1-3.ロボット／AIのセキュリティ脆弱性(5) （事例3）英国情報コミッショナーオフィス（ICO） 「Royal Free -Google DeepMind trial failed to comply with data protection law」（2017年7月3日） （https://ico.org.uk/about-the-ico/news-and-events/news-and-blogs/2017/07/royal-free- google-deepmind-trial-failed-to-comply-with-data-protection-law/） ロイヤル・フリー・ロンドンNHS財団トラスト（Data Controllerに 該当）が、傘下の医療機関の患者データ約160万件をAI開発 企業Google DeepMind（Data Processorに該当）に提供し、急 性腎障害（AKI）向け警告・診断・検知システム（医療機器に 該当）の臨床試験を実施 ICOは、患者データの利用に関するインフォームドコンセント のプロセスが不十分で、英国1998年データ保護法違反があ ったと判断 20
- 21. 2. ビッグデータの相互運用性標準化とAI 21 2-1. AIを支えるビッグデータ相互運用性標準化 2-2.保健医療行政のAI利活用に向けた取組
- 22. 2-1. AIを支えるビッグデータ相互運用性標準化(1) 米国NISTビッグデータ相互運用性フレームワーク第2版草案 NISTビッグデータ・リファレンス・アーキテクチャの全体像 （https://bigdatawg.nist.gov/V2_output_docs.php)： システム オーケストレーター データプロバイダー ビッグデータアプリ ケーションプロバイダー ビッグデータフレーム ワークプロバイダー データコンシューマー セキュリティ／プライ バシーファブリック マネジメントファブリック 22 出典：NIST 「DRAFTNIST Big Data Interoperability Framework: Volume 2, Big Data Taxonomies」（2017年8月） （https://bigdatawg.nist.gov/V2_output_docs.php）
- 23. 2-1. AIを支えるビッグデータ相互運用性標準化(2) ビッグデータアプリケーションプロバイダー 収集 準備 分析・・・（例）機械学習 可視化 アクセス 23 出典：NIST 「DRAFTNIST Big Data Interoperability Framework: Volume 2, Big Data Taxonomies」（2017年8月） （https://bigdatawg.nist.gov/V2_output_docs.php）
- 24. 2-1. AIを支えるビッグデータ相互運用性標準化(3) セキュリティ／プライバシー・ファブリック ポリシー、要求事項、監査でシステム・オーケストレ ーターと連携し、開発、導入、運用でビッグデータ・ア プリケーション・プロバイダーおよびビッグデータ・フレ ームワーク・プロバイダーと相互連携する 24 出典：NIST 「DRAFTNIST Big Data Interoperability Framework: Volume 2, Big Data Taxonomies」（2017年8月） （https://bigdatawg.nist.gov/V2_output_docs.php）
- 25. 2-1. AIを支えるビッグデータ相互運用性標準化(4) ユースケース：医療とライフサイエンス 25 ユースケース プロジェクト主体データソース データ分析 電子医療記 録データ インディアナ大学 インディアナ患者ケアネット ワークの医療データ（Hadoop の分散処理環境を利用） 機能選択、情報検索、機械学 習意思決定ツール 計算処理によ るバイオイ メージング ローレンス・バー クレー国立研究 所 高解像度の光学および電子 顕微鏡からの分散型医用画 像 分類・推奨サービス向けのサ ポートベクターマシン（SVM）・ ランダムフォレスト（RF)による 機械学習ツール ゲノミック評 価 国立標準技術 研究所（NIST） 複数の研究施設に分散して いる、構造化されたテキスト ファイルのシーケンスデータ 変異検出を行うためのロー データ処理と、変異の臨床的 な解釈 医療向け統 計的関係性 のAI インディアナ大学 複数のデータベースに保存さ れた医用画像、電子健康記 録、遺伝子データ、自然言語 データなど 関係確率モデル構築ツール、 機械学習ツール
- 26. 2-1. AIを支えるビッグデータ相互運用性標準化(5) ユースケース：深層学習とソーシャルメディア 26 ユースケース プロジェクト主体データソース データ分析 大規模深層 学習 スタンフォード 大学 単一の大規模トレーニン グ用データセット（画像、 動画、音声、テキスト含 む）の集中管理ファイルシ ステム 深層学習アルゴリズム 信頼できる Twitterデー タ分析 インディアナ大 学 ユーザーのメタデータ、位 置情報などを含むJSON形 式の完全な構造化データ （Hadoopの分散処理環境 を利用） 機械学習／深層学習を適 用した分析ツール
- 27. 2-2. 保健医療行政のAI利活用に向けた取組(1) 米国保健福祉省（HHS）・国家医療 IT調整室（ONC） 「国家のためのコネクテッドヘルスとケア：相互運用性ロードマ ップバージョン1」（2015年10月） 米国の2025年問題対応 ～第1次ベビーブーマーの高齢化 •2015～2017年：ヘルスデータの利活用基盤整備 •2018～2020年：相互運用性を備えたヘルスITの拡張 •2021～2024年：学習するヘルスシステム（例．AI活用） 27 出典：Office of the National Coordinator for Health Information Technology 「Connecting Health and Care for the Nation: A Shared Nationwide Interoperability Final Version 1.0」（2015年10月）
- 28.
- 29.
- 30.
- 31. 2-2. 保健医療行政のAI利活用に向けた取組(5) オーストラリア政府「サイバーセキュリティ戦略」（2016年4月） サイバーセキュリティ成長センターを中核とするグローバル展開 を睨んだサイバーセキュリティ・イノベーション推進施策 31 出典：Commonwealth of Australia,Department of the Prime Minister and Cabinet 「Australia’s Cyber Security」 （2016年4月）
- 32.
- 33. 3-1.医療におけるAI活用のベネフィットとリスク(1) （事例） Arterys Inc.：クラウド× ビッグデータ × 深層 学習のエコシステムで承認された「医療機器 2007年、米国カリフォルニア州サンフランシスコで、スタ ンフォード大学およびカリフォルニア大学サンディエゴ校 （UCSD）の卒業生により共同創設された、医用画像分析 プラットフォームのSaaS（Software as a Service）企業 「Arterys Partners With GE Healthcare To Launch Transformative Cardiac Medical Imaging Platform」 （2015年12月7日） GEヘルスケアのMRI関連ソリューション「ViosWorks」と連携す る医用画像分析プラットフォーム「Arterys System」を開発する 計画を発表 33
- 34. 3-1.医療におけるAI活用のベネフィットとリスク(2) （事例続き） 「Arterys Receives 510(k)Clearance for Arterys Software for Cloud-Based Medical Image Visualization and Quantification」 （2016年11月2日） 米国FDAが、クラウドベースで心臓フローを可視化・定量化 する臨床医用画像ソフトウェア（4D Flowおよび2D Phase Contrastワークフロー、心機能測定器装備）を承認 「Arterys Receives FDA Clearance For The First Zero-Footprint Medical Imaging Analytics Cloud Software With Deep Learning For Cardiac MRI」（2017年1月9日） 米国FDAが、深層学習機能を搭載したクラウドベースの臨 床医用画像分析ソフトウェア「Arterys Cardio DL」を承認（欧 州では、2016年12月にCEマークを取得済） 34
- 35.
- 36.
- 37.
- 38.
- 39.
- 40. 3-3.AIを活用したプライバシー保護技術(1) 米国保健福祉省・公民権室（OCR）「医療保険の携行性と責 任に関する法律（HIPAA）プライバシー規則に準拠した保護保 健情報の非識別化方法に関するガイドライン」（2012年11月） 非識別化された保護保健情報 ＝個人を識別しない保健情報で、 その情報が個人を識別するため に利用可能であると信じるに足る 相当な基盤が無いもの 統計手法による「専門家による 決定（Expert Determination）」方式 直接識別子を取り除く 「セーフハーバー（Safe Harbor）」方式 40 出典：米国保健福祉省（HHS）「GuidanceRegarding Methods for De-identification of Protected Health Information in Accordance with the Health Insurance Portability and Accountability Act (HIPAA) Privacy Rule」（2012年11月26日） （http://www.hhs.gov/hipaa/for-professionals/privacy/special-topics/de-identification/index.html）
- 41.
- 42. 3-3.AIを活用したプライバシー保護技術(3) 非識別化手法のAI活用に向けた取組（例） 「Utility-preserving anonymization forhealth data publishing」 Hyukki Lee, Soohyung Kim, Jong Wook Kim, Yon Dohn Chung BMC Med Inform Decis Mak. 2017; 17: 104. Published online 2017 Jul 11. doi: 10.1186/s12911-017-0499-0 （https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5504813/） 「De-identification of patient notes with recurrent neural networks.」 Dernoncourt F, Lee JY, Uzuner O, Szolovits P. J Am Med Inform Assoc. 2017 May 1;24(3):596-606. doi:10.1093/jamia/ocw156. （https://www.ncbi.nlm.nih.gov/pubmed/28040687） 42
- 43. 4. まとめ(1) 生活者中心のマルチステークホルダー環境と医療機器の 位置づけ 43 出典： EuropeanCommission「The Digital Health Society Declaration」（2017年7月）
- 44.