Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

ロボット法―ロボット・人工知能に関する法的諸課題と展望

1,451 views

Published on

第二東京弁護士会 情報公開・個人情報保護委員会主催でミニ講義をした際の資料です(2016年2月3日)

Published in: Law
  • Be the first to comment

  • Be the first to like this

ロボット法―ロボット・人工知能に関する法的諸課題と展望

  1. 1. ロボット法 ーロボット・人工知能に関する法的諸課題と展望 慶應義塾大学SFC研究所 工藤郁子 二弁情報公開・個人情報保護委員会主催ミニ講義 2016年2月3日
  2. 2. • 慶應義塾大学SFC研究所 上席所員 • 総務省情報通信政策研究所 特別 フェロー • ロボット法学会設立準備会事務局 • 専門:情報法政策
  3. 3. 1 2 3 ロボット技術 諸課題 ロボットと法 Agenda
  4. 4. 1 2 3 ロボット技術 諸課題 ロボットと法 Agenda
  5. 5. ロボットとは? • 感知し、駆動し、(少なくともある程度は)環境 に作用する人工物またはシステム • Pepper(人型ロボット)、ルンバ、ドローン、自 動運転車などを含む • センサー(sense)+知能・制御系(think)+駆 動系(act)を備えるもの
  6. 6. 知能・制御系≒AI • AI=人工知能/Artificial Intelligence • 学習・推論・判断といった人間の知能のもつ機能を備えたシ ステム – 人間の知能そのものをもつ機械を作ろうとするアプローチ と、人間が知能を使ってすることを機械にさせようとする アプローチがある • 主として後者を想定
  7. 7. 推論・探索の時代 (1950s後半〜1960s) • 決まったルールに従い多くの 選択肢を分析していく手法の 開発 • 人が教えたことに基づいて 「よりよい選択肢を選ぶ」プロ グラム • なお、1997年には、IBM が開 発したディープブルーがチェ ス世界チャンピオンに勝利
  8. 8. 知識・表現の時代 (1980s) • コンピュータに人間の知識を与 え、その知識を元にコンピュータ が推論等を行う技術の開発 • 特定分野に特化した専門知識 データベースを元に推論を行う エキスパートシステムなど • ただし、「特徴量」=問題の解決 に必要な本質的変数や特定の 概念を特徴付ける変数は、人間 が設計
  9. 9. • 人間が指示しなくとも、自ら 学習する技術の開発 • 教える人がいなくても、自分 で「知識を見つける」プログラ ム • インターネットの登場とウェブ の広がりにより利用可能な データ量が増大し、ビッグデ ータにより学習しやすい環境 が整う 機械学習の時代 (2000s)
  10. 10. 2012年、Googleの開発したディ ープ・ラーニングのアルゴリズム が、ランダムに与えられた YouTubeの画像から猫の特徴量を 自動的に学習したことも話題にな りました
  11. 11. レベル1:単純な制御 • 言われた通りに動かすプログラム • 温度の変化に応じて機能するエアコン、 洗濯物の重さで時間調整 レベル2:対応のパターンが非常に多いもの • 人が教えたことに基づいて「よりよい選 択肢を選ぶ」プログラム • 推論・探索:将棋や囲碁で決められたル ールのもとに一手を指す
  12. 12. レベル3:対応パターンを自動的に学習 • 人間が与えた情報から、使えそうな「知識を見つける」 プログラム • 駒がこういう場所にあるときは、こう打てばよいというこ とを自分で学習 • ただし、「特徴量」は人間が設計する レベル4:対応パターンの学習に使う特徴量も自力で獲得 • 教える人がいなくても、自分で「知識を見つける」プロ グラム • 「駒の位置だけでなく、複数の駒の関係性をみたほう がいい」ということに自分で気づく
  13. 13. 「2045年問題」 • 技術的特異点(Technological Singularity)が生じ て、「AIが人類を超える」? • AIが、(特徴量だけでなく)「機能」を理解できるよ うになることで、自らを規定しているプログラムを 自身で改良できるようになり、永続的に指数関 数的進化を遂げる可能性 • ただし、2045年にシンギュラリティが起きるかは 否定的な意見が多い
  14. 14. なぜいまロボット法? • AIが発展し、ロボットが自分で環境を認 識し、対応を判断 • 例えば工場のように、ロボットの存在に 配慮して特別に作られた「構造的環境」 (structured environment)」ではない一般 の環境で稼働できるように
  15. 15. 1 2 3 ロボット技術 諸課題 ロボットと法 Agenda
  16. 16. 航空法 • 昨年春の首相官邸屋上ドローン墜落事件を受け 航空法改正 • 重さ200グラム以上の機体について、人口集中 地区や空港周辺の上空、夜間の飛行等が禁止 に(あらかじめ、国交大臣の許可を受ける必要) • 2016年1月25日、ドローンを操縦していた写真店 の経営者を書類送検(改正航空法適用としては 全国初)
  17. 17. 航空法 第九章 無人航空機 (飛行の禁止空域) 第百三十二条 何人も、次に掲げる空域においては、無人航空機を 飛行させてはならない。ただし、国土交通大臣がその飛行により航空 機の航行の安全並びに地上及び水上の人及び物件の安全が損なわ れるおそれがないと認めて許可した場合においては、この限りでない。 一 無人航空機の飛行により航空機の航行の安全に影響を及ぼす おそれがあるものとして国土交通省令で定める空域 二 前号に掲げる空域以外の空域であつて、国土交通省令で定め る人又は家屋の密集している地域の上空
  18. 18. 航空法 (飛行の方法) 第百三十二条の二 無人航空機を飛行させる者は、次に掲げる方法によりこれを飛行させなければ ならない。ただし、国土交通省令で定めるところにより、あらかじめ、次の各号に掲げる方法のいずれ かによらずに飛行させることが航空機の航行の安全並びに地上及び水上の人及び物件の安全を損 なうおそれがないことについて国土交通大臣の承認を受けたときは、その承認を受けたところに従い、 これを飛行させることができる。 一 日出から日没までの間において飛行させること。 二 当該無人航空機及びその周囲の状況を目視により常時監視して飛行させること。 三 当該無人航空機と地上又は水上の人又は物件との間に国土交通省令で定める距離を保つて 飛行させること。 四 祭礼、縁日、展示会その他の多数の者の集合する催しが行われている場所の上空以外の空域 において飛行させること。 五 当該無人航空機により爆発性又は易燃性を有する物件その他人に危害を与え、又は他の物件 を損傷するおそれがある物件で国土交通省令で定めるものを輸送しないこと。 六 地上又は水上の人又は物件に危害を与え、又は損傷を及ぼすおそれがないものとして国土交 通省令で定める場合を除き、当該無人航空機から物件を投下しないこと。
  19. 19. 航空法 (捜索、救助等のための特例) 第百三十二条の三 前二条の規定は、都道府県警察その他の国土交通省令で定める者が航空 機の事故その他の事故に際し捜索、救助その他の緊急性があるものとして国土交通省令で定め る目的のために行う無人航空機の飛行については、適用しない。 (無人航空機の飛行等に関する罪) 第百五十七条の四 次の各号のいずれかに該当する者は、五十万円以下の罰金に処する。 一 第百三十二条の規定に違反して、無人航空機を飛行させた者 二 第百三十二条の二第一号から第四号までの規定に違反して、無人航空機を飛行させた者 三 第百三十二条の二第五号の規定に違反して、無人航空機により同号の物件を輸送した者 四 第百三十二条の二第六号の規定に違反して、無人航空機から物件を投下した者
  20. 20. 【参考】米国の状況 • 2007年:無人飛行機に関する告示によって、許可された業 者以外は基本的に飛行禁止 • 2015年2月:連邦航空局(FAA)が、商業用ドローンについ ての規則案を提案 – 1機1人の操縦者、最大重量を25kg以下、視認可能な範囲、高 度500フィート(約150m)未満、夜間飛行禁止、操縦者にFAAの 航空知識試験の合格による許可証の取得、航空機の登録と航 空機表示の義務づけ…など • 2015年12月:FAAが、250g〜25kgのホビー用途ドローンに ついて登録制を導入 – 空港周辺等や人の集合場所等の上空は飛行禁止
  21. 21. 電波法 • ドローン専用の帯域を確保する動きも • 「空の産業革命」、ドローン等による中空ビジ ネスにおける航空交通管制への期待が背景
  22. 22. 道交法 • 道路交通法70条(とその前提となるジュネー ブ条約)では運転を、ハンドル、ブレーキ、そ の他装置を運転者が確実に操作するものと している • 少なくともレベル4の自動運転車を実現する には法改正が必要
  23. 23. 道交法 (安全運転の義務) 第七十条 車両等の運転者は、当該車両等の ハンドル、ブレーキその他の装置を確実に操作 し、かつ、道路、交通及び当該車両等の状況に 応じ、他人に危害を及ぼさないような速度と方 法で運転しなければならない。
  24. 24. 【参考】自動運転車 • レベル0:ドライバーが常にすべての主制御系統(加速・操 舵・制動)を操作する • レベル1:加速・操舵・制動のいずれかをシステムが行う (自動ブレーキなどの安全運転支援システムなど) • レベル2:加速・操舵・制動のうち複数の操作をシステムが 行う(ステアリングアシストによる車間距離の調整など) • レベル3:加速・操舵・制動を全てシステムが行い、システ ムが要請したときはドライバーが対応する • レベル4:加速・操舵・制動を全てドライバー以外が行い、ド ライバーが全く関与しない状態(完全自動運転)
  25. 25. 刑法 • 故意:一般的な議論 • AIが「誤作動」した場合の過失が問題に • ロボットが完全に「自律」しているのであれば、人に過失 (予見可能性と結果回避義務)がないのではないか • 自動運転車において、誰(製造者、販売者、管理・整備士、 ドライバー、空間台帳事業者…)が一次的責任を負うのか • 刑事製造物責任、自動車損害賠償保障法、保険法なども 関係
  26. 26. 製造物責任法 • 動産を前提とする製造物責任が、情報であるAIも適用 されるか – ソフトウェア自体は「製造物」すなわち「製造又は加工され た動産」(製造物責任法2条1項)にあたらないため、動産 にインストールされたソフトウエアが製造物責任の対象に なるかどうかは争いがある – 古くて新しい問題 • AI開発者も無過失責任を負いうるとすると、イノベーシ ョンを抑圧するおそれがあるのではないか
  27. 27. 【参考】ロボアプリ • ネットワークからアプリケーションをダウンロード できるようになり、ロボットの機能を常に新しい状 態に保ち、ユーザーが最新のサービスを享受す ることが可能に • 躯体の製造者・管理者等だけでなく、第三者に よるアプリケーションの開発を実現(Pepperのア プリケーション開発プラットフォームはすでに存 在)
  28. 28. 第三者が開発したアプリもオンラインストアで 公開・販売できるようにする計画も
  29. 29. 現在スマートフォンでみられる ようなアプリの開発・利用が コミュニケーション・ロボットでも 将来的に実現?
  30. 30. 労働法 • 1983年、労働安全衛生規則で、危険の防止のための 措置、特別教育等の規定が導入(1981年に起こった 産業用ロボットによる労災死亡事故=「ロボット殺人 事件」) • 労働者とロボットが作業空間を共有することを可能に する規制緩和を行う通達 • テレイグジスタンスが発達すれば、危険な現場では、 ロボットを利用した遠隔操作を行って安全を確保する ことが義務づけられる可能性も?
  31. 31. 【参考】テレイグジスタンス • Telexistence • 遠隔地にある物をあたかも近くにあるかのように感 じながら、操作などをリアルタイムに行うもの
  32. 32. 入管法 • 日本に「上陸」しようとする外国人は、原則と して入国審査官の審査を受けなければならな い • 外国から、日本にあるテレイグジスタンスを操 作することは「上陸」?
  33. 33. 出入国管理及び難民認定法 (上陸の申請) 第六条 本邦に上陸しようとする外国人(乗員を除く。以下この節において 同じ。)は、有効な旅券で日本国領事官等の査証を受けたものを所持しなけ ればならない。ただし、国際約束若しくは日本国政府が外国政府に対して行 つた通告により日本国領事官等の査証を必要としないこととされている外国 人の旅券、第二十六条第一項の規定により再入国の許可を受けている者 (第二十六条の二第一項又は第二十六条の三第一項の規定により再入国 の許可を受けたものとみなされる者を含む。以下同じ。)の旅券又は第六十 一条の二の十二第一項の規定により難民旅行証明書の交付を受けている 者の当該証明書には、日本国領事官等の査証を要しない。 2 前項本文の外国人は、その者が上陸しようとする出入国港において、法 務省令で定める手続により、入国審査官に対し上陸の申請をして、上陸の ための審査を受けなければならない。
  34. 34. 国際法 • ロボットの研究開発・輸出において、自律型兵器やデュア ル・ユースをどう扱うか • 完全自律型ロボット兵器は現時点で実存しないが・・・ • 自律型致死性兵器システム(LAWS, Lethal autonomous weapons systems)として、特定通常兵器使用禁止制限条約 (CCW)の枠組みにおいて既に議論が開始 – 予見可能性(predictability)が不十分な兵器は国際人道法の重 大違反の可能性が高いことから、国際人道法の基本的な規則 である予防原則、軍民目標区別原則、均衡原則等と抵触 – 法的・倫理的な観点から説明責任を果たしうるためには、何らか の人による制御(meaningful human control)が必要であると理解 されている
  35. 35. その他 • 著作権法 – AIが「創作」した作品は「著作物」になるか – 著作物にあたるとした場合、誰に権利が帰属す るのか • 動物愛護法? – AI・ロボットへの「虐待」を規制すべきか(保護の 客体としてのAI・ロボット)
  36. 36. 個人情報保護法等 • プライバシーなどに係る懸念も存在: – そもそもコミュニケーション・ロボットは、 サービス提供の ため、人物認識、音声認識、会話履歴、生活パターンなど 様々なプライバシー情報が必要になる – ロボット技術とクラウド技術の近接も急速に進んでおり、 データをクラウドで蓄積・共有・分析し、サービス改善につ なげることを試みる事業者も多い • サービスの質とプライバシーの減退がトレードオフ – 安全性とトレードオフになるスマートカー – 利便性とトレードオフになるコミュニケーション・ロボット
  37. 37. 個人情報保護法等 • 情報取得・利用範囲の明確化も課題 • プライバシーの自己管理(privacy self-management)というアプローチが、 有意義といえないとの問題提起 • (ロボットを含む)IoTによって、ひとつひとつのアプリに同意していくことは、 人としての処理能力を超えて無意味になりつつある • 多くのユーザーは直近の便益を過大視する傾向があり、プライバシーが 長期的かつ累積的に影響を及ぼす点を看過しがち • コミュニケーション・ロボットは、インターフェイスの「親しみやすさ」、「家族 性」、「長期性」によって、プライバシーに関するリスク評価を見誤るおそ れが大きい • データ収集の時点よりも、情報の川下(downstream uses)にあたるデータ 蓄積・分析をユーザーに意識させる仕組みづくりを導入することが望まし いのではないか…?
  38. 38. • なお、ソフトバンクロボティ クス株式会社は、アプリ開 発のガイドラインを整備し ており、また、アプリ審査も 計画 • アプリ公開時に審査を行う ことで、自由なアプリ開発 を促進しつつ、技術的・倫 理的な面からガイドライン 遵守を確認
  39. 39. 1 2 3 ロボット技術 諸課題 ロボットと法 Agenda
  40. 40. ロボット法 =「馬の法」?
  41. 41. 「馬の法」批判 • フランク・イースターブルーク 裁判官は1996年に「馬の法」 がないのと同様に「サイバー スペース法」はないと言及 • 「一般的なルール」を学ぶこ とで、個別の領域にも対応で きるとした • 「ロボット法」にも同じ指摘が 妥当するのでは?
  42. 42. 「馬の法」批判への応答 ローレンス・レッシグは、サイバ ースペースの法的問題を考察 することを通じて、法規制と非 法規制の相互作用の解明とい う他の様々な法領域にも拡張 可能な方法論の構築を試みる ことにより、サイバー法が「法の 全体を照らし出す」主題となる 可能性を提示したといわれてい る
  43. 43. 具現性(embodiment) • データは具現化していないがロボットは駆体を有 するため、プログラミングの瑕疵が物理的に人 や財を害する潜在的能力を有する • 物とデータと責任の関係が問題に:古くて新しい 問題 • 製造物責任法(の一部の課題)、入管法など
  44. 44. 創発性(emergence) • 学習機能をもち(一定程度の)自律的判断を 行うこと • 予測可能性の低下、判断過程の不透明性、 権利や責任の帰属が問題に • 製造物責任法(の一部の課題)、刑法、国際 法、著作権法など
  45. 45. 社会誘発性(social valence) • 「似姿」として、人に不思議な感覚を生じさせ、 存在論的問題を提起 • 保護の客体としてのAI・ロボット、プライバシ ーリスクなどが問題に • 動物愛護法、プライバシーバイデザインなど
  46. 46. • ロボットやAI技術の発展・普及によって、これ まであまり論じられてこなかったような法的論 点が生じている • もちろん、これまでの議論の延長線として検討 することもおそらく可能だが… • 「ロボットと法」の全体を捉えながら、何らかの 理念・原則を析出し、それを個別の解釈に還 元するアプローチもありうるのではないか
  47. 47. Thank you! Questions?

×