Download to read offline
Uploaded byAkemi Yokota
161112inlaw第９分科会 ロボットと消費者保護（行政法の視点から）横田明美（修正・公開版）
情報ネットワーク法学会第16回研究大会第9分科会報告 横田明美「ロボットと消費者保護 行政法の視点から」における報告スライドに、若干の修正と加筆をしたものです。
Law◦
![AIシステムのセキュリティ：脅威となりつつあるAIの現状と課題 [English] Security of AI Systems: The Current...](https://cdn.slidesharecdn.com/ss_thumbnails/20241023css2024-250829030738-876ce56e-thumbnail.jpg?width=640&height=640&fit=bounds)
161112inlaw第９分科会 ロボットと消費者保護（行政法の視点から）横田明美（修正・公開版）
- 1. ロボットと消費者保護 行政法の視点から 2016年11月12日 情報ネットワーク法学会 第１６回研究大会第９分科会 千葉大学 法政経学部准教授横田明美 http://akmykt.net/mailto/ Facebook： akemi.yokota83 Twitter: @akmykt / @kfpause
- 2. このスライドについて • 学会報告時に配布したスライドの一部を修正・追加し たものです。 – 修正 •タイトルスライドのメールアドレスを研究室ウェブサイトのメール フォームおよびSNSのIDに置き換え（スパム対策） • 『ICT未来予想図』から図版を引用した箇所につき図版そのものを 削除し、箇条書きによる紹介に変更 – なお、当日図を見ながらしたコメントは赤字スライド追加 • 誤字の修正 – 追加 • 末尾にスライド「謝辞２」を追加 • 口頭補足箇所を赤字で追加 • ご不明な点がありましたらメールや各種SNS経由でお 知らせください。 p.2
- 3. 自己紹介 • 専門：行政法 →情報法・環境法・消費者法 • 昨年：情報×消費者 民事法×公法 個別報告：ドイツにおけるデータ保護団体訴訟 • もともとあった消費者団体訴訟にデータ保護が！ • ドイツのデータ保護規制機関との連携も • 現在： – 総務省「AIネットワーク社会推進会議 影響評価 分科会」構成員 p.3
- 4. 目次 • Ⅰ はじめに：消費者法の体系と報告者の意 図、マルチステークホルダー •Ⅱ 行政法における手法とリスク論 • Ⅲ 新しい保護利益とリスク • Ⅳ 法制度設計に向けた論点 • Ⅴ 現時点でのまとめ p.4
- 5. 消費者法の体系 • 消費者民事法 – 消費者契約法・特商法・景表法等における契約規制 –公の取引秩序・競争秩序に関しては、行政による是正や履行確 保の仕組みも重要（この部分は「消費者行政法」でもある） – 製造物責任法による損害賠償 – 紛争解決 (ADR、団体訴訟など） • 消費者行政法 – 各種の業法による規制 – 消費者安全に関する法制度 p.5
- 6. 消費者行政法 • 各種の業法 – 例）タクシー：道路運送法＋特別法が多数 –例）介護施設：介護保険法、老人福祉法＋条例 • 消費者安全に関する法制度 – 消費者安全法 • 事故情報の集約 • 措置要求、勧告、措置命令 • 消費者安全調査委員会 – 消費生活用製品安全法 • 事故情報の報告・公表制度 – 食品安全のしくみ • 各種の規制法：食品衛生法、農薬取締法、薬事法、健康増進法など • 食品安全基本法：食品安全委員会 リスク評価→規制法に反映 p.6
- 7. 報告者の関心事 • 新しい保護利益の登場 • AI・ロボットの登場によるリスクの特質 –ネットワークで生じていた問題がリアルにも – ロボットの普及に伴い新たに生じる問題 • 法制度設計に向けた議論 – 既存の法制度とどう接合させるのか • 従来のシステムと新しいシステムの混在への対応 – 行政の情報収集不全・情報開示不全 p.7
- 8. 参考：マルチステークホルダー図解 （出典：土井美和子『ICT未来予想図』（共立出版、2016）17p p.8 • 自動運転車のマルチステークホルダー – 自動運転レベル１の時代 •レベル１の自動運転車 – 運転者・同乗者 • 路上 – 通常運転の車（センシング・認識） – 他のレベル１自動運転車 （車車間通信を行う） – 歩行者（センシング・認識） • 自治体・国との路車間通信 • 自動車メーカ – 位置情報・ナビ情報をレベル1自動運転車とクラウドで共有 • ハッカー
- 9. 参考：マルチステークホルダー図解 （出典：土井美和子『ICT未来予想図』（共立出版、2016）17p p.9 • 自動運転車のマルチステークホルダー – 自動運転レベル４の時代 •レベル１の状況に加えて – レベル１、レベル２，レベル３，レベル４と通常運転の車が路 上で混在する – 国・自治体も位置情報・ナビ情報・制御情報をクラウド経由で 自動車メーカや自動運転車と共有する
- 10. 参考：マルチステークホルダー図解 （出典：土井美和子『ICT未来予想図』（共立出版、2016）49p p.10 • コミュニケーションロボットのマルチステークホルダー – コミュニケーションロボット •内部に「個性」をもっている／外見に個性を持つものも – ロボットメーカ・介護施設 • 位置情報・ナビ情報・履歴情報・個性をクラウド共有 – 個性提供者 • メーカ以外もクラウドにアクセス可能 – 他の家電やロボット – 利用者 • 利用者だけでなく、遠隔の家族なども – ハッカー
- 11. 参考：マルチステークホルダー図解 （出典：土井美和子『ICT未来予想図』（共立出版、2016）64p p.11 • アシストロボットのマルチステークホルダー – アシストロボット •位置情報・歩行情報・リハビリ計画などをメーカやリハビリ 施設とクラウド経由で共有 • 他の車やロボットと疲労度・充電状況などをやりとり – 利用者 • 意識と無意識を内包 • センシング・認識によりロボットとコミュニケーション – ロボットメーカ – リハビリ施設 – 車や他のロボット – ハッカー
- 12. マルチステークホルダー関連図からの示唆 p.12 • マルチステークホルダー関連図からの示唆 – ロボットと利用者だけでなく、多数のアクター •介護施設やメーカも登場 • 全体について外側から狙っているハッカーの存在 – 国・自治体も出てくるが、「この状況全体に対する 公益確保や秩序維持」というレベルで、もう一段 上のレベルからも関与することになる • まさにその部分を行政法学は考えなければいけない
- 13. 行政法における手法論 • 行政法における国家の責任 – 国家による保護義務 –規制発動の不全→不作為の国家賠償責任 – 「保障国家」：民間委託しても、最終的責任をとる • 執行の欠缺→ポリシーミックスへ – 執行の欠缺 • 行政活動の限界（人的・物的リソース不足） – ポリシーミックス • 規制以外の様々な手法を組み合わせて法目的を実現 p.13
- 14. 規制の一般的手法 • 指針・計画・行政基準・ガイドラインの策定 • 許可制・届出制 –認可要件として資格や安全基準への適合要求 – 報告義務・立入調査 – 違反時・緊急時の強制権限（是正命令・回収命令） • 私人間契約への介入 – 認可制（契約条項のコントロール） – 表示規制（基準適合や検査合格の表示、添付文書 への記載義務など） • 行政指導・情報提供（上記全てに関連） p.14
- 15. ポリシーミックス – 情報的手法 • 事業者情報を公衆に開示→市民による監視 •違反者の「公表」（ときに制裁的に機能） – 誘導的手法 • 補助金や制裁金の組み合わせ • 事業者間の情報流通義務付け – 「市民による法の実現」 • 消費者団体訴訟：個別的利益ではなく集合的利益 • 環境改変許可に対する公衆参加 p.15
- 16. リスクへの対応 • リスク・ガバナンス論 – リスク評価とリスク管理の区別 –リスク・コミュニケーション – レギュラトリー・サイエンス（規制のための科学） • 委員会制度の活用 例）食品安全委員会、原子力規制委員会 – 専門知の動員と官庁との距離確保 • 情報共有の促進 – 営業秘密に配慮した制度設計（後述） p.16
- 17. 報告者の関心事（再掲） • 新しい保護利益の登場 • AI・ロボットの登場によるリスクの特質 –ネットワークで生じていた問題がリアルにも – ロボットの普及に伴い新たに生じる問題 • 法制度設計に向けた議論 – 既存の法制度とどう接合させるのか • 従来のシステムと新しいシステムの混在への対応 – 行政の情報収集不全・情報開示不全 p.17
- 18. 消費者の保護利益 • 人身被害（生命・身体） • 財産→健全な取引秩序 • プライバシー・個人情報 ＋ • 意思決定への侵食防止（ex.ナッジ） • プロファイリング（収集から予測へ） • 安全なシステムを利用する利益 – 今まで以上に個別的法益になりにくく、集団的・集合 的規律や公法的規制の必要性が高い – 個別の法制度での対応は難しい p.18
- 19. リスクレベル１：ネットワーク上のリスクがリアルにも • 情報格差の双方向性・遍在性 – これまでの消費者法： •事業者と消費者の情報格差を前提に制度設計 – これから： • 一個人も「生産者」（プログラマー、メイカーズ） • ものづくり企業も、AI技術については十分なリテラシー がない可能性 →「消費者法」の前提を掘り崩す可能性 p.19
- 20. リスクレベル１：ネットワーク上のリスクがリアルにも • 「地理的対応」の有効性減少 – データをやりとりし、各地のロボットが動く –国境による封じ込め・物理的隔離が効かない • 物理的隔離の限界 • 「ドローンハイウェイ」構想の発想で低減可能？ • 「人と接する」ことが目的のロボットは隔離無理 – コミュニケーションロボットは近い方がよりなじむ – アシストロボットは「装備」することに意味がある p.20
- 21. リスクレベル２：ロボットが当たり前になる社会 • 官庁・非営利団体の対応能力・権限分配 – モノとデータ、両方の知見と管轄が必要 •原因不明段階で素早く適切な機関が対応できるか？ – 従来のモノ管理システムへの影響 • 例）車検・道路交通法制 – ハードとしての車とソフトとしてのAI双方の検査・更新が必要 – 自動運転車とそうでない車の混在 – 領域管理としての道路管理･･･ネットワーク管理も必要に p.21
- 22. リスクレベル２：ロボットが当たり前になる社会 • ユースケースの拡張による無限のリスク要因 – 自動運転システム •これまでの自動車事故データから、リスク分析はある 程度可能 – 生活圏内のロボット（コミュニケーション・アシスト） • 使用者がどういう使い方をするかが予測しきれない – 使用者によるアレンジ（ソフト面・ハード面） – 使用者自身の認知に誤りや障害がある場合 • 「よくわからないけど動かない」 p.22
- 23. リスクレベル２：ロボットが当たり前になる社会 • 情報収集・安全とプライバシーのトレードオフ – 物理的に安全にするためセンシングが不可欠 –「データ提供協力でお安くします」保険の登場？ • ロボットとヒトを巡る倫理的問題 – ロボットの「記憶喪失」による精神的損害 – ロボットによる「管理」・ロボット依存 p.23
- 24. 法制度設計に向けた論点：権限 • 従前の規制手法とどう接合させるのか？ – 何法で規制する？ •通常の業法規制にネットワーク経由のリスクを導入す るのは困難 • 一種の「横断条項」？ – 例）全ての規制に横断する考慮事項をいれた環境影響評価 法 – 世界／国／地域レベルでの対応 • データ・モノの国際移動 • 特区ゆえに生じる問題への「実験法制」としての条例 – 従来の地方自治論との対応関係は？ p.24
- 25.
- 26. 法制度設計に向けた論点：情報 • 事故情報をどのように収集・共有するべきか？ – 現在：相談窓口の連携とPIO-NETによる情報共有 •ただし、相談現場では「結果」しか見えないことも – 例）「茶のしずく」事件： » 小麦を加水分解した美容石鹸によるアレルギー被害。パン や麺類など小麦を含有する食品を食べた後に運動した際に 全身性のアレルギー（運動誘発性のアレルギー）を発症し た事例が報告された – 結果としてみえるのは：原因不明のかゆみ、呼吸困難など » 「まさか小麦アレルギーだとは」～石鹸と小麦の距離 » 回収までに多大な時間を要した » 現在も集団訴訟係争中 p.26
- 27. 情報流通の必要性と懸念 • 行政の情報収集不全／行政からの情報提供不 全にどう対応するのか？ • ユースケースや、どこで何を混ぜているかが見えない •プログラム、アプリ、情報提供・収集･･･全てのアクターがAI を「つくる」 • 参考としての化学物質管理とその課題 • 全ての化学物質を調査しきれない • ユースケースを把握しきれない（上流の生産者は統制でき るが、下流の現場が見えない） →把握には企業秘密・私的空間情報収集が必要に（公的機関によ る収集の必要性？） →その後、どのように公衆開示が可能か？ p.27
- 28. 化学物質管理 • 化審法 – ハザードベースからリスクベース規制への転換 •有害性が明確でない化学物質についても、曝露量が多くなること によりヒトへの影響が懸念される場合にはそれをリスクとして捉え る • 優先的に審理するものとそうではないものを区別 • 化管法 – PRTR：化学物質の放出量・移動量の届出 – SDS：企業間での情報伝達を義務付け • 食品衛生法の容器包装と化学物質 – 公的規制はネガティブリスト（使用不可物品） – 自主規制を中心としたポジティブリスト（使用可能物品）と 情報管理でカバー p.28
- 29.
- 30.
- 31. 出発物質 モノマー ポリマー 重合 容器・包装 （最終製品） 食 品 （最終製品） ＦＤＡの特徴 「安全な材料・製造方法で製造されれば安全」 「安全な材料を用いて製造した上で、 食品に溶出していなければ安全」 米国と欧州のポジティブリスト（PL）制度の違い ＥＵの特徴 成形・加工 製品管理（ポジティブリスト＋溶出量規制） 原材料管理（ポジティブリスト＋添加量規制） PLPL・添加量制限 PL 溶出量・用途制限 用途制限製造法の規定 重合助剤 添加剤 充てん・包装 PL 適合宣言書 適合宣言書 適合宣言書 31
- 32. 現時点でのまとめ • ロボットによる「消費者被害」 – 未然に防ぐための制度設計は不可欠 •しかし、交通整理や実験法制が必要になる – それでもなお残る「被害」にどう対応するか • 現在の問題の延長線上で「結果」から浮き彫りになる • 横断的な対応が可能となるアクターを生み出す必要 • マルチステークホルダーによる重層的対応 – 民事だけでも、行政だけでも対応不可能 – 公的規制／自主規制／契約規律 • 使えるものは何でも使う必要がある p.32
- 33. 謝辞 ご静聴ありがとうございました！ ＊本報告は日本学術振興会（JSPS）科研費 15K16916（2015年度若手研究（B） 「集合的利益・拡散的利益を巡る法制度設計― 消費者・環境・情報法制の架橋」） の助成を受けたものです。 This workwas supported by JSPS KAKENHI Grant Number 25885016 (Grant-in-Aid for Young Scientists (B)). p.33
- 34.
- 35. 引用文献以外の参考文献 １ • 野口貴公美, 幸田 雅治（編著）『安全・安心の行政法学― 「いざ」というとき「何が」できるか?』（ぎょうせい、2009年） • 有本建男・佐藤靖・松尾敬子（著）・吉川裕之（特別寄稿） 『科学的助言』（東京大学出版会、2016年） • 中田裕康・鹿野菜穂子（編）『基本講義消費者法（第２版）』 （日本評論社、2016年） • 大島義則・森大樹・杉田育子・関口岳史・辻畑泰喬（編著） 『消費者行政法』（勁草書房、2016年） • 大林啓吾『憲法とリスク 行政国家における憲法秩序』（弘 文堂、2015年） • 高橋滋・渡邊智之（編）『リスク・マネジメントと公共政策』 （第一法規、2011年） p.35
- 36. 引用文献以外の参考文献 ２ • 大沼あゆみ・岸本充生（編）『汚染とリスクを制御する（シリーズ環境政策 の新地平６）』（岩波書店、2015年） •長谷部恭男（編）『法律からみたリスク（新装増補リスク学入門３）』（岩波 書店、2013年） • 髙橋信隆・亘理格・北村喜宣（編）『環境保全の法と理論』（北海道大学出 版会、2014年） • 東海明弘/岸本充生/蒲生昌志『環境リスク評価論（シリーズ環境リスクマ ネジメント２）』（大阪大学出版会、2009年） • 谷口武俊『リスク意思決定論（シリーズ環境リスクマネジメント１）』（大阪 大学出版会、2008年） • WBGU（ドイツ連邦政府地球気候変動諮問委員会）1998年年次報告書 「変動する世界－地球環境リスクに対するマネジメント戦略」（Welt im Wandel – Strategien zur Bewältigung globaler Umweltrisiken, Springer- Verlag, Berlin, 1999, http://www.wbgu.de/fileadmin/templates/dateien/veroeffentlichungen/h auptgutachten/jg1998/wbgu_jg1998.pdf p.36