Recommended
Recommended
More Related Content
Similar to 成原慧「自治体における生成AIの活用の可能性と留意事項」
Similar to 成原慧「自治体における生成AIの活用の可能性と留意事項」 (20)
成原慧「自治体における生成AIの活用の可能性と留意事項」
- 2. ⾃⼰紹介 九州⼤学法学研究院准教授。専⾨は情報法。東京⼤学⼤学院 情報学環助教、同客員研究員、総務省情報通信政策研究所 主任研究官等を経て、2018年より現職。 インターネット上の表現の⾃由、プライバシー・個⼈情報保護、⼈⼯ 知能（AI）に関する法的問題などについて研究している。 主な著作に、『表現の⾃由とアーキテクチャ』（勁草書房、2016 年）、『プライバシーなんていらない︕︖』（共訳、勁草書房、 2017年）、『アメリカプライバシー法』 （共訳、勁草書房、2018 年）、 『ナッジ︕︖』（共著、勁草書房、2020年）、 『個⼈情 報保護法コンメンタール』（共著、勁草書房、2021年）、『テクノ ロジーと差別』（共著、解放出版社、2022年）など。 2
- 3. 講話の構成 1. はじめに 2. ⽣成AIに関する法的・倫理的課題と国 内外の議論 3. ⾃治体における⽣成AIの活⽤の可能性 4. ⾃治体における⽣成AIの活⽤の際の留 意事項 3
- 6. 6 p AI⼀般に関する従来のガイドライン Ø ⽣成AIを利⽤する際にも指針に • 内閣府「⼈間中⼼のAI原則」(2019年) ① ⼈間中⼼の原則 ② 教育・リテラシーの原則 ③ プライバシー確保の原則 ④ セキュリティ確保の原則 ⑤ 公正競争確保の原則 ⑥ 公平性、説明責任及び透明性の原則 ⑦ イノベーションの原則 2.⽣成AIに関する法的・倫理的課題と国内外の議論
- 7. p ⽣成AIに関するルール作りに向けた議論 • G7広島⾸脳コミュニケ（2023年5⽉）︓⽣成AIに関する議 論の場として「広島AIプロセス」を創設。AIのガバナンス、著作権 など知的財産権の保護、透明性の促進、偽情報など外国からの 情報操作への対応、責任ある技術の活⽤などについて議論し、 年内に取りまとめを⾏う予定 • 欧州議会（2023年6⽉）︓⽣成AIに関する表⽰規制などを 盛り込んだAI規則案の修正を採択 • ⽶国ホワイトハウス（2023年7⽉）︓OpenAIなど主要なAI 企業とAI開発の安全性、セキュリティ、透明性を促進するための ⾃主的な枠組みに合意 7 2.⽣成AIに関する法的・倫理的課題と国内外の議論
- 10. p ⾏政へのAIの導⼊の⽬的 • 国⺠・住⺠の利便性の向上 • ⾏政の効率化 • 職員の負担軽減 • イノベーションの創出 など p 政府・⾃治体におけるAIの活⽤事例 • AIによる国会答弁作成の⽀援（経済産業省） • AIによるインフラの点検（国⼟交通省） • チャットボットによる消費者相談（国⺠⽣活センター） • チャットボットによる住⺠からの問い合わせ対応（福岡県等） • AIを⽤いた保育所の割当（さいたま市等） • AIを⽤いた会議の議事録要約作成（徳島県等） など 10 3.⾃治体における⽣成AIの活⽤の可能性
- 11. p ⾃治体における⽣成AIの活⽤法の候補 • データの検索・整理・分析 • コーディング⽀援 • 施策・企画の⽴案⽀援 • 資料の作成・要約 • ⽂書の校正 • 翻訳 • 議事録の作成・要約 • 議会答弁作成 • 挨拶⽂作成 • キャッチコピーの提案 • プレスリリースやSNSの投稿の作成 • チャットボットによる住⺠からの問い合わせ対応 11 3.⾃治体における⽣成AIの活⽤の可能性
- 12. p デジタル化・DXの⼀環としての⽣成AIの利⽤ • ⾏政・⾃治体のデジタル化・DXの⼀環として⽣成AIの利⽤を進める 必要 • ⽣成AIの利⽤のガバナンスと合わせて、⾃治体の保有するデータや 利⽤する情報システムのガバナンスの整備や⾒直しも必要 12 3.⾃治体における⽣成AIの活⽤の可能性
- 13. p 利⽤する⽣成AIおよび業務の範囲 • ホワイトリスト⽅式︓職員は、あらかじめ許可・指定された業務について のみ、許可・指定された⽣成AI（⽣成AIサービス）を利⽤することが できる。 ü 神⼾市情報セキュリティ対策基準 ⽣成AIにおいて市の情報資 産を取り扱う場合、情報セキュリティ管理者の審査を受け、許可を 得ることを求める。（AIチャットボット等において市の情報資産を取 り扱う場合には、情報セキュリティ管理者の審査を受けた上で、市 ⻑の指定を受ける必要。） • ブラックリスト⽅式︓職員は、⽣成AIの利⽤を禁⽌された業務や業務 への利⽤を禁⽌された⽣成AI（⽣成AIサービス）以外については、 ⽣成AI （⽣成AIサービス）を業務に利⽤することができる。 13 3.⾃治体における⽣成AIの活⽤の可能性
- 14. p ⾃治体業務において利⽤する⽣成AIの範囲 • ⽣成AIを利⽤する業務の範囲 Ø 内部利⽤に留まる場合に⽐べ、議会での答弁や外部に公表され る⽂書等の作成に⽤いられる場合にはより慎重な検討が必要 Ø ⽣成AIの出⼒を職員がチェックして修正できる余地のある場合に ⽐べ、⽣成AIがリアルタイムに住⺠等に応答する場合にはより慎 重な検討が必要 • 利⽤する⽣成AIサービスの対象 Ø各種の⽣成AIサービスのメリットやリスクを把握して検討する必要 Ø各種の⽣成AIサービスの利⽤規約やプライバシーポリシーを⼗分 確認する必要 14 3.⾃治体における⽣成AIの活⽤の可能性
- 15. 4.⾃治体における⽣成AIの活⽤の際の留意事項 p AIの⽣成する誤情報・不正確な情報への対処 p AIによる差別のリスクへの対処 p 透明性と公平性の確保 p ⾮公開情報・機密情報の保護 p 個⼈情報の保護 p 著作権侵害のリスクへの対処 15
- 16. 4.⾃治体における⽣成AIの活⽤の際の留意事項 p AIの⽣成する誤情報・不正確な情報への対処 • ⽣成AIは幻覚（hallucination）を⽣み出すことがある。 • ⽣成AIの⽣み出す幻覚は、⼀⾒もっともらしい事実に⾒える。 • 実在しない出典や根拠を⽰すことも • 特に⽣成AIの元となるLLM（⼤規模⾔語モデル）の学習データに 含まれていない最新の情報は反映されていない可能性 • ⼈間（職員、専⾨家）が、⽣成AIの出⼒した情報の正確性を チェックして、⾃らの責任で最終判断する必要 16
- 17. 4.⾃治体における⽣成AIの活⽤の際の留意事項 p AIによる差別のリスクへの対処 • AIの学習するデータの偏り、AIの学習するデータに含まれる社会の偏 ⾒・バイアス、AIの不正確な予測などにより、AIが差別的な情報や判 断を出⼒するリスク ü AIが同和地区の所在を出⼒するリスクも • もっとも、⽣成AIの利⽤が庁内に限定されており、⽣成AIの出⼒した 情報の妥当性や公平性を職員がチェックして最終判断する場合には、 ⽣成AIが差別的な判断や情報を出⼒したとしても、その実害は限定 的なものにとどまるだろう。 • ⼀⽅、⾃治体が⽣成AIを利⽤して県⺠向けのチャットボット等を提供 する場合には、⽣成AIによる差別的な判断や情報の出⼒のリスクに⼗ 分注意する必要がある。 17
- 18. 4.⾃治体における⽣成AIの活⽤の際の留意事項 p 透明性と公平性の確保 • ⾃治体の事務・業務において⽣成AIを利⽤する事実や範囲につい て、原則として情報を公開するとともに、住⺠に説明し、住⺠から信 頼を得るよう努める必要 • ⽣成AIを利⽤している事実を伏せていたとしても、情報公開条例に 基づく情報公開請求により明らかになる可能性も • ⽣成AIを利⽤した⽂書等の作成についても公⽂書管理のプロセスに 組むこむ必要 • ⾃治体の事務・業務において⽣成AIを利⽤する場合には、政治的 公平性にも配慮する必要。特に議会・選挙関係での利⽤ 18
- 19. 4.⾃治体における⽣成AIの活⽤の際の留意事項 p ⾮公開情報・機密情報の保護 • ⽣成AIサービスの中には、⼊⼒されたデータが学習等に⽤いられる場 合もあるため、サービスの利⽤規約やプライバシーポリシーを⼗分確認 する必要がある。 • 少なくとも、⼊⼒されたデータが学習等に⽤いられるAI⽣成サービスに は、⾮公開情報や機密情報を⼊⼒しないことが求められる。 • ⽣成AIへの⼊⼒を制限する⾮公開情報や機密情報の対象範囲につ いては、情報公開条例やセキュリティポリシーを参考にすることが考えら れる。 19
- 20. 4.⾃治体における⽣成AIの活⽤の際の留意事項 u神⼾市情報通信技術を活⽤した⾏政の推進等に関する条例 ※2023年5⽉に改正し、2条の2を追加 第２条の２ 本市の機関等の職員は、職務上知り得た情報のうち神⼾ 市情報公開条例（略）第10条各号に掲げるものを含む指令を、次の 各号に掲げるものに対して与えてはならない。ただし、安全性が確認され たものとして市⻑が別に定める場合を除く。 (1)ＡＩチャットボット（⼈⼯的な⽅法により学習、推論、判断等の知 的機能を備え、かつ、質問その他の電⼦計算機に対する指令に応 じて当該知的機能の活⽤により得られた結果を⾃動的に回答するよ う 作成されたプログラムをいう。） (2)その他前号に類するもの Ø 情報公開条例上の不開⽰情報のAIチャットボットへの⼊⼒を原則とし て禁⽌ 20
- 21. 4.⾃治体における⽣成AIの活⽤の際の留意事項 p 個⼈情報の保護 • ⾃治体による⽣成AIへの個⼈情報の⼊⼒は、当該個⼈情報の利 ⽤⽬的のための必要最⼩限の利⽤・提供にとどまっていれば、個⼈ 情報保護法上は必ずしも禁じられているわけではない。 • もっとも、⽣成AIに⼊⼒された個⼈情報が学習等に利⽤される場合 には、個⼈情報保護法に違反する可能性があるため、あらかじめ サービスの利⽤規約やプライバシーポリシーを⼗分確認する必要 • 実務的には、⾃治体の職員が職務として⽣成AIを利⽤する場合に は、⽣成AIへの個⼈情報の⼊⼒を⼀律に禁⽌しておく⽅が無難か • ⽣成AIの出⼒した特定の個⼈に関する情報に基づいて、⾃治体が、 当該個⼈への権利利益の侵害を助⻑したり、誘発するおそれのある 判断や情報提供を⾏うと、不適正な利⽤の禁⽌規定（個⼈情報 保護法63条）に抵触するおそれもある。 21
- 23. 4.⾃治体における⽣成AIの活⽤の際の留意事項 p 著作権侵害のリスクへの対処 • 開発・学習段階と⽣成・利⽤段階に分けて問題を検討する必要 • ⾏政や⾃治体の現場で問題になるのは、主に⽣成・利⽤段階 • ⽣成されたコンテンツに既存のコンテンツ（著作物）との類似性および 依拠性が認められれば、著作権侵害に当たる可能性。 • 特定のクリエイターや作品に類似したコンテンツの⽣成を促すようなプロ ンプトを⼊⼒することは控えるべきだろう。 • 特に、AIにより⽣成されたコンテンツ（画像等）を外部に公表する場 合には、著作権侵害のおそれがないか慎重にチェックすることが必要 23
- 25. 4.⾃治体における⽣成AIの活⽤の際の留意事項 p 全般的な留意事項 • 職員への⽣成AIの機能やリスクについての研修 • ⽣成AIに関する庁内の担当部署や相談窓⼝の設置 • 職員によるチェック Ø もっとも、職員によるチェックに時間と⼿間をかけすぎると⽣成AIを 利⽤するメリットが薄くなってしまうというジレンマも • ⽣成AIの利⽤により⽣じる便益とリスクやコストを⽐較検討して⽣成 AIの利⽤の可否を判断することが重要 Ø ⽣成AIを利⽤することが⾃体が⽬的ではないはず Ø 県⺠へのサービス向上、業務の効率性向上、職員の負担軽減、 イノベーション創出など⽬的を明確にする必要 25