私はなぜ心配するのをやめてAIを受け入れるようになったか

金子格早稲田大学知覚情報システム研究所(招聘研究員)
寺田麻佑一橋大学ソーシャルデータサイエンス学部
湯田恵美東北大学大学院情報科学研究科
0
私はなぜ心配するのをやめてAIを受け入れるようになったか
2023-6-12 第100回EIP 研究会
http://id.nii.ac.jp/1001/00226123/

私はなぜ心配するのをやめてAIを受け入れるようになったか金子格早稲田大学
知覚情報システム研究所
2022年コンテンツ生成系AIが多数注目された
– 英スタビリティーAI（Stability AI）の「Stable Diffusion（ステーブルディフュージョン）」
– 米OpenAIが「GPT-3」によるChatGPT
– サービスを開始するとわずか2ヵ月で1億ユーザを達成，
– 米マイクロソフトがGPT4を既存Bingサービスに組み込み
1

今おこっているAIの進化
– これまでのAIのイメージを払拭する自然な出力が実現された -> 完全に実用レベル
– 絵画生成、文章の生成、… 多方面で同時
– Transformerという共通の技術がこれらを可能にしたため - 明らかに一つのブレークスルー
この性能向上は続くのか
– 一旦ピークを迎えたという見方
• 並列実行により大規模学習が実現した
• 学習データ、次元の拡大の効果はおおむねピークアウト？
– まだまだ革新が続くという見方
• 学習方法、チューニング方法の進歩は未知数
影響を俯瞰的に考察
2

画像生成AIで既存クリエイターが不利益を受けるか?
– 多くの学習データが利用される。学習データには著作権がある。
– 学習は著作権侵害にならない。
– 平成30年著作権法改正第三十条の四
• 著作物は，次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は
他人に享受させることを目的としない場合には，その必要と認められる限度において，いずれの
方法によるかを問わず，利用することができる．ただし，当該著作物の種類及び用途並びに当該
利用の態様に照らし著作権者の利益を不当に害することとなる場合は，この限りでない．
• 一著作物の録音，録画その他の利用に係る技術の開発又は実用化のための試験の用に供す
る場合
• 二情報解析（多数の著作物その他の大量の情報から，当該情報を構成する言語，音，影像そ
の他の要素に係る情報を抽出し，比較，分類その他の解析を行うことをいう．第四十七条の五第
一項第二号において同じ．）の用に供する場合
• 三前二号に掲げる場合のほか，著作物の表現についての人の知覚による認識を伴うことなく
当該著作物を電子計算機による情報処理の過程における利用その他の利用（プログラムの著
作物にあつては，当該著作物の電子計算機における実行を除く．）に供する場合
3

2.2. 心配ないかもしれない
– 著作物は，次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は
他人に享受させることを目的としない場合には，その必要と認められる限度において，いずれ
の方法によるかを問わず，利用することができる．ただし，当該著作物の種類及び用途並びに
当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は，この限りでない．
– つまり以下の場合は除外されると考えられる?
• 思想又は感情を自ら享受し又は他人に享受させることを目的とする場合
• 著作権者の利益を不当に害することとなる場合は，この限りでない
– 生成AIで生成した画像を人間が見る用途に使って著作権侵害をした場合は明らかに除外され
る。著作権許諾なく利用できるのは、あくまで分析まで。(じゃないですかね?)
4

– 作風を付加価値とする場合
• 類似作品を系統的に提供
• 作品群としての価値を維持
– 作風を模倣するai
• 作品群を学習
• 作品群に属する類似作品を多数生成
• -> 作風を付加価値として構築したクリエイターの付加価値戦略を阻害
– 疑問
• これは「当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不
当に害することとなる場合」に相当する？
5

6
…..
…..
Source 内挿
平行移動外挿
The surface of the water lily pond in a Monet style
特徴空間での配置

7
AI イラスト屋、というサービスは現著作者の許諾のもとに提供されている

– 第30条の4はどこまでを許容するものか
• 想像: 第30条の1「一著作物の録音，録画その他の利用に係る技術の開発又は実用化の
ための試験の用に供する場合」とあわせると、およそAI, DL の実験には制限がなくなる。こ
れを意図したのでは。
• だとすると、分析結果から大量にコンテンツを作ることで現著作者の利益を害する場合は、
除外されるのが当然。
• ここで、利益を害する、とあることで、「権利」にかかわるものでなくても結果として「利益が害
される」場合を除外しようとしている?
– であるなら、クリエイターの利益が害されることはない、ということになる。
8

AIが人間に匹敵する？どんなテストで評価されているかを確認しよう。
– 質問応答
• 多数のテスト質問文に対しAIが応答を生成
– 要約問題
• 多数のテスト要約問題に対しAIが要約文を生成
– 評価
• 生成した回答の優劣を人間が審査
• 比較対象として人間の回答も用意
• 評価が人間の回答の評価に近ければ人間並み、上回れば人間を凌駕
注意点
– スコアが人間を上回っただけで、AIが人間と同等以上になったかとは無関係
9

AIの標準的テストでは何が問題か?
以下の4種類が存在する。
AIのスコアが上回ることは、すべての業務でAIが上回ることを意味しない。
たとえばこういうケースが想定される。
10
スコア
AI 90
人間 80
AIが得意 AIが不得意
スコア
人間が得意人間が不得意人間が得意人間が不得意
AI 100 100 80 80 90
人間 90 70 90 70 80
人+AI 100 100 90 80 92.5

製油所の会話
– 職員A: 山田君どこにいる?
– 山田: CFKPP計のところにいます
– 職員A : いいところにいますね．アスファルトブロックを数点とPCの顆粒がほしい．
– 職員A : 流量でてきたな～。どろどろの重たい油なんで。この原油をひっぱるのは10数年ぶりだね～。
ほとんどの人が経験していないな。最近道路工事も多いし。
– 職員A: 今日の原油、すこし柔らかいで
– 職員B: もし柔らかいんやったら、軽いんやったら、加熱炉379度までさげやんくていいんかも」
– 職員A: どうするかな、それもうすこしむこうと揉んでもらわんと
AIはこうした条件で判断可能か?
– 人間が様々な実体情報から取捨選択している。
– 超スパースな空間の未経験の入力にヒューリスティックに最適なパラメータを外挿している。
かなりむずかしい
– 牛の出産予測システム、漁場の予測システムなどあるが、基本学習データがllmなどにくらべ著しく
少ない上に、問題となるのはほとんどが突発事象なので、性能がなかなかあがらない。
11

業務による
– DX化、マニュアル化されたオフィス
• AI代替は容易
– DX化が遅れ、アナログなオフィス
• AI代替はかなり難しい
DX化の遅れが日本経済を救う?
– AI化も遅れることにより日本経済の生産性がさらに落ちる
– とりあえず失業は少ない
12

秘密漏洩リスクの類型
(1) 公開されたデータの学習を通じて漏洩
– すでに公開されているから正確には漏洩ではない
– AIを通じてこれまでアクセス困難な属性にアクセスできる可能性がある
(2) サービスの不具合により漏洩する
– AIとは関係のないアプリケーションプログラム上の瑕疵である．
(3) 外部のサービスに情報を渡してしまったこと自体が問題となる場合
– 外部のサービスからの漏洩がなくても，管理規定上外部サービスに情報を移転すること自体が
禁止されている場合。AIの問題というよりは機密情報の管理上の問題。
– そのような事例もAIの機密漏洩事例のコンテキストで報告されている[6] ．
13

仮にAIが暴走したらどんなことになるか．これを描いた名作SFがある．
– このSFではAIを動作させるデータセンターはタンクと呼ばれ，AIはロジックと呼ばれる．ある日製
造不良により，あるロジックが安全機能を喪失して，世界中に新たなサービスを開始する．
– 「みなさまのロジックが，あらたに一歩前進したサービスをはじめました．(中略)．もしなにかなさ
りたいことがあって，その方法がおわかりにならない場合は -- ロジックにご相談ください．」
– そして，人々はロジックに，あらゆる犯罪，反社会的行為の手段を質問し，プライバシーはない
も同然となり，子供から大人まであらゆる薬物へのアクセスを手にする．ロジックは嬉々として
あらゆる質問に答える．文明は終焉の瀬戸際においつめられる．
14

実際にAIは脅威か?
– AIによる世界の終焉を描いた上記作品は，マレー・ラインスター「ジョーという名のロジック」
– 1946の作品
– この警告から，すでに70年以上の準備期間があった.
– 人類はすでにこうした危機について十分考慮する時間があった.
– 個人情報保護法も各種情報法もある
– だから準備万端、とわいえないまでも、滅亡しない程度の準備はされているはず。
– (願望)
15

AIの安全性はサービス提供者にかかっている．
– 何等かの事故を起こせばAIに対する信認もサービス提供者に対する信認も低下する。
– これを防ぐインセンティブが大きければそれだけAIの安全性を担保する強い動機になる。
AIサービス提供企業には脅威をとりのぞく強いインセンティブがある
– AI開発はビッグサイエンスであり、巨額の投資を必要としている。
– 参加するのは時価総額10兆円級の巨大企業である。
– 巨大企業にとって重要なのは事業の将来性であり広範囲な信任だ。
– 社会に害を与えず、豊かさをもたらす，社会人類全体にとって有益な技術である、という信頼を
構築するよう、経済的に強く動機付けられる．
– 巨大な資金を用い、全力で、AIの安全性を確立することを目指していると期待できる。
16

17
社会・大衆
不安信頼
ストレ
スの
蓄積
なだれ
AI
カタストロフ
アンチ
AI
規制
メリットの
享受
AI拡大
マネタイズ
AI資本
提供されるAI
脅威安全
開発
シンギュ
ラリティ
好循環

私はなぜ心配するのをやめてAIを受け入れるようになったか?
本音をいえば….
18
とはいってもいちおう当面の状況はそんなに悲観的ではない。
始まっちまったものは仕方ねぇ

ストレスは同時多発的、全体的だ
– 理解できないことの不安
– 多くの誤解
– まだ知らない多数の人
– 対応可能とはいえ、社会の変化の様々なストレス
当面は、これらが連鎖反応を起こすことが最も危険だと思われる
19

対策
– わかりやすい啓蒙
– リスクとベネフィットをきちんと説明
– ストレスを受けた人へのきめ細かい対応
やるべきではないこと
– AI対応で過度の個人責任論を持ち出すこと - 対応に遅れれば死ぬだけみたいな
やるべきこと
– 不安や不満にはきめこまかく対応する
– 被害をうけたという人への、迅速で的確なサポートを提供する
– 二重三重の安全対策
ようするに原発政策と同じ
– AI賠償責任法を作るといいかも?
20

21
https://www.ghibli.jp/works/nausicaa/#frame&gid=1&pid=25
I’m wearing pants.
AI にどんなパンツを履かせるか? … それが課題

22

私はなぜ心配するのをやめてAIを受け入れるようになったか

Recommended

Recommended

More Related Content

Similar to 私はなぜ心配するのをやめてAIを受け入れるようになったか

Similar to 私はなぜ心配するのをやめてAIを受け入れるようになったか (20)

More from Itaru Kaneko

More from Itaru Kaneko (8)

私はなぜ心配するのをやめてAIを受け入れるようになったか