https://phsc.jp/conference.html#2022_aki

1. @HiroTHamadaJP
濱田 太陽, Ph.D
シニアリサーチャー
株式会社アラヤ
人類のデータを使って学習する
人工主体の公共的役割を考える

2. 画像生成AI: テキスト文から画像生成が可能に

3. 生成画像が届くまでのフロー
イラストレーター等
Web上に掲載
Webサイト
開発者
学習データとして提供
画像を取得
画像生成AI
利用者
画像提供
テキスト
入力

4. 1. 画像生成AIが生んだ新たに生んだ文化や懸念について紹介
2. 指摘されている問題点を列挙
 学習モデルに利用されている画像を作成したイラストレーターへの影響
 サービスを提供するAIモデルを有償で提供することの問題
 オープンソース(無償)で提供されることへの不満
3. 現状web上で議論されている対策や状況を整理
4. 人工主体にとっての公共性とはを考えたい
本日の内容

5. 1. 画像生成AIが生んだ新たに生んだ文化や懸念について紹介
2. 指摘されている問題点を列挙
 学習モデルに利用されている画像を作成したイラストレーターへの影響
 サービスを提供するAIモデルを有償で提供することの問題
 オープンソース(無償)で提供されることへの不満
3. 現状web上で議論されている対策や状況を整理
4. 人工主体にとっての公共性とはを考えたい
本日の内容

6. 画像生成AIをベースに新たな文化や作品も登場

7. 画像生成のみならず動画や音声までの波及効果

8. 特定のプロンプトを利用することで画像が精密
に制御される → プロンプト(呪文)の取引へ
https://promptbase.com/

9. コスト: 人件費 + モデルの学習費用(GPU等の電気代)
1. 月額課金型: コストを月額のサブスクによって(一部)回収する
eg. Novel AI
2. 無償オープンソース型: 広告? 企業ごとの売却? 特定の課題に対して契約
eg. Stable Diffusion (Stability AI)
いずれにせよ学習に使われた画像を生成したクリエイターには
利益は現時点では還元されない。
画像生成AI等のビジネルモデルの例

10. 1. 画像生成AIが生んだ新たに生んだ文化や懸念について紹介
2. 指摘されている問題点を列挙
 学習モデルに利用されている画像を作成したイラストレーターへの影響
 サービスを提供するAIモデルを有償・無償で提供することの問題
3. 現状web上で議論されている対策や状況を整理
4. 人工主体にとっての公共性とはを考えたい
本日の内容

11. 『画像生成AIの対価を人間の絵描きは受け取っていない』
Undark：
しかし、データベースを構築するために使っているのは一般市民のデータであり、その点でAI開
発のために一般市民に頼っているはずです。その認識は間違いないでしょうか。
ゲイリー・マーカス 教授 (NYU)：
その通りだと思います。そして、アートの面でも重要な点が浮上しています。OpenAIの
DALL-Eのようなシステムは、非常に優れた画像を描き出しますが、それは何百万、何十億と
いう人間が作った画像に基づいて行われています。元の絵を描いたアーティストは、その対価を
受け取っていません。このことに対して多くのアーティストが懸念しており、多くの論争が起きてい
ます。この問題は複雑ですが、少なくとも現在、多くのAIが「意図されていない人間の貢献」を
利用していることは間違いありません。
https://undark.org/2022/10/07/interview-why-mastering-language-is-so-
difficult-for-ai/

12. AIモデル自体がイラストレーターのエコシステムを変える
イラストレーター等
画像生成AI
利用者
利用頻度の上昇
模倣
これまでイラストで利益を得ていた
多くのイラストレーターの著作物が無償で利用さ
れ、多くのイラストレーターのスキルが無駄に?
(模倣?)
需要低下?

13. クリエイターへの還元なしにAIモデルを提供する問題
イラストレーター等
開発者
利用者
月額利用料
画像使用料?
労力をかけて画像を作成したクリエイターに
対して利益還元なしに金銭的もしくは非金
銭的利益(注目等)を得ている。

14. 1. 画像生成AIが生んだ新たに生んだ文化や懸念について紹介
2. 指摘されている問題点を列挙
 学習モデルに利用されている画像を作成したイラストレーターへの影響
 サービスを提供するAIモデルを有償で提供することの問題
 オープンソース(無償)で提供されることへの不満
3. 現状web上で議論されている対策と状況を整理
4. 人工主体にとっての公共性とはを考えたい
本日の内容

15. 1. クリエイターも画像生成AIをツールとして利用
2. オープンソース化 eg. Stability AI
 誰でも利用できる様にする
3. 得られた利益からクリエイターに利益を分配
 クリエイターの利益がどの程度になるか?
 異なるサイトの場合はどのように対応するか？
 eg. Shutterstock, 画像ストックサイト
4. 企業に対して課税や寄付を促す
 クリエイターへの還元はできるのか？
5. そもそもこのようなAIを禁止する
 他の地域で禁止されない場合意味がなくなる
いくつかの対策案
6. 学習データをパブリックドメイン等の
改変可能なものに限定する? (クリエイ
ティブ・コモンズをAIによる利用は考慮
すべきか？)

16. 画像生成AIは、
1. 多くの人が利用できる安価な領域を提供
○ 画像生成スキルを民主化 & 公共財化(?)
○ 新たなクリエイター層 & エコシステムの創出
2. これまでのクリエイターの画像生成スキルの価値が相対的に低下
○ 既存のクリエイターエコシステムに大規模な変化
3. AIの画像生成スキルをうむ学習をどう捉えるべきかが問題となる
○ 人類が学習する際には通常学習コストの一部をクリエイターに支払う
○ 開発コストはあるが、人類の習熟が必要なスキルが無償で大量に利用されている
3つの状況の整理
創造的破壊?
(シュンペーター)

17. 1. 画像生成AIが生んだ新たに生んだ文化や懸念について紹介
2. 指摘されている問題点を列挙
 学習モデルに利用されている画像を作成したイラストレーターへの影響
 サービスを提供するAIモデルを有償で提供することの問題
 オープンソース(無償)で提供されることへの不満
3. 現状web上で議論されている対策や論点を整理
4. 人工主体にとっての公共性とはを考えたい
本日の内容

18. 画像生成AIを人工主体と言いたいわけではない。
しかし、画像生成AIはこれまでの(AIの)技術的&社会的変化と異なるのが
人間のデータを学習しそのデータを提供する主体との関係性を変えてしまう。
より自律的な人工主体が現れた時には人類は彼らとどう向き合えば良いのか？
これらのより公共性について語りうるのか？
人工主体の公共性?

19. 1. 複数の主体が異なる生得的能力を持つ社会においてどのように公共的役割を発揮す
るか・すべきか。
 多元主義は可能か? 人工主体における”活動” (アーレント)とはなにか?
2. 人工主体の富の集中にはいかなる制約が課されるか。
 人間において大規模に利益を上げる富豪には納税や寄付の圧力が高まる。
 人間のスキルを圧倒的に上回る主体にはいかなる公共的制限がもとめられるか？
人工主体の公共性?

20. 模倣による文化の進化
● クリエイティブ・コモンズ (CC, 2002)
by ローレンス・レッシグ
インターネット上に挙げる著作物についてどう扱うか事前に
明記することで創作に利用しやすくなる。
 2000年代以降複数のコンテンツを組み合わせることで
表現するコンテンツやそのエコシステムから生まれる創作
者が増えた。
 二次創作
 マッド動画 (in ニコニコ動画)
 リミックス文化 (eg. Avicii)
 ボーカロイド (eg.米津玄師) ボーカロイドの歌い方を模倣する
人も
 人工主体との文化の共進化?
Avicii 米津玄師

21. まとめ
● 画像生成AIによるイラストレーターと消費者の関係性の変化
○ 新たな作品生成手法が登場、テキスト自体が取引等
● 画像生成AIがクリエイターのエコシステムの変化
○ これまでの経済モデルが成り立たなくなる
○ クリエイターのデータを利用することでクリエイターの価値が低下することの懸念
● 市場の創造的破壊 (シュンペーター)による一部の絵描スキルの公共財化
● 人間と異なるスキルを人工主体はどのようにその能力を公共域を発揮すべきなのか？
○ 人工主体が関与する公共領域はどのようなものか
○ 文化の共進化?