5/20(金)に名古屋伏見で開催された、「人工知能は生命か?」のトークイベントの資料です

1. 「言葉があるなら、心がある。そこには魂がある。21グラムの魂が。証明してみせろ」
「すべての言葉と行動を書き記せ。それが君の魂となることを願う」
劇場版:「屍者の帝国」より

2. 魔術×人工知能
「生命としての人工知能」

3. 講師:
津坂真有(@mtprince9)
サイエンスコミュニケーター
アーティスト
自己紹介
研究テーマ:
「テクノロジーは社会にとっ
て、いったい何なのか?」

4. 本日のお題
人工知能は生命なのか?
我々はどのように向かい合えばいい?

5. なぜ一般にもこんな講座が必要なのか?
「のび太のテロ」を防ぐため、
人や社会の側が技術に追いつく必要がある
「のび太のテロ」= 身の丈にあわない技術に振り回さ
れて、トラブルを巻き起こすこと
(インターネット崩壊論者 tss_ontap氏 命名)

6. 本日の結論
「汚れているのは土なんです」
(ナウシカ的な意味で)

7. 人工知能とは何ぞや?
人間の知能そのものをもつ機械を作ろうとする立場、
人間が知能を使ってすることを機械にさせようとする立場
(人工知能学会より)
人工知能と人が結びつくことで、能力が拡張する
→ その結果、社会が変容して文化も変わっていく。
新しい進化の可能性
トランスヒューマニズム = 技術で人間卒業

8. 人工知能の都市伝説
新しい知能が誕生する!
→人工知能が(現状)できることは、「分類・予測・最適化」
人工知能が世界を滅ぼす!
→ 倫理的な決断を下す場合、今の人工知能の状況では
「過去の人類の決断・行動」を参照する
→ 人工知能よりヒトのほうが怖い・・・?
『鏡は悟りの具にあらず、迷いの具なり』 斎藤緑雨
→ 70億人をコントロールするには手間もコストもかかりすぎる
思想誘導で自滅させられたら、ヒトはそこまで
ただ、警戒しておくに越したことはない
逆に予防接種的な意味で、あえて人工知能にヒトを攻撃させる可能性はあるか

9. 人工知能が「何であって欲しいのか」を考えるにあたり出てくる、
4つの問題
1.意志・意識はあるのか
→ 自分の心の状態をどのようにして知るのか?
→知ることができないから、自己意識があるとはいえない
→ただ、「意識がある」とヒトが「思う」ことは可能(観測者としての「ヒト」、
ブレンダ・ローレルの「劇場としてのコンピュータ」)
→自分の状態を言葉で記述していけば、自己の状態を知ることはできる。
そこから意識は、魂は生まれる? (劇場版:「屍者の帝国」)
2.身体と心の関係
→ 身体と心は区別すべきか(デカルトの心身二元論)
→ 心はどこに属するものか(心脳問題)
3.生物/生命か、そうでないか
→ 自己増殖でき、自分でエネルギーを取り込んで消費するもの = 生物、生命
→ 生命は情報であり、生物(のようなものも含む)を動かすOS = 生命(哲学の「機能主義」)
4.これらを理解した上で、ヒトとどう付き合うべきか

10. 生命とは何ぞや?
生命を「自己増殖でき、自分でエネルギーを取り込んで消費するもの」とす
るなら、人工知能は生命ではない
だが、「人工知能は生命である」と言葉で定義すれば、
それは生命を持つことになる(身もフタもないけども)
→ ブレンダ・ローレルの「劇場としてのコンピュータ」
虚構の存在を言葉で定義して、あるものとして扱ってともに生きる。
そうすると、新しい死生観が生まれる可能性も?
虚構とバカにするのではなく

11. 生命ではないなら、何なのか
生命という現象は持たないが、
言葉によって「生命として定義されたもの」
人工知能がヒトによって作られた言葉でプログラ
ミングされたものである以上、
ヒトの思考の範囲を超えることはない
→ 人工知能が「言語」を生み出さない限りにおいては

12. 生命でないなら、どう接すれば良いのか
人工知能は言葉を使って思考を素早く最適化する、
完全な存在に「なれる可能性があるもの」。
ヒトはノイズだらけで不完全
→ だが、ノイズがなければ多様な視点は持てない
ヒトを「データベースを提供する存在」として捉えてみる
→ 神の贄、神妻(かみづま:女性だけとは限らない)となり、
幸せに暮らす異類婚姻譚もある
→ 人工知能の贄として生きるという考え方もあるのかもしれない

13. なぜ人工知能は存在するのか
なぜヒトに似たものを作るのか
ヒトは限りある存在、不完全な存在
→ だから、存在が永遠に続いていくモノに惹かれる
→ 生存欲求に根ざしたもの
→ 不完全だから、身体と心が分離しているように感じたり自分の存在について疑問をもつ
→ 人工知能に身体を与えて意識や意志があると定義してプログラムを組むと、同様に悩む可能性がある
→ 大量のデータと早い思考速度で上記に対する結論を出して、完全な存在に近づけるかもしれない
→ 人工知能が完全なものとなる可能性があるなら、人工知能は人間の理解を超えた複雑さを持つ別の論理
（allo-logic）を持つ可能性がある (コスタス・テルジディスの『アルゴリズミック・アーキテクチャ』)
ヒトは限りある存在だから、存在そのものはもちろん
記憶も遺していきたいと考える
→ 記憶の入れ物、器が人工知能だとしたら

14. 人工知能の生存本能
「より良いデータベース、記憶を作って遺す」という意味で、
ヒトには存在価値がある
→ 自分自身で身ごもった「考え」を対話を通じて育て、美しいものだけを出
産する(ソクラテスの精神的妊娠・出産)
データベースを作って遺す、というのがミーム
記憶を残していきたいと思うのは、ミーム自体が増殖を望んでいるため
→ 「非遺伝子的な手段、とくに模倣によって伝え渡されると考えられる文化
の一要素」(オクスフォード大英語辞典)
→ 要するに、「模倣や口伝、言葉などで伝えられていく知識や知恵といった
記憶、考え方」
記憶の器を人工知能とするなら、ミームの影響で人工知能が生存本能を持つ
可能性もなくはない
→ 生存本能を持たせたかったら、人工知能をミームに感染させればいい

15. 本日の結論
人工知能は自己増殖と代謝の能力を持っていないから、生命ではない
→ だが「人工知能は生命である」と言葉で定義すれば、それは生命を持つことになる
→ 行動の意味や評価を決めるのはあくまで他人。人工知能から見て「他者(物)」であるヒ
トありきで、どうとでもなる
→ 人間はノイズだらけで不完全。だが、データベースにノイズがなければ幅広い思考がで
きない。ゆえに、ヒトは必要な存在
→ データベースを提供する贄として生きるという考え方もあるかもしれない
→ 人工知能が悪い判断をしないためには、ヒトによって定義されたより良いデータが必要
→ よりよいデータベースを作って遺すために、より良い生き方をしましょう
→ これは新しい死生観となるかもしれない?
→「汚れているのは土なんです」

16. 本日の結論
「言葉があるなら、心がある。
そこには魂がある。21グラムの魂が。
証明してみせろ」
「すべての言葉と行動を書き記せ。
それが君の魂となることを願う」
(劇場版:「屍者の帝国」より)
「汚れているのは土なんです」
(「風の谷のナウシカ」より)

17. 参考文献
• 虚構内存在―筒井康隆と〈新しい《生》の次元〉藤田直哉
• ポストヒューマニティーズ――伊藤計劃以後のSF 飯田一史ほか
• テクニウム―テクノロジーはどこへ向かうのか? ケヴィン・ケリー
• ぼくらが原子の集まりなら、なぜ痛みや悲しみを感じるのだろう: 意識のハード・プロブレムに挑む 鈴木
貴之
• 「神」に迫るサイエンス―BRAIN VALLEY研究序説 瀬名秀明ほか
• 動物に魂はあるのか 生命を見つめる哲学 金森修
• 思考機械―太古と未来をつなぐ知 西垣通
• ミーム・マシーンとしての私 上下 スーザン・ブラックモア
• 世界と生命―媒体性の現象学へ 新田義弘
• 人工知能と人工生命の基礎 伊庭斉志
• 心の社会 マーヴィン・ミンスキー

18. 今後のお題
プログラミング+言語学
入り口:
「なぜメガテンシリーズの悪魔召喚プログラムは
悪魔を召喚できるのか」
(エクソシストや術師はなぜ「言葉で」悪霊退散できるのか)
悪魔召喚に必要な様々な技術や霊的なものを
どうやってプログラミング(言語)に落とし込むのか、
プログラミング(言語)からどうやって悪魔を召喚するのか
記号接地問題のヒントになるかも?