2016年12月7日の三文会で使用したスライドです．

1. AIについて『素人が』考える

2. 導入

3. 自己紹介
吉立開途
● 東大理一→同文学部→東工大院(修士)
● AIに関してズブの素人
●
ミーハー的な興味はある

4. 何がAIか，今さらの定義
● AI stands for “Artificial Intelligence”
●
二つある．
– 人間そのもののような知能を機械に持たせる
– 人間が知能を使って遂行するタスクを
機械にさせる
●
ほとんどの研究者は後者の立場
● 本発表では前者のようなAIをとくにAGIと呼ぶ

5. 猫も杓子もAI！ だけど……
● AIブームは現在のもの含め三回
● AIブームは一部の芸術界や宗教界にも
●
もっぱら金銭的・経済的関心からの注目
● でも，アンケートによってはAIで自分の仕事が
置き換わらないとする意見が半分
● 実は多くの人がAIは自分の生活と
関係しないと思っているのでは？

6. 猫も杓子もAI！ だけど……

7. Ethical, Legal, and Social Issues
● 日本人工知能学会にもELSI分科会が設立
●
もちろん専門家たちによる議論は前提．
しかし一般市民も今後，主に倫理・法・社会的な
AIの側面について考えるべき
– あとからでは遅い．
– とくにAIはGPT（後述）ゆえ，大きな影響がある

8. 一介の素人がAIを考える意味
● AIはすでに我々の生活に浸透しつつある．
●
さらには我々の雇用や社会保障，安全保障などの
極めて重大な関心事にもつながる．
●
技術を専門家に丸投げして良い理由はない．
無知・無関心は一般に危険

9. AI小史

10. AIなき時代にAIの歌を
● 「AI的な発想」は神話まで遡る ex. ゴーレム
● オートマタ，からくり人形もAI的発想
●
デカルト的な知性を計算に還元する発想
●
より直接的にはコンピュータの発明が起源
● ちなみにWikipedia日本語版にも
「人工知能の歴史」という項目が……

11. ＡＩの発祥――ダートマス会議
● 1956年，
マーヴィン・ミンスキーとジョン・マッカーシーなどが
「ダートマス会議」を開催．Artificial Intelligence
という用語が定義される
● 会議内容は主にAI実装に向けた
ブレーンストーミング
●
アレン・ニューウェルとハーバート・サイモンが
Logic Theorist を発表したのもこの席上

12. ＡＩブームと冬
● 1956-1974年 第一次ブーム
– 一番最初の頃
● 1974-1980年 第一次冬
– 「AI限られた問題しか解けないじゃん」ってバレた
● 1980-1987年 第二次ブーム
– 「お！ エキスパートシステムすげえ！」
● 1987-1993年 第二次冬
– 「やっぱ駄目だな」
● 1993- 復活
– ようやく学習して資金難から抜け出た
● 2010s- 第三次ブーム？

13. コネクショニズムと記号論理主義
●
ＡＩを実装しようとする，二つの方法論
– コネクショニズム;
脳のニューラルネットワークの真似
Deep learning はこれ
挙動を予測しづらい(要出典)
– 記号論理主義;
if...thenルールで挙動を記述する
エキスパートシステムなど
今までの主流

14. エキスパートシステムとその蹉跌
● 知識ベースと推論エンジンからなるAI
● if ... then という形式で，知識ベースをもとに結論
● AIを汎用的用途に使うのではなく，
専門家として役立たせる．
●
一定の成功を収めたが，
やがて尻すぼみとなった．

15. 嗚呼，悲運の第五世代コンピュータ
●
エキスパートシステム華やかりし頃，
日本の通産省(当時)が主導したAIプロジェクト
● 570億円を投じたが，大した成果は出ず
● AI研究者が予算獲得に誇大広告をうった側面も
● AI研究者，機械に学習させるのは得意だが，
自分が学習するのは不得手？

16. 「ＡＩは滅びぬ！ 何度でも蘇るさ！」
●
また復活
● 直接には deep learning のおかげ
● また，AI研究者が誇大広告はマズいと学習？
● 現在，AI研究には莫大な予算がつくが，
過去の轍は踏まないでほしい

17. 今のＡＩブームも「ブーム」か？
●
当初のダートマス会議におけるＡＩ研究の究極目標
「人間と同等な汎用人工知能」
●
このままＡＩは上記目標に到達？
いくつかの難点
– 知能の汎用性が何かコンセンサスをもって
定義できていない
– 今の段階ではＡＩはみな特化型
●
ブームである可能性大
●
それでも皆がブームに乗るのは？

18. 外挿で未来技術を予想する危うさ
●
哲学者のカール・ポパーによれば，
未来は原理的に予測しえない．
●
とくに未来の技術においてはそうである．
「未来において知ることを今知ることは不可能」
であるという単純な理由から
●
外挿法やデルファイ法といった予測法もあるが，
あまり確定的ではない

19. ＡＩと哲学/ＡＩの哲学

20. ＡＩが持つ哲学的問題
●
「知能」という人間の能力を実装するため，
かなりメタな認知能力が要求される
●
ＡＩが提起した，あるいはＡＩが要求する哲学的問題
● 主要なものは二つ;
→フレーム問題
→記号接地問題

21. フレーム問題
●
我々は普段，外界からの膨大な情報に接している
●
しかし，それらのほぼ全ては意識に上ることなく，
必要な情報を無意識に取捨選択して処理する．
●
機械にはそれができない，またはとても苦手
● 機械は認知の枠=フレームから出られない

22. 一般化フレーム問題
●
しかし，人間でも全く新奇な状況に置かれれば，
適切な行動はまず取れない．
●
つまり，人間もフレームから出ることはできない．
ただ，フレームを(かなりの程度無意識に)動かせる
●
人間にも拡張したフレーム問題を
一般化フレーム問題と呼ぶ

23. 記号接地問題
● 機械は全て(当然だが)0または1の記号で処理する
● 外界からの入力も，当然0と1になる．
● では，外界の事物と01の記号をどうリンクするか？
●
記号接地問題

24. そもそも人間の知性は汎用的か？
●
上記のとおり，人間でも完全に新奇な状態では
適切に行動できない．
●
また，社会的に有益とされる仕事を行うには相当な
年数のトレーニングが必須であることが多い．
●
本当に人間の知性が汎用性を持つかは，要検討

25. AGIとその実現に向けた困難
● AGI = Artificial General Intelligence,
汎用人工知能
●
達成するにはフレーム問題の擬似的解決と
記号接地問題の解決が必要
● AGIの達成に向けて動いている団体もある．
主に全脳アーキテクチャ(後述)系

26. チューリングテストとbot
● チューリングテスト;
bot と人間のペアを，別の人間が
どちらがどちらか判別し，
判別できなければそのbotは人間と同等とする．
● 最近ではかなり良い成績のbotAIも登場しつつある
●
チューリングテストからわかるのは，
知性を定義する困難性

27. 近年の Deep Learning ブーム

28. Neural Network とは
●
コネクショニズムに基づいて，人間の神経細胞網，
ニューラルネットワークを模した機械学習の手法
●
かなり早い時期から登場していたが，
当時のコンピュータ性能では大規模なものは
実装不可能で，以降研究は進展していなかった．
●
当時の成果としては手書き文字の認識程度

29. Neural Network とは
●
構成単位は人工ニューロン．
ニューロンは入力や他のニューロンからの信号の
重み付け和を受け取り，それが閾値を超えると
自らも出力する
● 最も単純なNNでは，初めに入力を受け取る複数の
ニューロンからなる層があり，
次に隠れ層と呼ばれるニューロン層がその出力を
受け取り，
さらに出力層のニューロンがそれを受け取り
最終的な出力を行う

30. Neural Network とは

31. Deep Learning とは
● NNの隠れ層を複数用いたNN
●
人間の脳もそのような構造で，発想としては
自然である．
●
しかし，コンピュータの性能が上がるまでは，
実装できなかった．

32. Deep Learning とNNの復権
● DLは今までのNNを圧倒する性能を示し，
一挙にコネクショニズムに脚光が浴びせられた．
● その後，Recurrent Neural Network などの派生も
多種考案される．
●
とはいえ記号論理主義も完全敗北したのではない
むしろ私見ながら両者の折衷が模索されている？

33. Deep Learning の利点欠点
●
利点
– 比較的実装しやすい，様々なフレームワークが
ある現在はとくに cf. chainer, Tensorflow etc.
– いろいろな問題に使える
●
欠点
– なぜ上手くいくか説明しにくい．
単にニューロンとそのパラメータだけなので．
– 上記に関連し，挙動を厳密には予測しづらい．

34. Deep Learning はフレーム問題を
克服できるか？
● DLはかなり成功しているが，
フレーム問題を解決していない．
●
そもそもフレーム問題は原理的に解決不可能
→有限の計算資源しかないのに，
膨大な外界の情報は処理しきれない．
人間も根本的に解決しているわけではない．

35. 全脳アーキテクチャは
AGIを可能にするか？
●
当たり前ながら，不明
●
とはいえ人類には
「飛行機を作ろうとして鳥の動きを忠実に真似た」
という黒歴史が……
●
仮に全脳アーキテクチャができたとして，
『意識』が生まれるかはもっと不明

36. 生物は完璧じゃない，
必要な部分だけ真似しよう
● 最近では全脳アーキテクチャのfacebookグループ
でも「どの程度まで人間の脳を模倣すべきか」
という議論が活発に
●
実際，生物は完璧ではない．
我々は水を飲んで咽ると最悪死ぬ．
単に気道と食道を別にすればいいだけなのに．

37. AIを巡る社会的政治的動向

38. で，singularity って何？
●
大まかには
「機械の知性が全人類のそれをも超える時点」
●
一人の人間ではなく，地球上の全人類のそれを
一個のコンピュータが超越する．
● 最近では Singularity University なるものも登場
し，多くの人が注目するワードである．

39. 終末論と産業革命
● 終末論的シンギュラリティ;
シンギュラリティが到来すると，歴史が終焉する．
人類は神の如くなるか，滅びるというある種の信仰
●
とはいえ現状では多くの研究者はシンギュラリティ
が到来しても黙示録みたいなことにはならない，
という観方が大勢．AGIの発明は産業革命

40. Singularity は福音でも晩鐘でもない
●
シンギュラリティに関しては楽観論と悲観論あり
● 楽観論;
カーツワイルなど．人類は死さえ克服し，
全ての問題は解決する
● 悲観論;
シンギュラリティがくれば機械は人類に反旗を翻す
最悪の場合，人類が絶滅する．
●
どちらも一種の宗教的な色彩が強い．

41. AGIと Singularity を目指す動き
● Singularitiy University, Google, IBM,
日本ならば全脳アーキテクチャなど
●
それぞれ目指すところはあるが，
AGIを実現し今の社会ないしは世界を
大幅に変えようとする点は共通．
● 最近ではAGIのコンペも2017年から始まる(らしい)

42. General Purpose Technology
● なぜ皆，AGIを目指すか？→新しいGPT, 汎用技術
● 既存のGPTの例は蒸気機関など．
手にした勢力や国家は強大化
● 真っ先にAGIを導入できるか否かで
先進国・後進国が再定義されるとする論者も

43. 新たなる Great Divergence
●
井上智洋『人工知能と経済の未来』では，
K. Pomeranz の Great Divergence をひく．
● Great Divergence とは，ヨーロッパが他の地域を
引き離し，経済的に離陸した現象
●
それと似たことが将来起こる？

44. Singularity は起こるのか？
●
もちろん分からないのだが，起こり得そうにない，
という理由もいくつかある．
●
コンピュータに人類を滅ぼすという欲求はない．
誰かがインプットするインセンティブもない．
●
仮に勝手に芽生えても，その前に電源を抜く．
●
そもそもそこまで技術が進展できるか？

45. より在り得そうなシナリオ
● Singularity よりも差し迫った可能性;
– 一部の企業がAGIを発明，寡占化
– 一部の国家がAGIを独占，帝国主義化
●
どちらにせよ，人間は今後，機械との協働を
余儀なくされる可能性は高い．

46. Anthropocene から
Anthropo-Machinocene へ？
● Anthropocene とは「人類の代」という意味．
『人新世』と訳す．
第四紀でも，とくに人類の活動が活発化し，
地球に強く影響することになった事実を指す．
● 一部にはAIが完全に人類にとってかわり，
Machinocene(機械世)が到来すると言う論者も
あるが，たぶん来るのは人間とAIが協働する
Anthropo-Machinocene ではないか？

47. AGIが発明された世界線で

48. AGI実現の困難，されど実現せねば
●
今後，日本を含めて多くの国では人口が減少する
●
どんどん高齢化する社会で，労働力確保は困難
● その意味ではAGIができないとむしろ困る

49. アフリカでさえも少子化が始まったら？
●
知られている限り，永遠に続く人口爆発はない．
●
アフリカでは多産少死状態に突入しつつある．
●
技術と違い，人口は比較的自然現象に近く，
今までの傾向から予想しやすい．
●
するとアフリカでも少子化がいつかは始まる？

50. アフリカでさえも少子化が始まったら？

51. AGIによる技術的失業の可能性
● 多くの予測ではAGIの完成度にもよるが，
全ての仕事がAGIに置換される可能性は低とする．
●
しかし，クリエイティビティやホスピタリティを
要求される一部仕事以外はほぼ置換されると予想
● 井上智洋(ibid)では2030年には人口の一割しか
就労していないという予測．
ただし，現状でも就労しているのは全人口の半分

52. 「全ての労働者は飢えて死ぬ」
● 仮に，特定企業だけがAGIを手にすると，
企業が営利を目的とした結社である以上，
その利益は独占される．あるいはそれを試みる．
●
すると株主配当をもらえる株主以外の人々，
つまり労働者やプレカリアートなどは，
飢えて死ぬ．
それが企業にとっては合理的となる．

53. 「全ての労働者は飢えて死ぬ」
●
そんな極端なことにはならない，と思う人が大半
●
しかし，現在の，とくに日本の価値観では
「ワーキングプアや失業者は本人の自己責任」
なので，そういった価値観が合わされば餓死者が
続出することは十分ありえると思われる．

54. 「帝国(主義)の逆襲」
● では，AGIを国家といった公的機関が持てば？
● 当然，AGIは極めて廉価な兵隊として使える．
そうである以上，その国家はAGIで得た富を
軍備に費やし，弱小国を侵略することにも使える？
●
核兵器が最後の砦になるかもしれないが，
経済的なネオコロニアリズムまで核は防げない．

55. ナショナリズムの発露としてのAI
● 今，多くのAI研究では「建艦競争」が起きている．
● AIが次世代の国家規模における経済的競争力の
源泉とみなし，それを実現しようという目論見
●
一部にはこんな意見まで……

56. ラッダイト運動 vs. AGI(+ 資本家)
● じゃあそもそもAGIを労働者側から反対すれば？
– さきほども書いたように，それは厳しい……
●
ラッダイトも結局は時代に抗っただけで終わった

57. 銀の弾丸ベーシックインカム
● 井上(ibid)ではベーシックインカムの導入を提唱
●
ベーシックインカムとは，全国民に一定額の金銭を
定期的に無償供与するという政策
●
今までにナウルやアラスカでの例がある

58. BIはもちろん解決策だ，
でも実行可能？
●
一見してベーシックインカムを配布するというのは
解決策であるように見える
● しかし，実際にはAGIを真っ先に発明する企業等は
当然，独占を図るであろうし，実行可能か否かは
保証されない
●
じゃあ結局餓死しかない？

59. Open Source なAI/AGI
● 可能性としてだが，オープンソースなAIを想像可能
●
オープンソースとは，そのソースが公開され，
再頒布可能でかつ改変も許されるような
ソフトウェアのこと．
● 仮にAGIがオープンソースならば？

60. マルチチュードはAGIの夢を見るか
●
マルチチュードとはマルクス主義のターム．
とくにネグリとハートによれば，地球規模における
民主主義を実現する可能性として，
国境を越えるネットワーク状の権力
●
発表者個人の考えとして，
AGIが仮に可能ならば
このマルチチュードが所有する，
つまり誰もが等しくAGIを所有する
ことが望ましい．

61. Linux はマルチチュードかもしれない
●
マルチチュードと言われてもあまりピンとこない
● しかし，たとえば linux はどうだろうか．
– ネグリ&ハートによれば，マルチチュードは差異性
と統一性を体現する．
– 様々なディストリビューション(差異性)，
– にもかかわらずlinuxとして同一

62. なぜマルチチュードがAGIを
持つべきか/持って良いのか
●
持つべき理由
– マルチチュードが持たないと多くの人々が餓死する
– マルチチュードが持てば，国家間の差別も緩和できる
●
持って良い理由
– そもそもAIに必須なビッグデータは人々が産んだ

63. コモンズとしてのAI/AGI
● とくに「AIに必須なビッグデータは人々が産んだ」と
考えられることは重要
● これはAIが必ずしも研究者や企業だけが
育ててきたわけではないことを示唆
● AIや今後発明されるかもしれないAGIを
「コモンズ」(=共有地)として見る視点

64. アラン・ケイはかく語りき
●
「未来を予測する最善の方法は，
それを作ってしまうことだ」

65. 結び

66. 今，私たちは何をなすべきだろうか
●
未来がどうなるかなんて結局わからない
●
でも，蓋然性の高いシナリオはいくつかある
●
それに備えることは少なくとも必要

67. 参考文献
●
日本人工知能学会ウェブサイト
●
『人工知能――ポストシンギュラリティ』
●
『人工知能になぜ哲学が必要か』
●
『人工知能と経済の未来』
●
『国家とインターネット』