2020.07.01に身内向けのトークで使った資料です。 心理学/認知科学を学んだ人向けの人工知能概論です。主に歴史を解説しています。パトスがあふれてフルで喋ると2時間半程度のボリュームになってしまいました。

1. 人工知能勉強会
第１回
心理学/認知科学者のための
人工知能概論
佐藤浩輔
2020.07.01

2. このトークの目的
• 人工知能に対する認識を更新すること
• 「なんだかよくわからないがスゴイもの」から、
具体的な学問領野として
• 「まったく関係ない分野」から、
人間科学と関わりある分野として
• そのために、心理学/認知科学との関わりから
人工知能研究の歴史を概観する：
• 人工知能/認知科学を生み出した時代の潮流
• 人工知能/認知科学の古典的パラダイムとその転換
• 「人工知能 vs. 人間」の歴史としてのゲーム研究

3. Contents
1. イントロダクション：人工知能(AI)とは何か
2. 人工知能の歴史
1. 人工知能成立前夜
2. 人工知能の誕生と認知革命
3. AIブームと冬の時代
4. ニューラルネット小史と第三次AIブーム
5. ゲームと人工知能
3. まとめ

4. 人工知能(AI)とは何か

5. 人工知能？

6. 人工知能とは
• 「人工知能とは、もしも人間にさせるならば知能を要する
ことを、機械にさせる科学である」(Minsky, 1968)
• 「人工知能とは、人がみて知能的と思えることを、
計算機に行わせるための考え方についての研究である」
(Winston, 1977)
⇒知的な情報処理を機械にさせるための研究分野

7. 人工知能研究の観点①
“我々は、1956年の夏の2ヶ月間、10人の人工知能
(artificial intelligence)研究者がニューハンプシャー州
ハノーバーのダートマス大学に集まることを提案す
る。そこで、学習のあらゆる観点や知能の他の機能
を正確に説明することで機械がそれらをシミュレー
トできるようにするための基本的研究を進める。機
械が言語を使うことができるようにする方法の探究、
機械上での抽象化と概念の形成、今は人間にしか解
けない問題を機械で解くこと、機械が自分自身を改
善する方法などの探究の試みがなされるだろう。
我々は、注意深く選ばれた科学者のグループがひと
夏集まれば、それらの問題のうちいくつかで大きな
進展が得られると考えている。” (McCarthy et al.,1955)
和訳：https://ja.wikipedia.org/wiki/%E3%83%80%E3%83%BC%E3%83%88%E3%83%9E%E3%82%B9%E4%BC%9A%E8%AD%B0
John McCarthy
(1927-2011)

8. 人工知能研究の観点②
• 「強い」AI
• 意識や自我といった、人間の知能そのものをもつAI
• 特定の課題に依存せずに思考することができる
≒汎用人工知能(Artificial General Intelligence, AGI)
• 「弱い」AI
• 人間の知的活動の一部のようなふるまいをするAI
• 特化型の人工知能(Narrow AI)
“人間の認知能力をコンピュータでシミュレーションすると
いう近年の試みに、どのような心理学的・哲学的重要性を
付与するべきだろうか？ その問いに答えるためには、
「強い」AIと、「弱い」または「慎重な」AIとを区別するの
が有用であるように思う。”(Searle,1980)
John Searle
(1932-)

9. 人工知能研究の観点③
• 3つの観点(Finlay & Dix, 1996)
1. 知性の性質と、そこからそれをどのように再現するか
の研究
⇒知性を理解するために計算機を使ってモデル化する
2. 実用主義の観点からとらえ、難しい問題を解く工学的
技法を提供する手段の研究
⇒関心あるシステムの動作で成否を判断。人間の認知
を反映したり、実際の知性を示すかには興味がない
3. 知的な動作に加え、学習することができ、人間と同じ
ように環境に適応することができるマシンを作るため
の研究
⇒人間の性質や学習を正確に再現することは必須では
ないが、それらから洞察を得ることは重要

10. • 「知的」な情報処理とは？
• チューリングテスト(Turing, 1950)
• (知能を定義するのは難しいので)自然言語でやりとりした
機械の応答が人間のものと区別できなければその機械は
知的
• 人工知能実現のための課題(Minsky, 1961)
• 探索
• パターン認識
• 学習
• 問題解決
⇒人間がどのように知的な処理を行っているか
ということと関連

11. 人工知能と認知科学の重なり
目次
1. AIにおける知識
2. 推論
3. 探索
4. 機械学習
5. ゲーム
6. エキスパートシステム
7. 自然言語理解
8. コンピュータビジョン
9. プランニングとロボティクス
10. エージェント
11. 心のモデル
Finlay & Dix(2006):
An introduction to artificial intelligence
目次（第一部）
1. 表象と計算
2. 論理
3. ルール
4. 概念
5. 類推
6. イメージ
7. コネクション
Thagard(1996):
Mind: introduction to cognitive science
心的表象の理論を評価する基準（抜粋）
1. 表象能力
2. 計算能力
a. 問題解決
i. プランニング
ii. 意思決定
iii. 説明
b. 学習
c. 言語

12. 人工知能年譜
https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/h28/html/nc142120.html

13. 人工知能成立前夜
①計算機の発達
②心理学の潮流
③神経生理学的知見の蓄積
ウィーナーの『サイバネティクス』(1948)は
諸領域に影響を与え、サイバネティクスに
ちなんだ「サイバー」という言葉はコン
ピュータや仮想空間を意味する単語として
今も使われている

14. ①計算機の発達
• 古代
• B.C. 150-100ごろ アンティキティラ島の歯車
• 天体運行を計算するための科学計算機？
2007年に作られた再現模型沈没船から回収された「アンティキティラの歯車」

15. • 17世紀：機械式計算機の登場
• 算術演算が可能な機械式計算機の発明
• 1623 Schickardの計算時計(calculating clock)
• 1649 Pascalの算術演算機械(Pascaline)
• 1674 Leibnizの機械式計算機(Stepped Reckoner)
Calculating clock
Pascaline
Stepped Reckoner

16. • 19世紀
• 1822 Babbage, 階差機関 (difference engine)の設計
• 多項式や対数の数表を出力する計算機
• 1786 階差機関のアイディア(von Müller)
• 予算不足で頓挫
• 1837 Babbage, 解析機関(analytical engine)の提案
• 論理的には汎用コンピュータと同等の機能を持つ
• プログラムができる
• 予算不足で頓挫
Charles Babbage
(1791-1871)
Babbageの設計をもとに
後世に作られた階差機関 Babbageによる解析機関の試作品

17. • 1930’s：電子計算機の理論の整備
• Turing(1936)：コンピュータの数学的基礎
• チューリングマシン：計算のモデル
• 実行可能なあらゆる計算はチューリングマシン
の枠組みの中で定式化できる（チャーチ＝
チューリングのテーゼ）
• Shannonの情報理論
• 1937 「継電器及び開閉回路の記号的解析」
(A Symbolic Analysis of Relay and Switching Circuits)
• 電子回路と論理演算の等価性：どんなに複雑な
回路でも数学的理論に基づき扱えることを示す
⇒「今世紀で最も重要かつ有名な修士論文」
(Gardner, 1987)
• 1948 『通信の数学的理論(A Mathematical Theory of
Communication)』
• 「情報」を数学的に定式化→情報処理の概念
Alan Turing
(1912-1954)
Claude Shannon
(1916-2001)

18. • 1940’s：電子計算機の誕生
• 1945 von Neumannがアーキテクチャを提案
• フォンノイマン型コンピュータ：
• 現在のコンピュータの基本的な構成
• プログラム内蔵式・逐次処理
• 1946 ENIACの開発(Eckert & Mauchly)
• 最初の電子計算機
• 弾道の計算に利用
John von Neumann
(1903-1957)
フォンノイマン型コンピュータの構成 ENIAC

19. ②心理学の潮流
• 初期の心理学：意識の研究
• 1879: Wundtがライプチヒ大学に世界初の心理学実
験室を設置、ゼミナールを開始
⇒（実験）心理学の成立
• 意識の自己観察を方法とする意識主義(mentalism)
• Wundtの構成主義(structuralism)：
実験と内観による心の構成要素の発見と要素間の結合の
法則の探求
• James, Deweyの機能主義(functionalism)：
生活体における意識の役割の探求
• Brentano, Stumpfの作用心理学(act psychology)：
意識内容よりも意識作用を重視する心理学
Wilhelm Wundt
(1832-1920)

20. • 1910’s：行動主義の時代
• 「行動主義者から見た心理学(Psychology as the behaviorist views it)」 (Watson, 1913)
• 意識主義の批判：
客観的に測定可能な刺激と反応を心理学の対象にすべき
• 行動主義(behaviorism)の基本態度
• 客観主義
• S-R的態度
• 連合主義の強調
• 末梢主義
• 環境主義
• Skinnerのオペラント学習
• 自発的・能動的な行動：
環境に働きかける生体
John B. Watson
(1878-1958)
Burrhus F. Skinner
(1904-1990)

21. • 1940’s：新行動主義
• 様々な理論的概念（媒介変数）の導入
⇒内的な過程（認知）の重要性
• 『行動の原理(Principles of Behavior) 』(Hull,1943)
• 生活体内過程の仮定：
学習・動因・興奮ポテンシャルなどを操作的に定義
• 「ラットとヒトの認知地図(Cognitive map in rats and men)」
(Tolman, 1948)
• 単純なS-R反応では説明できない内部過程(認知)の必要性
を実験によって示す
Toleman (1948)

22. ③神経生理学的知見の蓄積
• 19世紀：神経組織構造の研究
• Golgi(1873): 神経細胞の染色に成功
• Ramón y Cajalのニューロン説(vs. Golgiの網状説)
• Sherrington(1897)のシナプス説
ラモニ＝カハルよる
プルキニエ細胞のスケッチ ゴルジ染色されたヒトの新皮質の錐体細胞

23. • 1940’s：神経のモデル化
• McCulloch & Pitts(1943)：ニューロンの数理モデル
• 論理関数の組み合わせからなる計算機として神経系を表現できる
• Hebb(1949)：ニューロンの学習則(Hebb則)
• 同期した神経細胞同士の関係が強化される
𝑥1
𝑥2
𝑥 𝑛
…
𝑤1
𝑤2
𝑤 𝑛
𝑧 = 𝑓(෍
𝑖=1
𝑛
𝑤𝑖 𝑥𝑖 − ℎ)
𝑥𝑖:入力値
𝑤𝑖: 重みづけ
ℎ: 閾値
𝑓: 階段関数
𝑧: 出力
𝑧

24. • 1940’s後半：サイバネティクス
• 『サイバネティクス(Cybernetics)』(Wiener, 1948)
• 語源：ギリシア語Κυβερνήτης（舵を取る者）
• 心の働きから生命、社会までをダイナミックな制御システムと
してとらえる
• 機械や生体のフィードバック・自己制御を統一的に研究
⇒計算機械としての生体
• Cf. von Bertalanffyの「一般システム理論」(1945)
• フィードバックの概念
• 砲照準の自動制御装置
• 生体のホメオスタシス
Norbert Wiener
(1894-1964)

25. 人工知能の誕生と認知革命
Gardner(1985)

26. 人工知能研究のはじまり
• 1947 ロンドン数学学会におけるTuringの講義
• 人工知能に相当する概念（知性を持つマシン）に
ついて提唱
“では，ある初期命令表をもち，正しく必要な時にはその命令
表が自分自身を書き換えることができるようなマシンを，私
たちがこしらえたとしましょう。そのマシンがしばらく運転
された後のことを想像してみると，命令は私たちがまったく
知らないものに変更されてしまっているのですが，そのマシ
ンはそれでも，まだ役に立つ計算を続けていると人は認めざ
るを得ないのではないでしょうか。〈略〉このようなことが
起こったならば，私は，そのマシンは知能を示すようになっ
たと人がみなすのが当然だと感じています。” (Turing, 1947)
日本語訳は墨岡(2006) より引用

27. • 1958 ダートマス会議
• 人工知能に関わる研究成果を発表しあうワーク
ショップ
• 初めて「人工知能(artificial intelligence)」の語が使われる
• 参加者：McCarthy, Minsky, Shannon, Samuel, Newell,
Simon, etc.
• テーマ：
• コンピュータ
• 自然言語処理
• ニューラルネット
• 計算理論
• 自己改良
• 抽象
• 創造性
⇒人工知能研究という領域が成立

28. 最初期の人工知能
• Logic Theorist(Newell, Simon, Shaw, 1956)
• 定理自動証明
• Principia Mathematica(Whitehead, North, & Russel, 1910-1013)の
冒頭の52定理のうち38個を証明
• General Problem Solver(Newell, Simon, Shaw, 1956 ,1957)
• 任意の形式化された記号問題を解ける
• 定理証明、幾何学問題、ハノイの塔, etc
• 手段-目標分析
• Samuelのチェッカープログラム(Samuel, 1959)
• “Some Studies in Machine Learning Using the Game of Checkers”
• 「機械学習」という言葉を初めて使用
• 学習して評価関数を更新

29. • 手段-目標分析(Means-Ends Analysis: MEA)
• 手続き：
1. 目標状態(goal-state)を設定
2. 現状(初期状態：initial-state)との差を探す
3. 目標状態と現状との差を減らす方法を探す
4. 見つけた方法の適用を下位目標(sub-goal)としてさらに
手段-目標分析を適用する
initial-state goal-state
u
sub-goals

30. 認知科学の成立
• 1950’s：「認知革命」(Gardner, 1985)
• 情報科学・計算機科学・言語学の影響をもとに成立
• 心理学：
• Miller(1956)：マジックナンバー 7±2
• Broadbent(1958)：選択的注意
• 人工知能研究：
• 知識構造と高次精神過程の研究
• 言語学
• Chomsky(1957)：形式文法・生成文法
• Fillmore(1968)：格文法
• Cognitive Psychology(Neisser, 1967)
→認知心理学の確立
• 1977 Cognitive Science誌の発刊
→分野としての認知科学の確立

31. AIブームと冬の時代
松尾(2015)

32. 第一次AIブーム：推論と探索
• 問題解決
• 対象：証明・ゲーム・パズルなどの探索問題
• ネットワークや木構造の中を探索して解を見出す
• 状態表現
• 状態と、状態を遷移させる操作によって問題を形式的に表現
• ヒューリスティクス
• すべてのノードを探索しなくてもいいよう、特定の範囲のみ
を探索する
• プロダクションシステム
• if…then という条件と行為からなるルールの組み合わせ
• 単純な自然言語理解
• 機械翻訳
• 応答システム
• パーセプトロンの提案(Rosenblatt, 1958)
• 形式ニューロンの実装
• 現在のニューラルネットの原形

33. 60年代の人工知能プログラム
• SAINT(Slagle, 1961)
• 積分の問題を解く
• STUDENT(Bobrow, 1964)
• 高校生程度の数学の文章題を解く
• ANALOGY(Evans,1964)
• 幾何学図形の類似性を答える
• ELIZA(Wisenbaum, 1966)
• パターンマッチによる応答システム
• SHDLU(Winograd, 1970)
• 単純な自然言語理解と積み木の操作

34. 初期の人工知能/認知科学研究の特徴
• 記号主義・（古典的）計算主義
• 「認知は記号の計算である」
• 表象(representation*)のレベルで人間の知能を理解
• 表象（記号）とその操作（計算）が基本単位
→Concept-basedまたはRule-basedの研究
• cf. 神経科学におけるニューロン, 行動主義者における刺激と反応
• 物理的記号系仮説(Newell & Simon, 1976)
• 「物理的な記号システムは一般的な知的行為のための必要十分
条件な技法である」
＝記号処理によって知的営みができる
• cf. 記号処理プログラミング言語LISP(McCarthy, 1958)
*心理学では「表象」、人工知能分野では「表現」と訳される

35. • 認知科学の成果の一例
• パターン認知
• パターン認知のパンデモニウムモデル(Selfridge, 1959)
• 記憶
• 感覚記憶(sensory memory)
• アイコニックメモリー(Sperling, 1960)
• エコイックメモリー(Glucksberg & Cowan,1970)
• 記憶の貯蔵モデル(Atkinson & Shiffrin, 1968, 1971)
• 意味記憶とエピソード記憶(Tulving, 1972)
• フラッシュバルブ記憶(Brown & Kulik, 1977)
• 概念的表象
• 意味ネットワーク(Quillian, 1968)
• 階層的ネットワーク(Collins & Quillian, 1969)
• 活性化拡散モデル(Collins & Loftus, 1975)
• 心的イメージ
• 心的回転(Shepard & Metzler, 1971)

36. • 1960’s 後半：現実問題への適用の難しさ
• 形式化された問題はうまくとけるが、現実的な状況
ではうまく動作しない
• 外的世界と内的世界の区別がない
• コンピュータの処理能力の低さ
→様々な限界が指摘される
→補助金の打ち切り・研究の縮小が相次ぐ
⇒AI冬の時代の到来(1970’s~)

37. • 指摘された様々な限界：
• McCarthy & Heyes(1969)
• フレーム問題の指摘
• 問題に関連する事柄だけを抜き出すことの難しさ
• Pierece勧告(1966)
• 機械翻訳への否定的見解
→機械翻訳分野への資金打ち切り
• Lighthill勧告(1973)
• 組み合わせ爆発問題を指摘
• Karp(1972)が指数関数時間でしか解けない問題を指摘
• Minsky & Papert(1969)
• 単純パーセプトロンの限界を指摘
→ニューラルネットワーク分野の停滞

38. 参考：CPUの性能
https://en.wikipedia.org/wiki/File:Clock_CPU_Scaling.jpg

39. 参考：記憶装置の性能
https://www.sangyo-times.jp/article.aspx?ID=2758

40. • 1970’s：知識工学の誕生
• 知識工学(Feisenbaum, 1977)：知識を集積し、推論機能
によって高度な問題を解決させる
• エキスパートシステム：専門家の知識から抽出した
論理的ルールを利用して問題を解く
• DENDRAL(Feigenbaum et al.,1967): 化合物のスペクトル解析
• MYCIN(Shortliffe, 1976): バクテリアの感染を診断し処置
を推薦
• PROSPECTOR(Duda et al., 1979): 地質学の知識を利用
• 論理プログラミング言語Prolog(Colmerauer & Roussel, 1972)
• 関係データベース (Codd, 1970)
⇒第二次AIブームへ

41. 知識表現と推論規則の整備
• 知識表現
• 論理表現：命題論理/述語論理/様相論理/ファジィ論理
• 手続き的表現：ルール、プロダクションシステム
• ネットワーク表現：
• 意味ネットワーク(Quillian, 1968)
• 階層的ネットワーク(Collins & Quillian, 1969)
• 構造化表現
• スキーマ(Rumelhart, 1975)
• フレーム(Minsky, 1975)
• スクリプト(Schank & Ableson, 1977)
• 推論
• 演繹推論 / 帰納推論 /アブダクション
• 前向き推論 / 後ろ向き推論
• 非単調推論 / 確率推論 /ファジィ推論 / 類推による推論 /
事例ベース推論

42. 意味ネットワーク
スクリプト

43. 第二次AIブーム
• 1970’s 後半~
• エキスパートシステムの実用化
• 知識ベースの整備
• 第五世代コンピュータ（日本）
• 1980’s~
• ニューラルネットワーク第二次黄金期
• 相互結合型ネットワーク
• 誤差逆伝播法(Rumelhart et al. 1988)による、多層パーセプ
トロンの学習可能性

44. 認知科学の動向
• 1980年以降：「第二の波」
• コネクショニストモデルの復権
• 『PDPモデル(Parallel Distributed Processing)』(Rumelhart,
McClelland & PDP Research Group,1986)
• Marr(1980): ボトムアップのアプローチ
• 環境の重視
• 『生態学的視覚論(The Ecological Approach to Visual
Perception)』(Gibson, 1979):
アフォーダンス・環境に埋め込まれた認知
• 感情・身体といった要素の重視
• ソマティックマーカー仮説(Damasio et al. 1991, Damasio,
1994)
⇒シンプルな記号主義パラダイムの終焉

45. 第二次AIの冬
• エキスパートシステムの限界
• 適用範囲の狭さ
• 知識獲得・維持・更新・検証コストの高さ
• 意識しない「常識」を学習させることの困難さ
• ルール数の爆発的増加
• ニューラルネットワーク
• 勾配消失問題：深い層の学習ができない
• 計算機の能力の低さ
• サポートベクターマシン(Cortes & Vapnik, 1995)の台頭
⇒ニューラルネット第二次氷河期へ
• 「身体」のアプローチの登場
• ロボット工学者：機械が知性を獲得するためには
「身体」が必要
• 環境との相互作用の重視(Brooks, 1991)
• 実世界に埋め込まれた物理システムとしてのロボット
(Macworth, 1993)

46. 1980’s-1990’sの進展
• エージェントアプローチ
• 知的エージェント
• マルチエージェントシステム
• 『心の社会(Society of Mind)』(Minsky, 1987)：
• 心を協調するエージェントの集団としてとらえる
• インターネットの普及
• 1969 ARPAnet
• 1989 World Wide Web
• データマイニングの登場
• 1997 IBM DeepBlueがチェス世界チャンピオンに勝利（後
述）
• 2010’s: 第三次AIブームへ

47. ニューラルネット小史
と第三次AIブーム
Rumelhart et al. (1986)

48. ニューラルネット前史
• 神経組織構造の研究
• Golgi(1873): 神経細胞の染色に成功
• Ramón y Cajalのニューロン説(vs. Golgiの網状説)
• Sherrington(1897)のシナプス説
• 心理学・生理学の知見
• 心理学
• Thorndike(1932)：行動の結果によって刺激-反応の連合が強めら
れる(connectionism:結合主義)
• Hull(1943)：習慣強度による刺激反応の結合式
• 生理学
• McCulloch & Pitts(1943)：ニューロンのモデル化
• Hebb(1949)：シナプスをはさむ２つの細胞集成体(cell-assembly,
ひとつの機能単位をなす細胞群)が同期すると結合が強められる
(Hebb則)

49. Perceptronの登場
• Rosenblatt(1958)：パーセプトロン(perceptron)
• 神経回路網を模した学習機械
• 第一次ニューラルネット黄金期へ
Input layer Output layerHidden layer

50. • Minsky & Papert(1969)：単純パーセプトロンの
限界を指摘
• 一層の単純パーセプトロンは線形分離可能でない問
題(e.g. XOR)に対応できない
⇒ニューラルネット第一次氷河期へ
Marvin Minsky
(1927-2016)

51. Perceptron以後①
• 相互結合型ネットワーク
• Kohonen(1979)：連想記憶のモデル（コホーネンネット）
• Hopfield(1982)：相互結合型ネットワーク
• ネットワークの平衡状態
• 最適化問題（巡回セールスマン問題）を近似的に解く
• Hinton, Sejnowsky, & Ackley(1984)：ボルツマンマシン
• ネットワークの温度を導入
• ホップフィールド・ネットワークの動作を確率的に

52. Perceptron以後②
• 生理学的知見を神経回路網モデルで説明する研究
• 背景：神経科学の知見の積み重ね
• Hubel & Wiesel(1965): ネコの視覚領に関する研究
• Blakemore & Cooper(1970): 異常環境下の視覚
• 視覚系のモデル(Von der Malsburg, 1973; 永野, 1977)
• Marr(1969): 小脳における学習モデル

53. Perceptron以後③
• ニューラルネット一般の数理的・理論的研究
• e.g. どのような神経興奮のパターンが安定的に成立
するか？
• シミュレーション研究
• Farley and Clark(1961), Wilson and Cowan(1972)
• 理論研究
• 甘利の業績(see 甘利, 1978)：
• 確率降下法(1967)
• 統計神経力学：ランダムに相互結合した神経集団の振舞い
についての統計力学的な理論
• 神経場の理論：2次元上に並べたニューロンの興奮のダイナ
ミクス

54. • 1980’s ネットワークの多層化
• Fukushima(1980): ネオコグニトロン(neocognitron)
• Rumelhart, Hinton, & Williams(1986)：誤差逆伝播法
• 多層ニューラルネットの学習が可能になる
• Rumelhart, McClelland, et al.(1986):『PDPモデル』
⇒第二次ニューラルネット黄金期が始まる
https://dbnst.nii.ac.jp/pro/detail/498
David E. Rumelhart
(1942-2011)
James McClelland
(1948-)
ネオコグニトロンの構成

55. • ニューラルネットの能力
• 三層のネットワークで、中間層のユニットを必要なだけた
くさん使えば、任意の二値論理関数を実現できる
• ニューラルネットでチューリングマシンがエミュレートできる
(Siegelmann & Sontag, 1991)
→ニューラルネットで計算機が構成できる
• 四層以上のパーセプトロンで十分なユニット数があれば任
意の連続関数を任意の精度で近似できる(船橋, 1988)
• 1990’s 後半 技術的問題
• 勾配消失問題：誤差逆伝播を使っても「深い」ニューラル
ネットを学習させるのが困難
• 計算機の能力が足りない
• サポートベクターマシン(Cortes & Vapnik, 1995)の台頭
⇒ニューラルネット第二次氷河期に

56. 深層学習の誕生
• 2006 深層学習の誕生
• Reducing the Dimensionality of Data with Neural
Networks(Hinton & Salakhutdinov, 2006)
• A fast learning algorithm for deep belief nets(Hinton & Osindero,
2006)
→10層以上の深いニューラルネットの学習を可能に
⇒「深層学習元年」
• AlexNet (Krizhevsky, Sutskever, & Hinton, 2012)
• 一般画像認識のコンペで突出した成績
→第三次ニューラルネット黄金期＆
第三次AIブームが始まる
Geoffrey Hinton
(1947-)

57. AlexNet
• 120万枚の画像を1,000のクラスに分類する課題
• AlexNetは前年トップよりもエラー率を0.1以上
引き下げて優勝
AlexNetのアーキテクチャ
AlexNet
ImageNetのエラー率

58. 猫の概念の獲得(2012)
• Le et al. (2012)
• Googleのチームが1000万枚の訓練画像を用いて教師
なし学習を行い、猫を含む各種表象を獲得
Official Google Blog: Using large-scale brain simulations for machine learning and A.I. |
https://googleblog.blogspot.com/2012/06/using-large-scale-brain-simulations-for.html

59. Wu, Y., Schuster, M., Chen, Z., Le, Q. V., Norouzi, M., Macherey, W., … Dean, J. (2016).
Google’s Neural Machine Translation System: Bridging the Gap between Human and
Machine Translation. http://arxiv.org/abs/1609.08144
Googleの機械翻訳(2016)

60. 【近年は大量に活用事例があるのでお好みの事例をここにいれてください】

61. 復元された「トルコ人(The Turk)」人形。
チェスを指す自動人形という触れ込みの
見世物で、実は中に隠れた人が操っていた。
E.A. ポォ 「メルツェルの将棋差し」小林・大岡 訳
およそ世にある見世物の類で、「メルツェルの
将棋差し」ほど世間の耳目を集めたものはある
まい。〈略〉いわば機械の天才ともいうべき人
たち、或いは一般に聡明と分別で鳴っている人
たちが、この自動人形は本物の機械であり、そ
の動きに人間の手は全然加わっていない、した
がってこれこそうたがいもなく、人類の発明の
中で、もっとも驚嘆に値いするものだ、などと
軽率にも言明している。
ゲームと人工知能

62. ゲームを研究するモチベーション
• 推論と創造的な勘：人間の知性を要約している
• 広大な探索空間：
• e.g. チェス
• 手番あたり平均30の可能な手
• 平均的なゲームの長さ50手*
⇒効率的に探索できる方法が必要
• ルールによって明確に規定された環境
→混沌とした現実世界よりも取り回しがよい
⇒AIの能力を測るよいものさしとなる
*チェスは先手後手双方が動かしたときに１手と数える

63. ゲームAI前史
• 17世紀：ゲームの確率論的分析
• 偶然のゲーム(game of chance)
• 確率のみで結果が決定されるゲーム
• すごろく、ルーレット, etc.
• 『偶然ゲームの書(Libre de ludo aleae)』(Cardano, 1663)
• 『ダイスゲームに関する考察(Sopra le scoperte dei dadi)』(Galilei, 1612)
• PascalとFermatの往復書簡：賭け金の配分問題
⇒確率論の始まり
• 技術のゲーム(game of skill)
• 確率のみでは決定されないゲーム
• Leibniz(1704)が研究の必要性を提起：
「偶然と技能との組み合わせからなるゲームは、人間生活を最もよ
く反映したものである。このことは特に、ある程度まで、技能と偶
然に依存せざるをえない軍事問題や医学の実践に当てはまる」
• 『偶然ゲームの解析の試み(Essai d’Analyse sur les Jeux de Hazard)』(de Montmort, 1708)

64. • 20世紀初頭：ゲーム理論成立前夜
• 「チェスの理論への集合論の応用(Uber eine Anwendung der
Mengenlehre auf die Theoriedes Schachspiels)」(Zermelo, 1913)
• 偶然の要素を持たないゲームを初めて数学的に分析
• ツェルメロの定理：
• 逐次手番・完全情報の二人零和ゲームにおいて、引き分けが存在し
ない場合、先手または後手いずれかが必勝である戦略が存在する
• Borel(1921, 1924,1927):
• ChanceとSkillの両方の要素を含むゲームについて考察
• 「社会的ゲームの理論(Zur Theorie der Gesellschaftsspiele)」(von Neumann,
1928)
• ゲーム理論の先駆的業績
• 「戦略」を数学的に厳密に定義

65. • 1944 ゲーム理論の成立
• 『ゲームの理論と経済行動(Theory of games and economic behavior)』
(von Neumann & Morgenstern, 1944)
• ゲームの数学モデルの定式化
• 二人零和ゲームにおけるミニマックス定理：
• ミニマックス戦略（最悪の場合の損害を最小化させる）と
• マキシミン戦略（最悪の場合の利得を最大化させる）は一致する
• N人（協力）ゲームにおける提携形成と利得分配の理論の定式化
• 1950 Nashによる非協力ゲームの定式化
• 非協力ゲーム：
• (1)プレイヤー間のコミュニケーションが可能ではなく、
(2)拘束力のある合意の可能ではないゲーム
• 「N人ゲームにおける均衡点」(Nash, 1950)
• N人（非協力）ゲームの均衡点（ナッシュ均衡）の分析
• 「非協力ゲーム(Non-cooperative games)」(Nash, 1951)
• 非協力ゲームの概念を定義
John F. Nash
(1928-2015)

66. ゲームする人工知能
• チェスや将棋：
完全情報・逐次手番の二人零和ゲーム
• ミニマックス定理：相手が常に最善手（＝自分にとって
最悪の手）を打ってくるとして、自分の損害を最小化す
る手と自分の利得を最大化する手は一致する
→最適な手が存在する
• ゲーム木(game tree)：
• 可能な手のやりとりを木の形で表現したもの
→最適な手を見つける探索問題に帰着できる
• ただし一般にゲーム木のサイズは巨大(e.g. チェス:10123)
→評価関数や枝刈りなどといったヒューリスティクス*
を使う
*ここでは全部のノードを探索せずにすませる手法一般のこと

67. Tic-toc-Toe(三目並べ)のゲーム木
https://ja.wikipedia.org/wiki/%E3%82%B2%E3%83%BC%E3%83%A0%E6%9C%A8#/media/
%E3%83%95%E3%82%A1%E3%82%A4%E3%83%AB:Tic-tac-toe-game-tree.svg

68. ゲームの複雑さ
盤サイズ 状態空間数 ゲーム木複雑性
三目並べ(Tic-tac-Toe) 3x3 103 105
リバーシ(オセロ） 8x8 1028 1058
五目並べ 15x15 10105 1070
チェス 8x8 1047 10123
将棋 9x9 1071 10226
囲碁 19x19 10170 10360
https://en.wikipedia.org/wiki/Game_complexity

69. チェスプログラム
• 1940’s：黎明期
• 1948 文書マシンによるチェスプログラム
• Turochamp(Turing & Champernowne, 1948)
• Machiavelli(Michie & Wylie, 1948)
• 1949 Shannonのチェス論文
• “Programminng a computer for chess”
• “A chess playing machine”.
• 1957 初の計算機用チェスプログラム
• Bernstein(1957)
• 1958 NSS
• Newell, Shaw, Simon(1958)
• 1960’s-1970’s：発展期
• 1970 ACM北米コンピュータチェス選手権開催

70. • 1990’s：成熟期
• 1988 Deep ThoughtがGMに初勝利
• 1996 Deep Blue(IBM)が世界チャンピオンKasparovに
初勝利
• マッチは(1-3)でKasparovの勝利
• 1997 Deep Blue(IBM)がKasparovにマッチで勝利(2-1)
Deep Blue
Garry Kasparov
(1963-)

71. ゲームAI vs. 人間の歴史
• 1979 バックギャモン
• BKGが世界チャンピオンを破る
• 1994 チェッカー
• Chinookが世界チャンピオンに2勝（マッチでは敗れる）
• 1997 リバーシ（オセロ）
• Logistelloが世界チャンピオンを破る
• 2012 将棋
• 将棋プログラムチームが現役プロ棋士代表チームを破る
• 2016 囲碁
• AlphaGoがトッププロ棋士を破る

72. その他のゲーム
• 2011 IBM Watsonがクイズ番組において人間の
チャンピオンに勝利
• 2019 フェイスブックとカーネギーメロン大学
が開発したPluribusがポーカーの複数人対戦で
プロに勝利
クイズ番組に出場するIBM Watson Pluribusの勝利したゲーム

73. テレビゲームを解くAI
• Mnih et al.(2015)
• DQN(Deep Q-Network)を用いて、Atari 2600に含まれ
るゲーム群49種類のうち、半数以上で人間のスコア
の75%以上の成績を示す
• DQN: 強化学習(Q学習)と深層学習との組み合わせ
• 画面のピクセルとスコア情報を用いて学習
• ひとつのゲームにつき2週間の訓練期間
ゲーム攻略で人間を超えた人工知能、その名は「DQN」 | WIRED.jp |
https://wired.jp/2015/02/28/google-deepmind-atari/

74. • Kim et al.(2020)：NVIDIA GameGAN
• 「パックマン」のプレイを見て学習、構成要素と
ルールを模倣したゲームを再生成
誕生 40 周年を迎えるパックマンを、NVIDIA の研究者たちが AI で再現 | NVIDIA |
https://blogs.nvidia.co.jp/2020/05/22/gamegan-research-pacman-anniversary/

75. まとめ

76. 人工知能学会「AIマップβ（2019年6月版）」 p.5
https://www.ai-gakkai.or.jp/pdf/aimap/AIMap_JP_20190606b.pdf

77. 6
人工知能学会「AIマップβ（2019年6月版）」 p.6
https://www.ai-gakkai.or.jp/pdf/aimap/AIMap_JP_20190606b.pdf

78. まとめ
• 「人工知能」は知的な情報処理を機械に行わせることを
目標とした研究分野である
• 同じ人工知能分野においても様々な研究の観点があるため、
「人工知能」という言葉が何を指しているか注意が必要である
• 人工知能は認知科学と同じ時代的潮流のもとに生まれ、
かつては表裏一体のような存在であった
• 初期の研究は記号主義・計算主義的であったが、次第にその限界
も明らかになってきた
• 学習する機械、または機械学習(machine learning)は人工知
能における重要なテーマである
• 人工知能研究の進展および計算機の発達によって、
人間の能力を超える性能を示す人工知能も出てきた
• ただしそのアーキテクチャは必ずしも人間の情報処理の仕方を模
している必要はない

79. • 今回扱えなかった話題：
• 80年代以降の認知科学の潮流
• 画像理解・音声理解・自然言語理解
• ニューラルネットのアーキテクチャ
• 2000年代以降のニューラルネットを使った
心理学系の研究(e.g. ニューラルネットの破壊実験@神経心理学)

80. 参考文献
• Finlay, J., & Dix, A. (1996). An Introduction to Artificial Intelligence. Taylor & Francis.
• Rumelhart, D. E. (1977). Introduction to human information processing. New York: John Wiley
& Sons.
• Thagard, P. (2005). Mind: Introduction to cognitive science. MIT press Cambridge, MA.
• Wiener, N. (1948). Cybernetics or Control and Communication in the Animal and the Machine.
• Winston, P. H. (1977). Artificial Intelligence. Addison-Wesley.
• 合原一幸. (1988). ニューラルコンピュータ : 脳と神経に学ぶ. 東京電機大学出版局.
• 麻生英樹. (1988). ニューラルネットワーク情報処理 : コネクショニズム入門、あるいは
柔らかな記号に向けて. 産業図書.
• 梅本尭夫, & 大山正. (1994). 心理学史への招待 : 現代心理学の背景. サイエンス社.
• 荒屋真二. (2004). 人工知能概論 (第２版). 共立出版.
• 甘利俊一. (1989). 神経回路網モデルとコネクショニズム. 東京大学出版会.
• 甘利俊一. (2016). 脳・心・人工知能 : 数理で脳を解き明かす. 講談社.
• 小野田博一. (2017). 人工知能はいかにして強くなるのか? : 対戦型AIで学ぶ基本のしくみ.
講談社.
• 坂元昂 (Ed.). (1983). 現代基礎心理学 思考・知能・言語. 東京大学出版会.
• 人工知能学会. (n.d.). 人工知能の歴史. Retrieved July 1, 2020, from https://www.ai-
gakkai.or.jp/whatsai/AIhistory.html

81. • 「深層学習―Deep Learning」執筆チーム. (2015). ニューラルネットワーク・深層学習研
究の歴史. Retrieved July 1, 2020, from http://jsai-
deeplearning.github.io/support/nnhistory.pdf
• 鈴木光男. (2014). ゲーム理論のあゆみ = HISTORY OF GAME THEORY. 有斐閣.
• 田宗秀隆, 岩崎広英, & 岡部繁男. (2013). シナプス. In 脳科学辞典. Retrieved July 1, 2020,
from https://bsd.neuroinf.jp/wiki/シナプス
• 都築誉史 (Ed.). (2002). 認知科学パースペクティブ : 心理学からの10の視点. 信山社出版.
• 新田克己. (2002). 知識と推論. サイエンス社.
• 森敏昭, 井上毅, & 松井孝雄. (1995). グラフィック認知心理学. サイエンス社.
• 「機械式計算機」. (Jun. 18, 2020, 09:07, UTC). In Wikipedia. Retrieved from
https://ja.wikipedia.org/wiki/機械式計算機

82. 図版出典
• https://en.wikipedia.org/wiki/File:John_McCarthy_Stanford.jpg
• https://en.wikipedia.org/wiki/John_Searle#/media/File:John_searle2.jpg
• https://en.wikipedia.org/wiki/Antikythera_mechanism#/media/File:NAMA_Machine_d'Anticyth%C3%A8
re_1.jpg
• https://en.wikipedia.org/wiki/Antikythera_mechanism#/media/File:Antikythera_model_front_panel_M
ogi_Vicentini_2007.JPG
• https://de.wikipedia.org/w/index.php?title=Datei:Schickardmaschine.jpg
• https://en.wikipedia.org/wiki/File:Arts_et_Metiers_Pascaline_dsc03869.jpg#file
• https://en.wikipedia.org/wiki/File:Leibnitzrechenmaschine.jpg
• https://en.wikipedia.org/wiki/Difference_engine#/media/File:Babbage_Difference_Engine.jpg
• https://en.wikipedia.org/wiki/Analytical_Engine#/media/File:AnalyticalMachine_Babbage_London.jpg
• https://en.wikipedia.org/wiki/Alan_Turing#/media/File:Alan_Turing_Aged_16.jpg
• https://en.wikipedia.org/wiki/Claude_Shannon#/media/File:ClaudeShannon_MFO3807.jpg
• https://en.wikipedia.org/wiki/File:JohnvonNeumann-LosAlamos.gif
• https://en.wikipedia.org/wiki/Von_Neumann_architecture#/media/File:Von_Neumann_Architecture.svg

83. • https://en.wikipedia.org/wiki/File:Eniac.jpg
• https://en.wikipedia.org/wiki/Wilhelm_Wundt#/media/File:Wilhelm_Wundt.jpg
• https://www.findagrave.com/memorial/6614541
• https://en.wikipedia.org/wiki/File:B.F._Skinner_at_Harvard_circa_1950.jpg
• https://en.wikipedia.org/wiki/Golgi%27s_method#/media/File:Purkinje_cell_by_Cajal.png
• https://en.wikipedia.org/wiki/Golgi%27s_method#/media/File:GolgiStainedPyramidalCell.j
pg
• https://en.wikipedia.org/wiki/File:Norbert_wiener.jpg
• https://en.wikipedia.org/wiki/Marvin_Minsky#/media/File:Marvin_Minsky_at_OLPCb.jpg
• https://en.wikipedia.org/wiki/Hopfield_network#/media/File:Hopfield-net-vector.svg
• https://en.wikipedia.org/wiki/James_McClelland_(psychologist)#/media/File:James_McCle
lland_(14039773375).jpg
• https://en.wikipedia.org/wiki/Geoffrey_Hinton#/media/File:Geoffrey_Hinton_at_UBC.jpg
• https://en.wikipedia.org/wiki/ImageNet#/media/File:ImageNet_error_rate_history_(just_
systems).svg
• https://en.wikipedia.org/wiki/The_Turk#/media/File:Kempelen_chess1.jpg
• https://en.wikipedia.org/wiki/John_Forbes_Nash_Jr.#/media/File:John_Forbes_Nash,_Jr._
by_Peter_Badge.jpg