20170904全脳アーキテクチャ若手の会第29回勉強会資料 「規則のパラドックスと合理性のありか」(筑波大学大学院_河村雄輝)

1. 全脳アーキテクチャ若手の会
第29回勉強会
ドレイファスを考え直す
Part3
「規則のパラドックスと合理性のありか」
筑波大学大学院 修士一年
河村雄輝
1

2. 目次
⚫ドレイファスの人工知能批判と古典計算主義、コネクショニズム
⚫規則的であるとはどういうことか？―規則についてのパラドックス
⚫知性と合理性
2

3. ドレイファスの議論
主張：「人工知能技術は人間の知能を再現できない！」
→ドレイファスの議論
・人工知能は人間と同じ体を持たない
・規則≠形式的操作
・心≠形式的・デジタル処理装置
・事実と状況の分離
→のちに時代は古典計算主義からコネクショニズムへ…
3

4. 古典計算主義とは何だったのか
・形式的処理システムとしての心/知能
外界からデータを受け取って、それを処理するエンジンとしての心（知能）
・統語論的処理を行う機能としての心
上記の処理は、統語論的（文法的）な体系性を有したシステムの下で行われ
る
・思考の言語(LOT)仮説(by フォーダー)
言語に似た体系の下で上記のエンジンは実装される
4

5. 古典計算主義がダメだったわけ(by ドレイファス)
⚫ (言語の)規則性を形式的操作に落とし込むことはできない
⚫ 脳はデジタル/形式的処理装置ではない
⚫ 「意味」を理解できていない(いわゆる「中国人の部屋」問題)
（by ドレイファス）
5

6. コネクショニズムについて
コネクショニズムの特徴を考えてみる
・ニューラルネットワーク
人間の神経構造を模したネットワークを再現
・分散表象
局所構造と異なり、記号論的ではなく全体論的な表象
6

7. 分散表象への批判
⚫ 言語の体系性と産出性を説明できない！(フォーダー)
→われわれ人間は、初めて見聞きするものでも文法さえ習得していれば理解する
ことができる
⚫ 統語論的な構造を持たない分散表象は、規則性の説明を具することができな
い！
→なぜ規則的に振舞っているのかというシステムが説明できない
but
学習させたり人間が介入することによって教えることは可能
7

8. 人間は正しい判断を行っているのか
日常的に人間は、特異なものを除けば規則的な判断を行っているように見え
る
例：「これはリンゴである」「1+1=2である」
→正しい判断を行っている、既存のものと異なる新しいものについても判断を
行うことができる(外国に行ってもリンゴはリンゴと判断できる)
8

9. コンピュータと規則
⚫ コンピュータに「正しい判断」をさせる
＜古典計算主義＞
思考の言語、もしくは何らかの体系…そのようなものは存在するのか？
→むりぽ、記述できない
＜コネクショニズム＞
規則を学習させる…学習をさせる、ほぼ人間と同じ挙動をさせる
→データベースand人力知能、チカライズパワー
9

10. 古典計算主義とコネクショニズム
についての考察からの教訓
古典計算主義あるいはコネクショニズムにせよ、ある程度正しい挙動を完成さ
せるために人間の介入は必要であるかもしれない
＜前提＞
コンピュータに対して正しい判断を教える
→人間の判断が正しさを担保している
では、人間の判断の正しさを担保しているのは何か？
→人間が規則的に振舞う、一定のルールの下で振舞っていること
10

11. 規則的であるということ
人間の振る舞いが規則的であるということ
⇔共通のルールの下で人間が振舞っているということ
<例>
言語…「花」は何を意味するか、「楽しみ」は何を意味するか
計算…四則演算、定理
スポーツ…サッカーのルール、野球のルール
11

12. 例①：計算
⚫ 我々は、足し算や掛け算を一定のルールで行うことができる
例：1に2を足すと次の数になる、2×2=2である…
→人間の持っている規則の単純的ないし原始的な例
この規則は何によって正当化されているのか？
12

13. クワス算のパラドックス
・哲学者クリプキの提案したクワス算(qwas, plusをもじっている)
クワス算(*)においては、計算規則は以下のように定義される
x*y= x+y (x+y<53)
= 5 (x+y≧53)
クリプキの主張：足し算とクワス算は規則に関して区別できない
→どちらも規則的である、もしくは規則的でないといえる
13

14. クワス算のパラドックス
直観的にはクワス算などという計算規則はあり得ない
→しかしながらクリプキによると私たちは普段の足し算においてすらも足し算
を行っているのか、それともクワス算を行っているのか決定できない
→足し算を行っていた人が、いきなり61+55の答えを5とすることに対して何の
間違いも正当化もない
14

15. 反論①計算すればわかるはず
⚫ 計算を行ってみればわかるはずだ（たとえば筆算）
⚫ 有限個の事例しかないかもしれないが、教えられた足し算のアルゴリズムを
思い出せばちゃんと正しい答え(クワス算ではなく足し算)が導けるはずだ
→論点先取になっている。筆算の中の足し算がクワス算ではないことはどう
やって証明できるのか？
15

16. 反論②以前も同じようにした
⚫ 「私はずっと足し算をしてきた、だから53以上の数に関しても足し算を適用す
るような傾向性があるはずだ。というか、クワス算は不自然だ。」
→「傾向性」＝「今までそうしてきたという過去の事実の有限の積み重ね」
→どうして今までしたことのない計算に対してもこの傾向性が適用できるの
か？(帰納法の不完全さ)
→「不自然」とは事後的な評価でしかない
16

17. 反論③オッカムの剃刀
⚫ 「足し算という演算はクワス算よりもシンプルである」
→「シンプルである」ということは、何を意味しているのか
→この場合どちらがよりシンプルなのかということについて判定する基準はな
い(シンプルであるということもまた帰納的な評価でしかないから)
17

18. 反論④お気持ち解決
⚫ 「私はこれまで足し算を行っていた際には、特定の心象を持っている。」
→「心象」とは何か？
→最大の地雷：客観的な共有が不可能！
18

19. クワス算のパラドックスの示唆すること
⚫ 我々は、単一の規則の適用に関して根拠を持っていない
(が、なんだかいつもはうまく行っちゃっている)
→いかなる帰納的な正当化もうまくいかない
→これをさらに推し進めるとどうなるか
19

20. 例②：言語―グルーのパラドックス
⚫ 次のような単語を考えてみる
「グリーン」…緑のものを指す言葉、緑の概念
「グルー」…今日までは緑色を指すが明日からは青色を指す言葉
→「意味のない単語」として我々の言語から排除できるか？
→クワス算のパラドックスを踏まえると、答えは「NO」となる
→ある語がどのような意味を持っているか、ある概念がどのような対象を指すかと
いうことに正当性の根拠がなくなる
20

21. おまけ：人間は自分の心を知っている
か
クリプキの提示してきたパラドックスによれば、私たちの言語使用において意
味を確定させることはできない
→例えばわれわれ人間の感情「うれしい」「かなしい」というような言葉に対し
ても意味を与えることはできない
→自らの心を知っていない？？？
21

22. では、どうすれば？
人間の知的振る舞いを帰納や「心の中にあるもの(表象)」に基づいて理解する
試みは失敗する
→というかこの説明だとコンピュータと同様に人間の振る舞い「なぜうまくいっ
ているのか」がわからず、そもそも正当であることがどういうことなのかわから
ない。「雰囲気でやっている」
22

23. クリプキはどうパラドックスを
解決したのか
人間の規則的振る舞いを確かに定めるところの根拠などない
→「たまたま」「人間の振る舞いが」一致しているということ以上の事実は存在
しない
→人間の振る舞いのみが基礎的な事実、かつ唯一の根拠となる
23

24. クリプキの議論の示唆すること
「規則」「基準」「正しさ」などといった諸々のものについて、
「主観的」あるいは「客観的」な正当化は存在しない
→あるとすればそれは「公的な」「共同体における」正当化である
24

25. 現状で可能となっていること
人間に限りなく似せた知能を作ろう！
→ここまでで見たように、「ここまでレベルが上がれば人間と同じ」という基準
は存在せず判定は不可能である
→しかし「ある程度十分なレベルで」もしくは「人間よりもはるかに高い精度で」
何かを人工知能に行わせることは可能である
25

26. 何がうまくいっているのか？
「あるものがどうであるのか」、すなわちものに関する判断、知識(認識論)につ
いてはある程度うまくいっている
→クリプキの提示した決定不可能性については目下無視できるかもしれない
→われわれば「公共的な正当化」の正当性をこれから無視できずにやってい
けるのか？
26

27. 取り組むべき課題
そもそもコンピュータに対して教えられない、とわれわれが考えていることにつ
いてそもそも見解の一致があるのか？
→哲学からの視点：知識を正しく持てるかどうかという問題(認識論)ではなく、
例えば倫理(それは善いことかどうか)、美(好み、美醜の問題)の分野におい
てこの問題はより重要であると議論されてきた
27

28. 知性の範囲と哲学的思考
例…倫理学
プラトン:徳(道徳的な善さ)を教えることはできない、常に人間は想起すること
によって善い行いについて考えることができる
カント:理性によって人間は普遍的な道徳の下で行動することができる
→知識や指導に基づくわけではないが、人間は何らかの一致を志向してい
る
28

29. 知性の範囲と哲学的思考
例…倫理学②
＜トロッコ問題＞
自らの乗っているトロッコのスイッチを切り替えなければ5人が死亡、切り替え
ると3人が死亡する。昨今の自動運転でも議論に上る
→そもそも技術云々の前に、人間共同体の中で見解の一致がない
29

30. 人間についての新たな仮説
私たちは、高度に抽象的・社会的な判断においてどのように「規則性」ではな
く「合理性」を担保しているのか？
→倫理、道徳、政治、芸術…といった分野における人間の判断あるいは特徴
を考え直すことが、技術の実装にあたって必要な課題となる
30

31. まとめ
・古典計算主義からコネクショニズムへの進歩は人間の判断を再現できる水
準にまで達している
・しかしながら「正しい基準」を事前に持っていることは不可能である
・にもかかわらず、人間が「何とかうまくやっている領域」について考察するこ
とは哲学的に、そしておそらく工学的にも重要となってくる
31

32. 参考文献
・クリプキ.S, 黒崎宏訳(1983)『ウィトゲンシュタインのパラドクスー規則・私的言
語・他人の心』, 産業図書.
・ドレイファス.H, 黒崎政男訳(1992)『コンピュータには何ができないか』, 産業図
書.
32