「人工知能 (AI) は言葉の意味を理解できるか？」という問いについて、 肯定論、否定論の両論あるようだ。 計算しかしていないコンピュータに、言葉の意味が理解できるはずが ない、というような論が、かつて、まことしやかに述べられていた。 「コンピュータ」は、日本語では「計算機」といい、その名の示す通り、 プロセッサレベルの低い階層においては、計算しかしておらず、それ以外に 何かができるわけではない。そこは間違っていない。また、計算以外の 何かができるように、新たなアーキテクチャが生まれようとしている、と いうこともなく、そこは昔も今も変わっていない。 しかし、一方、「言葉を理解するとは、単なる計算以上の能力を必要とする、 特別な何かである」かどうかは、それほど自明ではなく、議論の余地が あると思う。 人間の脳だって、脳細胞や脳細胞間のシナプス結合等のミクロなレベルまで 視点を下げれば、もしかすると、本質的には計算しかしていないのかも しれない。だとしても、そこから、マクロレベルへと階層を上がって いくにつれて、知能や意識が創発してくるのかもしれない。意識も知能も 欲望も感情も想像力も直観力も言語能力も論理推論能力も、結局は 計算に還元されるのではないか、という考え方がある。これを 「計算主義」という。 もし、計算主義が正しいのだとしたら、人間の脳においても、実は 計算しかしていないのに、言葉を理解できているのはどういう メカニズムによるものなのだろう、不思議だなぁ、と、AI の場合と同じ 問いに直面することになりうる。 自然言語処理能力を含む知能は計算から生まれるか、というのは割と 根源的な問いだと思う。 そこをただ思弁的に言葉だけを用いて議論していても、果てしなく続き、 言葉のゴミの山が積み上げられ、結局は、何ひとつ解明できずに終わる だろう。ヴィトゲンシュタインの哲学を延々々々と続けていたとしても、 そこから自然言語処理 AI は生まれない。 今は、現に動作するチャットボット AI が世に出てきている。 さきほどの問いについて考える上でも、現物を触りながらのほうが、 議論の見通しがより明るくなるかと思う。 というわけで、ChatGPT と会話してみることで、考えてみた。 考察というより、ただの感想に近いけど。 「言葉の意味を理解する」とはどういうことか、それ自体、単純なこと ではなく、理解レベルには、さまざまな階層があると思う。 車の自動運転だって、そのレベルが 5 段階に分類されており、 言葉の意味理解についても、そういうのがあるとよかろうと思う。 今現在、どのレベルまで到達しているのか。今、まだ解決されていない 課題は何か。将来、いつごろ、どの程度のものに発展するかの見通しは どうか。こういう問いが、割と現実味のある、切実な問いになってきて いるのではないかと思う。 このレポートを参照して解説する YouTube 動画: ■ セーラー服で機関銃トーク: ChatGPT を使ってみた (第 3 弾) 　 https://www.youtube.com/watch?v=Cb3qJX8Sp-U 　　2022/12/15 　　収録日: 2022年12月12日(月) 　　YouTube 動画 35分14秒 　　YouTube チャンネル シンギュラリティサロン・オンライン 　　セーラー服で機関銃トーク: ChatGPT を使ってみた (第 3 弾) 　　2022年12月15日(木) の時点で視聴回数は 352 回。

1. 2022 年 12 月 12 日 (月)
小林 秀章
資料
ChatGPT は高階層の意味理解にはほど遠い？
photorealistic detailed image of the whole body of a bald bearded old man, wearing high school girl's sailor-style
uniform with a short skirt, chatting in text with an artificial intelligence in a computer science laboratory

2. 「意味が分かる」にも階層がある
• 文章の価値や意義や面白みが自分固有の基準で評価できる
• 文章に基づいて、発信者の狙いや主張内容が分かる
• 文章に基づいて、出来事の因果的な流れが分かる
• 文の発信者の感情や主旨が分かる
• 文の表している、現実世界の状態や主張内容が分かる
• 単語の表している、現実世界の実体やカテゴリや概念が分かる
• 単語の辞書的な意味が分かる
ChatGPT は、単語の辞書的な意味は分かっているかのように応答する。
また、やりとりが、低階層の意味において、かみ合っている。
それだけでも、まあ、驚異的と言える。

3. あれ？

4. あれ？

9. 高い階層の理解の例:
甲斐がある、無駄でない、価値がある
「意味ねーじゃん」な行為:
• 穴を掘って、すぐに埋める
• 石を積み上げて、すぐに崩す
• 紐を結んで、すぐにほどく
• 部屋を片づけて、すぐに散らかす
• 録音した音をすぐに消去する
• 数式を因数分解して、すぐに展開する
• 自分の尻尾を追って、ぐるぐる回る
• JR 山手線に 1 時間 05 分乗っていたら、元の駅に戻ってきた
• 思考が無限ループに陥った

10. 生物は、「甲斐がある / ない」を割と気にしているはず
• 何もしていなくてもエネルギーを消費している
• 食べたものと吸った酸素を化合させてエネルギーを得ている
• 最も基本的には、次のエネルギー獲得につながらないエネルギー消費は無駄
• 自己監視する機能を備えることが重要。
• 無駄なエネルギー消費に陥っていると気がついたら、行動を変える
• それが「自意識」みたいなもの？

11. ChatGPT は「無駄なことはしない」に時として無頓着
• 無限ループに陥る
• 同じことを繰り返し述べる
• 数式変形がひと回りして元に戻っちゃうことがある
(因数分解しておいて、また展開、みたいな)
• 途中まで正しく進んでいた数式変形を忘れて
振り出しに戻ることがある
• ひとつのジャンルについて、総論から各論へと順を追って
知識獲得したいと思っても、話が進んでいかない
• 創作した話が展開の意外性に乏しく、あんまりおもしろくない
• 一貫した性格や生命感が感じられない
もしチューリングテストだったら、
そういうところが見破る手掛かりになりうる

12. 日本酒を例にとって、会話してみる
デンプン ブドウ糖
ブドウ糖 アルコール
麹菌
酵母菌
日本酒は 2 段階醸造
生酛造り or 山廃仕込み

14. 誤り。ブドウ糖を生成する。
正しい
同一表現の
使いまわし

15. 同一表現の
使いまわし
決定的に誤り！ 麹菌は澱粉を分解して葡萄糖を生成する。
葡萄糖を分解してアルコールを生成するのは酵母菌の役目。
言質を取っておいて、後で追い詰める

16. 基本、OK
でっち上げくさい
基本、OK

18. でっち上げくさい

20. 先ほどとまったく同じ質問。
先ほどは「その通りです」と答えた。
しれっ、と。

23. 所感
• 「やった甲斐があるか」というレベルの意味理解となると、
ChatGPT はまだまだ → 今後の解決課題
• スケーリングで解決するか？ → しそうもない気がする
• 「自分を監視するメタな自分」という機構が要る？
• もしここが突破できたら、自意識を備えたようにみえるのではないか？