ニューラルネットワーク

1. AIの中身を大解明？！
ニューラルネットワークの説明
hiro.

2. Introduction
hiro.
・東京大学工学部航空宇宙工学科卒
・国家公務員技術系
・将来は数値予報の改善をしたい
・好きな雲…Ci
・好きな天気図…FXJP854
・好きな物理科目…熱力学
・好きな動物…ペンギン
よろしくお願いします！

3. Introduction
「AIって、よく聞くけど、何だろう、難しそう！」
っていうのが正直なところかと思います。
今日は、AIの中身であり、気象予報士試験でも登場する
「ニューラルネットワーク」の仕組みについて解説したいと思います。
ニューラルネットワークは、AIの手法であるDeep Learning（深
層学習）のメカニズムです。
hiro.が画像生成AI「Stable
Diffusion」を使って描いた絵。
ChatGPTとか、AIの勃興は目覚ま
しいですね！

4. Table of Contents
１．ニューラルネットワークと非線形について
２．AIは「微分」している？！
３．微分を使うと、自動的に「魔法の箱」を作ってくれる！
理系的な素養は極力使わず説明するよ！

5. Table of Contents
１．ニューラルネットワークと非線形について
２．AIは「微分」している？！
３．微分を使うと、自動的に「魔法の箱」を作ってくれる！
「非線形」って何度も聞いたけど、一体何？

6. ニューラルネットワークとは？
ニューラルネットワークとは、人の脳神経細胞である
ニューロンを模してつなぎ合わせた人工的な脳神経回路ネットワークのことです。
左のような分類問題を解くこと
ができ、入力データに対して適
切な出力データをはじき出すこ
とが出来ます。この時、「非線
形」な分類法を使っているのが
特徴的です。

7. 「非線形」について
「非線形」は簡単に言うと、「比例しない」ということです。直線関係、比例
関係にあるものを線形、そうではない曲線的な関係のことを非線形といい
ます。

8. AIは「分類問題」を解いている
AIにも幾つか種類がありますが、ニューラルネットワークでは主に「分類問
題」を解いています。つまり、境界線を引いて区別しているということです。
その時、曲線を引いて自由に境界を決められた方が自由度が高いですよ
ね、それを実現しているのが、ニューラルネットワークなのです。
→非線形の実現方法とは？？？
人
犬
犬
人
線形 非線形

9. パーセプトロンについて
パーセプトロンとは、ニューラルネットワークの一部の
アルゴリズムであり、複数の信号を入力として受け
取り、ひとつの信号を出力します。
〇がニューロン、又はノードと呼ばれ、wが「重み」、
bが「バイアス」と呼ばれます。ニューロンでは、送ら
れてきた信号の総和が計算され、その総和が限界
値を超えた場合にのみ1（そうでない場合には
0）を出力します。1の時を「ニューロンが発火す
る」と表現します。
これ一個では、一次関数なので線形な分類問題
を解くことが出来ます。

10. 多層パーセプトロンについて
多層パーセプトロンでは、層を多重に組み合わせ
て出力を出します。
単層パーセプトロンが一次関数的だったのに対し
て、一次関数の層を二回以上通しているので、掛
け算で曲線的な分類問題を解くことが可能です。
つまり、層を重ねることで、非線形な分類問題を
解くことが出来るようになったということです。これが
ニューラルネットワークの重要な性質の内の1つで
す。

11. AIがやりたいこと
AIは、ニューラルネットワークの何処の道を太くして、
何処の道を細くしたら目的の出力を出してくれるか、
という、「関数」と呼ばれるものを作りたい。
「関数」とは、「こんな絵を描いて！」と言ったら、
「描いたよ！」と言って目的のものを作ってくれる、
魔法の箱のようなもの。
この、どの道を太くして、どの道を細くしたら良いか、
というのを昔は人間が「チューニング」していたのです
が、全部機械が自動でやってくれるというのがAIの
凄いところであり、AIがやりたいこと。

12. Table of Contents
１．ニューラルネットワークと非線形について
２．AIは「微分」している？！
３．微分を使うと、自動的に「魔法の箱」を作ってくれる！
AIは「微分」しているって覚えて帰って！

13. AIは「微分」している？！
微分とは…勾配を求める演算のこと。
微分した値が大きいほど勾配が大きく、微分した
値が0に近づくほど勾配が小さくなります。

14. AIの「微分」のイメージ
AIは「微分」によって、勾配を求め、一番低いところを目指しま
す。一番低いところを目指す筈が、ちょっとした山の谷で止まっ
てしまうこともあります。これを「局所最適解」、最も低いところ
を「大域最適解」と言います。

15. AIの「微分」のイメージ
そもそもこのグラフが何かを説明すると、「正
解データ（教師データ）」の出力と現在の
モデルの出力の差、になります。つまり、現在
のモデルが正解データに近いほど、このグラフ
の値は低くなります。この一番低いところが、
現在のモデルが求めたい「正解データ」を出
す関数であり、そこを目指して微分を進めて
いきます。
ぱっと見でグラフを見ると一番低いところが分
かるので、微分をして進めていくことに意味は
ないと思われるかもしれませんが、実はこのグ
ラフはブラックボックスなのです。計算を進め
なければグラフは見えませんが、現在の地点
の勾配だけは分かるのです。よって、このよう
な「手探り」の手法が使われています。
下にいくほど「魔法の箱」が完成

16. Table of Contents
１．ニューラルネットワークと非線形について
２．AIは「微分」している？！
３．微分を使うと、自動的に「魔法の箱」を作ってくれる！
1と2の融合の話だよ！「魔法の箱」の完成！

17. AIが「魔法の箱」を作るイメージ
粘菌コンピュータと呼ばれるもの。粘菌（生物）
が餌を食べる時に手を伸ばすのだが、その時にエネ
ルギーロスの少ない最短経路を通る性質を利用し
た動画。真ん中が東京で、日本地図と統計に従
って人口の多いところに餌を置くと、粘菌がJRの路
線を完成させたという動画。
AIは、この粘菌のように、目的の関数「魔法の箱」
に向かって、ニューロンの軸を太くしたり細くしたりし
ている。

18. AIが「魔法の箱」を作るイメージ
この「魔法の箱」を作る時に使われるのが「微分」
操作です。微分の時に使われるグラフは、ニューラ
ルネットワークの「重み」wと「バイアス」bの関数に
なっていて、このwとbを変化させるときのグラフの傾
きを調べています。適切なwとbをそれぞれのニュー
ロンで求めた結果出来上がるのが、「魔法の箱」と
いう訳です。

19. AIが「魔法の箱」を作るイメージ
このようにして作られた「魔法の箱」によって、非線
形な分類を行えるようになります。例えば、「犬」と
「人」を画像からどちらに属するか判別できるように
なります。つまり、ニューラルネットワークは、「微分」
することで「魔法の箱」を作り、「非線形」な分類問
題を解けるようになるということです。
人
犬
犬
人
線形 非線形

20. 参考文献
ニューラルネットワークについて、微分操作について
など、もっと知識を深めたいという方は、左の文献
をお勧めします。是非、興味があれば読んでみてく
ださい。
O’REILLY 「ゼロから作るDeep
Learning―Pythonで学ぶディープラ
ーニングの理論と実装」
斎藤 康毅 著

21. CREDITS: This presentation template was
created by Slidesgo, including icons by
Flaticon, and infographics & images by
Freepik
Thank You for Listening！