Submit Search
Upload
人工知能界隈のためのざっくり物理マップ
•
Download as PPTX, PDF
•
4 likes
•
3,580 views
尚行 坂井
Follow
AI研究者とお話ししたときに「物理の本を読んだけど私の中でつながらない」と言われました。そんなわけでラフな物理像をまとめてみました。今後ブラッシュアップしていく予定ですー。
Read less
Read more
Data & Analytics
Report
Share
Report
Share
1 of 20
Download now
Recommended
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
Matlantis
【論文紹介】How Powerful are Graph Neural Networks?
【論文紹介】How Powerful are Graph Neural Networks?
Masanao Ochi
連続変量を含む相互情報量の推定
連続変量を含む相互情報量の推定
Joe Suzuki
Deep learningの発展と化学反応への応用 - 日本化学会第101春季大会(2021)
Deep learningの発展と化学反応への応用 - 日本化学会第101春季大会(2021)
Preferred Networks
合成経路探索 -論文まとめ- (PFN中郷孝祐)
合成経路探索 -論文まとめ- (PFN中郷孝祐)
Preferred Networks
Prml 最尤推定からベイズ曲線フィッティング
Prml 最尤推定からベイズ曲線フィッティング
takutori
グラフデータ分析 入門編
グラフデータ分析 入門編
順也 山口
グラフニューラルネットワーク入門
グラフニューラルネットワーク入門
ryosuke-kojima
Recommended
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
PFP:材料探索のための汎用Neural Network Potential_中郷_20220422POLセミナー
Matlantis
【論文紹介】How Powerful are Graph Neural Networks?
【論文紹介】How Powerful are Graph Neural Networks?
Masanao Ochi
連続変量を含む相互情報量の推定
連続変量を含む相互情報量の推定
Joe Suzuki
Deep learningの発展と化学反応への応用 - 日本化学会第101春季大会(2021)
Deep learningの発展と化学反応への応用 - 日本化学会第101春季大会(2021)
Preferred Networks
合成経路探索 -論文まとめ- (PFN中郷孝祐)
合成経路探索 -論文まとめ- (PFN中郷孝祐)
Preferred Networks
Prml 最尤推定からベイズ曲線フィッティング
Prml 最尤推定からベイズ曲線フィッティング
takutori
グラフデータ分析 入門編
グラフデータ分析 入門編
順也 山口
グラフニューラルネットワーク入門
グラフニューラルネットワーク入門
ryosuke-kojima
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
SSII
クラシックな機械学習入門:付録:よく使う線形代数の公式
クラシックな機械学習入門:付録:よく使う線形代数の公式
Hiroshi Nakagawa
PCAの最終形態GPLVMの解説
PCAの最終形態GPLVMの解説
弘毅 露崎
【DL輪読会】Trajectory Prediction with Latent Belief Energy-Based Model
【DL輪読会】Trajectory Prediction with Latent Belief Energy-Based Model
Deep Learning JP
SakataMoriLab GNN勉強会第一回資料
SakataMoriLab GNN勉強会第一回資料
ttt_miura
[DL輪読会]Neural Ordinary Differential Equations
[DL輪読会]Neural Ordinary Differential Equations
Deep Learning JP
ICLR2020読み会 (neural-tangents)
ICLR2020読み会 (neural-tangents)
RyuichiKanoh
変分推論法(変分ベイズ法)(PRML第10章)
変分推論法(変分ベイズ法)(PRML第10章)
Takao Yamanaka
グラフニューラルネットワークとグラフ組合せ問題
グラフニューラルネットワークとグラフ組合せ問題
joisino
PRML輪読#10
PRML輪読#10
matsuolab
Deep learning for molecules, introduction to chainer chemistry
Deep learning for molecules, introduction to chainer chemistry
Kenta Oono
モデルアーキテクチャ観点からの高速化2019
モデルアーキテクチャ観点からの高速化2019
Yusuke Uchida
混合ガウスモデルとEMアルゴリスム
混合ガウスモデルとEMアルゴリスム
貴之 八木
[DL輪読会]SOM-VAE: Interpretable Discrete Representation Learning on Time Series
[DL輪読会]SOM-VAE: Interpretable Discrete Representation Learning on Time Series
Deep Learning JP
Graph Neural Networks
Graph Neural Networks
tm1966
[DL輪読会]Understanding deep learning requires rethinking generalization
[DL輪読会]Understanding deep learning requires rethinking generalization
Deep Learning JP
Prml6
Prml6
Arata Honda
200611material ozaki
200611material ozaki
RCCSRENKEI
[DL輪読会]Glow: Generative Flow with Invertible 1×1 Convolutions
[DL輪読会]Glow: Generative Flow with Invertible 1×1 Convolutions
Deep Learning JP
深層学習の数理:カーネル法, スパース推定との接点
深層学習の数理:カーネル法, スパース推定との接点
Taiji Suzuki
ブラックボックスなアドテクを機械学習で推理してみた Short ver
ブラックボックスなアドテクを機械学習で推理してみた Short ver
尚行 坂井
5分で分か(った気にな)る人工知能入門
5分で分か(った気にな)る人工知能入門
尚行 坂井
More Related Content
What's hot
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
SSII
クラシックな機械学習入門:付録:よく使う線形代数の公式
クラシックな機械学習入門:付録:よく使う線形代数の公式
Hiroshi Nakagawa
PCAの最終形態GPLVMの解説
PCAの最終形態GPLVMの解説
弘毅 露崎
【DL輪読会】Trajectory Prediction with Latent Belief Energy-Based Model
【DL輪読会】Trajectory Prediction with Latent Belief Energy-Based Model
Deep Learning JP
SakataMoriLab GNN勉強会第一回資料
SakataMoriLab GNN勉強会第一回資料
ttt_miura
[DL輪読会]Neural Ordinary Differential Equations
[DL輪読会]Neural Ordinary Differential Equations
Deep Learning JP
ICLR2020読み会 (neural-tangents)
ICLR2020読み会 (neural-tangents)
RyuichiKanoh
変分推論法(変分ベイズ法)(PRML第10章)
変分推論法(変分ベイズ法)(PRML第10章)
Takao Yamanaka
グラフニューラルネットワークとグラフ組合せ問題
グラフニューラルネットワークとグラフ組合せ問題
joisino
PRML輪読#10
PRML輪読#10
matsuolab
Deep learning for molecules, introduction to chainer chemistry
Deep learning for molecules, introduction to chainer chemistry
Kenta Oono
モデルアーキテクチャ観点からの高速化2019
モデルアーキテクチャ観点からの高速化2019
Yusuke Uchida
混合ガウスモデルとEMアルゴリスム
混合ガウスモデルとEMアルゴリスム
貴之 八木
[DL輪読会]SOM-VAE: Interpretable Discrete Representation Learning on Time Series
[DL輪読会]SOM-VAE: Interpretable Discrete Representation Learning on Time Series
Deep Learning JP
Graph Neural Networks
Graph Neural Networks
tm1966
[DL輪読会]Understanding deep learning requires rethinking generalization
[DL輪読会]Understanding deep learning requires rethinking generalization
Deep Learning JP
Prml6
Prml6
Arata Honda
200611material ozaki
200611material ozaki
RCCSRENKEI
[DL輪読会]Glow: Generative Flow with Invertible 1×1 Convolutions
[DL輪読会]Glow: Generative Flow with Invertible 1×1 Convolutions
Deep Learning JP
深層学習の数理:カーネル法, スパース推定との接点
深層学習の数理:カーネル法, スパース推定との接点
Taiji Suzuki
What's hot
(20)
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
SSII2020SS: グラフデータでも深層学習 〜 Graph Neural Networks 入門 〜
クラシックな機械学習入門:付録:よく使う線形代数の公式
クラシックな機械学習入門:付録:よく使う線形代数の公式
PCAの最終形態GPLVMの解説
PCAの最終形態GPLVMの解説
【DL輪読会】Trajectory Prediction with Latent Belief Energy-Based Model
【DL輪読会】Trajectory Prediction with Latent Belief Energy-Based Model
SakataMoriLab GNN勉強会第一回資料
SakataMoriLab GNN勉強会第一回資料
[DL輪読会]Neural Ordinary Differential Equations
[DL輪読会]Neural Ordinary Differential Equations
ICLR2020読み会 (neural-tangents)
ICLR2020読み会 (neural-tangents)
変分推論法(変分ベイズ法)(PRML第10章)
変分推論法(変分ベイズ法)(PRML第10章)
グラフニューラルネットワークとグラフ組合せ問題
グラフニューラルネットワークとグラフ組合せ問題
PRML輪読#10
PRML輪読#10
Deep learning for molecules, introduction to chainer chemistry
Deep learning for molecules, introduction to chainer chemistry
モデルアーキテクチャ観点からの高速化2019
モデルアーキテクチャ観点からの高速化2019
混合ガウスモデルとEMアルゴリスム
混合ガウスモデルとEMアルゴリスム
[DL輪読会]SOM-VAE: Interpretable Discrete Representation Learning on Time Series
[DL輪読会]SOM-VAE: Interpretable Discrete Representation Learning on Time Series
Graph Neural Networks
Graph Neural Networks
[DL輪読会]Understanding deep learning requires rethinking generalization
[DL輪読会]Understanding deep learning requires rethinking generalization
Prml6
Prml6
200611material ozaki
200611material ozaki
[DL輪読会]Glow: Generative Flow with Invertible 1×1 Convolutions
[DL輪読会]Glow: Generative Flow with Invertible 1×1 Convolutions
深層学習の数理:カーネル法, スパース推定との接点
深層学習の数理:カーネル法, スパース推定との接点
Viewers also liked
ブラックボックスなアドテクを機械学習で推理してみた Short ver
ブラックボックスなアドテクを機械学習で推理してみた Short ver
尚行 坂井
5分で分か(った気にな)る人工知能入門
5分で分か(った気にな)る人工知能入門
尚行 坂井
itou m
itou m
harmonylab
事業開発メソッド
事業開発メソッド
Valiant HERO Inc.
光発振器ネットワークで組合せ最適化問題を解くコヒーレントイジングマシン
光発振器ネットワークで組合せ最適化問題を解くコヒーレントイジングマシン
Utsunomiya Shoko
京都大学鹿島研究室勉強会資料-配布用-
京都大学鹿島研究室勉強会資料-配布用-
Koichiro Kondo
複合システムネットワーク論を読む(公開版)
複合システムネットワーク論を読む(公開版)
考司 小杉
【Zansa】 人工社会-複雑系とマルチエージェントシミュレーションの紹介-
【Zansa】 人工社会-複雑系とマルチエージェントシミュレーションの紹介-
Zansa
KeyGraph Analysis on NIPS2013 Papers
KeyGraph Analysis on NIPS2013 Papers
Hiroshi Tsukahara
社会の意見のダイナミクスを物理モデルとして考えてみる
社会の意見のダイナミクスを物理モデルとして考えてみる
takeshi0406
20090924 YAMAHA Webforum Sort
20090924 YAMAHA Webforum Sort
loftwork
人工知能が変える投資の世界 人工知能はすでにここまで身近になっている
人工知能が変える投資の世界 人工知能はすでにここまで身近になっている
Takanobu Mizuta
PythonによるDeep Learningの実装
PythonによるDeep Learningの実装
Shinya Akiba
ビジネスモデルをシステムにつなげる
ビジネスモデルをシステムにつなげる
Zenji Kanzaki
次世代量子情報技術 量子アニーリングが拓く新時代 -- 情報処理と物理学のハーモニー --
次世代量子情報技術 量子アニーリングが拓く新時代 -- 情報処理と物理学のハーモニー --
Shu Tanaka
20140204はじパタlt
20140204はじパタlt
tetsuro ito
Grafico diario del dax perfomance index para el 13 02-2014
Grafico diario del dax perfomance index para el 13 02-2014
Experiencia Trading
05a fede mma forum colombia
05a fede mma forum colombia
Mobile Marketing Association
Crossing the streams: Social and technical interfaces between Wikimedia and O...
Crossing the streams: Social and technical interfaces between Wikimedia and O...
Dario Taraborelli
"Epistemic Game Design for Collaborative Inquiry and Civic Engagement" by She...
"Epistemic Game Design for Collaborative Inquiry and Civic Engagement" by She...
Sherry Jones
Viewers also liked
(20)
ブラックボックスなアドテクを機械学習で推理してみた Short ver
ブラックボックスなアドテクを機械学習で推理してみた Short ver
5分で分か(った気にな)る人工知能入門
5分で分か(った気にな)る人工知能入門
itou m
itou m
事業開発メソッド
事業開発メソッド
光発振器ネットワークで組合せ最適化問題を解くコヒーレントイジングマシン
光発振器ネットワークで組合せ最適化問題を解くコヒーレントイジングマシン
京都大学鹿島研究室勉強会資料-配布用-
京都大学鹿島研究室勉強会資料-配布用-
複合システムネットワーク論を読む(公開版)
複合システムネットワーク論を読む(公開版)
【Zansa】 人工社会-複雑系とマルチエージェントシミュレーションの紹介-
【Zansa】 人工社会-複雑系とマルチエージェントシミュレーションの紹介-
KeyGraph Analysis on NIPS2013 Papers
KeyGraph Analysis on NIPS2013 Papers
社会の意見のダイナミクスを物理モデルとして考えてみる
社会の意見のダイナミクスを物理モデルとして考えてみる
20090924 YAMAHA Webforum Sort
20090924 YAMAHA Webforum Sort
人工知能が変える投資の世界 人工知能はすでにここまで身近になっている
人工知能が変える投資の世界 人工知能はすでにここまで身近になっている
PythonによるDeep Learningの実装
PythonによるDeep Learningの実装
ビジネスモデルをシステムにつなげる
ビジネスモデルをシステムにつなげる
次世代量子情報技術 量子アニーリングが拓く新時代 -- 情報処理と物理学のハーモニー --
次世代量子情報技術 量子アニーリングが拓く新時代 -- 情報処理と物理学のハーモニー --
20140204はじパタlt
20140204はじパタlt
Grafico diario del dax perfomance index para el 13 02-2014
Grafico diario del dax perfomance index para el 13 02-2014
05a fede mma forum colombia
05a fede mma forum colombia
Crossing the streams: Social and technical interfaces between Wikimedia and O...
Crossing the streams: Social and technical interfaces between Wikimedia and O...
"Epistemic Game Design for Collaborative Inquiry and Civic Engagement" by She...
"Epistemic Game Design for Collaborative Inquiry and Civic Engagement" by She...
人工知能界隈のためのざっくり物理マップ
1.
人工知能界隈のための ざっくり物理マップ ブルーウォールジャパン CTO 坂井 尚行
2.
お断り • 個人的な見解であって、いかなる組織の主義主張とは関わりご ざいません • パクリ
O.K. ですが、ソースを明確にしてください • まだまだ粗々でロードマップレベルです
3.
独断と偏見のチートシート① 古典論 量子論 臨界現象・繰り込み群 アプローチ 単体/流体の運動方程式 多体の現象論(熱力学)と統計 運動方程式 外力が 複雑 流体力学 非線形 微分方程式 流体で近似 複雑系 原子〜素粒子 統計力学 量子統計力学 波動方程式 量子場 の理論 QED
QCD アンサンブル平均 • ミクロ カノニカル アンサンブル • カノニカル アンサンブル • グランド カノニカル アンサンブル 粒子数表示と種別による分布 • ボーズ分布 • フェルミ分布 対称性によるアンサンブル平均 • オーソゴナル アンサンブル • ユニタリ アンサンブル • シンプレクティック アンサンブル エルゴード理論 時間平均 空間平均 アンサンブル平均 量子論では Wick rotation
4.
独断と偏見のチートシート② 複雑系(人によってアプローチがいろいろ?) 統計力学・量子統計・原子〜素粒子 • Order
parameter(上記の状態を制御): • 統計力学の場合、臨界近傍で |T – Tc| • Critical Parameter(べき乗パラメータ): • 相関長ξ 〜 |T – Tc|-ν • α、β、γ、νとか一般的な関係式あり • ハミルトニアン、次元、対称性に影響される • ポテンシャルエネルギーを乱数にしても その分布(ガウス分布、一様分布)の種類に影響されない • Universality Class といって分類したがる • Order parameter(上記の状態を制御): • 方程式によっていろいろ • あまり Soft Chaos と呼んでる人も少ないかも、 そこに興味がないかも • Critical Parameter(べき乗パラメータ): • フラクタル次元で表現することが多い • そもそも Critical Parameter と呼ばないかも • それでもフラクタル次元はα、β、γ、νと 一般的な関係式あり Order Status Soft Chaos Hard Chaos Order Status Critical Phenomena Disorderd Status Fractal Structure! アトラクタ(引っ張る)とリパルザ(反発)が 複雑さを生み出すと説明 (複雑さの源泉に興味があるっぽい) 繰り込み群の理論でべき乗則を説明 (多体なのだから複雑なのは当たり前で、 べき乗則の説明・分類に興味があるっぽい)
5.
Agenda • 複雑系 • 統計力学 •
繰り込み群 • NN との関係 • 素粒子と量子統計は割愛
6.
複雑系
7.
流体力学と複雑系 • 基本はニュートンの運動方程式から • ma
= F • 質点近似から流体へ変換 • ナビエ・ストークス方程式 • 境界条件がキモ • レイノルズ数を変化させると安定した状態から乱れた状態へ遷移 • 状態の境界を臨界点とよぶ • 見てみると自己相似なフラクタルっぽい
8.
ふるーい3体問題と複雑系 • 太陽、地球、月の3体問題 • 三つだけで予測困難な軌道 •
方程式のあるパラメータで、安定した状態から乱れた状態へ遷移 • やっぱり臨界点でフラクタルっぽい • 複雑さを生み出しているのは周期軌道 • リミットサイクル、リミットトーラスともいうらしい • 実際の軌道をひきつけたり(アトラクタ)、遠ざけたり(リパルザ)する • 二つの性質をもつ周期軌道がいりくんで存在し、複雑な軌道を生み出 す
9.
複雑系の分析アプローチ • 長時間平均のアプローチ • なんだか複雑な軌道なので、長時間で平均を取ってみる •
3次元以上だとつらいので、2次元断面で可視化 • 臨界現象/繰り込み群のアプローチ • 臨界点でフラクタル性が観測される • 繰り込み群で臨界点を求めることもある
10.
古典統計力学
11.
エルゴード理論〜アンサンブル平均 • エルゴード仮説 • ある物理量の長時間平均は空間平均に等しい •
計算をしやすくするため • 統計分布はボルツマン分布を要請 • exp(-βH) • 相空間(位置と運動量の空間)平均からアンサンブル平均へ変換 • 位置 r と運動量 p で解析力学の状態を測度にして積分 • 置換してマクロな U, V, N に変換する
12.
古典的なアンサンブル平均 • ミクロカノニカル・アンサンブル (NVEが変数) •
全エネルギーが一定である系のアンサンブル • 熱的に孤立しており、熱力学的には孤立系に該当 • カノニカル・アンサンブル (NVTが変数) • 巨大な熱浴との間でエネルギーをやりとりできる系 • 粒子の出入りはない • 熱浴の熱容量は十分大きく、系の温度は一定であると仮定 • グランドカノニカル・アンサンブル (μVTが変数) • 熱浴と接触 • 粒子のやり取りができる • 温度は一定
13.
温度を変化させて相転移 • ありがちな問題設定 • 温度を変化させて問題の状態を観察 •
Order status 〜 Critical point 〜 Disorder Status に遷移 • Order status: 相関長 >> モデルの大きさ • Critical point: 相関長 〜 モデルの大きさ • Disorder status: 相関長 << モデルの大きさ
14.
例: 2次元 Ising
Model (磁石のモデル) • http://physics.weber.edu/schroeder/software/demos/IsingM odel.html • 相関 C(r)=Σsisj (jは距離rの格子の総和) 〜exp(-r/ξ) • T=0, しばらくすると全部一色になる • 相関は系より大きい: 相関長 >> モデルの大きさ • T=10, 二色入り乱れたノイズ • 相関はミクロな大きさ: 相関長 << モデルの大きさ • T=2.27, 二色で構造らしきものがある • 相関は系よりも少し小さい:相関長 〜 モデルの大きさ
15.
臨界点におけるフラクタル・べき乗則 • モンテカルロで乱数の確率分布によらない • いろいろなモデルの臨界点で似たような性質 •
フラクタル性が見られる • 相関長をはじめ、さまざまな統計量でべき乗則 • べき乗則の指数はいくつかの恒等式が成立する • Universality とよんでた
16.
臨界現象と繰り込み群
17.
繰り込み群の方法 • 粗視化してみる • 2次元Ising
模型で 2x2 の格子を平均 • 平均が >0 なら 1, ≦0 なら -1 • 粗視化してもボルツマン分布が変わらないことを要請 • 分配関数が exp(-βH) • ハミルトニアンが普遍なことと等価 • HRG = R[H]という繰り込みの漸化式が成立 • 粗視化の抽象的な写像であることに注意 • 無限回数くりかえすと固定点がいくつか存在 • そのうちの一つが臨界点(相転移) • https://charlesmartin14.wordpress.com/2015/04/01/why-deep-learning-works-ii-the-renormalization-group/
18.
NN との関係
19.
CNN、RNN、多層化 を解釈してみる • RNN: •
時系列分析、複雑系っぽい • 長時間平均、エルゴード仮説の左辺っぽい • CNN: • 統計力学っぽい • 空間平均、エルゴード仮説の右辺っぽい • 多層化 • 数学的には写像の重ね合わせ • 数学的には少ない写像で答えを出せることが望ましいはず • レイヤーを重ねること自体が繰り込み群に対応 • チューニング自体が繰り込み群の固定点を探していることに対応しているの では?
20.
個人的によくわからないこと • 温度と化学エネルギーの扱い • 脳は閉鎖系? •
体温の上下の影響は? • ホルモン物質の出入りは? • 繰り込み群とNNの関係、とくに具体的なチューニングとの対 応関係
Download now