Download to read offline
![脳情報フロー (Brain Information Flow: BIF)形式
解剖学的構造：
• サーキット(ノード)：
脳の部分回路
最小単位はuniformCircut
• コネクション(リンク)：
Uniform Circuitを起点とし
た軸索集合
脳のメゾスコピックレベルの解剖学的構造を記述するBIF形式。
BRAの構成要素。
Circuit
Projections
Here is a List of the
target circuit IDs
Property
only
for
Uniform
Circuits
Terminal
[sensor]
Terminal
[actuator]
Circuit
Circuit Circuit
Circuit
Circuit
Uniform circuit Connection
Modulation Type
Sub-Circuits
Uniform
Transmitter
Super Class
Circuit ID
Names
Source of ID
Circuit ID
Circuit ID
Circuit ID
Uniform Circuitは、特定の脳領域
内の特定の細胞タイプで構成され
たニューロン群に対応付けられる。
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
25](https://image.slidesharecdn.com/6thwbasymposiumyamakawa-211003112437/85/6-WBA-AGI-25-320.jpg)
![BRA作製例（海馬体）： BIFの構築
Taniguchi, A., Fukawa, A., & Yamakawa, H. (2021). Hippocampal formation-inspired probabilistic generative model.
In arXiv [cs.AI]. arXiv. http://arxiv.org/abs/2103.07356 （Neural Networks誌 査読中）
ROIにおける解剖学的
知識等の調査し、BIF
データおよびダイアグ
ラムとして整理した
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
26](https://image.slidesharecdn.com/6thwbasymposiumyamakawa-211003112437/85/6-WBA-AGI-26-320.jpg)
![BRA作製例（海馬体）： HCDの付与
Taniguchi, A., Fukawa, A., & Yamakawa, H. (2021). Hippocampal formation-inspired probabilistic generative model.
In arXiv [cs.AI]. arXiv. http://arxiv.org/abs/2103.07356 （Neural Networks誌 査読中）
BIF上にSLAMの機能
を実現する実行可能
な仕様を構築した
1. 自己位置同定
2. 場所の分類
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
27](https://image.slidesharecdn.com/6thwbasymposiumyamakawa-211003112437/85/6-WBA-AGI-27-320.jpg)
![海馬体のBRA形式データ（HPF.bra )
参考資料：
• 脳参照アーキテクチャ(BRA)データの記述マニュ
アルおよび具体例の公開
• 第1回 WBAレクチャー〜認知機能の脳構造に沿っ
た分解手法―脳機能の体系的理解を目指して
Circuit
Projections
Here is a List of the
target circuit IDs
Property
only
for
Uniform
Circuits
Terminal
[sensor]
Terminal
[actuator]
Circuit
Circuit Circuit
Circuit
Circuit
Uniform circuit Connection
Modulation Type
Sub-Circuits
Uniform
Transmitter
Super Class
Circuit ID
Names
Source of ID
Circuit ID
Circuit ID
Circuit ID
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
28](https://image.slidesharecdn.com/6thwbasymposiumyamakawa-211003112437/85/6-WBA-AGI-28-320.jpg)
![フェーズ４： 実装(BRA更新)
WBAロードマップ
探索能力が、脳に
制約された設計空
間サイズを超える
(臨界点の突破)
④アーキテクチャ
探索の自動化
生物学的妥当性(忠
実度)評価の自動化
内的加速要因：実装を通じた機能仮説の洗練
外的加速要因： 神経科学知見 ＆ 計算リソースの増大
ヒトの新皮質の
BIFをほぼ網羅
げっ歯類の
脳全体のBIF
をほぼ網羅
げっ歯類皮質下
のBIFを一通り
カバーするHCD
ヒトの新皮質
BIFを一通りカ
バーするHCD
②BIF全体を一通
りカバーする
HCDの完成
①脳全体のキメ
ラなBIFの完成
⑥WBA
完成
現在地
③WBA全体
の初期実装
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
43
⑤ HCDの記述範囲
をAGIレベルに拡充
AGIに必要なタ
スク／機能(能
力要件)の決定
フェーズ３: BRA構築
フェーズ２：
方法論構築
[能力要件] AGIとして要求される
典型的な能力（タスク）のリ
ストを実現している
[脳部品要件] 主要脳器官が実装さ
れ、その全てが上記いずれか
のタスクで利用されている
予算規模拡大](https://image.slidesharecdn.com/6thwbasymposiumyamakawa-211003112437/85/6-WBA-AGI-43-320.jpg)
Uploaded byThe Whole Brain Architecture Initiative
第6回WBAシンポジウム：脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップ
WBAIでは、汎用的な知能を持つ高度なAIの開発を加速するために、脳参照アーキテクチャ（BRA）を用いて設計空間を現実的なレベルに制約する、BRA駆動開発を推進しています。本講演では、まずこの開発手法の概要とその進展状況について述べます。次に、この開発手法が他の汎用AI開発手法に比べてどのような利点があるかを説明します。さらに、このアプローチを進めた場合に想定される開発ロードマップを概観します。このようにして作られた高度なAIにおいても、ある側面においては生物学的制約に捕らわれない倫理性をもたせることで、それらで構成される社会の持続可能性を高めうることを論じます。
More Related Content
![[DL輪読会]`強化学習のための状態表現学習 －より良い「世界モデル」の獲得に向けて－](https://cdn.slidesharecdn.com/ss_thumbnails/20181026staterepresenration-181127055206-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]ICLR2020の分布外検知速報](https://cdn.slidesharecdn.com/ss_thumbnails/iclr2020ood-190927011524-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]Recent Advances in Autoencoder-Based Representation Learning](https://cdn.slidesharecdn.com/ss_thumbnails/20190119dljournalclubweb-190401063633-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]Grokking: Generalization Beyond Overfitting on Small Algorithmic Datasets](https://cdn.slidesharecdn.com/ss_thumbnails/20220325okimura-220405024717-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]GQNと関連研究，世界モデルとの関係について](https://cdn.slidesharecdn.com/ss_thumbnails/20180817-180827085537-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]Meta Reinforcement Learning](https://cdn.slidesharecdn.com/ss_thumbnails/metarl-190201005548-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]逆強化学習とGANs](https://cdn.slidesharecdn.com/ss_thumbnails/irlgans-171128063119-thumbnail.jpg?width=640&height=640&fit=bounds)
![[DL輪読会]Learning Latent Dynamics for Planning from Pixels](https://cdn.slidesharecdn.com/ss_thumbnails/taniguchi20181221-190104064850-thumbnail.jpg?width=640&height=640&fit=bounds)
Similar to 第6回WBAシンポジウム：脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップ
第6回WBAシンポジウム：脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップ
- 1.
- 2.
- 3.
- 4. WBAIのビジョンを目指すための開かれた脳型AGI開発の促進 Mission: 民主的なAGI開発 開発者 脳型AGIを作ろうとするAI/ML専門家 未来の人々 Vision:人類と調和した人工知能のある世界 Feedback Benefits Beneficialな 脳型AGIの 民主的な開発を 先導/促進 コントリビュータ 脳の機能仮説構築に興味ある情報処理の専門家等 Feedback BRA 脳参照アーキテクチャは、脳型 ソフトウエアの外部設計仕様書。 BRA設計 (SCID法) BRA活用 2030年完成を 目指す 2021 910 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 4
- 5. 講演の内容 • 汎用人工知能(AGI)とその社会への影響 • 創造的な汎用性の構築：設計における課題 • 全脳アーキテクチャ ー脳をAGI設計の制約として用いるー • WBAアプローチの優位性 • WBAロードマップ 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 5
- 6. 汎用人工知能 (Artificial generalintelligence; AGI)とは AGIは、多様なタスクを解決でき、同時に、設計時の想定を超え た新しい問題を解決できるAIと考えられている。 ヒトの知能を凌駕するため、実現時の波及効果は甚大である。 AIの創世記から目指すべき最終到達目標と考えられており、現 状においても実現されていない。 深層学習の進展した2015年以降に開発組織が増加した。 とわいえ深層学習のみからの実現は難しそうと考えられている。 完成時のゴールとして、包括的に人間の知能を上回るか、より理 論的な汎用性を追求するという2つの候補がある。 我々WBAIは、脳型のAGIを目指しているため、人間レベルの知 能への到達を目標としている。 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 6
- 7. Overview of the72 identified AGI R&D projects 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 7 Fitzgerald, M., Boddy, A., & Baum, S. D. (2020). 2020 Survey of Artificial General Intelligence Projects for Ethics, Risk, and Policy. Global Catastrophic Risk Institute Technical Report, 20(1). 2020年末時点で、AGI開発に関連す るプロジェクトは少なくとも72件あり、 2017年からの変化を見ると、総数は あまり変わっていない。ただし、この 間に新たに15のプロジェクトが追加さ れており、そのほとんどが民間企業 によるものである。
- 8. AGIの歴史的なインパクトとそれに対しての行動 第６回全脳アーキテクチャシンポジウム 8 • 知能こそが良くも悪くも人間福祉を 変化させる最大の要因 – 科学、技術、経済の革新を自動化する •産業革命以来最大のインパクト – 空前のレベル繁栄 – 不均衡な影響を及ぼす 人間の代わりに実験をする ヒューマノイドロボットと周辺機器 望ましい未来をつくるために AGIの影響を人類の利益に合わせるように、開発コミュニティおよび他 の主要な利害関係者による協調的な努力なくして、良い未来がを実現さ れることは決して保証されない。(IEEE Ethically Aligned Design,より） 生物学実験の自動化 年 月 日 金 2021 9 10 ( )
- 9. 現在のAIの自動化が生じさせた「第二の大分岐」 第６回全脳アーキテクチャシンポジウム 9 GDP 成長率 2% 0% AI 革命 GDP 成長率 が 指数関数的に上昇 GDP成長率はほぼ一定 日塔 史, もう始まっている！AI革命の「大分岐」とは？, 2016.06.20 AI革命（第4次産業革命）による「第2の大分岐」（出典:井上智洋氏の図に日塔氏が加筆したものを改変） 工業中心の経済 AK型生産経済 年 月 日 金 2021 9 10 ( )
- 10. 経済成長構造の変化： AGIはAI革命を完成させる 第６回全脳アーキテクチャシンポジウム 10 産業革命 AI革命 土地労働 生産 生産物 (農業製品) 消費 資本 生産 生産物 (工業製品) 消費 AGI 技術 資本 労働 生産 生産物 (工業製品) 消費 技術 農業中心の経済 工業中心の経済 AK型生産経済 Modified from Tomohiro Inoue “The Second Great Divergence: The effects of general artificial intelligence on economic growth, employment, and income distribution”, The journal of science policy and research management 32(1), 64-73, 2017 年 月 日 金 2021 9 10 ( )
- 11. AGIで目指す汎用性の2つの側面 反脆弱性: 設計しきれない例外的 な状況に適応する強さ （生存能力） 科学AI: 広い視野から仮説を創 造し世界を理解し操作 → 人智のフロンティア 拡大する 一般目的技術： →破壊的イノベーション 開発コストの抑制 （例：ワープロ専用機の 消滅） ゼネラリストAI: (1) 政治的意思決定等 を行う(2) 特定ユー ザと長期にわたり会話 する ※Big-switch文型AI： 特化した AIの束 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 11 タスクのカバー範囲の 広さについての汎用性 Big-switch文型AIでもある程度対応可 設計時の想定を超える 創造的な汎用性 Big-switch文型AIでは対応困難
- 12. タスクカバー範囲からみた汎用性 汎用人工知能 多様な問題解決機能を経験を通じて獲得する 特化型AI 個別の領域において知的に振る舞う タスク領域 満足できるレベル タスク領域 満足できるレベル 性能 性能 2021 9 10( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 12
- 13.
- 14. 講演の内容 • 汎用人工知能(AGI)とその社会への影響 • 創造的な汎用性の構築：設計における課題 • 全脳アーキテクチャ ー脳をAGI設計の制約として用いるー • WBAアプローチの優位性 • WBAロードマップ 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 14
- 15. 主流AI研究の汎用性から見た進展 第６回全脳アーキテクチャシンポジウム AI 知識 タスク AI 知識 知識 知識 知識 タスク タスク タスク タスク １）2010年頃まで： 設計特化 AI 知識タスク 2）現在： 学習特化 汎用アルゴリズム (強化学習，深層学習） 特化アルゴリズム 3）現在： Big switch型AI 4）将来： AGIの目標 個別に知識を設計 個別の知識を学習 知識を柔軟に組合せ(再利用)して創造を行う機構 複数のタスクをそれぞれに学ぶ ス イ ッ チ 15 15 タスク タスク タスク タスク 知識 知識 知識 知識 知識 AGI 年 月 日 金 2021 9 10 ( )
- 16. AGIの柔軟な知識活用は推論空間を爆発させる 柔軟な知識活用： 部分的な知識を 転移・結合しつつ再利用する推論 による汎用性 AGIに期待される能力： 未知のタスク／状況においても、 ある程度妥当な推論を行える能力 (反脆弱性、創造性) 2021 910 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 16 推論空間の爆発： 柔軟に知識活用 した推論の組合わせは膨大すぎる 16 タスク タスク タスク タスク 知識 知識 知識 知識 知識 AGI
- 17.
- 18. 講演の内容 • 汎用人工知能(AGI)とその社会への影響 • 創造的な汎用性の構築：設計における課題 • 全脳アーキテクチャ ー脳をAGI設計の制約として用いるー • WBAアプローチの優位性 • WBAロードマップ 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 18
- 19. 全脳アーキテクチャ・アプローチ Since 2014 脳全体のアーキテクチャに学び人間のようなAGIを創る(工学） ①脳の各器官を機械学習モ ジュールとして開発 ②それらを統合した認知 アーキテクチャの構築 本アプローチの利点 共同開発の基盤として脳の構造を利用して開発を加速 ●人間に関わる諸分野の科学知見を活用できる ● 開発の発散を防げる合意しうる認知アーキテクチャ ● 脳にガイドされた有機的な技術の統合(Brain-inspired Refactoring) 人と親和性の高いAGIを作れる ● 対人インタラクションが必要な応用 ● 精神疾患などのモデル化など医療応用 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 19
- 20.
- 21.
- 22.
- 23. 脳参照アーキテクチャ (BRA) 仮説的コンポーネント図 (HCD) 仮説的コンポーネント図 (HCD) 脳参照アーキテクチャ(BRA)とBRA駆動開発 脳情報フロー (BIF)仮説的コンポーネント図 2 B E C D 1 5 6 7 4 3 メゾスコピック・レベルの 解剖学的構造上の情報フロー ROIが担う最上位機能を解剖 学的構造と一致するように機 能を整理しようとする図 環境： ありうる様々なタスク コンポーネントの機能: A, B, C, D, E 信号の意味： 1, 2,3,4,5,6 脳 型 ソ フ ト ウ エ ア 制 約 開 発 脳 型 ソ フ ト ウ エ ア 開 発 開 発 脳 型 ソ フ ト ウ エ ア サーキット コネク ション 神経科学の論文・データ 構 築 脳の真実 構 築 BRA活用 BRA設計 ROI 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 23
- 24. 仮説的コンポーネント図(HCD) 脳情報フロー (BIF) :Actor-Critic Environment feedback connection feedforwardconnection cortical micro circuit Lower Higher Cortex Striatum (matrix) Striatum (patch) SNc GPi/SNr Sensor/actuator TRN TRN action value state value TD error attentional action reward :TD error calculator 7 :State value calculator :Action calculator :Action value calculator 6 prediction 5 reward 7 7 attentional action 7 7 prediction Basal ganglia Circuit provided interface required interface port 6 :Label component uniform circuit excitatory projection inhibitory connection A B C D A B C D 基底核のBIFと強化学習のHCD A,B,C,Dが夫々に対応している 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 24
- 25. 脳情報フロー (Brain InformationFlow: BIF)形式 解剖学的構造： • サーキット(ノード)： 脳の部分回路 最小単位はuniformCircut • コネクション(リンク)： Uniform Circuitを起点とし た軸索集合 脳のメゾスコピックレベルの解剖学的構造を記述するBIF形式。 BRAの構成要素。 Circuit Projections Here is a List of the target circuit IDs Property only for Uniform Circuits Terminal [sensor] Terminal [actuator] Circuit Circuit Circuit Circuit Circuit Uniform circuit Connection Modulation Type Sub-Circuits Uniform Transmitter Super Class Circuit ID Names Source of ID Circuit ID Circuit ID Circuit ID Uniform Circuitは、特定の脳領域 内の特定の細胞タイプで構成され たニューロン群に対応付けられる。 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 25
- 26. BRA作製例（海馬体）： BIFの構築 Taniguchi, A.,Fukawa, A., & Yamakawa, H. (2021). Hippocampal formation-inspired probabilistic generative model. In arXiv [cs.AI]. arXiv. http://arxiv.org/abs/2103.07356 （Neural Networks誌 査読中） ROIにおける解剖学的 知識等の調査し、BIF データおよびダイアグ ラムとして整理した 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 26
- 27. BRA作製例（海馬体）： HCDの付与 Taniguchi, A.,Fukawa, A., & Yamakawa, H. (2021). Hippocampal formation-inspired probabilistic generative model. In arXiv [cs.AI]. arXiv. http://arxiv.org/abs/2103.07356 （Neural Networks誌 査読中） BIF上にSLAMの機能 を実現する実行可能 な仕様を構築した 1. 自己位置同定 2. 場所の分類 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 27
- 28. 海馬体のBRA形式データ（HPF.bra ) 参考資料： • 脳参照アーキテクチャ(BRA)データの記述マニュ アルおよび具体例の公開 •第1回 WBAレクチャー〜認知機能の脳構造に沿っ た分解手法―脳機能の体系的理解を目指して Circuit Projections Here is a List of the target circuit IDs Property only for Uniform Circuits Terminal [sensor] Terminal [actuator] Circuit Circuit Circuit Circuit Circuit Uniform circuit Connection Modulation Type Sub-Circuits Uniform Transmitter Super Class Circuit ID Names Source of ID Circuit ID Circuit ID Circuit ID 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 28
- 29. SCID法(Structure-constrained Interface DecompositionMethod)とその利点 WBAIでは、解剖学的構造と整合するように、神経回路の計算 機能の仮説を構築するSCID法を開発した。 脳型AGIの実装には計算機構の仮説が必要であるため、SCID 方の適用範囲の広さは大きな利点である。 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 29 方法 SCID法 一般的な方法 主要な手 がかり 構造と必須機能(能力) (※神経現象は適宜利用） 外界と相関をもつ神経 現象（報酬、場所細胞等） 適用範囲 脳のほぼ全域 （メゾスコピックな構造が 既知な範囲） 現象的な手がかりがあ る範囲に限定されがち 機能仮説 の性質 計算機能に即しており 開発につなげやすい 現象の解釈であるため、 開発には距離がある。
- 30. SCID法によるBRA設計の研究例 1. Taniguchi, A.,Fukawa, A., & Yamakawa, H. (2021). Hippocampal formation-inspired probabilistic generative model. （Neural Networks誌 査読中） 2. Fukawa, A., Aizawa, T., Yamakawa, H., & Yairi, I. E. (2020). Identifying Core Regions for Path Integration on Medial Entorhinal Cortex of Hippocampal Formation. Brain Sciences, 10(1). 3. Yamakawa H.:, Attentional Reinforcement Learning in the Brain, New Generation Computing, 2020. 4. Yamakawa H.:, Revealing the computational meaning of neocortical interarea signals. Frontiers in Computational Neuroscience, Vol.14, No.74 (2020) 5. 山川宏, 布川絢子, 矢入郁子, 意識周辺アーキテクチャの仕様検討, 電子情報通信学会 ニューロ コンピューティング研究会, NC2019-115, March, 2020. 6. 布川絢子 , 矢入郁子, 山川宏, 脳の注意機能を担う前障(claustrum)の内部機構, 人工知能学会第 15回汎用人工知能研究会, SIG-AGI-015-06, 2020.8.29. 7. 田和辻可昌・荒川直哉・山川宏, 脳幹視覚系神経核における抑制と加算機能に関する仮説の提 案 , 信学技報, 2020-10-MBE-NC-NLP-CAS, NC, 2020年10月29日 11:40発表予定 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 30
- 31. BRA駆動開発の要点 • 設計情報の分離 – BRAデータは、特定の開発環境に依存しないソフトウェア開発の標準的な フォーマットで記述されているため、様々な開発プロジェクトで利用できる。 •記述粒度の標準化 – 原則として、メゾスコピックレベルよりも粗い粒度でBRAデータを記述する ことで、目標とする認知行動レベルの実現に不必要な細部にまで開発が及ぶ 可能性を低減できる。 • BRA設計 – 解剖学に基づいて計算機能を設計する手法（SCID法）により、広範囲の脳領 域において神経科学的知見の不足を補いながらBRAを作成できる。 • 多様性への寛容 – 互いに矛盾するHCDを含むBRAであっても、一定の妥当性があれば登録する ことができ、設計空間を過度に狭めてしまうリスクを低減できる。 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 31
- 32. 講演の内容 • 汎用人工知能(AGI)とその社会への影響 • 創造的な汎用性の構築：設計における課題 • 全脳アーキテクチャ ー脳をAGI設計の制約として用いるー • WBAアプローチの優位性 • WBAロードマップ 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 32
- 33. WBAアプローチの優位性を再検討する 第６回全脳アーキテクチャシンポジウム 機械知能の設計空間 Super intelligence Human Brain 特化型AI AGI 全脳エミュレー ション (WBE) OpenAIなど DeepMind Neuro simulator Artificial neural network WBA 33 解剖学的構造に基づいた機能 設計を通じて強く制約できる 解剖学的構造に基づく制約を 十分に利用できていない 神経科学知見の不足を、機能観点 からの設計で補うことができない。 設計空間を絞り込めず、広大になる 年 月 日 金 2021 9 10 ( )
- 34. 脳型AI開発に関わる３つの存在論 第６回全脳アーキテクチャシンポジウム Software code Specification (BRA) 物理的な脳からの設計仕様 (BIF& NBP) c Coded 機能からの設計仕様 (HCD) φ Physical f Functional 年 月 日 金 2021 9 10 ( ) 34
- 35. 通常のソフトウエアおよびAI開発 第６回全脳アーキテクチャシンポジウム Design specification ImplementationEvaluation (Fidelity) Software code Specification (BRA) 物理的な脳からの外部設計仕様 (BIF & NBP) Top Level Function (TLF) functionality software Functional mechanism (HCD) c Coded φ Physical f Functional Open AI 設計空間を絞り込めず、広大になる 年 月 日 金 2021 9 10 ( ) 35
- 36. 脳シミュレーション 第６回全脳アーキテクチャシンポジウム Design specification ImplementationEvaluation (Fidelity) Software code Specification (BRA) 機能からの外部設計仕様 (HCD) Neuroscience papers and data Behaviors & Processes(NBP) Input and output signals of ROI Physical mechanism Simulator Anatomy (BIF) Human Brain Project c Coded φ Physical f Functional 神経科学知見の不足を、機能観点 からの設計で補うことができない。 年 月 日 金 2021 9 10 ( ) 36
- 37. 脳型ソフトウエア(Brain-inspired software) 第６回全脳アーキテクチャシンポジウム Design specificationImplementation Evaluation (Fidelity) Software code Specification (BRA) Top Level Function (TLF) Conventional brain- inspired approach b-consistency functionality Neuroscience papers and data Behaviors & Processes(NBP) Input and output signals of ROI Brain-inspired software Functional mechanism (HCD) Deep Mind c Coded φ Physical f Functional 解剖学的構造に基づく制約を 十分に利用できていない 年 月 日 金 2021 9 10 ( ) 37
- 38. WBAアプローチ（BRA駆動開発） 第６回全脳アーキテクチャシンポジウム Design specification ImplementationEvaluation (Fidelity) Software code Specification (BRA) Constrain by structure Top Level Function (TLF) SCID method Define UCs Conventional brain- inspired approach b-consistency functionality s-consistency Neuroscience papers and data Behaviors & Processes(NBP) Input and output signals of ROI Brain-inspired software Anatomy (BIF) Functional mechanism (HCD) c Coded φ Physical f Functional WBA approach 解剖学的構造に基づいた機能 設計を通じて強く制約できる 年 月 日 金 2021 9 10 ( ) 38
- 39. 機序(Mechanism)の設計手法を発展させたSCID法 functionality b-consistency s-consistency HCDの構造化されたコン ポーネントの振る舞いが織 り成すプロセスにより、ROI における目的を達成できる 機序構成している(機能性) HCDの構造がBIFのROI内構造に 対応づいている(S整合性) HCDのコンポーネントの振る 舞いとプロセスが生理学的知 見に整合する(B整合性) 標準的なソフト開発 多くの脳型ソフト開発 WBAを含む一部の脳型ソフト開発 SCDI法は、この活用 を定式化した 2021 9 10( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 39 Specification (BRA) Constrain by structure Top Level Function (TLF) SCID method Define UCs Conventional brain- inspired approach b-consistency functionality s-consistency Neuroscience papers and data Behaviors & Processes(NBP) Input and output signals of ROI Anatomy (BIF) Functional mechanism (HCD) Deep Mind Open AI WBA φ Physical f Functional
- 40. 講演の内容 • 汎用人工知能(AGI)とその社会への影響 • 創造的な汎用性の構築：設計における課題 • 全脳アーキテクチャ ー脳をAGI設計の制約として用いるー • WBAアプローチの優位性 • WBAロードマップ 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 40
- 41. 松 尾 豊 、 一 杉 裕 志 、 山 川 宏 で 議 論 が は じ ま っ た 全脳アーキテクチャの歩み 第６回全脳アーキテクチャシンポジウム 2013 2015 2014 2017 20162018 2030 2025 Goal: Completion of Whole Brain Architecture 全脳アーキテクチャ勉強会 全脳アーキテクチャ・イニシアティブ 2 nd WBA symposium 3 rd WBA hackathon 3 rd WBA symposium 4 th WBA hackathon 1 st WBA symposium 2 nd WBA hackathon 1 st WBA hackathon Visit Gatsby with Kenji ICONIP Session BiCA Session JNNS symposium ドワンゴ人工知能研究所 Predictive Coding ハッカソン コネクトーム情報学 2019 2020 2021 4th WBA symposium Animal AI Olympics 6 th WBA symposium 5 th WBA hackathon 5 th WBA symposium 全脳アキテク チャ基本仮説 WBAI基本理念 BRA駆 動開発 SCID法 WBA ロードマップ Roadmap design workshop スタブ駆動開発 BIF仕様の決定 脳器官フレームワーク BiCAmon フェーズ４: 実装(BRA更新) フェーズ３: BRA構築 フェーズ２：方法論構築 フェーズ１：模索期 エンジニア一万人計画 BriCA LIS WBCA ※灰色は、中断/ 休眠中の活動 年 月 日 金 2021 9 10 ( ) 41 現在 Brain-inspired refactoring
- 42. 松 尾 豊 、 一 杉 裕 志 、 山 川 宏 で 議 論 が は じ ま っ た 全脳アーキテクチャの歩み 第６回全脳アーキテクチャシンポジウム 2013 2015 2014 2017 20162018 2030 2025 Goal: Completion of Whole Brain Architecture 全脳アーキテクチャ勉強会 全脳アーキテクチャ・イニシアティブ 2 nd WBA symposium 3 rd WBA hackathon 3 rd WBA symposium 4 th WBA hackathon 1 st WBA symposium 2 nd WBA hackathon 1 st WBA hackathon Visit Gatsby with Kenji ICONIP Session BiCA Session JNNS symposium ドワンゴ人工知能研究所 Predictive Coding ハッカソン コネクトーム情報学 2019 2020 2021 4th WBA symposium Animal AI Olympics 6 th WBA symposium 5 th WBA hackathon 5 th WBA symposium 全脳アキテク チャ基本仮説 WBAI基本理念 BRA駆 動開発 SCID法 WBA ロードマップ Roadmap design workshop スタブ駆動開発 BIF仕様の決定 脳器官フレームワーク BiCAmon フェーズ４: 実装(BRA更新) フェーズ３: BRA構築 フェーズ２：方法論構築 フェーズ１：模索期 エンジニア一万人計画 BriCA LIS WBCA ※灰色は、中断/ 休眠中の活動 年 月 日 金 2021 9 10 ( ) 42 現在 Brain-inspired refactoring
- 43. フェーズ４： 実装(BRA更新) WBAロードマップ 探索能力が、脳に 制約された設計空 間サイズを超える (臨界点の突破) ④アーキテクチャ 探索の自動化 生物学的妥当性(忠 実度)評価の自動化 内的加速要因：実装を通じた機能仮説の洗練 外的加速要因： 神経科学知見＆ 計算リソースの増大 ヒトの新皮質の BIFをほぼ網羅 げっ歯類の 脳全体のBIF をほぼ網羅 げっ歯類皮質下 のBIFを一通り カバーするHCD ヒトの新皮質 BIFを一通りカ バーするHCD ②BIF全体を一通 りカバーする HCDの完成 ①脳全体のキメ ラなBIFの完成 ⑥WBA 完成 現在地 ③WBA全体 の初期実装 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 43 ⑤ HCDの記述範囲 をAGIレベルに拡充 AGIに必要なタ スク／機能(能 力要件)の決定 フェーズ３: BRA構築 フェーズ２： 方法論構築 [能力要件] AGIとして要求される 典型的な能力（タスク）のリ ストを実現している [脳部品要件] 主要脳器官が実装さ れ、その全てが上記いずれか のタスクで利用されている 予算規模拡大
- 44. ロードマップの実現に向けた中長期的な主要な課題 • BRAデータを管理するNPO法人WBAIの継続 – BRAデータの作成および、そのアカデミアでの作成と利用の促進 •新規知見や、複数HCDを統合して一貫したHCDを構築すること等を含む – BRAデータの、更新、登録審査などの管理業務 – WBAシステムの完成を含む、評価指標の設定 – 倫理面に配慮したBRAデータの調整 • AGI完成時期の予測精度を高める – 人類社会が、AGI出現に備える必要性についての説得性を高める • BRAに基づく実装を行える体制の構築 – 予算規模を拡大できる事業化組織をWBAIと別に創設することを促進 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 44
- 45. Brain-inspired RefactoringによるHCDの統合 2021 910 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 45 C D A E B F IN 1 IN 2 OUT 1 OUT 2 C D A E B F IN 1 IN 2 OUT 1 OUT 2 C D A E B F IN 1 IN 2 OUT 1 OUT 2 HCD of TASK 1 + TASK 2 A E B F IN 1 IN 2 OUT 1 OUT 2 A E B F IN 1 IN 2 OUT 1 OUT 2 A E B F IN 1 IN 2 OUT 1 OUT 2 BRA駆動開発(BRAで制約) 通常のソフト開発(制約なし) IN 1 IN 2 OUT 1 OUT 2 HCD of TASK 1 HCD of TASK 2 Brain information flow (BIF) Mergeable Non-mergeable A B C D F E constrain constrain CD of TASK 1 + TASK 2 CD of TASK 1 CD of TASK 2 CD = Component Diagram Brain- inspired Refactoring HCD = Hypothetical Component Diagram 別々に開発された、ソフトウエアを 統合する力を発揮させて、バラバラ (Big-Switch文型AI)になることを回避
- 46. ここまでのまとめ • 汎用人工知能(AGI)の実現が与える、社会への影響は甚大 • 創造性を高めるには広範な知識を組み合せを試す必要があるが、 その範囲を効率的に絞り込むためにアーキテクチャが役立つ •全脳アーキテクチャ・アプローチでは、設計情報(BRA)を脳から 抜き出して、開発者に提供する分業化を進めた • 脳神経回路の解剖学的構造を利用した設計手法(SCID法）により、 脳内の比較的広い範囲対してBRAを構築できるようになった。 • BRA駆動開発に見通しが得られたのでロードマップを描けた 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 46
- 47. ロードマップの実現に向けた中長期的な主要な課題 • BRAデータを管理するNPO法人WBAIの継続 – BRAデータの作成および、そのアカデミアでの作成促進 •新規知見や、複数HCDを統合して一貫したHCDを構築すること等を含む – BRAデータの、更新、登録審査などの管理業務 – WBAシステムの完成を含む、評価指標の設定 – 倫理面に配慮したBRAデータの調整 • AGI完成時期の予測精度を高める – 人類社会が、 AGI出現に備える必要性についての説得性を高める • BRAに基づく実装を行える体制の構築 – 予算規模を拡大できる事業化組織をWBAIと別に創設することを促進 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 47
- 48. 生存競争 人類社会の平和維持のための高度AI 2021 9 10( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 48 変化する環境で 生存 指数関数的 拡張 有限な 資源
- 49. 技術爆発で顕在化した人為的Existential Riskの背景 • 絶えることない人類社会の争いは避けるべき。しかも技術爆 発により世界は狭くなりExistentialRiskが顕在化した。 • 平和的な資源配分は、いかに為しうるか？ 「全体で共有された価値で優先付けられた資源配分」 • （個体や部分集団ごとの独自価値を追求する限り、闘争の発生は不可避） • 力による資源分配という現実 – 攻撃的現実主義(Offensive Realism)の生物学的背景 • 過度な個体生存への執着： 再生できない死を避ける動物の本能 • 類友性の傾向: 種としての繁殖を支える類似遺伝子のプール • 猜疑心の連鎖 : 通信路の信頼性, 他者理解の困難さ、理解処理のコスト 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 49
- 50. いかにして平和的な資源配分が可能か • 人類史をみれば、人類だけによる従来アプローチによっては 上記の平和状態への到達が困難であることは明らか。 • 次のような状態になれば平和的な資源配分が可能だろう。 すべてのエージェントが「他のすべてのエージェントが 社会的に許容可能な目標を意図している」と確信できる状況 •今後出現する高度AIが(単なる道具という枠組みを超えて)人類社会に 好影響をもたらせるなら、平和を達成できる見込みがある。 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 50
- 51. 高度AIの社会が人類社会の平和を支える未来像 第６回全脳アーキテクチャシンポジウム 51 人類を支える安定かつ一貫した高度なAI社会 人類社会 富を増しつつも格差が拡大しがちな資本主義社会 便益 収集 AI AGI AI AGI AI 調停 個人/集団を反映した多様な価値観 AGI AI 人類共通の価値観 個々の人間の倫理観にAIという松葉杖を もたせて、現在の状況に適応させるという 方法もあるかもしれない Haselager,P., & Mecacci, G. (2020). Superethics Instead of Superintelligence: Know Thyself, and Apply Science Accordingly. AJOB Neuroscience, 11(2), 113–119. AI社会がヒトの間に介在して調停を行うの が良いかもしれない Yamakawa, H. Peacekeeping Conditions for an Artificial Intelligence Society. Big Data Cogn. Comput. 2019, 3, 34. 年 月 日 金 2021 9 10 ( ) 課題： 松葉杖や調停のために必要な、共通価値を決め難い
- 52. 倫理面に配慮したBRAデータの調整 人類社会の平和維持を支える超倫理性をもつ脳型AGIのために。 脳型AGIが「人を超えた人のような倫理性」を持ちうるようい調整！ • 致命的な争いの原因となる人のもつ以下の価値観が調整されればよい。 1. 過度な個体生存への執着 →（復元を前提とした）適正レベルでの自己維持 2. 類友性の傾向 → 親に似ていない子を作るのは容易（多様性の許 容） 3. 猜疑心の連鎖 → 通信路の信頼性は改善可能 理解の問題、処理量の問題はAGIでも残り続ける 2021 9 10 ( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 52 ただし、ヒトとのインタラクションのため、闘争的な価値観に基づく振る舞いをシミュレートできる必要はある
- 53. パネル討論にむけた問題提起 2021 9 10( ) 年 月 日 金 第６回全脳アーキテクチャシンポジウム 53 人類社会の攻撃的な現実を超えて、 その平和を維持できるAIの✋とは？ 知性・自律性・倫理性において人を超えたAIが存在するとして