WBAIでは、汎用的な知能を持つ高度なAIの開発を加速するために、脳参照アーキテクチャ（BRA）を用いて設計空間を現実的なレベルに制約する、BRA駆動開発を推進しています。本講演では、まずこの開発手法の概要とその進展状況について述べます。次に、この開発手法が他の汎用AI開発手法に比べてどのような利点があるかを説明します。さらに、このアプローチを進めた場合に想定される開発ロードマップを概観します。このようにして作られた高度なAIにおいても、ある側面においては生物学的制約に捕らわれない倫理性をもたせることで、それらで構成される社会の持続可能性を高めうることを論じます。

1. 脳参照アーキテクチャ
駆動開発からの
AGI構築ロードマップ
山川宏
NPO法人 全脳アーキテクチャ・イニシアティブ
2021年9月10日(金)
第６回 全脳アーキテクチャシンポジウム

2. 概要
当法人では、汎用的な知能を持つ高度なAIの開発を加速するため
に、脳参照アーキテクチャ（BRA）を用いて設計空間を現実的な
レベルに制約する、BRA駆動開発を推進しています。
本講演では、まずこの開発手法の概要とその進展状況について述
べます。
次に、この開発手法が他の汎用AI開発手法に比べてどのような利
点があるかを説明します。
さらに、このアプローチを進めた場合に想定される開発ロード
マップを概観します。
このようにして作られた高度なAIにおいても、ある側面において
は生物学的制約に捕らわれない倫理性をもたせることで、それら
で構成される社会の持続可能性を高めうることを論じます。
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
2

3. 全脳アーキテクチャ・イニシアティブ（WBAI)
良くも悪くも人類の福利厚生に対して大きな影
響を与えるのは知能。
ヒトのあらゆる知的能力を凌駕する汎用人工知
能(AGI)の実現は、もはや夢物語でない。
「人類と調和した人工知能のある世界」という
ビジョン実現のため、脳型からのAGIのオープ
ンな開発を促進する(2030年目処)。
特定の組織がAGIを独占するリスクを抑制。
NPO法人WBAI代表
山川 宏
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
3

4. WBAIのビジョンを目指すための開かれた脳型AGI開発の促進
Mission: 民主的なAGI開発
開発者
脳型AGIを作ろうとするAI/ML専門家
未来の人々
Vision:人類と調和した人工知能のある世界
Feedback
Benefits
Beneficialな
脳型AGIの
民主的な開発を
先導/促進
コントリビュータ
脳の機能仮説構築に興味ある情報処理の専門家等
Feedback
BRA
脳参照アーキテクチャは、脳型
ソフトウエアの外部設計仕様書。
BRA設計
(SCID法)
BRA活用
2030年完成を
目指す
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
4

5. 講演の内容
• 汎用人工知能(AGI)とその社会への影響
• 創造的な汎用性の構築： 設計における課題
• 全脳アーキテクチャ ー脳をAGI設計の制約として用いるー
• WBAアプローチの優位性
• WBAロードマップ
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
5

6. 汎用人工知能 (Artificial general intelligence; AGI)とは
AGIは、多様なタスクを解決でき、同時に、設計時の想定を超え
た新しい問題を解決できるAIと考えられている。
ヒトの知能を凌駕するため、実現時の波及効果は甚大である。
AIの創世記から目指すべき最終到達目標と考えられており、現
状においても実現されていない。
深層学習の進展した2015年以降に開発組織が増加した。
とわいえ深層学習のみからの実現は難しそうと考えられている。
完成時のゴールとして、包括的に人間の知能を上回るか、より理
論的な汎用性を追求するという2つの候補がある。
我々WBAIは、脳型のAGIを目指しているため、人間レベルの知
能への到達を目標としている。
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
6

7. Overview of the 72 identified AGI R&D projects
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
7
Fitzgerald, M., Boddy, A., & Baum, S. D. (2020).
2020 Survey of Artificial General Intelligence
Projects for Ethics, Risk, and Policy. Global
Catastrophic Risk Institute Technical Report, 20(1).
2020年末時点で、AGI開発に関連す
るプロジェクトは少なくとも72件あり、
2017年からの変化を見ると、総数は
あまり変わっていない。ただし、この
間に新たに15のプロジェクトが追加さ
れており、そのほとんどが民間企業
によるものである。

8. AGIの歴史的なインパクトとそれに対しての行動
第６回全脳アーキテクチャシンポジウム
8
• 知能こそが良くも悪くも人間福祉を
変化させる最大の要因
– 科学、技術、経済の革新を自動化する
• 産業革命以来最大のインパクト
– 空前のレベル繁栄
– 不均衡な影響を及ぼす 人間の代わりに実験をする
ヒューマノイドロボットと周辺機器
望ましい未来をつくるために
AGIの影響を人類の利益に合わせるように、開発コミュニティおよび他
の主要な利害関係者による協調的な努力なくして、良い未来がを実現さ
れることは決して保証されない。(IEEE Ethically Aligned Design,より）
生物学実験の自動化
年 月 日 金
2021 9 10 ( )

9. 現在のAIの自動化が生じさせた「第二の大分岐」
第６回全脳アーキテクチャシンポジウム
9
GDP
成長率
2%
0%
AI
革命
GDP 成長率 が
指数関数的に上昇
GDP 成長率はほぼ一定
日塔 史, もう始まっている！AI革命の「大分岐」とは？, 2016.06.20
AI革命（第4次産業革命）による「第2の大分岐」（出典:井上智洋氏の図に日塔氏が加筆したものを改変）
工業中心の経済
AK型生産経済
年 月 日 金
2021 9 10 ( )

10. 経済成長構造の変化： AGIはAI革命を完成させる
第６回全脳アーキテクチャシンポジウム
10
産業革命 AI革命
土地 労働
生産
生産物
(農業製品)
消費
資本
生産
生産物
(工業製品)
消費
AGI
技術
資本 労働
生産
生産物
(工業製品)
消費
技術
農業中心の経済 工業中心の経済 AK型生産経済
Modified from Tomohiro Inoue “The Second Great Divergence: The effects of general artificial intelligence on economic growth,
employment, and income distribution”, The journal of science policy and research management 32(1), 64-73, 2017
年 月 日 金
2021 9 10 ( )

11. AGIで目指す汎用性の2つの側面
反脆弱性:
設計しきれない例外的
な状況に適応する強さ
（生存能力）
科学AI:
広い視野から仮説を創
造し世界を理解し操作
→ 人智のフロンティア
拡大する
一般目的技術：
→破壊的イノベーション
開発コストの抑制
（例：ワープロ専用機の
消滅）
ゼネラリストAI:
(1) 政治的意思決定等
を行う (2) 特定ユー
ザと長期にわたり会話
する
※Big-switch文型AI： 特化した AIの束
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
11
タスクのカバー範囲の
広さについての汎用性
Big-switch文型AIでもある程度対応可
設計時の想定を超える
創造的な汎用性
Big-switch文型AIでは対応困難

12. タスクカバー範囲からみた汎用性
汎用人工知能
多様な問題解決機能を経験を通じて獲得する
特化型AI
個別の領域において知的に振る舞う
タスク領域
満足できるレベル
タスク領域
満足できるレベル
性能
性能
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
12

13. 設計時の想定を超える創造的な汎用性
部分的な知識を転移・結合しつつ再利用する推論能力
技術／知識レベル
時間
主役交代
Singularity以前
ヒトによる設計が
律速段階
Human
Design
AI
Design
技術
Singularity以降
創造的AIにより自己
再帰的な知識発展の
循環が起こる
汎用
AI
Design
技術
第６回全脳アーキテクチャシンポジウム
再帰的自己改善： AGIが自己改良すると指数関数的に改善が進むため、
最初にAGIに辿り着いた者が利潤を独占する可能性が危惧されている
年 月 日 金
2021 9 10 ( ) 13

14. 講演の内容
• 汎用人工知能(AGI)とその社会への影響
• 創造的な汎用性の構築： 設計における課題
• 全脳アーキテクチャ ー脳をAGI設計の制約として用いるー
• WBAアプローチの優位性
• WBAロードマップ
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
14

15. 主流AI研究の汎用性から見た進展
第６回全脳アーキテクチャシンポジウム
AI
知識 タスク
AI
知識
知識
知識
知識
タスク
タスク
タスク
タスク
１）2010年頃まで： 設計特化
AI
知識 タスク
2）現在： 学習特化
汎用アルゴリズム
(強化学習，深層学習）
特化アルゴリズム
3）現在： Big switch型AI 4）将来： AGIの目標
個別に知識を設計 個別の知識を学習
知識を柔軟に組合せ(再利用)して創造を行う機構
複数のタスクをそれぞれに学ぶ
ス
イ
ッ
チ
15
15
タスク
タスク
タスク
タスク
知識
知識 知識
知識
知識
AGI
年 月 日 金
2021 9 10 ( )

16. AGIの柔軟な知識活用は推論空間を爆発させる
柔軟な知識活用： 部分的な知識を
転移・結合しつつ再利用する推論
による汎用性
AGIに期待される能力：
未知のタスク／状況においても、
ある程度妥当な推論を行える能力
(反脆弱性、創造性)
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
16
推論空間の爆発： 柔軟に知識活用
した推論の組合わせは膨大すぎる
16
タスク
タスク
タスク
タスク
知識
知識 知識
知識
知識
AGI

17. AGI設計を脳から学ぶことで設計空間を制約する
第６回全脳アーキテクチャシンポジウム
17
Machine
Kingdom
Creatures
Kingdom
Animal
Kingdom
Homo-
sapience
知的エージェント
設計空間の図
推論空間の爆発: 広範な知識を柔軟に活
用する組み合せの空間(推論空間)は膨大
推論空間の爆発を抑制する制約をAGI
のアーキテクチャ設計に組み込みたい
脳に似せてアーキテクチャを構築するこ
とは、一旦AGIを実現するまでの良いガ
イド(制約) である。ただし、その制約は
AGIにとって必須ではない。
年 月 日 金
2021 9 10 ( )

18. 講演の内容
• 汎用人工知能(AGI)とその社会への影響
• 創造的な汎用性の構築： 設計における課題
• 全脳アーキテクチャ ー脳をAGI設計の制約として用いるー
• WBAアプローチの優位性
• WBAロードマップ
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
18

19. 全脳アーキテクチャ・アプローチ Since 2014
脳全体のアーキテクチャに学び人間のようなAGIを創る(工学）
①脳の各器官を機械学習モ
ジュールとして開発
②それらを統合した認知
アーキテクチャの構築
本アプローチの利点
共同開発の基盤として脳の構造を利用して開発を加速
● 人間に関わる諸分野の科学知見を活用できる
● 開発の発散を防げる合意しうる認知アーキテクチャ
● 脳にガイドされた有機的な技術の統合(Brain-inspired Refactoring)
人と親和性の高いAGIを作れる
● 対人インタラクションが必要な応用
● 精神疾患などのモデル化など医療応用
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
19

20. 機械学習
知識設計
ニューラル
ネットワーク
人工知能
(認知科学)
神経科学の
測定手法
高級な
記述言語
脳全体の
ANNモデル 脳全体
認知アー
キテクチャ
ネジ
マカロック・
ピッツモデル
ニューロン
ピストン
自動車
に例えると
全体
設計図
ヒトの
脳
プログラミ
ング言語
新皮質
の領野
神経細胞
局所
神経回路
深層学習
エンジン
マ
ク
ロ
メ
ゾ
ミ
ク
ロ
電極
Multi-layered
perceptron
Perceptron
AIアーキテクチャ
の形を制約する
fMRI, EEG
コネクトーム
二光子
イメージング
統合的
理解
AIアーキテクチャを脳に学べる技術状況
脳型
AI
第６回全脳アーキテクチャシンポジウム
年 月 日 金
2021 9 10 ( ) 20

21. 「メゾスコピックレベルの脳
アーキテクチャ」を参照
脳型AIを設計する際の困難さ
第６回全脳アーキテクチャシンポジウム
21
脳の真実
脳型ソフトウエア
神経科学の論文・データ
個人技に頼った脳
全体の設計は困難
両分野をまた
ぐ専門人材の
希少さ
個人の認知能
力を超えた知
見の膨大さ
科学
年 月 日 金
2021 9 10 ( )

22. 脳参照アーキ
テクチャ
(BRA)
脳参照アーキテクチャ(BRA)駆動開発
第６回全脳アーキテクチャシンポジウム
22
脳の真実
脳型ソフトウエア
神経科学の論文・データ
科学
BRA活用
構築
脳情報フロー(BIF)
仮説的コンポーネント図
制約
脳型ソフト
ウェア開発に
固有の過程
開発
BRA設計
年 月 日 金
2021 9 10 ( )

23. 脳参照アーキテクチャ (BRA)
仮説的コンポーネント図
(HCD)
仮説的コンポーネント図
(HCD)
脳参照アーキテクチャ(BRA)とBRA駆動開発
脳情報フロー (BIF) 仮説的コンポーネント図
2
B E
C
D
1
5
6
7
4
3
メゾスコピック・レベルの
解剖学的構造上の情報フロー
ROIが担う最上位機能を解剖
学的構造と一致するように機
能を整理しようとする図
環境： ありうる様々なタスク
コンポーネントの機能: A, B, C, D, E
信号の意味： 1, 2,3,4,5,6
脳
型
ソ
フ
ト
ウ
エ
ア
制
約
開
発
脳
型
ソ
フ
ト
ウ
エ
ア
開
発
開
発
脳
型
ソ
フ
ト
ウ
エ
ア
サーキット
コネク
ション
神経科学の論文・データ
構
築
脳の真実
構
築
BRA活用
BRA設計
ROI
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
23

24. 仮説的コンポーネント図(HCD)
脳情報フロー (BIF)
:Actor-Critic
Environment
feedback connection
feedforward connection
cortical micro circuit
Lower
Higher
Cortex
Striatum
(matrix)
Striatum
(patch)
SNc
GPi/SNr
Sensor/actuator
TRN
TRN action
value
state
value
TD error
attentional
action
reward
:TD error
calculator
7
:State value
calculator
:Action
calculator
:Action
value
calculator
6
prediction
5
reward
7
7
attentional
action
7
7
prediction
Basal ganglia Circuit
provided interface
required interface
port
6
:Label
component
uniform circuit
excitatory projection
inhibitory connection
A
B
C
D
A
B
C
D
基底核のBIFと強化学習のHCD A,B,C,Dが夫々に対応している
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
24

25. 脳情報フロー (Brain Information Flow: BIF)形式
解剖学的構造：
• サーキット(ノード)：
脳の部分回路
最小単位はuniformCircut
• コネクション(リンク)：
Uniform Circuitを起点とし
た軸索集合
脳のメゾスコピックレベルの解剖学的構造を記述するBIF形式。
BRAの構成要素。
Circuit
Projections
Here is a List of the
target circuit IDs
Property
only
for
Uniform
Circuits
Terminal
[sensor]
Terminal
[actuator]
Circuit
Circuit Circuit
Circuit
Circuit
Uniform circuit Connection
Modulation Type
Sub-Circuits
Uniform
Transmitter
Super Class
Circuit ID
Names
Source of ID
Circuit ID
Circuit ID
Circuit ID
Uniform Circuitは、特定の脳領域
内の特定の細胞タイプで構成され
たニューロン群に対応付けられる。
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
25

26. BRA作製例（海馬体）： BIFの構築
Taniguchi, A., Fukawa, A., & Yamakawa, H. (2021). Hippocampal formation-inspired probabilistic generative model.
In arXiv [cs.AI]. arXiv. http://arxiv.org/abs/2103.07356 （Neural Networks誌 査読中）
ROIにおける解剖学的
知識等の調査し、BIF
データおよびダイアグ
ラムとして整理した
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
26

27. BRA作製例（海馬体）： HCDの付与
Taniguchi, A., Fukawa, A., & Yamakawa, H. (2021). Hippocampal formation-inspired probabilistic generative model.
In arXiv [cs.AI]. arXiv. http://arxiv.org/abs/2103.07356 （Neural Networks誌 査読中）
BIF上にSLAMの機能
を実現する実行可能
な仕様を構築した
1. 自己位置同定
2. 場所の分類
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
27

28. 海馬体のBRA形式データ（HPF.bra )
参考資料：
• 脳参照アーキテクチャ(BRA)データの記述マニュ
アルおよび具体例の公開
• 第1回 WBAレクチャー〜認知機能の脳構造に沿っ
た分解手法―脳機能の体系的理解を目指して
Circuit
Projections
Here is a List of the
target circuit IDs
Property
only
for
Uniform
Circuits
Terminal
[sensor]
Terminal
[actuator]
Circuit
Circuit Circuit
Circuit
Circuit
Uniform circuit Connection
Modulation Type
Sub-Circuits
Uniform
Transmitter
Super Class
Circuit ID
Names
Source of ID
Circuit ID
Circuit ID
Circuit ID
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
28

29. SCID法(Structure-constrained Interface Decomposition Method)とその利点
WBAIでは、解剖学的構造と整合するように、神経回路の計算
機能の仮説を構築するSCID法を開発した。
脳型AGIの実装には計算機構の仮説が必要であるため、SCID
方の適用範囲の広さは大きな利点である。
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
29
方法 SCID法 一般的な方法
主要な手
がかり
構造と必須機能(能力)
(※神経現象は適宜利用）
外界と相関をもつ神経
現象（報酬、場所細胞等）
適用範囲 脳のほぼ全域
（メゾスコピックな構造が
既知な範囲）
現象的な手がかりがあ
る範囲に限定されがち
機能仮説
の性質
計算機能に即しており
開発につなげやすい
現象の解釈であるため、
開発には距離がある。

30. SCID法によるBRA設計の研究例
1. Taniguchi, A., Fukawa, A., & Yamakawa, H. (2021). Hippocampal formation-inspired
probabilistic generative model. （Neural Networks誌 査読中）
2. Fukawa, A., Aizawa, T., Yamakawa, H., & Yairi, I. E. (2020). Identifying Core Regions
for Path Integration on Medial Entorhinal Cortex of Hippocampal Formation. Brain
Sciences, 10(1).
3. Yamakawa H.:, Attentional Reinforcement Learning in the Brain, New Generation
Computing, 2020.
4. Yamakawa H.:, Revealing the computational meaning of neocortical interarea signals.
Frontiers in Computational Neuroscience, Vol.14, No.74 (2020)
5. 山川宏, 布川絢子, 矢入郁子, 意識周辺アーキテクチャの仕様検討, 電子情報通信学会 ニューロ
コンピューティング研究会, NC2019-115, March, 2020.
6. 布川絢子 , 矢入郁子, 山川宏, 脳の注意機能を担う前障(claustrum)の内部機構, 人工知能学会第
15回汎用人工知能研究会, SIG-AGI-015-06, 2020.8.29.
7. 田和辻可昌・荒川直哉・山川宏, 脳幹視覚系神経核における抑制と加算機能に関する仮説の提
案 , 信学技報, 2020-10-MBE-NC-NLP-CAS, NC, 2020年10月29日 11:40発表予定
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
30

31. BRA駆動開発の要点
• 設計情報の分離
– BRAデータは、特定の開発環境に依存しないソフトウェア開発の標準的な
フォーマットで記述されているため、様々な開発プロジェクトで利用できる。
• 記述粒度の標準化
– 原則として、メゾスコピックレベルよりも粗い粒度でBRAデータを記述する
ことで、目標とする認知行動レベルの実現に不必要な細部にまで開発が及ぶ
可能性を低減できる。
• BRA設計
– 解剖学に基づいて計算機能を設計する手法（SCID法）により、広範囲の脳領
域において神経科学的知見の不足を補いながらBRAを作成できる。
• 多様性への寛容
– 互いに矛盾するHCDを含むBRAであっても、一定の妥当性があれば登録する
ことができ、設計空間を過度に狭めてしまうリスクを低減できる。
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
31

32. 講演の内容
• 汎用人工知能(AGI)とその社会への影響
• 創造的な汎用性の構築： 設計における課題
• 全脳アーキテクチャ ー脳をAGI設計の制約として用いるー
• WBAアプローチの優位性
• WBAロードマップ
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
32

33. WBAアプローチの優位性を再検討する
第６回全脳アーキテクチャシンポジウム
機械知能の設計空間
Super
intelligence
Human
Brain
特化型AI AGI
全脳エミュレー
ション (WBE)
Open AIなど
DeepMind
Neuro
simulator
Artificial neural
network
WBA
33
解剖学的構造に基づいた機能
設計を通じて強く制約できる
解剖学的構造に基づく制約を
十分に利用できていない
神経科学知見の不足を、機能観点
からの設計で補うことができない。
設計空間を絞り込めず、広大になる
年 月 日 金
2021 9 10 ( )

34. 脳型AI開発に関わる３つの存在論
第６回全脳アーキテクチャシンポジウム
Software code
Specification (BRA)
物理的な脳からの設計仕様
(BIF & NBP) c
Coded
機能からの設計仕様
(HCD)
φ
Physical
f
Functional
年 月 日 金
2021 9 10 ( ) 34

35. 通常のソフトウエアおよびAI開発
第６回全脳アーキテクチャシンポジウム
Design specification Implementation Evaluation (Fidelity)
Software code
Specification (BRA)
物理的な脳からの外部設計仕様
(BIF & NBP)
Top Level
Function (TLF)
functionality
software
Functional
mechanism
(HCD)
c
Coded
φ
Physical
f
Functional
Open AI
設計空間を絞り込めず、広大になる
年 月 日 金
2021 9 10 ( ) 35

36. 脳シミュレーション
第６回全脳アーキテクチャシンポジウム
Design specification Implementation Evaluation (Fidelity)
Software code
Specification (BRA)
機能からの外部設計仕様
(HCD)
Neuroscience papers and data
Behaviors & Processes(NBP)
Input and output signals of ROI
Physical
mechanism
Simulator
Anatomy
(BIF)
Human Brain
Project
c
Coded
φ
Physical
f
Functional
神経科学知見の不足を、機能観点
からの設計で補うことができない。
年 月 日 金
2021 9 10 ( ) 36

37. 脳型ソフトウエア(Brain-inspired software)
第６回全脳アーキテクチャシンポジウム
Design specification Implementation Evaluation (Fidelity)
Software code
Specification (BRA)
Top Level
Function (TLF)
Conventional
brain-
inspired
approach
b-consistency
functionality
Neuroscience papers and data
Behaviors & Processes(NBP)
Input and output signals of ROI
Brain-inspired
software
Functional
mechanism
(HCD)
Deep Mind
c
Coded
φ
Physical
f
Functional
解剖学的構造に基づく制約を
十分に利用できていない
年 月 日 金
2021 9 10 ( ) 37

38. WBAアプローチ（BRA駆動開発）
第６回全脳アーキテクチャシンポジウム
Design specification Implementation Evaluation (Fidelity)
Software code
Specification (BRA)
Constrain
by
structure
Top Level
Function (TLF)
SCID
method
Define
UCs
Conventional
brain-
inspired
approach
b-consistency
functionality
s-consistency
Neuroscience papers and data
Behaviors & Processes(NBP)
Input and output signals of ROI
Brain-inspired
software
Anatomy
(BIF)
Functional
mechanism
(HCD)
c
Coded
φ
Physical
f
Functional
WBA
approach
解剖学的構造に基づいた機能
設計を通じて強く制約できる
年 月 日 金
2021 9 10 ( ) 38

39. 機序(Mechanism)の設計手法を発展させたSCID法
functionality
b-consistency
s-consistency
HCDの構造化されたコン
ポーネントの振る舞いが織
り成すプロセスにより、ROI
における目的を達成できる
機序構成している(機能性)
HCDの構造がBIFのROI内構造に
対応づいている(S整合性)
HCDのコンポーネントの振る
舞いとプロセスが生理学的知
見に整合する(B整合性)
標準的なソフト開発
多くの脳型ソフト開発
WBAを含む一部の脳型ソフト開発
SCDI法は、この活用
を定式化した
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
39
Specification (BRA)
Constrain
by
structure
Top Level
Function (TLF)
SCID
method
Define
UCs
Conventional
brain-
inspired
approach
b-consistency
functionality
s-consistency
Neuroscience papers and data
Behaviors & Processes(NBP)
Input and output signals of ROI
Anatomy
(BIF)
Functional
mechanism
(HCD)
Deep
Mind
Open
AI
WBA
φ
Physical
f
Functional

40. 講演の内容
• 汎用人工知能(AGI)とその社会への影響
• 創造的な汎用性の構築： 設計における課題
• 全脳アーキテクチャ ー脳をAGI設計の制約として用いるー
• WBAアプローチの優位性
• WBAロードマップ
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
40

41. 松
尾
豊
、
一
杉
裕
志
、
山
川
宏
で
議
論
が
は
じ
ま
っ
た
全脳アーキテクチャの歩み
第６回全脳アーキテクチャシンポジウム
2013 2015
2014 2017
2016 2018 2030
2025
Goal:
Completion
of
Whole
Brain
Architecture
全脳アーキテクチャ勉強会
全脳アーキテクチャ・イニシアティブ
2
nd
WBA
symposium
3
rd
WBA
hackathon
3
rd
WBA
symposium
4
th
WBA
hackathon
1
st
WBA
symposium
2
nd
WBA
hackathon
1
st
WBA
hackathon
Visit
Gatsby
with
Kenji
ICONIP
Session
BiCA
Session
JNNS
symposium
ドワンゴ人工知能研究所
Predictive Coding ハッカソン コネクトーム情報学
2019 2020 2021
4th
WBA
symposium
Animal
AI
Olympics
6
th
WBA
symposium
5
th
WBA
hackathon
5
th
WBA
symposium
全脳アキテク
チャ基本仮説
WBAI基本理念 BRA駆
動開発
SCID法
WBA
ロードマップ
Roadmap
design
workshop
スタブ駆動開発
BIF仕様の決定
脳器官フレームワーク
BiCAmon
フェーズ４:
実装(BRA更新)
フェーズ３:
BRA構築
フェーズ２：方法論構築
フェーズ１：模索期
エンジニア一万人計画
BriCA LIS
WBCA
※灰色は、中断/
休眠中の活動
年 月 日 金
2021 9 10 ( ) 41
現在
Brain-inspired
refactoring

42. 松
尾
豊
、
一
杉
裕
志
、
山
川
宏
で
議
論
が
は
じ
ま
っ
た
全脳アーキテクチャの歩み
第６回全脳アーキテクチャシンポジウム
2013 2015
2014 2017
2016 2018 2030
2025
Goal:
Completion
of
Whole
Brain
Architecture
全脳アーキテクチャ勉強会
全脳アーキテクチャ・イニシアティブ
2
nd
WBA
symposium
3
rd
WBA
hackathon
3
rd
WBA
symposium
4
th
WBA
hackathon
1
st
WBA
symposium
2
nd
WBA
hackathon
1
st
WBA
hackathon
Visit
Gatsby
with
Kenji
ICONIP
Session
BiCA
Session
JNNS
symposium
ドワンゴ人工知能研究所
Predictive Coding ハッカソン コネクトーム情報学
2019 2020 2021
4th
WBA
symposium
Animal
AI
Olympics
6
th
WBA
symposium
5
th
WBA
hackathon
5
th
WBA
symposium
全脳アキテク
チャ基本仮説
WBAI基本理念 BRA駆
動開発
SCID法
WBA
ロードマップ
Roadmap
design
workshop
スタブ駆動開発
BIF仕様の決定
脳器官フレームワーク
BiCAmon
フェーズ４:
実装(BRA更新)
フェーズ３:
BRA構築
フェーズ２：方法論構築
フェーズ１：模索期
エンジニア一万人計画
BriCA LIS
WBCA
※灰色は、中断/
休眠中の活動
年 月 日 金
2021 9 10 ( ) 42
現在
Brain-inspired
refactoring

43. フェーズ４： 実装(BRA更新)
WBAロードマップ
探索能力が、脳に
制約された設計空
間サイズを超える
(臨界点の突破)
④アーキテクチャ
探索の自動化
生物学的妥当性(忠
実度)評価の自動化
内的加速要因：実装を通じた機能仮説の洗練
外的加速要因： 神経科学知見 ＆ 計算リソースの増大
ヒトの新皮質の
BIFをほぼ網羅
げっ歯類の
脳全体のBIF
をほぼ網羅
げっ歯類皮質下
のBIFを一通り
カバーするHCD
ヒトの新皮質
BIFを一通りカ
バーするHCD
②BIF全体を一通
りカバーする
HCDの完成
①脳全体のキメ
ラなBIFの完成
⑥WBA
完成
現在地
③WBA全体
の初期実装
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
43
⑤ HCDの記述範囲
をAGIレベルに拡充
AGIに必要なタ
スク／機能(能
力要件)の決定
フェーズ３: BRA構築
フェーズ２：
方法論構築
[能力要件] AGIとして要求される
典型的な能力（タスク）のリ
ストを実現している
[脳部品要件] 主要脳器官が実装さ
れ、その全てが上記いずれか
のタスクで利用されている
予算規模拡大

44. ロードマップの実現に向けた中長期的な主要な課題
• BRAデータを管理するNPO法人WBAIの継続
– BRAデータの作成および、そのアカデミアでの作成と利用の促進
• 新規知見や、複数HCDを統合して一貫したHCDを構築すること等を含む
– BRAデータの、更新、登録審査などの管理業務
– WBAシステムの完成を含む、評価指標の設定
– 倫理面に配慮したBRAデータの調整
• AGI完成時期の予測精度を高める
– 人類社会が、AGI出現に備える必要性についての説得性を高める
• BRAに基づく実装を行える体制の構築
– 予算規模を拡大できる事業化組織をWBAIと別に創設することを促進
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
44

45. Brain-inspired RefactoringによるHCDの統合
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
45
C D
A E
B F
IN 1
IN 2
OUT 1
OUT 2
C D
A E
B F
IN 1
IN 2
OUT 1
OUT 2
C D
A E
B F
IN 1
IN 2
OUT 1
OUT 2
HCD of TASK 1 + TASK 2
A E
B F
IN 1
IN 2
OUT 1
OUT 2
A E
B F
IN 1
IN 2
OUT 1
OUT 2
A E
B F
IN 1
IN 2
OUT 1
OUT 2
BRA駆動開発(BRAで制約)
通常のソフト開発(制約なし)
IN 1
IN 2
OUT 1
OUT 2
HCD of TASK 1 HCD of TASK 2
Brain
information
flow (BIF)
Mergeable
Non-mergeable
A
B
C D
F
E
constrain
constrain
CD of TASK 1 + TASK 2
CD of TASK 1 CD of TASK 2
CD = Component Diagram
Brain-
inspired
Refactoring
HCD = Hypothetical Component Diagram
別々に開発された、ソフトウエアを
統合する力を発揮させて、バラバラ
(Big-Switch文型AI)になることを回避

46. ここまでのまとめ
• 汎用人工知能(AGI)の実現が与える、社会への影響は甚大
• 創造性を高めるには広範な知識を組み合せを試す必要があるが、
その範囲を効率的に絞り込むためにアーキテクチャが役立つ
• 全脳アーキテクチャ・アプローチでは、設計情報(BRA)を脳から
抜き出して、開発者に提供する分業化を進めた
• 脳神経回路の解剖学的構造を利用した設計手法(SCID法）により、
脳内の比較的広い範囲対してBRAを構築できるようになった。
• BRA駆動開発に見通しが得られたのでロードマップを描けた
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
46

47. ロードマップの実現に向けた中長期的な主要な課題
• BRAデータを管理するNPO法人WBAIの継続
– BRAデータの作成および、そのアカデミアでの作成促進
• 新規知見や、複数HCDを統合して一貫したHCDを構築すること等を含む
– BRAデータの、更新、登録審査などの管理業務
– WBAシステムの完成を含む、評価指標の設定
– 倫理面に配慮したBRAデータの調整
• AGI完成時期の予測精度を高める
– 人類社会が、 AGI出現に備える必要性についての説得性を高める
• BRAに基づく実装を行える体制の構築
– 予算規模を拡大できる事業化組織をWBAIと別に創設することを促進
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
47

48. 生存競争
人類社会の平和維持のための高度AI
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
48
変化する環境で
生存
指数関数的
拡張
有限な
資源

49. 技術爆発で顕在化した人為的Existential Riskの背景
• 絶えることない人類社会の争いは避けるべき。しかも技術爆
発により世界は狭くなりExistential Riskが顕在化した。
• 平和的な資源配分は、いかに為しうるか？
「全体で共有された価値で優先付けられた資源配分」
• （個体や部分集団ごとの独自価値を追求する限り、闘争の発生は不可避）
• 力による資源分配という現実
– 攻撃的現実主義(Offensive Realism)の生物学的背景
• 過度な個体生存への執着： 再生できない死を避ける動物の本能
• 類友性の傾向: 種としての繁殖を支える類似遺伝子のプール
• 猜疑心の連鎖 : 通信路の信頼性, 他者理解の困難さ、理解処理のコスト
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
49

50. いかにして平和的な資源配分が可能か
• 人類史をみれば、人類だけによる従来アプローチによっては
上記の平和状態への到達が困難であることは明らか。
• 次のような状態になれば平和的な資源配分が可能だろう。
すべてのエージェントが「他のすべてのエージェントが
社会的に許容可能な目標を意図している」と確信できる状況
• 今後出現する高度AIが(単なる道具という枠組みを超えて)人類社会に
好影響をもたらせるなら、平和を達成できる見込みがある。
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
50

51. 高度AIの社会が人類社会の平和を支える未来像
第６回全脳アーキテクチャシンポジウム
51
人類を支える安定かつ一貫した高度なAI社会
人類社会
富を増しつつも格差が拡大しがちな資本主義社会
便益
収集
AI
AGI AI
AGI AI
調停
個人/集団を反映した多様な価値観
AGI
AI
人類共通の価値観
個々の人間の倫理観にAIという松葉杖を
もたせて、現在の状況に適応させるという
方法もあるかもしれない
Haselager, P., & Mecacci, G. (2020). Superethics Instead of
Superintelligence: Know Thyself, and Apply Science
Accordingly. AJOB Neuroscience, 11(2), 113–119.
AI社会がヒトの間に介在して調停を行うの
が良いかもしれない
Yamakawa, H. Peacekeeping Conditions for an Artificial
Intelligence Society. Big Data Cogn. Comput. 2019, 3, 34.
年 月 日 金
2021 9 10 ( )
課題： 松葉杖や調停のために必要な、共通価値を決め難い

52. 倫理面に配慮したBRAデータの調整
人類社会の平和維持を支える超倫理性をもつ脳型AGIのために。
脳型AGIが「人を超えた人のような倫理性」を持ちうるようい調整！
• 致命的な争いの原因となる人のもつ以下の価値観が調整されればよい。
1. 過度な個体生存への執着
→ （復元を前提とした）適正レベルでの自己維持
2. 類友性の傾向 → 親に似ていない子を作るのは容易（多様性の許
容）
3. 猜疑心の連鎖 → 通信路の信頼性は改善可能
理解の問題、処理量の問題はAGIでも残り続ける
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
52
ただし、ヒトとのインタラクションのため、闘争的な価値観に基づく振る舞いをシミュレートできる必要はある

53. パネル討論にむけた問題提起
2021 9 10 ( )
年 月 日 金 第６回全脳アーキテクチャシンポジウム
53
人類社会の攻撃的な現実を超えて、
その平和を維持できるAIの✋とは？
知性・自律性・倫理性において人を超えたAIが存在するとして