脳型AGI開発を着実に進めるために
•Download as PPTX, PDF•
1 like•1,990 views
第3回WBAシンポジウム 山川宏氏講演資料
Recommended
More Related Content
Similar to 脳型AGI開発を着実に進めるために
Similar to 脳型AGI開発を着実に進めるために (20)
More from The Whole Brain Architecture Initiative
More from The Whole Brain Architecture Initiative (20)
脳型AGI開発を着実に進めるために
- 3. 概要 • NPO法人WBAIは、そこで開発促進される全脳アーキテクチャ(WBA)が多くの 人々に共有される状況を目指している。ここ数年はハッカソン等の活動を行 いながら、多くの研究者／エンジニアらが開発に参加するためのオープンプ ラットフォームの開発を進めてきた。これまでは仮想学習環境やミドルウェア などの整備が中心であった。 • しかし現在は、脳器官ごとの開発仕様としてのフレームワークや、汎用人工 知能(AGI)が実現すべき能力の地図といった、知識データベースの構築に取 り組んでいる。これらを用いてWBAの部品を作る個別の開発プロジェクトを設 計すれば、脳型AGIの完成に向けての整合性を保ちうるだろう。 • こうして近いうちに、多くの技術者を巻き込みながら、脳としての機能部品を 一通り揃えたシステムの開発を大規模に行える状況をつくることを目指す。こ うして，神経科学・認知科学・人工知能・機械学習・ソフトウエア工学などを含 む広範な専門能力を兼ね備えた人材は存在しない状況を克服してゆく。 • 但し、完成したAGIは、未知の状況に対して自律的に対応する知能が必要で ある。そうした能力があってはじめて、所謂AI科学者として、科学技術の発展 を大きく加速できる。そのためには、知識をよりメタなレベルで操作する能力 が必要となる。そこで今後は、脳の情報動態を参考としつつ、タスクの実行に 有効な知識の組合せを探し出す技術研究についても促進してゆきたい。 第3回全脳アーキテクャシンポジウム
- 5. 本講演の概要 • 汎用人工知能に固有な必須技術 – 知識を柔軟に組合せて推論する技術→以下の二つに分解 • 知識の獲得： – ①再利用性の高い知識の獲得 (機械学習：ML) • 知識の利用： 多角的に知識を組合せるアーキテクチャ – ②アーキテクチャ自体の開発（WBAIのプラットフォーム開発） – ③モジュールの組合せを操作する仕組み（理論） 第3回全脳アーキテクャシンポジウム
- 6. 本講演の概要 • 汎用人工知能に固有な必須技術 – 知識を柔軟に組合せて推論する技術→以下の二つに分解 • 知識の獲得： – ①再利用性の高い知識の獲得 (機械学習：ML) • 知識の利用： 多角的に知識を組合せるアーキテクチャ – ②アーキテクチャ自体の開発（WBAIのプラットフォーム開発） – ③モジュールの組合せを操作する仕組み（理論） 第3回全脳アーキテクャシンポジウム
- 7. 技術目標としての汎用人工知能(AGI) 第3回全脳アーキテクャシンポジウム AGI: 技術目標 多様な問題解決機能を経験 を通じて獲得する データが不十分な、設計時の 想定を超えた未知状況等でも 問題を解決できる． 自律性の基盤 徐 々 に 向 か っ て い る 特化型AI： 次第に成熟 個別領域で知的に振る舞う データが十分な日常的状況で 既に数多く実用化されている。 例えば(コンピュータチェス、自 動運転、監視技術、医療診断 など） タスク領域 満足できるレベル タスク領域 満足できるレベル 性能 性能
- 9. 二松學舍大学講演9
- 13. オープン・プラットフォーム戦略[開発促進] 第3回全脳アーキテクャシンポジウム AI/MLエンジニアが機械学習を統合しながらWBAを開発するため のプラットフォーム（ソフト・ツール）を整備してきた。 スケールさせるにはまだ何かが足りない [WBA開発] AI/MLエンジニアによる プラットフォーム上での 統合 結合実行プラットフォーム 複数のモジュールを実行・学習するための計算資源の管理機構 仮想環境内で の評価実験 センサ群 プロト タイピング (検証, 再実 装, 改良) BriCA言語 機械学習モジュールの結合を記述す るアーキテクチャ記述言語 アクチュエータ群 全脳コネクトーム・ アーキテクチャー 機械学習 GithubarXiv 神経科学データ 神経活動 データ 行動データ コネクトーム ANN, 確率的グラフィカ ルモデルなどで構成 タスク （テスト） モジュール アーキテクチャ
- 14. 重点目標は、AGIに固有な技術X 第3回全脳アーキテクャシンポジウム 技術X＝AGI ー Σ (特化型AI)I BS- AI 知識(特化型AI) 知識(特化型AI) 知識(特化型AI) 知識(特化型AI) タスク タスク タスク タスク Big switch文型AI ス イ ッ チ タスク タスク タスク タスク AGI AGI 知識 知識 知識 知識 知識 データが少ない状況で有力 な仮説を生成する能力 技術X： 既存の知識を柔軟 に組合せて推論する機構
- 15. タスク タスク タスク タスク 脳に学んで「技術X」をどの様に実現するか 第3回全脳アーキテクャシンポジウム 汎用人工知能に固有な必須技術 技術X： 既存の知識を柔軟に 組合せて推論する機構 知識 知識 知識 知識 知識 ①知識の獲得：再利用 性の高い知識の獲得 (機械学習：ML) • 知識の写像/適用範 囲拡大 • 分散表現知識の分 解(Disentangle) • 分散表現と記号の 対応付け • 分散表現の標準化 ②アーキテクチャ開発： 脳を手本として、まずは再 利用性の高い部品の組合 せとして、脳の全ての部品 を繋ぎ合わせる。 → 全部アーキテクチャ作製 ③モジュールの組合せを操 作する仕組み（理論） 脳の情報動態を参考としつ つ、タスクの実行に有効な 知識の組合せをメタレベル で操作する技術を確立する タスクに応じた知識の組合せをみつける 知識の利用： 多角的に知識 を組合せる アーキテクチャ
- 16. 本講演の概要 • 汎用人工知能に固有な必須技術 – 知識を柔軟に組合せて推論する技術→以下の二つに分解 • 知識の獲得： – ①再利用性の高い知識の獲得 (機械学習：ML) • 知識の利用： 多角的に知識を組合せるアーキテクチャ – ②アーキテクチャ自体の開発（WBAIのプラットフォーム開発） – ③モジュールの組合せを操作する仕組み（理論） 第3回全脳アーキテクャシンポジウム
- 17. [WBAI開発] 再利用性の高い表現の獲得① アクション抽象化技術： 行動系列を抽象的 記述する内部表現を教師なしで獲得 基準動作 （元データ再構成） ボールの種類変更 （赤→青） ボールをゆっくり 放す (NTT研-ドワンゴ共同研 究：山田、キム、三好、 山川、JSAI2018) 国際会議投稿準備中 第3回全脳アーキテクャシンポジウム • 強化学習等の行動司令の空間をコンパクト化 • 新皮質運動前野における機能の再現を目指す 意 義
- 18. [WBAI開発] 再利用性の高い表現の獲得① レイヤー１ レイヤー2 レイヤー3 βVAE + Ladder + controlled capacity increase ボールの種類変更 ２層レイヤー８番目のｚを変更 ボールをゆっくり放す ２層レイヤー３番目のｚを変更 第3回全脳アーキテクャシンポジウム 運動系列の性質を制御する 抽象表現を教師なし学習で 獲得（Disentangle)
- 19. 本講演の概要 • 汎用人工知能に固有な必須技術 – 知識を柔軟に組合せて推論する技術→以下の二つに分解 • 知識の獲得： – ①再利用性の高い知識の獲得 (機械学習：ML) • 知識の利用： 多角的に知識を組合せるアーキテクチャ – ②アーキテクチャ自体の開発（WBAIのプラットフォーム開発） – ③モジュールの組合せを操作する仕組み（理論） 第3回全脳アーキテクャシンポジウム
- 20. 脳アーキの取り込みを進めてきた [開発促進] • 2014年末 – NPO法人の設立構想 • 2015年： WBAI発足 – 全脳アーキ中心仮説 – 複合機械学習ハッカソン(1) • 2016年： 認知アーキ – オープン・プラットフォーム 戦略 • LIS、BiCAmon – 認知アーキ・ハッカソン(2) • 2017年：脳を学びはじめる – 脳型アーキの取り込み • MAF、WBCA – 触覚ミニハッカソン – 海馬ハッカソン(3) • 2018年：WBA開発のため の統合環境の試作 • 脳器官フレームワーク、 WBCA、能力マップ – Project AGIと連携→RfR作製 – ハッカソン(4) 第3回全脳アーキテクャシンポジウム ２０２０年までに、WBAを共同開発が可能な状況とした い
- 21. 全脳アーキテクチャを共同開発するために② 第3回全脳アーキテクャシンポジウム 脳に学んで構築するメリットAGI開発の一般的な難しさ 特定の能力を階層的に機能分解 することによる設計はそぐわない 困難２： 認知アーキテクチャ における機能分解には任意性 がある。何れのアーキテクチ ャがAGIに到達できるか不明 しかし、エンジニアが、脳型アーキ テクチャにもとづいてAGI開発に着 手するための仕様書は存在しない。 対策２：AGI到達の保証： ある程度 詳細に脳のアーキテクチャを反映し たAIは、人間や動物程度の汎用知能 の基盤となる。 後ほど大森隆司氏よりご説明 困難１： AGI開発において、 その評価に必要な能力やタス クを列挙しておくことは困難 対策１：能力を脳器官に接地させつ つ能力を構造化することで、評価に 必要なタスクの網羅性を高める。
- 24. L1 L2/3 L4 L6 L5 状態 (ボトムアッ プ) 入力元 出力先 状態 (トップダウン) 制御 (注意, 文脈など) 隠れ状態 出力制御 状態 隠れ状態 [行動出力] 制御 (注意, 文脈など) 新皮質 高次のL2/3、 海馬、小脳？ 低次のL2/3 (基底核支配 の)視床 高次のL6 低次のL2/3 基底核、 [錐体路] 低次のL6、 低次のL1 信号のセマンティクス 情報選択(注意) 活動度制御 隠れ状態 (ボトムアッ プ) (低次L5起源) 視床 視床 高次のL2/3 or L4、海馬 出力1 出力2 出力3 入力1 入力2 入力3 入力4 入力5 [開発促進] 新皮質のフレームワーク 信号のセマンティクス 状態： 外界信号に関わる信念や予測の内部状態全般を表す信号 ※ 「状態＝最新の状態」、「隠れ状態＝履歴を加味した状態」 制御に関わる信号 第3回全脳アーキテクャシンポジウム (山川、荒川、高橋、JSAI2017)標準回路をAI/ML専門家向けに意味付け
- 25. [WBA開発]新皮質フレームワーク上でのプロトタイピング 第3回全脳アーキテクャシンポジウム L1 L2/3 L4 L6 L5 状態 (ボトムアップ) 状態 (トップダウン) 制御 (注意, 文脈など) 隠れ状態 出力制御 状態 隠れ状態 [行動出力] 制御 (注意, 文脈など) 高次のL2/3、 海馬、小脳？ 低次のL2/3 (基底核支配 の)視床 高次のL6 低次のL2/3 基底核、 [錐体路] 低次のL6、 低次のL1 情報選択(注意) 活動度制御 隠れ状態 (ボトムアップ) (低次L5起源) 視床 視床 高次のL2/3 or L4、海馬 出力1 出力2 出力3 入力1 入力2 入力3 入力4 入力5 隠れ状態 入力6 視床 高次のL6 (基底核支配 の)視床 入力1 入力2 入力3 入力4 入力5 入力6 未実装 出力2 出力3 出力1 基底核、 [錐体路] 視床 L6 (新学術 脳情報動態、 三好、荒川、山川) 入力1 出力2 生物学的に妥当な設計のた めの主な考慮点 • 階層性 • 各層を単純にする • 次時刻予測 • 局所最適化
- 26. [開発促進] 全脳コネクトーム・アーキテクチャ(WBCA)を洗練中 第3回全脳アーキテクャシンポジウム http://connectivity.brain-map.org/ 工学モデルとして実装できるよう、ボトム アップとトップダウンを方向づけ (視覚野) (ドワンゴ： 速水卓、根岸 ら、JSAI2018)
- 27. 新たな課題： 仕様書に基づく分業開発において • （１）ロードマップ課題： AGI開発に必要な能力や タスクを整備し、それを実現をする開発ロードマ ップにおとしこめるか。 • （２）特化課題： 分業した開発を行なっても、特化 型AIの束になることを避けAGIに辿り着けるか。 • （３）人材課題： 神経科学・AI/ML・ソフト工学の 専門性を兼備した人材は希少。それでも手分け して開発を進められるか。 第3回全脳アーキテクャシンポジウム
- 28. Agent ロードマップ課題(1)への対応： 能力マップの作製 第3回全脳アーキテクャシンポジウム St. ML St. St. Environment タスク （テスト） 脳器官I/F (情報処理的 な意味付け) 能力マップ： AGIに必要な能 力を網羅的に構造化したもの。 WBCA (コネクトーム) 脳器官 の能力 ある粒度の能力が脳器 官に対応可能と仮説 能力とタスクの関係 C 1 C 2 C 3 C 4 T1 ◯ T2 ◯ T3 脳器官フレームワーク (標準外部仕様) ロードマップ ：スタブ ：機械学習[WBA開発] ：脳器官I/F St. ML
- 33. [WBA開発] AI/MLエンジニアによる プラットフォーム上での 統合 オープン・プラットフォーム戦略の強化 第3回全脳アーキテクャシンポジウム 結合実行プラットフォーム 複数のモジュールを実行・学習するための計算資源の管理機構 仮想環境内で の評価実験 センサ群 プロト タイピング (検証, 再実 装, 改良) BriCA言語 機械学習モジュールの結合を記述す るアーキテクチャ記述言語 アクチュエータ群 機械学習 GithubarXiv 神経科学データ 神経活動 データ 行動データ コネクトーム ANN, 確率的グラフィカ ルモデルなどで構成 能力マップ： 能力を脳器官に接 地させつつ構造化したもの。 AI/MLエンジニアが機械学習を統合しながらWBAを開発するため のプラットフォーム（知識源、ソフト・ツール）の整備が進みつつある。 モジュール アーキテクチャ 全脳コネクトーム・ アーキテクチャー 脳器官 フレーム ワーク タスク （テスト）
- 34. 本講演の概要 • 汎用人工知能に固有な必須技術 – 知識を柔軟に組合せて推論する技術→以下の二つに分解 • 知識の獲得： – ①再利用性の高い知識の獲得 (機械学習：ML) • 知識の利用： 多角的に知識を組合せるアーキテクチャ – ②アーキテクチャ自体の開発（WBAIのプラットフォーム開発） – ③モジュールの組合せを操作する仕組み（理論） 第3回全脳アーキテクャシンポジウム
- 36. 知識の切替で複数タスクに対応(マルチ・タスク学習） 第3回全脳アーキテクャシンポジウム Clemens Rosenbaumら, Routing Networks: Adaptive Selection of Non-Linear Functions for Multi-Task Learning, ICLR-2018 T1 T2 T3 T4 T5 T6 T7 T8 T9 T10 課題： Multi task MNIST Routing Networks タスク毎に異なるルートを利用 T 1 T 2 T 3 T 1 T 2 T 3T 1 T 2 T 3 T 1 T 2 T 3タスク タスク
- 37. メタレベルの制御で環境変化に適応(Continual Learning) 第3回全脳アーキテクャシンポジウム Maruan Al-Shedivat他、Continuous Adaptation via Meta-Learning in Nonstationary and Competitive Environments, ICLR-2018 (Best Paper) 対戦相手に応じたパメータを変更をメタ制御 対戦相手は徐々に強くなる メタ学習を行う ことで、 環境変化に追随 できている。 LSTM+ PPO-tracking LSTM+メタUpdate RL2
- 40. [WBA開発]問題の対応関係を見つける技術 第3回全脳アーキテクャシンポジウム (佐藤聖也(産総研AIRC)、山川宏) メタ関係発見(等価性構造抽出) 図：等価性構造抽出の例。#1〜#8の系列（系列）から〈#1, #2, #3〉と〈#8, #7, #5〉という二つの 組を取り出し、この二つの組にメタ関係があるかどうかを検証する。この例では、青、赤、黒の３ つの部分列が酷似しているため、等価なメタ関係と見なす。 (Seiya Sato他, Front. Robot. AI, 2017) (Seiya Sato他, KDD 2018 (accepted))
- 41. おわりに：WBAIがNPOとして継続すべきこと • AGIを最速で開発しうるよう促進活動を維持する ここ数年の試行錯誤を通じ、開発方法論が見えつつある – 2018年度： 統合的な開発プラットフォームの試作 – 2019年度： プラットフォーム上でのWBA研究の活性化 • 開発に興味を持つ技術者や組織の巻き込みを増やしたい – 2020年度以降は、大規模に共同開発行いたい • 開発するWBAを社会にとって有益なものとする • 国内外や多分野（社会系含む）に対して基本理念と 活動の広報を推し進める 第3回全脳アーキテクャシンポジウム 現在は賛助会費600万円/年程度の他、諸方面からのご支援 により運営。 安定継続のためには、もう少し基盤強化したい
- 42. 賛助会員への入会お誘い 第3回全脳アーキテクャシンポジウム 会員区分 会員特典 寄付 数 支援期 間 寄付金額 賛助 会員 １. WBAIウェブサイトへのロゴリンク掲載（賛助会員一 覧） ２. WBAIロゴ画像の利用許可（名刺、HP、広報物全般） 1口 から 1年 8万円/年 から 特別賛助 会員 １. WBAIウェブサイトへのロゴリンク掲載（賛助会員一 覧） ２. WBAIロゴ画像の利用許可（名刺、HP、広報物全般） ３. 勉強会での5分間CM枠（先着申込順） 10口 から 1年 80万円/ 年 から 創設賛助 会員 １. WBAIウェブサイトへのロゴリンク掲載（トップ下 部） ２. WBAIロゴ画像の利用許可（名刺、HP、広報物全般、 専用画像） ３. 勉強会での5分間CM枠（先着申込順） ４. 勉強会開催時、募集ページでのロゴ掲載 ５. 永久的にWBAIウェブサイトへロゴリンク掲載(創設会 員一覧) 10口 から 5年 以上 400万円/ 5年から WBAIの活動を支援したい→賛助会員 http://wba-initiative.org/support
- 44. WBAIに関連する主な個別技術の文献 1) Taku Hayami, So Negishi, Rintaro Komori, Haruo Mizutani, Hiroshi Yamakawa, Top-down and bottom-up classification between areas in mouse cerebral cortex to connect machine learning modules on connectomes, JSAI2018, 2B1-05, 2018. ←【WBCA】 2) 山川宏, 荒川直哉,高橋恒一,全脳アーキテクチャに必要な新皮質マスター アルゴリズムの検討, 3K1-OS-06a-5, JSA2017. ←【脳器官フレームワーク】 3) Seiya Satoh, Yoshinobu Takahashi and Hiroshi Yamakawa, Validation of Equivalence Structure Incremental Search, Front. Robot. AI, 19 December 2017 ←【メタ関係発見／等価性構造抽出】 4) 山田 真徳、Kim Heecheol、三好 康祐、山川 宏2、時系列データに対する Disentangleされた表現学習、JSAI2018、1Z3-03、2018. ←【アクション抽象化】 5) 大澤 正彦2、大森 隆司1、高橋 亘一3、荒川 直哉4、坂井 尚行4、上野 道彦 4、今井 倫太2、山川 宏, AGI開発をナビゲートするための能力マップ, JSAI2018, 2L3-OS-6b-05, 2018. ←【能力マップ】 6) 福地 庸介、大澤 正彦、山川 宏、今井 倫太, 人間の環世界から見たエージ ェントモデル –AI Safety の実現に向けて、JSAI2018, 3J1-05, 2018. ←【第3部】 第3回全脳アーキテクャシンポジウム
- 46. 山川宏 WBAI活動の拡がり
- 48. 第３回WBAハッカソン「目覚めよ海馬！」(2017.9) 第3回全脳アーキテクャシンポジウム かなり難易度が高かったが、入賞者の品質は向上 成果活動 • １次元迷路、十字迷路など で課題を設定 • 大脳新皮質（知覚）、大脳 基底核（運動）、海馬（記 憶）からなるサンプルをもと に開発 • 成果をあげられそうなチー ムを選抜 • ７チーム参加 • ２チームが複数の迷路課 題をクリア！ • 実装まで至らなかったチー ムも継続するモチベーショ ンが高い
- 49. Project AGIとパートナ関係を締結 第3回全脳アーキテクャシンポジウム Project AGIとNPO法人全脳アーキテクチャ・イニシアティ ブは、研究開発活動を促進するためのパートナー関係を公 式化する無期限の覚書（Memorandum of Understanding: MOU）を先日2017年11月28日に締結。
- 50. 新皮質MAF公開ワークショップの開催 第3回全脳アーキテクャシンポジウム 科研費プロジェクト「脳情報 動態」の高橋（WBAI副代表） チームの主催で、新皮質マス ターアルゴリズム・フレーム ワークの公開ワークショップ を開催。 主催: 新学術領域研究「 脳情報動態」 共催: Project AGI、 &WBAI 後援: * 新学術領域「人工知能と脳科学」 * 文部科学省「ポスト京萌芽的課題 全 脳シミュレーションと脳型人工知 能」 Project AGI による講演
- 51. メディアへの掲載 毎日新聞（本年１月２日朝刊) 強いAI・弱いAI（2017.10) 第3回全脳アーキテクャシンポジウム 松尾豊： 強いAIの前に弱いAIでできること 山川宏： 全脳アーキテクチャ 栗原聡： 大人のAI・子供のAI 中島秀之： 強いAIとは何か
- 53. ● FLIとGoodAIとWBAIが共同してブース出展 ● WBAIサポーターズとFLIボランティアの交流 WBAI国際連携の動き@AI・人工知能EXPO (2018/4/4~7 46,323名来場) 第3回全脳アーキテクャシンポジウム
- 54. 社会とAIに関わる活動への広がり FLIへの記事への掲載 Beneficial AI Tokyo (2017/10/11)に 山川、松尾、高橋らが参加し、東京 宣言の発表に関与した。 現在は、Beneficial AI Japan のパート ナーでもある し 第3回全脳アーキテクャシンポジウム • AI&Societyのパートナー • Good AI「Race Avoidance」の応援
- 55. Global Catastrophic Risk Instituteでの掲載 二松學舍大学講演55 Overview of the 45 identified AGI R&D projects characterized according to 7 attributes Seth Baum, A Survey of Artificial General Intelligence Projects for Ethics, Risk, and Policy, Global Catastrophic Risk Institute Working Paper 17-1, 2017.
- 56. 掃除ロボットを例にした失敗シナリオ • Avoiding Negative Side Effects: – 花瓶を壊して机を片付けてはいけない • Avoiding Reward Hacking: – 掃除ロボットに目隠しして、ゴミを見えなくするとか • Scalable Oversight: – 床におちている、紙くずと携帯電話の扱いをどう変える か？頻繁に人に尋ねるのは避けたい • Safe Exploration:. – モップを使って掃除するのは良い考えだが、濡れたモッ プでコンセントを掃除してはいけない • Robustness to Distributional Shift: – オフィスで訓練された掃除ロボットを、工場にもってくと？ IEEE “Ethically Aligned Design (EAD)” Workshops in Japan56 (Problems in AI Safety, Amodei et al, 2016) https://arxiv.org/abs/1606.06 565
- 57. Agent AI Safetyを考慮した能力マップの検討へ 第3回全脳アーキテクャシンポジウム St. ML St. St. Environment ：スタブ ：機械学習 ：脳器官I/F St. ML タスク （テスト） 脳器官I/F (情報処理的 な意味付け) 能力マップ： AGIに必要な能 力を網羅的に構造化したもの。 WBCA (コネクトーム) 脳器官 の能力 ある粒度の能力が脳器 官に対応可能と仮説 能力とタスクの関係 C 1 C 2 C 3 C 4 T1 ◯ T2 ◯ T3 脳器官フレームワーク (標準外部仕様)Scalable Oversight: 課題（タスク）：床におちている、 紙くずと携帯電話の扱いをどう 変えるかについて、頻繁に人に 尋ねるのは避けたい 能力：掃除ロボットユーザの意 図を推定する仕組みがほしい
- 60. AGIの歴史的なインパクトに対して • 変化の要因： 私達の知的機能で引き起こされてきた – 科学、技術、経済の自動化による発展 • AGIのインパクト： 産業革命以来で最大だろう – 空前のレベルで世界的な繁栄をもたらしうる。 – 不均衡な影響を及ぼすと予想できる • どう準備すべきか： 開発コミュニティ、主要な利 害関係者により、AGIの影響を私たちの利益に 合わせるように協調的な努力する – これなくして、良い未来の実現は決して保証しえない IEEE “Ethically Aligned Design (EAD)” Workshops in Japan60 IEEE “Ethically Aligned Design (EAD)” より抜粋要約
- 61. なぜWBAIは社会への影響に配慮するのか • WBAは、汎用人工知能(AGI)である • NPO法人WBAIは、WBA自体の開発を促進 • WBAIは主に技術面から社会への影響に配慮す る必要があると考えた • 昨年（2017年）春に基本理念として策定 第3回全脳アーキテクャシンポジウム
- 62. WBAI基本理念(2017年3月に公開) 第3回全脳アーキテクャシンポジウム ビジョン： 人類と調和した人工知能のある世界 価値観： まなぶ： 関連する専門知識を学び、拡める みわたす： 広く対話を通じて見識を高める つくる： 共に作り上げる ミッション： 全脳アーキテクチャのオープンな開発を促進 脳全体のアーキテクチャに学び人間のような汎用人工知能のを創る(工学)
- 64. 脳に学ぶAGI開発を促進するWBAIの存在意義 多くのAGI開発者が存在する中で、WBAIが公益性が高い NPOとして脳に学ぶAGI開発を促進する意義は何か • 作られる技術の安全性 – 脳に学んで人と同じように考え/振る舞う存在へ – 技術的な多様性の確保 • 人類にとって望ましいAGI技術の形は不確実 • 公益性が高い開発 – AGI開発の民主化の可能性を拓く • 多数のエンジニアが参加した形でのAGI開発へ – AGIが独占されることは危険である。開発者が少数になり、そ のリスクが高まることを回避すべく開発は多極化を狙う 第3回全脳アーキテクャシンポジウム
- 65. おわりに：WBAIとして重要な論点 • AIの汎用化することで拡大する影響 – 自律性がもたらす影響 – 再帰的な自己改善などによる高速な技術進展 – など • AIが人型になることで増大する影響 （※人型は有用であるためいずれ誰かが実現） – 人との接点における課題（HAIなど) – 倫理的な規範との関係 – など 第3回全脳アーキテクャシンポジウム