SlideShare a Scribd company logo
1 of 13
Download to read offline
進化の終焉とシンギュラリティ・セミナー1
山川宏
2020年3月19日(木)
趣旨説明
進化の終焉とシンギュラリティ・セミナー2
Evolution
局所性を失なった地球
• パンで
進化の終焉とシンギュラリティ・セミナー3
https://en.wikipedia.org/wiki/Commercial_aviation
https://www.youtube.com/watch?v=6uu1MGyGjvI&feature=youtu.be
シンギュラリティの本質は進化戦略の限界では
進化の終焉とシンギュラリティ・セミナー4
進化戦略の限界とは
– 進化が推し進める軍拡競争の結果として
「局所性」が失われる
– 進化の産物である(人工的な)技術が、それ
自身のグローバルな破壊(存在論的リスク)
をもたらす (山川、2019年12月12日)
自律分散 多様化 局所的な競争
自律分散 多様化 大域的な競争
技術進展により、容易に
広域かつ大きな力を得られるように
Global catastrophic risk
進化の終焉とシンギュラリティ・セミナー5
規模と強さにおいて、人類福祉に大き
な影響を与える可能性のあるリスク
出典:
https://en.wikipedia.org/wiki/
Global_catastrophic_risk
規模
強さ
最悪ケース
では
人類絶滅
生物種
の大量
絶滅
オゾン
層の
破壊
非人為的要因による大量絶滅の歴史
進化の終焉とシンギュラリティ・セミナー6
時期 生存し続けた生物種
0.7億年前(白亜紀) 約25%
2億年前(三畳紀) 約20%
2.5億年前(ペルム紀) 約5%
3.7億年前(デボン紀) 約25%
4.4億年前(オルドビス紀) 約15%
20億年前 約0.5%
数億年に一度程度の発生頻度→おそらく急務でない
課題は新興技術による人為的なリクスの増大
• 化石燃料: 気候変動
• 核エネルギー: 大量破壊、核の冬
• 合成生物学: 致死性の細菌によるパンデ
ミック
• ナノテクノロジ: グレイ・グー
• AGI: 技術開発の加速、 主導権を奪われる
進化の終焉とシンギュラリティ・セミナー7
人為的リスクはAI/AGIだけではない
進化の終焉とシンギュラリティ・セミナー8
局所的な競争に基づく進化が知能を生み出し、知能が技術を発展させ、技
術によるグローバル化により局所性を奪うことで、進化が終焉する。
Intelligence
Technology
Globalization
Locality
Evolution
正常性バイアスを克服する
進化の終焉とシンギュラリティ・セミナー9
正常性バイアス
– 自分にとって都合の悪い情報を無視したり、過小
評価したりしてしまう人のもつ特性(認知バイアス)
– 準備不足や、逃げ遅れの原因となる
安易に、いままで大丈夫だったからといって、
これからも大丈夫と考えるべきではないだろう。
進化戦略は、数億年単位で生ずる環境変化を乗り越
えて成功してきたが、運がよかっただけかもしれず、
今日の技術がもたらす急速な変化に対しては、生物
学的な進化は追随できないかもしれない。
プリエンプションの原則:
進化の終焉とシンギュラリティ・セミナー10
失敗にまなべる
最初から首尾よく
対処する必要がある
(Max Tegmark, 2019)より改変
不可逆的なExistential Riskを未然に防ぐため
に、社会は先制的に回避策を講ずる必要がある。
Fire Car
Nuclear
power
AGI
Synthetic
biology
オンライン議論から
• この時代にどういう社会や文化を形成するかで、
次の時代のデザインはまったく変わってくる
• 暴走させてしまったら、それこそAI-ELSIの敗北
• 現役世代である我々が働くところではないかと
長谷敏司
進化の終焉とシンギュラリティ・セミナー11
本セミナの狙い
• 安易に安心を得ることではない
• 正常性バイアスを克服して、
リスクの存在を受け入れること
• この時代に生きる我々ができることを、
考える切っ掛けとする
進化の終焉とシンギュラリティ・セミナー12
Agenda
進化の終焉とシンギュラリティ・セミナー13
Time Contents Speaker
14:30 開会の辞/会場説明 岡ノ谷一夫
14:35 趣旨説明 山川 宏
14:45 AI脅威論 中川裕志
15:00 技術進展がもたらす進化戦略の終焉 山川宏
15:30 言語の発生と進化の終わり 岡ノ谷 一夫
15:45 休憩(15分)
16:00 環境は創発する 長谷敏司 (SF作家)
16:15 パネルディスカッション
モデレータ 中川裕志、パネリス
ト: 長谷敏司、山川宏、岡ノ谷
一夫
17:15 閉会の辞 中川裕志
17:20 終了

More Related Content

More from The Whole Brain Architecture Initiative

第3回WBAレクチャー:海馬体周辺におけるBRA駆動開発の進展
第3回WBAレクチャー:海馬体周辺におけるBRA駆動開発の進展第3回WBAレクチャー:海馬体周辺におけるBRA駆動開発の進展
第3回WBAレクチャー:海馬体周辺におけるBRA駆動開発の進展The Whole Brain Architecture Initiative
 
第6回WBAシンポジウム:Humanity X.0 共生創発と情報の身体性
第6回WBAシンポジウム:Humanity X.0 共生創発と情報の身体性第6回WBAシンポジウム:Humanity X.0 共生創発と情報の身体性
第6回WBAシンポジウム:Humanity X.0 共生創発と情報の身体性The Whole Brain Architecture Initiative
 
第6回WBAシンポジウム:人間は動物を必要とするが、
AIは人間を必要とするか?
第6回WBAシンポジウム:人間は動物を必要とするが、
AIは人間を必要とするか?第6回WBAシンポジウム:人間は動物を必要とするが、
AIは人間を必要とするか?
第6回WBAシンポジウム:人間は動物を必要とするが、
AIは人間を必要とするか?The Whole Brain Architecture Initiative
 
第6回WBAシンポジウム:脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップ
第6回WBAシンポジウム:脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップ第6回WBAシンポジウム:脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップ
第6回WBAシンポジウム:脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップThe Whole Brain Architecture Initiative
 
WBAレクチャー#1脳機能の体系的理解を目指して(山川宏)
WBAレクチャー#1脳機能の体系的理解を目指して(山川宏)WBAレクチャー#1脳機能の体系的理解を目指して(山川宏)
WBAレクチャー#1脳機能の体系的理解を目指して(山川宏)The Whole Brain Architecture Initiative
 
「境界のない外」 をどう考えられるか?──現象学の観点から──
 「境界のない外」 をどう考えられるか?──現象学の観点から── 「境界のない外」 をどう考えられるか?──現象学の観点から──
「境界のない外」 をどう考えられるか?──現象学の観点から──The Whole Brain Architecture Initiative
 
現在のAIの到達点と残された課題@第5回WBAシンポジウム: 松尾豊
現在のAIの到達点と残された課題@第5回WBAシンポジウム: 松尾豊現在のAIの到達点と残された課題@第5回WBAシンポジウム: 松尾豊
現在のAIの到達点と残された課題@第5回WBAシンポジウム: 松尾豊The Whole Brain Architecture Initiative
 
脳とAIの接点から何を学びうるのか@第5回WBAシンポジウム: 銅谷賢治
脳とAIの接点から何を学びうるのか@第5回WBAシンポジウム: 銅谷賢治脳とAIの接点から何を学びうるのか@第5回WBAシンポジウム: 銅谷賢治
脳とAIの接点から何を学びうるのか@第5回WBAシンポジウム: 銅谷賢治The Whole Brain Architecture Initiative
 
脳幹視覚系神経核における抑制と加算機能に関する仮説の提案
脳幹視覚系神経核における抑制と加算機能に関する仮説の提案脳幹視覚系神経核における抑制と加算機能に関する仮説の提案
脳幹視覚系神経核における抑制と加算機能に関する仮説の提案The Whole Brain Architecture Initiative
 

More from The Whole Brain Architecture Initiative (20)

第3回WBAレクチャー:海馬体周辺におけるBRA駆動開発の進展
第3回WBAレクチャー:海馬体周辺におけるBRA駆動開発の進展第3回WBAレクチャー:海馬体周辺におけるBRA駆動開発の進展
第3回WBAレクチャー:海馬体周辺におけるBRA駆動開発の進展
 
第6回WBAシンポジウム:Humanity X.0 共生創発と情報の身体性
第6回WBAシンポジウム:Humanity X.0 共生創発と情報の身体性第6回WBAシンポジウム:Humanity X.0 共生創発と情報の身体性
第6回WBAシンポジウム:Humanity X.0 共生創発と情報の身体性
 
第6回WBAシンポジウム:人の手のひら AIの手のひら
第6回WBAシンポジウム:人の手のひら AIの手のひら第6回WBAシンポジウム:人の手のひら AIの手のひら
第6回WBAシンポジウム:人の手のひら AIの手のひら
 
第6回WBAシンポジウム:人間は動物を必要とするが、
AIは人間を必要とするか?
第6回WBAシンポジウム:人間は動物を必要とするが、
AIは人間を必要とするか?第6回WBAシンポジウム:人間は動物を必要とするが、
AIは人間を必要とするか?
第6回WBAシンポジウム:人間は動物を必要とするが、
AIは人間を必要とするか?
 
第6回WBAシンポジウム:脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップ
第6回WBAシンポジウム:脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップ第6回WBAシンポジウム:脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップ
第6回WBAシンポジウム:脳参照アーキテクチャ 駆動開発からの AGI構築ロードマップ
 
第6回WBAシンポジウム:WBAI活動報告
第6回WBAシンポジウム:WBAI活動報告第6回WBAシンポジウム:WBAI活動報告
第6回WBAシンポジウム:WBAI活動報告
 
技術進展がもたらす進化戦略の終焉
技術進展がもたらす進化戦略の終焉技術進展がもたらす進化戦略の終焉
技術進展がもたらす進化戦略の終焉
 
The 5th WBA Hackathon Orientation -- Cerenaut Part
The 5th WBA Hackathon Orientation  -- Cerenaut PartThe 5th WBA Hackathon Orientation  -- Cerenaut Part
The 5th WBA Hackathon Orientation -- Cerenaut Part
 
Task Details of the 5th Whole Brain Architecture Hackathon
Task Details of the 5th Whole Brain Architecture HackathonTask Details of the 5th Whole Brain Architecture Hackathon
Task Details of the 5th Whole Brain Architecture Hackathon
 
Introduction to the 5th Whole Brain Architecture Hackathon Orientation
Introduction to the 5th Whole Brain Architecture Hackathon OrientationIntroduction to the 5th Whole Brain Architecture Hackathon Orientation
Introduction to the 5th Whole Brain Architecture Hackathon Orientation
 
WBAレクチャー#1BRAの審査と登録(山川宏)
WBAレクチャー#1BRAの審査と登録(山川宏)WBAレクチャー#1BRAの審査と登録(山川宏)
WBAレクチャー#1BRAの審査と登録(山川宏)
 
WBAレクチャー#1SCID法の実例 (布川絢子)
WBAレクチャー#1SCID法の実例 (布川絢子)WBAレクチャー#1SCID法の実例 (布川絢子)
WBAレクチャー#1SCID法の実例 (布川絢子)
 
WBAレクチャー#1脳機能の体系的理解を目指して(山川宏)
WBAレクチャー#1脳機能の体系的理解を目指して(山川宏)WBAレクチャー#1脳機能の体系的理解を目指して(山川宏)
WBAレクチャー#1脳機能の体系的理解を目指して(山川宏)
 
WBA勉強会 〜予測する脳と主体性の現象学〜
WBA勉強会 〜予測する脳と主体性の現象学〜WBA勉強会 〜予測する脳と主体性の現象学〜
WBA勉強会 〜予測する脳と主体性の現象学〜
 
「境界のない外」 をどう考えられるか?──現象学の観点から──
 「境界のない外」 をどう考えられるか?──現象学の観点から── 「境界のない外」 をどう考えられるか?──現象学の観点から──
「境界のない外」 をどう考えられるか?──現象学の観点から──
 
現在のAIの到達点と残された課題@第5回WBAシンポジウム: 松尾豊
現在のAIの到達点と残された課題@第5回WBAシンポジウム: 松尾豊現在のAIの到達点と残された課題@第5回WBAシンポジウム: 松尾豊
現在のAIの到達点と残された課題@第5回WBAシンポジウム: 松尾豊
 
WBAI活動報告@第5回WBAシンポジウム
WBAI活動報告@第5回WBAシンポジウムWBAI活動報告@第5回WBAシンポジウム
WBAI活動報告@第5回WBAシンポジウム
 
脳とAIの接点から何を学びうるのか@第5回WBAシンポジウム: 銅谷賢治
脳とAIの接点から何を学びうるのか@第5回WBAシンポジウム: 銅谷賢治脳とAIの接点から何を学びうるのか@第5回WBAシンポジウム: 銅谷賢治
脳とAIの接点から何を学びうるのか@第5回WBAシンポジウム: 銅谷賢治
 
脳の機能仮説についての構造化データ (BRA) の構築
 脳の機能仮説についての構造化データ (BRA) の構築 脳の機能仮説についての構造化データ (BRA) の構築
脳の機能仮説についての構造化データ (BRA) の構築
 
脳幹視覚系神経核における抑制と加算機能に関する仮説の提案
脳幹視覚系神経核における抑制と加算機能に関する仮説の提案脳幹視覚系神経核における抑制と加算機能に関する仮説の提案
脳幹視覚系神経核における抑制と加算機能に関する仮説の提案
 

Recently uploaded

TaketoFujikawa_台本中の動作表現に基づくアニメーション原画システムの提案_SIGEC71.pdf
TaketoFujikawa_台本中の動作表現に基づくアニメーション原画システムの提案_SIGEC71.pdfTaketoFujikawa_台本中の動作表現に基づくアニメーション原画システムの提案_SIGEC71.pdf
TaketoFujikawa_台本中の動作表現に基づくアニメーション原画システムの提案_SIGEC71.pdfMatsushita Laboratory
 
20240326_IoTLT_vol109_kitazaki_v1___.pdf
20240326_IoTLT_vol109_kitazaki_v1___.pdf20240326_IoTLT_vol109_kitazaki_v1___.pdf
20240326_IoTLT_vol109_kitazaki_v1___.pdfAyachika Kitazaki
 
2024 02 Nihon-Tanken ~Towards a More Inclusive Japan~
2024 02 Nihon-Tanken ~Towards a More Inclusive Japan~2024 02 Nihon-Tanken ~Towards a More Inclusive Japan~
2024 02 Nihon-Tanken ~Towards a More Inclusive Japan~arts yokohama
 
ARスタートアップOnePlanetの Apple Vision Proへの情熱と挑戦
ARスタートアップOnePlanetの Apple Vision Proへの情熱と挑戦ARスタートアップOnePlanetの Apple Vision Proへの情熱と挑戦
ARスタートアップOnePlanetの Apple Vision Proへの情熱と挑戦Sadao Tokuyama
 
情報処理学会86回全国大会_Generic OAMをDeep Learning技術によって実現するための課題と解決方法
情報処理学会86回全国大会_Generic OAMをDeep Learning技術によって実現するための課題と解決方法情報処理学会86回全国大会_Generic OAMをDeep Learning技術によって実現するための課題と解決方法
情報処理学会86回全国大会_Generic OAMをDeep Learning技術によって実現するための課題と解決方法ssuser370dd7
 
持続可能なDrupal Meetupのコツ - Drupal Meetup Tokyoの知見
持続可能なDrupal Meetupのコツ - Drupal Meetup Tokyoの知見持続可能なDrupal Meetupのコツ - Drupal Meetup Tokyoの知見
持続可能なDrupal Meetupのコツ - Drupal Meetup Tokyoの知見Shumpei Kishi
 
2024 01 Virtual_Counselor
2024 01 Virtual_Counselor 2024 01 Virtual_Counselor
2024 01 Virtual_Counselor arts yokohama
 
「今からでも間に合う」GPTsによる 活用LT会 - 人とAIが協調するHumani-in-the-Loopへ
「今からでも間に合う」GPTsによる 活用LT会 - 人とAIが協調するHumani-in-the-Loopへ「今からでも間に合う」GPTsによる 活用LT会 - 人とAIが協調するHumani-in-the-Loopへ
「今からでも間に合う」GPTsによる 活用LT会 - 人とAIが協調するHumani-in-the-LoopへTetsuya Nihonmatsu
 
IFIP IP3での資格制度を対象とする国際認定(IPSJ86全国大会シンポジウム)
IFIP IP3での資格制度を対象とする国際認定(IPSJ86全国大会シンポジウム)IFIP IP3での資格制度を対象とする国際認定(IPSJ86全国大会シンポジウム)
IFIP IP3での資格制度を対象とする国際認定(IPSJ86全国大会シンポジウム)ssuser539845
 

Recently uploaded (12)

2024 03 CTEA
2024 03 CTEA2024 03 CTEA
2024 03 CTEA
 
TaketoFujikawa_台本中の動作表現に基づくアニメーション原画システムの提案_SIGEC71.pdf
TaketoFujikawa_台本中の動作表現に基づくアニメーション原画システムの提案_SIGEC71.pdfTaketoFujikawa_台本中の動作表現に基づくアニメーション原画システムの提案_SIGEC71.pdf
TaketoFujikawa_台本中の動作表現に基づくアニメーション原画システムの提案_SIGEC71.pdf
 
What is the world where you can make your own semiconductors?
What is the world where you can make your own semiconductors?What is the world where you can make your own semiconductors?
What is the world where you can make your own semiconductors?
 
20240326_IoTLT_vol109_kitazaki_v1___.pdf
20240326_IoTLT_vol109_kitazaki_v1___.pdf20240326_IoTLT_vol109_kitazaki_v1___.pdf
20240326_IoTLT_vol109_kitazaki_v1___.pdf
 
2024 02 Nihon-Tanken ~Towards a More Inclusive Japan~
2024 02 Nihon-Tanken ~Towards a More Inclusive Japan~2024 02 Nihon-Tanken ~Towards a More Inclusive Japan~
2024 02 Nihon-Tanken ~Towards a More Inclusive Japan~
 
ARスタートアップOnePlanetの Apple Vision Proへの情熱と挑戦
ARスタートアップOnePlanetの Apple Vision Proへの情熱と挑戦ARスタートアップOnePlanetの Apple Vision Proへの情熱と挑戦
ARスタートアップOnePlanetの Apple Vision Proへの情熱と挑戦
 
情報処理学会86回全国大会_Generic OAMをDeep Learning技術によって実現するための課題と解決方法
情報処理学会86回全国大会_Generic OAMをDeep Learning技術によって実現するための課題と解決方法情報処理学会86回全国大会_Generic OAMをDeep Learning技術によって実現するための課題と解決方法
情報処理学会86回全国大会_Generic OAMをDeep Learning技術によって実現するための課題と解決方法
 
2024 04 minnanoito
2024 04 minnanoito2024 04 minnanoito
2024 04 minnanoito
 
持続可能なDrupal Meetupのコツ - Drupal Meetup Tokyoの知見
持続可能なDrupal Meetupのコツ - Drupal Meetup Tokyoの知見持続可能なDrupal Meetupのコツ - Drupal Meetup Tokyoの知見
持続可能なDrupal Meetupのコツ - Drupal Meetup Tokyoの知見
 
2024 01 Virtual_Counselor
2024 01 Virtual_Counselor 2024 01 Virtual_Counselor
2024 01 Virtual_Counselor
 
「今からでも間に合う」GPTsによる 活用LT会 - 人とAIが協調するHumani-in-the-Loopへ
「今からでも間に合う」GPTsによる 活用LT会 - 人とAIが協調するHumani-in-the-Loopへ「今からでも間に合う」GPTsによる 活用LT会 - 人とAIが協調するHumani-in-the-Loopへ
「今からでも間に合う」GPTsによる 活用LT会 - 人とAIが協調するHumani-in-the-Loopへ
 
IFIP IP3での資格制度を対象とする国際認定(IPSJ86全国大会シンポジウム)
IFIP IP3での資格制度を対象とする国際認定(IPSJ86全国大会シンポジウム)IFIP IP3での資格制度を対象とする国際認定(IPSJ86全国大会シンポジウム)
IFIP IP3での資格制度を対象とする国際認定(IPSJ86全国大会シンポジウム)
 

進化の終焉とシンギュラリティ・ セミナー(趣旨説明)