シンギュラリティ・リテラシーに向けて　超知能誕生後の人と社会の生き方の教育 (in Japanese)

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティ・リテラシーに向けて
超知能誕生後の人と社会の生き方の教育
山上俊彦
Toshihiko.Yamakami@access-company.com
IoT 事業本部, ACCESS
2017/03
山上俊彦 Toshihiko.Yamakami@access-company.com (ACCESS)シンギュラリティ・リテラシーに向けて 2017/03 1 / 32

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
人類を超える
人工知能が生まれた後
　人類がどう生きるかを
　　考えよう

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティ

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティとは何？
コンピュータの
知能が人間超え
- 人間以外の
超知能の誕生
「特異点」のことだが、特に人工知能に関する「特異点」

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
人工知能は人間を超えるか
画像認識精度が
5 %(人間に到達)
Google の猫:
概念学習
碁で世界 2 位に
完勝
【20 世紀から議論されていたが最近までは絵空事扱い: 変化の三大事件】
大量画像から無教師で
Google DeepMind:
畳み込み網の深層学習
・神経ネットワークの方法は既知: ‘‘高速計算” と “大量データ” が革新を生む

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
計算の高速化
半導体技術ハードディスク容量通信容量
【Moore の法則: 18 ヶ月で計算が 2 倍 (40 年たってもまだ継続)】
・等比級数成長は続かない (Moore 本人も認めている)、は科学の常識だが…

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
チェッカーボードの後半: 倍々ゲームの未来
最初は微々
たるもの
- 後半は急激
264
= 1.84 ∗ 1019
【チェッカーボードの後半：1 マス目に 1 粒、次のマスに 2 倍ずつ
・インドの賢人が王に要求した褒美の逸話から

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティ・
リテラシー

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティに備える人類
超知能が
人類を支配より
-
知能の主体喪失で
人類が発狂する
ほうが危険
【アイデンティティ・クライシス：知的劣位への後退】
・過去に「宇宙の中心」「生物の最上位」「合理的精神」を放棄してきた人類：最後の退位

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
四番目の革命 (Luciano Florid)
コペルニクス
理論
Copernicus
人類は宇宙の中心
には居ない
- 進化論
Darwin
人類は至高の
動物ではない
- 精神分析
Freud
人類は合理的
存在ではない
- クラウド
E. Schmidt
人類は知の
中核ではない

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティをどう教育するか
教育に必要なのは
「未来の理想社会」
-
必要とされる
現在不足している
スキルを教育
【シンギュラリティをどう教育するか (あと 30 年くらい猶予がある)】
・シンギュラリティと向き合い、社会を構築するスキル

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティ・リテラシーの定義
シンギュラリティを
想定して次の世代に
教える
-
シンギュラリティ
到達後の社会を
生きるスキル
【シンギュラリティ・リテラシーの定義】
・ロボットがすべての労働をする社会での社会構築・維持スキル

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
リテラシーの段階的進化
読み書き - インターネット
リテラシー
- シンギュラリティ
リテラシー
【リテラシーの段階的進化】
19 世紀まで 20 世紀 21 世紀

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティ・リテラシーの 3 要素
人工知能と
そのインパクト
人と人工知能の
相互関係理解
超知能誕生後の
人間理解
【リテラシーの 3 要素】

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
課題
科学: ナノエンジニアリング、バイオエンジニアリング、ロボッ
トエンジニアリング、人工知能、に関わる課題。安全な人工知能、
の課題。
哲学: 意識を人工物に移すことによる「意識とは何か」の疑問
倫理: 超人類技術の登場による人類の位置づけや放棄
宗教: 超人類技術の誕生による「超越者」や「絶対神」の扱い
社会: 人権、人類への脅威の社会的扱い
教育: ポスト・シンギュラリティで国民に何を教えるかの課題
政治: 行政による技術進歩の抑制の可否

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティへの反応の例
方向性概要
ネオ・ラッダイ
ト
ネオ・ラッダイトは人類と同等の機能を持つコンピュータを嫌悪する人
々。脅威を感じ、人類を救うため、コンピュータの進歩を止め、破壊しよ
うとする。
ハイブリッド・
アプローチ
等比的な技術進歩は認めるが、人類とコンピュータが共同することによ
ってベストな解が生まれる、とポジティブにとらえる。(例: チェス)
現実世界不変神
話
新しい現象の有無にかかわらず、現実世界は変わらず人類は不変である
という信念
道具神話すべての技術は道具であり、使う人間によって統治可能だとする。よい人
間が使えば道具はよい成果を生み、悪い人間が使えば道具は悪い結果を
生む、とする
超楽観論人類はいかなる困難も乗り越えられ、困難を乗り越える過程で必ずポジ
ティブな結果が得られ続けるという信念。
アイデンティテ
ィ危機
人類の尊厳が失われつつあるとし、どのようなことにも強い心理的抵抗
を示す。
虚無主義人生は虚無であるとして個別対応を拒否する

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
感情的反応の例
感情的反応概要
孤立した否定現実世界は技術的変化によっては影響されないと
して、シンギュラリティの成立を否定
感情的激高複雑な技術的・政治的取り組みは避け、民衆の感
情の反映として声高に反対
アクティビス
ト
政治的・社会的ポジションを形成し、対外的に運
動
保護主義現状維持のために規制などで現状維持・保護を目
指す
社会的同調理解不能なことを認め、多数派に同調
救助要請痛みを訴え救助を求める
非難責務を自分以外のなんらかの集団に転嫁

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
感情的対応の理解
強さ・痛み
(感受性)
抵抗
(変化し難さ) 行動連動性
【感情的対応を理解するための 3 要素】

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
超知能への対応を決める３要素
個人的信念
(嗜好、考え方)
集団的態度
(社会的方向性)
他集団との
相互関係
【超知能への対応を決める 3 要素】

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
議論の多様な前提
前提概要
蟻破壊否定人は圧倒的に蟻より強いが毎日蟻を破壊してまわるわけではない。圧倒的
に強い超知能には人類を破壊したり統治したりするメリットがない。
やられる前に破
壊
強い脅威を感じ、やられる前にやることによって将来の脅威を破壊で摘み
取る
原爆は人類を制
圧しなかった
原爆は強力な道具であるが、それ自体は中立であり、その属性は使う側の
属性による。同様に圧倒的な知が生まれても多くの側面で従来の生活は維
持される
等比級数的技術
進化
ムーアの法則が否定されながらも 50 年も自己実現的に達成されてきたの
で、超知能の誕生を止めるこてはできない。
飽和効果等比級数的に成長し続けることは不可能であり、どこかで成長は止まる
暗黙知限界人類の暗黙知は符号化できず、それゆえ超知能の対象にならない。
法的限界プライバシーなどの法的限界によってビッグデータなどの技術は無尽蔵に
高度化することはできない

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
感情の例
反応概要
絶望劣等で無力に感じる。未来へのアクションに何の
成果も感じない。
脅威現在のポジションを失うことに恐怖を感じる。ポ
ジションとは思考と社会における有用性とフレー
ムワーク、アイデンティティ、ほかの人と同じ行
動をする安心感、などを含む
心配具体的にはわからないが未来に不安を感じる
興奮超知能による能力増強にポジティブで強化された
未来を感じ、精神的高揚を得る
陶酔幸福感を感じ、高度に自動化され労働が失われた
未来社会を肯定的に捉える
鬱希望や意味の喪失

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
感情の普遍的 2 次元モデル
-
?
6
期待
(ポジティブ)
(ネガティブ)
(低い) (高い)
自己統治感
興奮
中立
脅威
心配
絶望
鬱
陶酔

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティとどう向き合うのかの２次元モデル
-
?
6
社会的態度
(承認)
(拒否)
内面化外部化

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
シンギュラリティ・リテラシーの現在地
誰も超知能の
着地点は見えない
-
30 年かかって
リテラシーを構築する出発点
【シンギュラリティ・リテラシーの現在地】
・そもそも「シンギュラリティ・リテラシー」って何？の段階

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
リテラシーの異なる方向性
1. シンギュラリティを
支えるスキルセット
2. シンギュラリティの
防御をするスキルセット
3. シンギュラリティ後の
社会を構築するスキル
【シンギュラリティ・リテラシーの 3 つの異なる方向性】

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
超知能誕生後の社会スキル教育
非経済的
インタラクション
スキル
非経済的
組織運営
非経済的
アイデンティティ
【超知能誕生後の社会スキル教育】

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
個別リテラシー (インパクトは人それぞれ)
1. 地域文化 2. 宗教 3. 職業・年齢
【単一のリテラシーがカバーできない範囲：個別リテラシー】

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
おわりに

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
難しい会話
1. 事実認識の違い 2. 感情 3. アイデンティティ
【難しい会話に共通な 3 要素: シンギュラリティは全てに関わる】

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
進化をやめることはできない
人類の歴史を
見ても
- 知能の進化からは
逃れられない
たとえ現代人が猿人より不幸でも
【進化とは変化への対応】
・全体平和のためにイノベーターを止めることはできない

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
過去の例: ローマ帝国
市民は労働を
しなかった
- 労働は奴隷の
仕事
【ローマ帝国に学ぶ: 仕事がなくても市民は生きられる】
・「権利としての労働」は政治や文化や芸術に

.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
参考文献
Ray Kurzweil, “ The Singularity is Near,” 2005
Nick Bostrom, “Superintelligence,” 2014
Jeremy Rifkin, “The Zero Marginal Cost Society,” 2014
Kevin Kelly, “The Inevitable,” 2016
人類と ICT の未来：シンギュラリティまで 30 年？, 情報処理, Vol. 56,
No. 1, December 2014
Yuval Noah Harari, “Sapiens, A Brief History of Humankind,” 2015
Ayn Rand, “Atlas Shrugged,” 1957
Luciano Floridi, “The Fourth Revolution: How the Infosphere is Reshaping
Human Reality,” 2014
Toshihiko Yamakami, “Framework of Emotion for the Singularity in a Social
Context,” ICACT2017, pp. 468–472, Phoenix Park, Korea, February 2017
Douglas Stone et al., “Difficult Conversations: How to Discuss What
Matters Most,” 2010

シンギュラリティ・リテラシーに向けて　超知能誕生後の人と社会の生き方の教育 (in Japanese)

Recommended

Recommended

More Related Content

What's hot

What's hot (8)

Similar to シンギュラリティ・リテラシーに向けて　超知能誕生後の人と社会の生き方の教育 (in Japanese)

Similar to シンギュラリティ・リテラシーに向けて　超知能誕生後の人と社会の生き方の教育 (in Japanese) (20)

More from Toshihiko Yamakami

More from Toshihiko Yamakami (20)

Recently uploaded

Recently uploaded (20)