知識社会では，知識は最も重要な経営リソース．少子高齢化が進む日本において，知識生産性をいかに高めるかが重要な課題である．そこでは，人間と人工知能の協働が不可欠であり，技術経営の視点では，人間と人工知能の協働をいかにマネジメントするかが重要なテーマである．本講演では，人間と人工知能の協働のマネジメント課題 と最新動向を紹介する．

1. Copyright 2021, JAIST Naoshi Uchihira.
日本MOT学会 2021年6月度特別講演会
少子高齢化社会における
人間と人工知能の協働のマネジメント
1
2021/6/18
内平直志(Naoshi Uchihira)
uchihira@jaist.ac.jp
北陸先端科学技術大学院大学
日本MOT学会 理事・企画委員長

2. 2
概要
• 知識社会では，知識は最も重要な経営リソース．
少子高齢化が進む日本において，知識生産性をい
かに高めるかが重要な課題である．
• そこでは，人間と人工知能の協働が不可欠．技術
経営の視点では，人間と人工知能の協働をいかに
マネジメントするかが重要なテーマ．
⇒人間と人工知能の協働のマネジメント課題
と最新動向を紹介．

3. 3
日本の労働生産性（日本生産性本部「労働生産性の国際比較2019」）
出典：2020年版 中小企業白書
https://www.chusho.meti.go.jp/pamflet/hakusyo/2020/chusho/b1_2_1.html
日本の労働生産性は高くない
少子化で労働人口は減少傾向
労働生産性（特に，知識生産
性）をいかに高めるかは，日本
の重要な課題
知的な機械（人工知能）の導入
が課題解決には不可避
テレワークで労働生産性と
出生率は上がる？？？

4. 4
機械（人工知能）で置き換わる職業（ Frey & Osborne 2017）
出典：Frey, C. B., & Osborne, M. A. (2017). The future of employment: How susceptible are jobs
to computerisation?. Technological forecasting and social change, 114, 254-280.
２０１０年の
米国の労働人口に
おける割合
人間と知的な機械
（人工知能）の協
働のマネジメント
が新たな課題
４７％の労働は，
10年～20 年の間
に高い確率で機械
に置き換わる．

5. 5
古くて新しい人間と機械の協働の問題
• 「知性と自律性を備えた賢い機械の力を借りながら人がシステ
ムを制御する（稲垣2012）」ことに関する人間と機械の協働の
問題は，ヒューマン・マシン・インタフェース等の分野で20世
紀後半から検討され，様々な研究・開発が行われてきた．
（航空機の自動運転とパイロットの協働）
出典：稲垣敏之（2012）「人と機械の共生のデザイン」，森北出版．
• 状況認識のモデル
(Situation Awareness)
• 人間中心自動化設計
• 人と機械の機能配分
最近は車の自動運転の実用
化に伴い，重要性が急拡大
https://www.honda.co.jp/LEGEND/hselite/

6. 6
マネジメントにおける人間と機械の協働の例
• オペレーションズリサーチ／ビジネスインテリジェンス
• 研究開発：研究者の能力を拡張し効率を劇的に向上
– AIを活用したデータの分析・論文の分析
データマイニング・IBM Watson
– 最適解（実験計画）の探索支援
マテリアルズ・インフォマティクス：新材料・新プロセス設計開発
• ソフトウェア開発：プロジェクトマネジャー支援
出典：内平ほか (2020). 人工知能とプロジェクトマネジメント. Fundamentals Review, 13(4), 277-283.

7. 7
プロマネ支援：機械参加型意思決定プロセス
出典：森俊樹（2020），リスクマネジメントにおける機械学習と知識創造の統合アプローチ
―機械参加型（machine-in-the-loop）プロセスの提案―,北陸先端科学技術大学院大学，博士論文甲第1197号
データに基づく予測・推定
結果をマネジャーに提示し，
（１）気づきの支援
（２）思い込み
（認知バイアス）の修正
（３）仮説の評価
（４）合意形成支援

8. 8
人間と機械の協働：ミッシング・ミドル
主
導
共
感
創
造
判
断
訓
練
説
明
維
持
増
幅
相
互
作
用
具
体
化
ト
ラ
ン
ザ
ク
シ
ョ
ン
反
応
予
測
適
応
人間だけの
活動
マシンだけの
活動
人間とマシンの
ハイブリッド活動
人間による
マシンの
補完
AIによる人間
へのスーパー
パワー付与
出典：ドーアティ&ウィルソン(2018)，人間＋マシン AI時代の８つの融合スキル，東洋経済新報社
８つの融合スキル
1. 人間性回復スキル
2. 定着化遂行スキル
3. 判断プロセス統合
スキル
4. 合理的質問スキル
5. ボットを利用した能
力拡張スキル
6. 身体的かつ精神的
融合スキル
7. 相互学習スキル
8. 継続的再設計
スキル
人
間
に
よ
る
マ
シ
ン
補
完
Ａ
Ｉ
に
よ
る
パ
ワ
ー
付
与
人間も機械と協働する
スキル（マネジメント）が重要

9. 9
人間にとっての機械（AI）の信頼の問題（NISTレポート）
• 米国NISTのドラフトレポート「Trust and Artificial Intelligence」
https://doi.org/10.6028/NIST.IR.8332-draft （2021年3月）
• 機械学習に基づくAIは，従来の人間が設計する自動化機械と異
なり，データに基づき人間の想定を超えた意思決定を行う．
• ユーザ（人間）にとってのAIシステムを信頼できること
(trustworthy)を評価できる必要がある．
• AIシステムの設計者にとってのシステムの信頼（トラスト）を
高めるために必要な９つの技術的特性
(1) Accuracy, (2) Reliability, (3) Resiliency, (4) Objectivity,
(5) Security, (6) Explainability, (7) Safety, (8) Accountability,
(9) Privacy
人間がAIに適応してしまった場合，AI側に一貫性がないと困る？？

10. 10
EUの人工知能に対する取り組み
• 欧州委員会「AI白書」（2020年2月）※：「EU市民の価値と権利
を尊重した上で、EUにおけるAIの信頼できる安全な開発を可能
にする政策オプションを提示」
「Ecosystem of Excellence」と「Ecosystem of Trust」を実現
• 「AI白書」を具体化する政策パッケージ案（2021年4月）
– AI規制※※（ Ecosystem of Trustを実現する法的枠組み）
• AIのリスクを4段階に分類し規制（禁止，事前適合性評価，
透明性義務，制限なし）．違反には巨額な制裁金．
– AIに関する協調プラン（ Ecosystem of Excellence を実現する戦略）
Human-centric, sustainable, secure, inclusive and trustworthy AIの実現
• EUにおけるAIの開発と導入を可能にする条件の設定
• 研究から市場に至るまで、EUを優れたものが育つ場所にする
• AIが人々のために働き、社会に良い影響を与えるようにする
• 影響力の大きい分野での戦略的リーダーシップの構築
日本企業にも
大きな影響
出典：※European Commission, White Paper on Artificial Intelligence - A European approach to excellence and trust,
COM(2020) 65 final, 2020.
※※https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence

11. 11
日本のAI関連のガイドラインと推進施策
出典：関係府省庁のＡＩ関連の指針・原則・ガイドラインの作成状況
https://www.mhlw.go.jp/content/10601000/000590652.pdf
人間と機械の協働マネジメントに関する企業戦略もこれらを踏まえることが必須
日本のAI関連の指針・原則・ガイドライン（2020年1月）
JST未来創造事業
機械学習を用いたシス
テムの高品質化・実用
化を加速する
"Engineerable AI"技
術の開発
信頼できるAI技術開発の例

12. 12
機械学習応用システムの深化プロセス（RPAのケース）
機
械
の
比
重
人間の比重
人間と機械の関係は
信頼関係も含めて
安定した状態間を
非連続的に深化する
出典：Okuda, et.al.(2021) Exploitation Pattern for Machine Learning Systems, ITC-CSCC 2021.

13. 13
人間と機械の協働のための新しいロードマップ
Backcasting Type
Technology
Function
Value(Human/Society)
Forecasting Type
Technology
Function
Value(Human/Society)
Co-evolution Type
Machine
(Technology/Function)
Human/Society
Value
Machine
(Technology/Function)
Human/Society
Value
Machine
(Technology/Function)
Human/Society
Value
Phase
Time Time
Time
Phase Phase
バックキャスト型 フォアキャスト型
新しいロードマップ：共進型
出典：Uchihira (2021) Dialogue tool for value creation in digital transformation:
Roadmapping for machine learning applications, AHFE 2021 International Conference.
安定状態（Phase） 安定状態（Phase） 安定状態（Phase）

14. 14
機械学習応用システムのロードマッピングワークショップ
自動運転，スマート工場，
RPAの３テーマに関して，
２０１９年９月にロードマッ
ピングワークショップを実
施した．
(Step 1) Issues and
Needs Map
(Step 2) Technology
Seeds and Policy Map
(Step 3) Market Trend
Map (by application)
(Step 4) Issues and
Needs Trend Map
(by application)
(Step 7) Strategic Story
(by application)
(Step 6) Technology
Roadmap (by application)
(Step 5) Needs/Seeds
Matching Table
(by application)
共進型ロードマッピングの手順
出典：Uchihira (2021) Dialogue tool for value creation in digital transformation:
Roadmapping for machine learning applications, AHFE 2021 International Conference.

15. 15
人間・機械協働を含むDXでロードマップがなぜ必要か？
DXは未知の領域へのチャレンジで正しいロードマップなど書けない？
１００年に
一度の
経済革命
経営者
ＤＸ推進部門
ミドルマネジャー
現場
危機感
指示
施策
コンサル入れ
て試行錯誤
ＤＸわかって
ないけど対応
直近の課題
解決に興味
実行
具体的イメージはあいまい
成果が出やすいところから
すぐに役立たないとＮＧ
モチベーションなし
対
話
対
話
対
話
価値創造がリアルから
バーチャルに移行
認
識
ギ
ャ
ッ
プ
を
埋
め
る
対
話
ツ
ー
ル
が
必
要
現実：未知の領域だからこそ地図※がないと認識のギャップが生まれ混迷する！
人間と機械の協働は，信頼
関係が安定した状態間を非
連続的に深化．それに基づ
くロードマッピングがDX推
進の対話ツールとして有効．
※ハンガリー軍のアルプス遭難の話

16. 16
まとめ
• 少子高齢化の日本で知識生産性を高めるためには，人
間と機械（AI）の協働が不可欠．
• 人間と機械の協働は，昔から重要なテーマだが，近年
は範囲が広がりと重要性が増している（自動運転，マ
ネジメント支援）
• 人間とAIの協働では，信頼が重要な要素である．
• 人間とAIの信頼は，国際的な大きな動き（規制と標準
化）があり，技術戦略・競争戦略上も極めて重要．
• 人間と機械（AI）の協働は，信頼関係が安定した状態
間を非連続的に深化する．それに基づくロードマッピ
ングがDX推進のための対話ツールとして有効．