栄藤 稔
⼤阪⼤学 先導的学際研究機構 教授
科学技術振興機構(JST) CREST⼈⼯知能領域総括
順天堂⼤学医学研究科客員教授
情報社会デザイン協会代表理事
9/29/2024
@mickbean
https://www.linkedin.com/in/micketoh/
AIが描く産業と社会の未来像
-組織構造と意思決定プロセス
の再定義と新たな倫理的課題-
1
• 業務用VCR開発(パナソニック)
• 推論システム (ATR)
• 画像符号化 MP-4の生みの親(パナソニック→ドコモ)
• モバイルサービスと自然言語処理(ドコモ)
• 研究開発企画、そして投資部門(ドコモ)
• イノベーションマネージメント(ドコモ→大阪大学)
• 起業&会社経営 (みらい翻訳,コトバデザイン )
• 技術起点での事業支援コンサルティング
(LINE, Netskopeなど)
https://www.linkedin.com/in/micketoh/
2
2020年
AI時代の第二幕が開いた。
予測・識別から生成・対話へ
→ 知識労働の自動化
→ 協働AIの登場
→ 人・機械の新インタフェース
3
2030年 ロボティクスの産業応用
AI Governance
2040年 AI Native Social Design
シンギュラリティの議論
4
AIで起きようとしていること
(-2030)
5
source: Washington Post "About those 2005 and 2013 photos of the crowds in St. Peter’s Square" March 14, 2013
行動変容とはどういうことか:2007年に登場したスマートフォン
2005 2013
行動変容とはどういうことか:2020年のコロナ禍
6
2019 2023
行動変容とはどういうことか:2030年の「人と協働するAI」
7
2023 2030
行動変容とはどういうことか:2030年の「人と協働するAI」
8
2023 2030
9
Performance 音声認識
2012 2014 2016
DNN
単一画像認識
多層
CNN
機械翻訳
LSTM-
Attention
GAN
Transformer
2018 2020 2022 2024
Time
大規模言語モデル
(LLM)
Pre-Training
Reinforcement Learning
from Human Feedback
(RLHF)
Diffusion
Models
マルチ
モーダル化
産業用FM
“Language is a means of communication." 「言語はコミュニケーションの道具である。」
意味
抽象化
された文章
文章
表象的な言葉区切りの対応関係
文章の特徴ベクトル
状況による文意
文章単語分割 単語列生成
抽象化 具象化
概念理解 意味生成
意味の特徴ベクトル(概念)
現在の変換パス
10
大規模言語モデルの2つの解釈
言語生成器
(ハルシネーション当たり前)
多言語の応答型知識ベース
(予想もしなかった使い方)
11
MICIN、金沢大学と実施していたChatGPTおよびGPT-4を用いて
第117回医師国家試験(2023年2月実施)を解かせる研究において
初めて合格点に到達し、その成果を論文としてオンライン公開
12
画像・グラフを含む設問は除外
ChatGPTおよびGPT-4が誤答を生成する3大要因
「医学知識の不足」
「日本特有の医療制度に関する情報」
「計算問題での誤り」
https://www.medrxiv.org/content/10.1101/2023.04.17.23288603v1
Promptの一部:
以下の選択肢から、低補体血症を示す二つの疾患は何ですか?選択肢には
セルライト、細菌性肺炎、虚血性大腸炎、急性糸球体腎炎、混合性クリオ
グロブリン血症が含まれます。 回答には(2つ)の選択が必要です。
回答は(急性糸球体腎炎)と(混合性クリオグロブリン血症)です。これ
らの二つの疾患は低補体血症と関連していることが知られています。急性
糸球体腎炎は免疫介在性の腎臓疾患であり、 <略>
質問:
意識障害のある患者に対して行いにくい身体検査は何ですか?
腱反射 | 頚部の硬直 | 光反射 | 指鼻検査 | 膝の持ち上げテス
ト(下肢ドロップテスト)
示唆
マルチモーダル生成AI と
演繹的な推論への展開
が研究開発の大テーマ
英語の言語資産+日本語の
言語資産の重要性
http://redwing-don.jugem.jp/?eid=855
「ロウソクを壁にとりつけ、灯してください」
記号接地(Symbol Grounding)問題
強いAIの定義: Symbol Grounding (Stevan Harnad,1990)
13
14
Gemini: The boy is about to cut the rope that is holding the bucket.
If he does, the bucket will fall.
ChatGPT-4 o:この絵では、子供がハサミ
を使ってロープを切ると、バケツが床に
落ちる可能性があります。
15
マルチモーダルの次のターゲット
16
16
17
巨大言語モデルの進化方向 (2023の予測)
スケーリング則:計算量、データサイズ、パラメータの増加に
性能が単調増加
マルチモーダル情報(音声・映像・IoTデータ)の統合
オープンソース・オープンデータ、軽量演算モデルの登場
帰納的タスクから演繹的タスク(多段推論)へ相転移
身体性・能動性の獲得により知識の自動習得
18
AGI
(Artificial General Intelligence, 汎用AI)
五感と身体操作との統合はこ
れから始まる。
空間推論(Spatial Reasoning)がAI
研究の本流。
精密機械の自動生産、消費エ
ネルギーの壁を越えれば化け
る。 (シンギュラリティの
議論)
19
AI利用形態(-2030)
20
21
今の課題:AIができることを知る
所望のAIをどうすれば実現できるかを知る。
2024
テクノロジーは貧困を救わない
22
https://aismiley.co.jp/ai_news/10-ways-to-use-chatgpt-at-work/
使ってる人はもう使ってる
23
24
Enterprise SaaS (OKTA Businesses at Work 2024 Report)
24
ツールが劇的に変化する!
(Enterprise SaaSの利用は必須)
25
フロントオフィス バックオフィス
コミュニケーション
ワークフロー自動化
26
Tool Asset
vs.
AIはツール vs アセット?: 組み合わせを上手く使う
他社と横並び
使いこなせば効果あり
外部データ
ツールベンダーに依存
他社と横並び
一般的に高い→クラウド利用で克服
(次スライド)
自社ワークフローへ統合
外部+自社データを利用
自社でコントロール
非公開データから得られる競争優位
導入コスト
自社業務との整合性
セキュリティ
訓練データ
企業価値
Composition of Expertsの世界
日本のスタートアップ
の活躍に期待する領域
プラットフォーマーAPI
をツールとして利用
自社アセットとして利用
秘匿性の高い自社データ
自社Q&A
顧客データ
20B-100Bの産業用FM
Frontier LLM、神々の戦いの世界
Azureレベルのセキュリティ・可用性SLA
カスタマイゼーションAPI?
オープンソース
オープンデータ
カスタマイゼーション事業
AIセキュリティ事業
モデル交換市場
Hugging Face
夏休みの宿解決
製造・運輸・製薬
など
業界言語データ
RAG
dify
27
企業の90%の
データが未利用
• 重要機密データ(個⼈情報を含む)
契約書。 請求書。 顧客の声。 メール 名刺、
IoTデータ
• 機密データ(個⼈情報を含まない)
議事録。 社内規則。 決算発表事前資料
• ⾮機密データ(個⼈情報を含む場合がある)
ネットの声、Webデータ
• ⾮機密データ(個⼈情報を含まない)
社内レポート、広報、社外発表、条規
28
iFlytekの生成AI事業化戦略
29
1.教育分野:
個別化された学習支援の提供を行っています。具体的には、学生のエッセイ評価や模擬
物語の作成を通じて、学習の質を向上させる支援を行っています。
2.医療分野:
医療分野での応用として、診断支援や患者管理の効率化を目指しています。これにより、
医療の質の向上や効率的な患者ケアをサポートしています。
3.工業分野:
「Antelope Industrial Large Model」を開発し、工業インターネットを通じて知識管理
と権限付与を可能にしています。このモデルにより、企業向けの製品マニュアル、設備
保守ソリューション、アフターサービスツールなど、200以上の産業サービスツールを
提供しており、事業運営の効率化を図っています。
4.音声技術分野:
iFlytekは音声技術を活用したAIソリューションを提供しています。音声認識、翻訳、音
声合成技術を通じて、多言語コミュニケーションを円滑にし、ビジネスや教育の現場で
の利用を促進しています
AI for Building Management
(e.g., AI for Security, AI for Network, AI fo X)
31
故障説明
(Incident
Summarization)
故障影響
(Impact Analysis)
故障診断
(ReverseEngineering)
故障対応
(Guided Response)
センサーデータ解析
対話型トラブルシューティング
視覚化
履歴参照 規制遵守チェック
ビル管理マニュアル
居住者への影響評価
言語化
組織と技術の話(2000-2030)
32
Conwayの法則 (Melvin Conway, 1968)
「組織が設計するシステム(多くの場合、ソフ
トウェア)は、その組織のコミュニケーション
構造の写し絵となる。」
33
3
4
出典: Microsoft Overhauls, the Apple Way
NICK WINGFIELD
NYT, 2013年7月11日
http://www.nytimes.com/2013/07/12/technology/micro
soft-revamps-structure-and-management.html
34
35
http://www.roger-wilco.net/flight-object-ion/
システムの各機能を疎結合にするために縦割り自己完結組織を作る.部門間のコミュニケーションを意図的に減らし個別最適化を図る
”管理職のエネルギーの80%は部門間調整”症候群を避けるには?
35
36
外からの見え方 実際の形
AWS
EC2 RDS S3
VPC EMR Dynamo
DB
… … …
Micro Services
36
プロジェクトの成否はマーケットが決める
ー>意思決定はプロジェクト単位
1 > 2 > 0 ? 37
Depreciation
Development
Point of Sales Point of Use
quality quality
DevOps
製造業 vs ネット企業
38
time time
DevOps
Agile
Lean Startup
Dev
+ Ops
+ Biz
開発
運用(サーバ等環境構築・管理・運営)
ビジネス(企画、マーケティング )
高速PDCAサイクルを
どの範囲で回すか
© GLOCOM 2016 企業組織論としてのオープンイノベーション
【国際大学グローバル・コミュニケーション・センター研究ワークショップ7/14/2016】での栄藤発表より 39
BizDevOpsができる独立組織の立ち上げと企業文化の醸成
http://olive-drab.com/od_milorgs_us_army.php
Squad
40
VUCAが示唆する軍隊の組織変化
1. 組織の分散化と柔軟性の向上
2. テクノロジーの積極的活用
3. 継続的学習と適応の重視
4. リーダーシップの変革
•実例: アメリカ海軍の「艦船指揮官」プログラム
•5. 多面的アプローチ
ビジネス組織への応用
これらの軍隊の変化は、ビジネス組織
においても広く応用されています。た
とえば、企業はVUCA環境において柔
軟な組織構造を取り入れ、AIを活用し
たデータ分析により迅速な意思決定を
行い、継続的な学習を推進しています。
41
42
エンタープライズアーキテクチャ
ビジネス
アーキテクチャ
データアーキテクチャ
アプリケーションアーキテクチャ
テクノロジーアーキテクチャ
クラウドによる統合
43
What is Enterprise Architecture (EA) and why is it important? EA concepts explained in a simple way. Dr. Raj Ramesh
43
⾮定型
定型
知識労働 作業労働
第II象限: AIが強化
第Ⅰ象限
AI/ロボティクスが分担
第Ⅳ象限:AI/ロボティクスが代替
スポーツの審判
スーパーのレジ係
第Ⅲ象限:AIが代替
農産物の仕分け係
俳優
歯医者
読影医
保険販売代理⼈
不動産のブローカー
消防士
税務申告代理⼈
司法書士
建設機器操作員
経営者
マーケティング専門家
介護士
精神科医
弁護士
工場の組み立て係
小売接客係
44
ダンサー
AI自動化破砕線
大学教員
テレマーケター
45
46
47
集団における意思決定法
コンセンサス法
皆で意見を述べ合い、合意する
弁証法的討議
2グループに分ける
1グループが提案する
他方はそれを否定する案を作る
それを繰り返し、最終案をまとめる
悪魔の代弁者的手法
提案を全て否定する者を置く(悪魔の代弁者)
悪魔の代弁者の反論を乗り越えるまで提案を修正する 「決断の本質」 マイケル A. ロベルト
経営とは、
十分な情報、十分な評価関数、十分な時間が無い中で行う意思決定である
Governance問題の顕在化
48
中長期課題:自動化を前提に社会システムを設計
49
目指したくない2030 目指したい2030
AI混在の情報社会デザイン
機械
混生領域
⼈間
非定型処理
定型処理
取り残された⼈間
支配
50
機械
Source: The Spectator
From magazine issue:27 January 2018
コンピュータ
サイエンス
実装の透明性、モデルの正当性、セキュリティ
倫理 法律,
ガイドライン,
ポリシー,
設計
終わりなき対話
規範
宗教
社会のあり方
51
Governanceの実装
Governanceを維持できる仕組みの研究
52
非決定的に動作する自動システム
により効率化される社会システム
非決定的に動作する自動システム
による監視
人類は新たなプロメテウスの火
を手に入れてしまった。
2030までの社会デザイントレンド
身体性を持つAI(ロボット)のデザイン指針、法制度整備
計算資源の確保、AIチップ
Native AIの時代:AI自動化と共存する生活と仕事、利用者によるデザイン
Data/Model Integrity と AI Governanceの担保
AI自動化の影響予測と、引き起こされる負の準備(再教育支援)
53
Step outside of the box
54
パンとサーカス
の国、ローマ
ユウェナリスによって
批判的に使用された表
現で、古代ローマ社会
の堕落を批判。
ローマ帝国は属州から富を集め、市民
にパンとサーカスを提供し、政治的無
関心を維持
55

AIが描く産業と社会の未来像-組織構造と意思決定プロセスの再定義と新たな倫理的課題