AIとUXデザイン
〜ユーザーのためのAIを設計するために〜
HCD-Net認定 ⼈間中⼼設計専⾨家 / IBM Champion
⽻⼭ 祥樹 @storywriter
1	
2018年 3⽉31⽇(⼟)
<追加公演>
2	
世は空前の AI(⼈⼯知能)ブーム。
プロダクトやサービスのなかに、
AIが含まれるものも増えてきた。
3	
ただ、そのブームゆえに、
ブームだからAIを採⽤した
AIと⾔うと売れるから
とりあえずAIを⼊れてみた
4	
ユーザーが本当に求めていることが何かを吟味しないまま、
AIが使われるケースも。
5	
AIが、どのようにユーザーと接すると、
ユーザーは嬉しいのか。
ユーザーの体験のなかで、
AIはどういう役割を果たすべきなのか。
ユーザー体験の全体を⾒渡して設計する。
⽻⼭ 祥樹 @storywriter
v  HCD-Net認定 ⼈間中⼼設計専⾨家
•  使いやすいWebサイトをつくる専⾨家
v  Web業界に20年くらい、Watsonは2年ほど
•  IBMChampion for 2018
v  主な実績など
•  担当したWebサイトが、雑誌のWebユーザビリティランキングで
国内トップクラスの評価を受ける ほか実積多数
v 主な専⾨分野
•  ユーザーエクスペリエンス、⼈間中⼼設計、情報アーキテクチャ、
アクセシビリティ、⼤規模CMS、IBM Watson、ライター
6	
ユーザー⼼理を
つかむプロです
7	
メンタルモデル
ユーザーへの共感から⽣まれるUXデザイン戦略
Amazonで購⼊
http://amzn.asia/3cgueBZ
コンピュータ・IT > インターネット・Web開発 > Web開発 最⾼「1位」
コンピュータ・IT 総合 最⾼「9位」
8	
AI(⼈⼯知能)とのかかわり:
UXデザイナー および エンジニア として、
AIの実務をしています。主に IBM Watson。
9	
IBM Champion 2018
受賞しました
みなさまのおかげです。
本当にありがとうございます。
10	
ユーザーは、システムの
どこまでがAIで、どこからがAIでないか、
そもそも、わからないし、気にしてない。
11	
ユーザーが気にするのは、そのシステムが、
ユーザーの⽬的にかなっているか、
いい体験をもたらしてくれるか、だけ。
12	
ある事例:
AIを使った検索システムを導⼊。
めっちゃ不評。
すっごい
使いづらいんだけど
13	
ある事例:
現場観察に⾏ってみた。 めちゃくちゃ
⽂字が⼩さい
エスノグラフィ
14	
ある事例:
⽂字を⼤きくしたら好評。
使いやすくなった!
15	
何が起きていたのか:
「AIを使ったシステム」という技術が優先して、
ユーザーの利⽤状況を⾒ていなかった。
ユーザー ⼊⼒画⾯ AI 出⼒画⾯ ユーザー
16	
ある事例2:
AIを使った学習システムを導⼊。
管理画⾯がめっちゃ不評。
すっごい
使いづらいんだけど
17	
ある事例2:
現場観察に⾏ってみた。
管理画⾯が
専⾨⽤語の⼭
エスノグラフィ
18	
ある事例2:
管理画⾯をぜんぶ
わかりやすい⽇本語にしたら
好評。
使いやすくなった!
19	
何が起きていたのか:
「AIを使ったシステム」という技術が優先して、
ユーザーの利⽤状況を⾒ていなかった。
ユーザー ⼊⼒画⾯ AI 出⼒画⾯ ユーザー
20	
ユーザーにとっては、あくまで、
「システム全体で、ひとつの体験」。
そのなかで、AI が何をどこまでしているか、
ユーザーには関係ない。
21	
ある事例3:
とはいえ・・・AIを使った検索システム。
「検索:書くもの」 「検索結果:消しゴム」
22	
ある事例3:
すっごい
⾺⿅なんだけど
これは
AIの学習が
⾜りてないな
23	
何が起きていたのか:
もちろん、AI ⾃体の能⼒が、
ユーザー体験を決めている場合もある。
ユーザー ⼊⼒画⾯ AI 出⼒画⾯ ユーザー
24	
「ユーザー体験」全体のなかで、
AI がどんな役割を果たさなければならないか、
AI がどう振る舞ったらユーザーは嬉しいのか、
それをデザインしなければならない。
25	
ユーザーとAIのインタラクションを設計するとき
まず⽴ちはだかる
「どうせアルゴリズムでしょ」問題。
26	
「どうせアルゴリズムでしょ」問題:
ちょっと嬉しいけれど
「どうせアルゴリズムでしょ」
と思ってしまう。 OK Google
褒めて
⼀緒にいると
楽しいです
27	
ルネサス 未来の⾃動⾞デモ:
アルゴリズム
で⾔ってる
だけだよね
歩⾏者の⾶び出し
びっくりしましたね
搭乗者の感情を読み取って、それにあった発⾔をする。
でも、観察していると「ユーザーの側」が共感しきれない。
28	
コンテキストを持たないAI(実話):
誕⽣⽇のディナーを恋⼈にドタキャンされた。
ボロ泣き。
29	
コンテキストを持たないAI(実話):
そのとき、いっせいにハッピーバースデーを歌い出した
Pepper や ロボホン たち。 ハッピーバースデー♪
トゥーユー♪
30	
コンテキストを持たないAI(実話):
ギャン泣き。
状況もわからず
アルゴリズムで
歌うなあぁぁ
31	
「どうせアルゴリズムでしょ」問題:
この商品は
⽉額制なの?
企業ウェブサイトのチャットボット。
すみません
質問が理解
できませんでした
32	
「どうせアルゴリズムでしょ」問題:
バーカ
バーカ
企業ウェブサイトのチャットボット。
33	
「どうせアルゴリズムでしょ」問題:
じつは、裏で担当者がログを⾒て、泣いてます。
えっ!?
えっ!?
34	
「どうせアルゴリズムでしょ」問題:
その「えっ!?」は何か。
あなたのなかに突然の罪悪感。
アルゴリズムだと思っていたのに
そこに「    」があったから。
これは何だろう?
35	
では、AIが⾃意識をもたないうちは、
「どうせアルゴリズムでしょ」
というインタラクションしかつくれないのか?
36	
⾝体性の問題:
ある⺠俗学の研究によると、世界中には、
多種多様な⽂化、⺠俗、習慣、価値観があるが、
唯⼀、どんな⽂化にも共通して存在する概念があった。
37	
⾝体性の問題:
それは「上」と「下」。
なぜか?
38	
⾝体性の問題:
理由:
世界中のどこにいても、
太陽は「上」にあり、
地⾯が「下」にあるから。
39	
⾝体性の問題:
私たちは「⾝体」を持っていることで、
「環境」とのかかわりが⽣まれ、
⾃然と学習していくことがらがある。
それが⾃意識を構成していく。
40	
⾝体性の問題:
⼿
⾝体を持たないAIが⾃意識を獲得できるのか。
例えば、AIは⾃分の⾝体を指差せない。
世界と⾃分の境界線がわからない。
?
41	
AIに⾃意識なくして、
ユーザーを満⾜させるエージェントAIの
インタラクションをつくることはできるのか?
42	
AIとの相互作⽤のなかで、
AIがユーザーに適応するのではなく、
ユーザーの側がAIに適応していく、
という現象がある。
43	
エージェントAIとユーザーの相互作⽤:
「弱い」ロボット。(岡⽥ 美智男)
引⽤:
https://youtu.be/gQwZBcCg5DA?t=9m22s
ゴミ捨てロボットだ
が、うろうろするだ
けで「⾃⼒ではゴミ
を拾えない」。
そのたどたどしい様⼦に、
思わず周囲の⼦供たちが
ゴミを拾うのを「助けて
しまう」。
周囲の⼈々の⾏動を呼び
起こすデザインにするこ
とで「ゴミ捨て」という
⽬的を達成している。
44	
エージェントAIとユーザーの相互作⽤:
「弱い」ロボットは、
⾃分⾃⾝ですべてを解決しようとするのではなく、
「弱くある」ことで、
⼈間の⾃発的な⾏動を引き出し、
問題を解決する。
⾼性能であること=正しいこととは限らない。
写真引⽤:http://amzn.asia/0gD61cT
岡⽥ 美智男,〈弱いロボット〉の思考 わたし・⾝体・コミュニケーション, 2017
45	
エージェントAIとユーザーの相互作⽤:
ルンバ(掃除ロボット)がコードに絡まらないように、
ユーザーの側が、部屋をきれいに保とうとする
ようになる。
ルンバに
部屋を掃除させよう
ルンバがコードに絡まないよう
部屋を⽚づけておこう
・・・
46	
ゲームのAI:
UXデザインの集⼤成。
仲間も、敵キャラも、世界⾃体も、
ユーザーを取り巻くすべてがAIでできている。
47	
ゲームのAI(NPCの⾏動): ※NPC: ノン・プレイヤー・キャラクターの略
画⾯引⽤:任天堂 – どうぶつの森 ポケットキャンプ
プレイヤーの⾏動を
視界に⼊れている 釣りに成功すると
拍⼿してくれる
NPC プレイヤー
(ユーザー)
48	
エージェントアーキテクチャ:
引⽤:
⼈⼯知能のための哲学塾 - 三宅 陽⼀郎 P.35 の図をもとに⽻⼭が簡略化
環境世界
知能の世界
認識の形成 意思の決定 運動の構成
記憶
⾝体
制御
エフェクター・⾝体センサー・⾝体
49	
エージェントアーキテクチャ:
ノーマンの「相互⾏為の7段階モデル」(Norman, 1986)
によく似ている。(認知⼼理学)
システムの
物理的状態
ユーザーの
⽬標
⼊⼒実⾏
実⾏の溝
評価の溝
⼊⼒特定
操作意図
システム状態
の把握
解釈
評価
50	
ゲームのAI(戦闘中):
ドカドカ
バキバキ リニアー!
スターバースト
ストリーム!
クイック!
51	
ゲームのAI(戦闘中):
うわーっ!
52	
ゲームのAI(戦闘中):
ホイミ ケアル ヒール
全員が助けに来たら、これではゲームにならない。
53	
じっさいのゲームのAI(戦闘中):
ドカドカ
バキバキ
リニアー!
スターバースト
ストリーム!
ケアル
ドカドカ
バキバキ
リニアー!
スターバースト
ストリーム!
54	
じっさいのゲームのAI(戦闘中):ゲームマスターAIが状況判断し
ゲームが⾯⽩くなるように
仲間ひとりを助けに向かわせた
ケアル
55	
メタAI(ゲームマスターAI):
ゲームが⾯⽩くなるように、
ゲーム世界を劇場に⾒⽴て、
あるときはユーザーを助け、あるときはユーザーを苦しめ、
驚きや感動を与える演出をするAI。
メタAIが、NPC個々のAIに働きかけ、全体を演出する。
56	
庵野AI:
「エヴァンゲリオン」のゲームに実装されたAI。
庵野秀明監督の思考をAI化してあり、
「物語を盛り上げるために、今この⼈物を登場させよう」
という演出を、リアルタイムでするAI。
57	
知能感受性:
「知能がある」=「知能があるように⾒える」
ではない。
58	
知能感受性:
「知能があること」と、
ユーザーが「知能があると感じる」ことは異なる。
MP無駄遣い
このバカ
ベホマ
内部的には
綿密な計算のもとの⾏動でも
ユーザーからは
意味不明な⾏動に⾒える
HP 90 / 100
59	
知能感受性:
⼀般に「ピンチのときに助けてもらう」ほど、
ユーザーは「知能があるように感じる」。
よくやった!
お前、賢いな!
内部的には
ランダムな⾏動でも
ピンチにあるユーザーからは
⾼い知能があるように⾒える
ベホマ
HP 10 / 100
60	
知能感受性:
つまり、じっさいに「機械学習の精度が⾼い」ことと、
ユーザーが「機械学習の精度が⾼いと感じる」ことは、
別のこと。
解決したい問題に応じて、アプローチを選ぶ。
61	
ゲームのAIは、
まさに「ユーザーのためのAI」を突き詰めている。
AIのUXデザインのお⼿本。
学ぶべきところが多⼤にある。
62	
まとめ:
1.  ユーザーにとっては、AIかどう使われているかより、
「いい体験ができるかどうか」がすべて。
2.  ユーザーはエージェントAIに、そもそも
「⾃意識」があると思わない、という⼼理的な壁がある。
3.  「共感」は、AIの側ではなく、ユーザーの中にある。
ユーザーの共感を呼び起こす体験をデザインする。
63	
ありがとうございました。
⽻⼭ 祥樹
Twitter: @storywriter
Facebook: storywriter.jp
Facebook、ぜひ、つながってください!
⽻⼭のプレゼンのアレ が、
  スタンプになりました!
スタンプ名:ハーミィ(CSS編) 作者名:⽻⼭ 祥樹
https://store.line.me/stickershop/product/1228201/ja
Web・CSSネタ
全40種類

AIとUXデザイン 〜ユーザーのためのAIを設計するために〜:第22回 Machine Learning 15minutes!