2018年3月31日 「第22回 Machine Learning 15minutes!」でのスライドです。HCD-Net認定人間中心設計専門家として、また #IBMChampion として、ユーザーとAIのインタラクションの設計についてお話しします。 #IBMChampion イベントのページ: https://machine-learning15minutes.connpass.com/event/78109/

1. AIとUXデザイン
〜ユーザーのためのAIを設計するために〜
HCD-Net認定 ⼈間中⼼設計専⾨家 / IBM Champion
⽻⼭ 祥樹 @storywriter
1
2018年 3⽉31⽇（⼟）
＜追加公演＞

2. 2
世は空前の AI（⼈⼯知能）ブーム。
プロダクトやサービスのなかに、
AIが含まれるものも増えてきた。

3. 3
ただ、そのブームゆえに、
ブームだからAIを採⽤した
AIと⾔うと売れるから
とりあえずAIを⼊れてみた

4. 4
ユーザーが本当に求めていることが何かを吟味しないまま、
AIが使われるケースも。

5. 5
AIが、どのようにユーザーと接すると、
ユーザーは嬉しいのか。
ユーザーの体験のなかで、
AIはどういう役割を果たすべきなのか。
ユーザー体験の全体を⾒渡して設計する。

6. ⽻⼭ 祥樹 @storywriter
v HCD-Net認定 ⼈間中⼼設計専⾨家
• 使いやすいWebサイトをつくる専⾨家
v Web業界に20年くらい、Watsonは2年ほど
• IBMChampion for 2018
v 主な実績など
• 担当したWebサイトが、雑誌のWebユーザビリティランキングで
国内トップクラスの評価を受ける ほか実積多数
v 主な専⾨分野
• ユーザーエクスペリエンス、⼈間中⼼設計、情報アーキテクチャ、
アクセシビリティ、⼤規模CMS、IBM Watson、ライター
6
ユーザー⼼理を
つかむプロです

7. 7
メンタルモデル
ユーザーへの共感から⽣まれるUXデザイン戦略
Amazonで購⼊
http://amzn.asia/3cgueBZ
コンピュータ・IT > インターネット・Web開発 > Web開発 最⾼「1位」
コンピュータ・IT 総合 最⾼「9位」

8. 8
AI（⼈⼯知能）とのかかわり：
UXデザイナー および エンジニア として、
AIの実務をしています。主に IBM Watson。

9. 9
IBM Champion 2018
受賞しました
みなさまのおかげです。
本当にありがとうございます。

10. 10
ユーザーは、システムの
どこまでがAIで、どこからがAIでないか、
そもそも、わからないし、気にしてない。

11. 11
ユーザーが気にするのは、そのシステムが、
ユーザーの⽬的にかなっているか、
いい体験をもたらしてくれるか、だけ。

12. 12
ある事例：
AIを使った検索システムを導⼊。
めっちゃ不評。
すっごい
使いづらいんだけど

13. 13
ある事例：
現場観察に⾏ってみた。 めちゃくちゃ
⽂字が⼩さい
エスノグラフィ

14. 14
ある事例：
⽂字を⼤きくしたら好評。
使いやすくなった！

15. 15
何が起きていたのか：
「AIを使ったシステム」という技術が優先して、
ユーザーの利⽤状況を⾒ていなかった。
ユーザー ⼊⼒画⾯ AI 出⼒画⾯ ユーザー

16. 16
ある事例2：
AIを使った学習システムを導⼊。
管理画⾯がめっちゃ不評。
すっごい
使いづらいんだけど

17. 17
ある事例2：
現場観察に⾏ってみた。
管理画⾯が
専⾨⽤語の⼭
エスノグラフィ

18. 18
ある事例2：
管理画⾯をぜんぶ
わかりやすい⽇本語にしたら
好評。
使いやすくなった！

19. 19
何が起きていたのか：
「AIを使ったシステム」という技術が優先して、
ユーザーの利⽤状況を⾒ていなかった。
ユーザー ⼊⼒画⾯ AI 出⼒画⾯ ユーザー

20. 20
ユーザーにとっては、あくまで、
「システム全体で、ひとつの体験」。
そのなかで、AI が何をどこまでしているか、
ユーザーには関係ない。

21. 21
ある事例3：
とはいえ・・・AIを使った検索システム。
「検索：書くもの」 「検索結果：消しゴム」

22. 22
ある事例3：
すっごい
⾺⿅なんだけど
これは
AIの学習が
⾜りてないな

23. 23
何が起きていたのか：
もちろん、AI ⾃体の能⼒が、
ユーザー体験を決めている場合もある。
ユーザー ⼊⼒画⾯ AI 出⼒画⾯ ユーザー

24. 24
「ユーザー体験」全体のなかで、
AI がどんな役割を果たさなければならないか、
AI がどう振る舞ったらユーザーは嬉しいのか、
それをデザインしなければならない。

25. 25
ユーザーとAIのインタラクションを設計するとき
まず⽴ちはだかる
「どうせアルゴリズムでしょ」問題。

26. 26
「どうせアルゴリズムでしょ」問題：
ちょっと嬉しいけれど
「どうせアルゴリズムでしょ」
と思ってしまう。 OK Google
褒めて
⼀緒にいると
楽しいです

27. 27
ルネサス 未来の⾃動⾞デモ：
アルゴリズム
で⾔ってる
だけだよね
歩⾏者の⾶び出し
びっくりしましたね
搭乗者の感情を読み取って、それにあった発⾔をする。
でも、観察していると「ユーザーの側」が共感しきれない。

28. 28
コンテキストを持たないAI（実話）：
誕⽣⽇のディナーを恋⼈にドタキャンされた。
ボロ泣き。

29. 29
コンテキストを持たないAI（実話）：
そのとき、いっせいにハッピーバースデーを歌い出した
Pepper や ロボホン たち。 ハッピーバースデー♪
トゥーユー♪

30. 30
コンテキストを持たないAI（実話）：
ギャン泣き。
状況もわからず
アルゴリズムで
歌うなあぁぁ

31. 31
「どうせアルゴリズムでしょ」問題：
この商品は
⽉額制なの？
企業ウェブサイトのチャットボット。
すみません
質問が理解
できませんでした

32. 32
「どうせアルゴリズムでしょ」問題：
バーカ
バーカ
企業ウェブサイトのチャットボット。

33. 33
「どうせアルゴリズムでしょ」問題：
じつは、裏で担当者がログを⾒て、泣いてます。
えっ！？

34. えっ！？
34
「どうせアルゴリズムでしょ」問題：
その「えっ！？」は何か。
あなたのなかに突然の罪悪感。
アルゴリズムだと思っていたのに
そこに「 」があったから。
これは何だろう？

35. 35
では、AIが⾃意識をもたないうちは、
「どうせアルゴリズムでしょ」
というインタラクションしかつくれないのか？

36. 36
⾝体性の問題：
ある⺠俗学の研究によると、世界中には、
多種多様な⽂化、⺠俗、習慣、価値観があるが、
唯⼀、どんな⽂化にも共通して存在する概念があった。

37. 37
⾝体性の問題：
それは「上」と「下」。
なぜか？

38. 38
⾝体性の問題：
理由：
世界中のどこにいても、
太陽は「上」にあり、
地⾯が「下」にあるから。

39. 39
⾝体性の問題：
私たちは「⾝体」を持っていることで、
「環境」とのかかわりが⽣まれ、
⾃然と学習していくことがらがある。
それが⾃意識を構成していく。

40. 40
⾝体性の問題：
⼿
⾝体を持たないAIが⾃意識を獲得できるのか。
例えば、AIは⾃分の⾝体を指差せない。
世界と⾃分の境界線がわからない。
？

41. 41
AIに⾃意識なくして、
ユーザーを満⾜させるエージェントAIの
インタラクションをつくることはできるのか？

42. 42
AIとの相互作⽤のなかで、
AIがユーザーに適応するのではなく、
ユーザーの側がAIに適応していく、
という現象がある。

43. 43
エージェントAIとユーザーの相互作⽤：
「弱い」ロボット。（岡⽥ 美智男）
引⽤：
https://youtu.be/gQwZBcCg5DA?t=9m22s
ゴミ捨てロボットだ
が、うろうろするだ
けで「⾃⼒ではゴミ
を拾えない」。
そのたどたどしい様⼦に、
思わず周囲の⼦供たちが
ゴミを拾うのを「助けて
しまう」。
周囲の⼈々の⾏動を呼び
起こすデザインにするこ
とで「ゴミ捨て」という
⽬的を達成している。

44. 44
エージェントAIとユーザーの相互作⽤：
「弱い」ロボットは、
⾃分⾃⾝ですべてを解決しようとするのではなく、
「弱くある」ことで、
⼈間の⾃発的な⾏動を引き出し、
問題を解決する。
⾼性能であること＝正しいこととは限らない。
写真引⽤：http://amzn.asia/0gD61cT
岡⽥ 美智男,〈弱いロボット〉の思考 わたし・⾝体・コミュニケーション, 2017

45. 45
エージェントAIとユーザーの相互作⽤：
ルンバ（掃除ロボット）がコードに絡まらないように、
ユーザーの側が、部屋をきれいに保とうとする
ようになる。
ルンバに
部屋を掃除させよう
ルンバがコードに絡まないよう
部屋を⽚づけておこう
・・・

46. 46
ゲームのAI：
UXデザインの集⼤成。
仲間も、敵キャラも、世界⾃体も、
ユーザーを取り巻くすべてがAIでできている。

47. 47
ゲームのAI（NPCの⾏動）： ※NPC: ノン・プレイヤー・キャラクターの略
画⾯引⽤：任天堂 – どうぶつの森 ポケットキャンプ
プレイヤーの⾏動を
視界に⼊れている 釣りに成功すると
拍⼿してくれる
NPC プレイヤー
（ユーザー）

48. 48
エージェントアーキテクチャ：
引⽤：
⼈⼯知能のための哲学塾 - 三宅 陽⼀郎 P.35 の図をもとに⽻⼭が簡略化
環境世界
知能の世界
認識の形成 意思の決定 運動の構成
記憶
⾝体
制御
エフェクター・⾝体センサー・⾝体

49. 49
エージェントアーキテクチャ：
ノーマンの「相互⾏為の7段階モデル」（Norman, 1986）
によく似ている。（認知⼼理学）
システムの
物理的状態
ユーザーの
⽬標
⼊⼒実⾏
実⾏の溝
評価の溝
⼊⼒特定
操作意図
システム状態
の把握
解釈
評価

50. 50
ゲームのAI（戦闘中）：
ドカドカ
バキバキ リニアー！
スターバースト
ストリーム！
クイック！

51. 51
ゲームのAI（戦闘中）：
うわーっ！

52. 52
ゲームのAI（戦闘中）：
ホイミ ケアル ヒール
全員が助けに来たら、これではゲームにならない。

53. 53
じっさいのゲームのAI（戦闘中）：
ドカドカ
バキバキ
リニアー！
スターバースト
ストリーム！
ケアル

54. ドカドカ
バキバキ
リニアー！
スターバースト
ストリーム！
54
じっさいのゲームのAI（戦闘中）：ゲームマスターAIが状況判断し
ゲームが⾯⽩くなるように
仲間ひとりを助けに向かわせた
ケアル

55. 55
メタAI（ゲームマスターAI）：
ゲームが⾯⽩くなるように、
ゲーム世界を劇場に⾒⽴て、
あるときはユーザーを助け、あるときはユーザーを苦しめ、
驚きや感動を与える演出をするAI。
メタAIが、NPC個々のAIに働きかけ、全体を演出する。

56. 56
庵野AI：
「エヴァンゲリオン」のゲームに実装されたAI。
庵野秀明監督の思考をAI化してあり、
「物語を盛り上げるために、今この⼈物を登場させよう」
という演出を、リアルタイムでするAI。

57. 57
知能感受性：
「知能がある」＝「知能があるように⾒える」
ではない。

58. 58
知能感受性：
「知能があること」と、
ユーザーが「知能があると感じる」ことは異なる。
MP無駄遣い
このバカ
ベホマ
内部的には
綿密な計算のもとの⾏動でも
ユーザーからは
意味不明な⾏動に⾒える
HP 90 / 100

59. 59
知能感受性：
⼀般に「ピンチのときに助けてもらう」ほど、
ユーザーは「知能があるように感じる」。
よくやった！
お前、賢いな！
内部的には
ランダムな⾏動でも
ピンチにあるユーザーからは
⾼い知能があるように⾒える
ベホマ
HP 10 / 100

60. 60
知能感受性：
つまり、じっさいに「機械学習の精度が⾼い」ことと、
ユーザーが「機械学習の精度が⾼いと感じる」ことは、
別のこと。
解決したい問題に応じて、アプローチを選ぶ。

61. 61
ゲームのAIは、
まさに「ユーザーのためのAI」を突き詰めている。
AIのUXデザインのお⼿本。
学ぶべきところが多⼤にある。

62. 62
まとめ：
1. ユーザーにとっては、AIかどう使われているかより、
「いい体験ができるかどうか」がすべて。
2. ユーザーはエージェントAIに、そもそも
「⾃意識」があると思わない、という⼼理的な壁がある。
3. 「共感」は、AIの側ではなく、ユーザーの中にある。
ユーザーの共感を呼び起こす体験をデザインする。

63. 63
ありがとうございました。
⽻⼭ 祥樹
Twitter: @storywriter
Facebook: storywriter.jp
Facebook、ぜひ、つながってください！

64. ⽻⼭のプレゼンのアレ が、
スタンプになりました！
スタンプ名：ハーミィ（CSS編） 作者名：⽻⼭ 祥樹
https://store.line.me/stickershop/product/1228201/ja
Web・CSSネタ
全40種類