Recommended
More Related Content
Similar to 対話システムの倫理におけるカプトロジの意義
Similar to 対話システムの倫理におけるカプトロジの意義 (20)
対話システムの倫理におけるカプトロジの意義
- 1. 0 東京大学大学院 学際情報学府 博士課程 日本学術振興会特別研究員（DC）・理研AIP 水上 拓哉 対話システムの倫理における カプトロジの意義
- 2. Program 1 はじめに 発表の概要 準備 「対話システムの倫理」の現状 本論 カプトロジとは 説得型技術の倫理 カプトロジの理論的妥当性 まとめ
- 3. Program 2 はじめに 発表の概要 準備 「対話システムの倫理」の現状 本論 カプトロジとは 説得型技術の倫理 カプトロジの理論的妥当性 まとめ
- 4. 発表の概要 1. 現在の対話システムの倫理に何が不足しているのか 2. カプトロジとはどのような枠組みか 3. カプトロジを用いることは、 従来の対話システムの倫理に何を加えることになるのか 4. 既存のロボット倫理学（人工知能倫理）の議論の文脈で カプトロジはいかに位置づけられるのか → カプトロジを用いて対話システムを理解することの意義を示唆 3
- 5. Program 4 はじめに 発表の概要 準備 「対話システムの倫理」の現状 本論 カプトロジとは 説得型技術の倫理 カプトロジの理論的妥当性 まとめ
- 7. 対話システムの例 6 e.g. Pepper, りんな, Cortana, Siri, Googleアシスタント 本研究では「身体」をもつコミュニケーションロボットも射程内
- 9. 対話システム実用化の流れと倫理的課題 8 機械学習の理論的進展 ・基本的には既存のアーキテクチャに組み込まれる要素技術に応用される → 対話システムの「発話」のクオリティが（単純に）向上 ・既存のアーキテクチャを一新させるような研究も出現 e.g. Google の Neural Conversational Model [Vinayls and Le 2015] しかし、実用化が進む一方で 対話システムの倫理的課題が浮き彫りに
- 10. 事例：”Tay” の憎悪発話問題（2016年） 9 米Microsoft が開発した対話システム “Tay” → Twitter上でユーザとコミュニケーション 開発動機 もともと中国で人気を博していた”Xiaoice”が 異なる文化的環境でも人々を魅了するのか 結果 ユーザから憎悪発話や自殺教唆などの発話を学習し炎上
- 11. 開発者サイドの対応 10 対話システムの倫理的側面 [東中 2016a] 発言内容の適切さ 誤った、不要な、不快な、反社会的な、議論を呼ぶ発言 プライバシーの保護 利用目的の説明、個人情報に基づく発話 関係者の保護 実験参加者への影響、データ作成者の権利 → 開発者同士で通用する「ガイドライン」に過ぎない 対話システムがなぜ倫理の問題となるのか、 そもそも私たちは対話システムといかなる関係を構築するべきなのかについては教えてくれない
- 12. 2種類の「倫理」 対話システムの倫理を分類（cf. Veruggio[2006]） 11 Short-term ethics Long-term ethics 対話システムが引き起こす喫緊の課題を 短期的な視点で議論・解決 「よりよい生」に向かい、対話システムと いかなる関係を構築するのかを長期的に考察
- 13. 再掲：人工知能学会誌炎上問題 12 Short-term ethics Long-term ethics ・配慮あるデザインを関係者に要請 ・研究者コミュニティ内のガイドライン策定 ・「よい生」に向けたロボットとの望ましい コミュニケーションについて基礎的に検討
- 14. 例：人工知能学会誌炎上問題 13 Short-term ethics Long-term ethics 『人工知能』29巻2号（2014年3月）では、 小特集「「人工知能」表紙問題における議論と論点の整理」が組まれ、 short-term, long-term どちらの考察もされていた しかし、全体として人工知能倫理はshort-term偏重 long-termな取り組みは不足気味（cf. Coeckelbergh[2009]）
- 15. long-term 的な倫理の重要性（工学からの例） 14 対話システム開発の古くからの問題 ...「評価手法」の問題 対話システムの評価手法 タスク指向型 ... タスクの達成度 非タスク指向型 ... ？（評価手法が未確立）
- 16. long-term 的な倫理の重要性（工学からの例） 15 対話システムとの非タスク的な対話の 「何を」「どのように」評価するのか？ → わかっていない [東中 2016b] そもそも対話システムが「よりよい生」に向かって、 私たち人間とどのような関係を構築すべきなのか？（long-termな検討）
- 17. Program 16 はじめに 発表の概要 準備 「対話システムの倫理」の現状 本論 カプトロジとは 説得型技術の倫理 カプトロジの理論的妥当性 まとめ
- 18. カプトロジとは何か カプトロジ（Captology） 社会心理学者の B. J. Fogg が体系化した理論および研究領域 [Fogg 2003] “Computers as Persuasive Technologies” の略 「説得型技術」と呼ばれる技術における 効果的かつ倫理的な設計の方法論を探求 17
- 19. カプトロジとは何か カプトロジ ... コンピュータと説得の理論の交差点 18 コンピュータ 説得の理論 ウェブサイト テレビゲーム スマートフォン バーチャル・リアリティ デスクトップ・ソフトウェア 行動を変える 態度を変える 動機づけ 世界観を変える 迎合性、追従 カプトロジ
- 20. 用語の定義 説得（persuasion） 人の態度・姿勢・行動を変えること 説得型技術（persuasive technology） 人に何らかの説得をする技術的人工物 カプトロジは、HCI（Human Computer Interaction）を 「コンピュータが人を説得する」という世界観で理解 19
- 21. 説得の例 Microsoft Edge の「説得」 Firefox を使っていると... 「Microsoft Edge は Firefox よりも安全 ソーシャルエンジニアリング型マルウェアのブロック率が21%上昇します」 Chrome を使っていると... 「Microsoft Edge は Chrome よりも高速 Google のベンチマークで実証されました。今すぐ切り替えましょう」 20
- 24. 機能の3要素 説得型技術の振る舞いの分類（＝機能の3要素, The Functional Triad） 1. ツールとして（能力の向上） e.g. 従業員の手洗いを監視するハイジーン・ガード 2. メディアとして（体験の提供） e.g. 10代に子育ての大変さを伝えるベイビー・シンクイット・オーバー 3. ソーシャル・アクターとして（社会的関係の構築） e.g. 感情に訴えかけて万歩計の動作を促すポケットピカチュウ 対話システム ... 自然言語を用いて「説得」するソーシャルアクター 23
- 25. ソーシャルアクターとしての説得 説得型技術がソーシャルアクターとして説得するときに用いられる 5つの社会的合図（ソーシャルキュー） 1. 身体的特徴（e.g. 顔、瞳、身体、動作、しぐさ） 2. 心理（e.g. 好み、性格、共感） 3. 言語（e.g. 対話的な言葉遣い、話し言葉、言語の認識） 4. 社会・対話行動（e.g. 交代、協力、質問への応答、相互作用） 5. 社交的役割（e.g. 医者、チームメイト、敵味方、先生、ペット） コンピュータは上記のキューを利用し社会的存在として振る舞い、 人間を効果的に説得することが可能 24
- 27. Program 26 はじめに 発表の概要 準備 「対話システムの倫理」の現状 本論 カプトロジとは 説得型技術の倫理 カプトロジの理論的妥当性 まとめ
- 30. 「どこに着目するか」は新しくない Foggの「説得の意図・方法・結果」モデル自体に新しさがあるわけではない 意図と方法と結果を調べることの必然性はなく、ほかの手法もありうる e.g. Berdichewsky and Neuenschwander [1999] Rawls[1989]の正義論やAndersen[1971]の説得の理論を参照しつつ 「説得者・説得型技術・被説得者」の相互作用を分析するというモデルを提出 29
- 31. 「どこに着目するか」は新しくない また、媒介理論で知られるVerbeek[2011]は、 Berdichewsky and Neuenschwander を引き継ぎつつ、 技術の説得を「技術的媒介」の一形式として再整理 Foggの枠組みでは、「意図しない説得」を扱えないという問題があるが、 媒介理論との接続により克服することができる → “Tay” のような問題も射程内に 30
- 33. Program 32 はじめに 発表の概要 準備 「対話システムの倫理」の現状 本論 カプトロジとは 説得型技術の倫理 カプトロジの理論的妥当性 まとめ
- 34. カプトロジ的な理解の問題点 対話システムの倫理のカプトロジ的な理解 → 対話システム - 人間の関係性構築 ＝ 人間 – 人間の関係性構築 対話システムを「擬人化」させて理解すべきだという立場にコミット 技術の価値中立性という価値観が未だに残っている技術哲学において、 この立場は穏当なものではない（無批判に受け入れることはできない） 本発表では、この立場の哲学的妥当性を 従来のロボット倫理学の先行研究群との比較をすることで示唆したい 33
- 36. ロボット倫理学の歩み（概略） 2002年 Gianmarco Veruggio が Roboethics という言葉を作る 2004年 First International Symposium on Roboethics 2005~2010 Roboethics研究の急増 2011年 基本論文集 robot ethics [Lin et al. (eds) 2011] 2017年 基本論文集 robot ethics 2.0 [Lin et al. (eds) 2017] 2017年 入門書 『ロボットからの倫理学入門』[久木田 et al. 2017] 35
- 39. 道徳的行為者とは 道徳的行為者（moral agent, MA）の標準的見解 [Himma 2009] ・行為を遂行することが可能 ・その行為の背後に何らかの「意図」がある ・何らかの道徳的基準に従っている 技術的人工物が「道徳的行為者」であると言うためには、 自律性、意図、自由意志、といった条件をクリアしなければならない → 人間がそうであるのと同じ意味で行為者だと主張するのは困難 38
- 41. 行為者性と言語使用についてのFoggの見解 道徳的行為者性 説得型技術が行為者性をもつとは主張していない [Fogg 2003, p.284] → 誤った方向に導いたとしてもコンピュータに責任を肩代わりさせるのは不可能 技術の言語使用 「言語とは、コンピュータ・システムに使われるようなものでさえ中立であることはあり得ない。 それは、設計者が考えている説得の目的を達成しやすくすることもあれば、妨げることもあるのだ」 [Fogg 2003, p.147] 40
- 42. 行為者性と言語使用についてのFoggの見解 道徳的行為者性 説得型技術が行為者性をもつとは主張していない [Fogg 2003, p.284] → 誤った方向に導いたとしてもコンピュータに責任を肩代わりさせるのは不可能 技術の言語使用 「言語とは、コンピュータ・システムに使われるようなものでさえ中立であることはあり得ない。 それは、設計者が考えている説得の目的を達成しやすくすることもあれば、妨げることもあるのだ」 [Fogg 2003, p.147] 41 どのように調停できるのか？
- 43. 近年のロボット倫理学における「転回」 初期のロボット倫理学 ... 行為者中心主義のドグマ 「ロボットは道徳的行為者たりえるか？」が中心的な議論 → ロボットの問題行動に対する責任の所在を問うというshort-termな動機 近年のロボット倫理学 ... ロボットの行為者性から離れた人間中心的な検討 情報哲学の議論が影響元？（e.g. Floridi and Sanders [2004]; Johnson [2006] など） 代表的研究 ... Coeckelbergh[2009] の「方法的転回」 42
- 44. Coeckelbergh の 方法的転回 Coeckelbergh[2009] “Personal robots, appearance, and human good: A methodological reflection on roboethics” ・従来の行為者中心主義的アプローチを批判 ・コミュニケーションロボットの社会的かつ感情的な側面を強調 ・ロボットに対する人間の態度を経験的に分析する必要性を主張 43
- 45. Coeckelbergh の 方法的転回 ・ロボットは感情のない存在であるが、私たちはロボットに思考や信念があると考える傾向 ・人間がロボットと相互行為する際、 ロボットが感情を「あたかも」有しているかのように行為する可能性がある → 「私たちの倫理的配慮はロボットではなくむしろ人間、すなわち＜私たち＞が何を考え、 感じ、夢見るのかに向けられるべきである」（Coeckelbergh[2009], p.219） 44
- 46. 2階層のAgency? 45 道徳的行為者 中立的道具be as-if 道徳的行為者 私たち人間がロボットをどのような存在としてみなしているのかというレイヤを導入 中立的道具
- 47. コミュニケーションロボットの受容 46 人々は人工物に対して、 それが生きていないこと（inanimacy）に気付いているとしても、 あたかも生きているかのように扱うことがある [Duffy and Zawieska 2012] コミュニケーションロボットの場合その傾向は顕著 [Kidd and Breazeal 2005; Groom 2008] こういった「ユーザが対話する技術を生きている存在のようにみなす」傾向は、 対話システムの long-term ethics を語る上で無視できない 仮に対話システムが道徳的行為者ではないとしても、 人間側が対話システムの働きかけをどうみなすのかについては考察が求められる
- 49. 対話システムの「言語行為」再考 発話内行為の適切性条件 [Searle 1969] ・正常入出力条件：言語行為の遂行に必要な基本的条件 ・命題内容条件：それぞれの言語行為の命題内容に関する条件 ・事前条件：言語行為の本質ではないが言語行為の成立に必要な条件 ・誠実性条件：言語行為の誠実な遂行のために必要な条件 ・本質条件：言語行為を成立させるための本質的な条件 48 対話システム 対話システムにのみ焦点を当てた分析
- 50. 対話システムの「言語行為」再考 49 「対話システムが適切性条件を満たすか」という問いはロボット中心的 → 本来はその対岸に私たち人間がいる システム単体の発話内行為の客観的な可能性ではなく、 聞き手の人間が感じる発話媒介的な効果を含めた相互行為全体の分析の余地がある ≒ Fogg の言う「中立的ではない技術の言語使用」
- 51. Program 50 はじめに 発表の概要 準備 「対話システムの倫理」の現状 本論 カプトロジとは 説得型技術の倫理 カプトロジの理論的妥当性 まとめ
- 52. まとめ 51 ・対話システムの倫理的課題についてlong-termな取り組みが不足 ・カプトロジは従来の対話システムの倫理に対人関係の社会心理学の視点を追加 → 対話システムの対話性、社会性を考察することが可能に ・対話システムの倫理にカプトロジを用いること ＝ 対話システムと人間の関係性の理解に、人間同士の理論を用いるということ ・対話システムを人間とみなして考察するカプトロジの理論的妥当性は、 ロボット中心的、行為者中心主義的なロボット倫理学よりもむしろ 近年の「人間中心的転回」の文脈で説明することができる
- 53. 引用文献1 52 Andersen, K. E. (1971). Persuasion: theory and practice, Allyn and Bacon. Berdichevsky, D. and Neuenschwander, W. (1999). “Toward and ethics of persuasive technology”, Communications of the ACM, 42(5), pp.51-58. Coeckelbergh, M. (2009). “Personal robots, appearance, and human good: A methodological reflection on roboethics.”, International Journal of Social Robotics, 1.3, pp.217-221. Duffy, B. and Zawieska, K. (2012). “Suspension of disbelief in social robotics.”, 21st IEEE International symposium on robot and human interactive communication (RO-MAN), pp.770-775. Floridi, L., and Sanders, J. W. (2004). “On the morality of artificial agents.”, Minds and machines, 14.3, pp.349-379. Fogg, B. J. (2003). Persuasive technology: using computers to change what we think and do, Morgan Kaufmann. (邦訳: 高良理, 安藤知華 (2005) 『実験心理学が教える人を 動かすテクノロジ』, 日経BP社）. Groom, V. (2008). “What’s the best role for a robot? Cybernetic models of existing and proposed human-robot interaction structures.”, ICINCO, 325. Gunkel, D. J. (2012). The machine question: critical perspectives on AI, robots, and ethics, MIT Press. Himma, K. E. (2009). “Artificial agency, consciousness, and the criteria for moral agency: What properties must an artificial agent have to be a moral agent?”, Ethics and Information Technology, 11.1, pp.19-29. Johnson, D. G. (2006). “Computer systems: moral entities but not moral agents.”, Ethics and information technology, 8.4, pp.195-204.
- 54. 引用文献2 53 Kidd, C. D. and Breazeal, C. (2005). “Comparison of social presence in robots and animated characters.”, Proceedings of the 2005 international conference on human-computer inter-action (HCI). Lin, P., Abney, K. and Bekey, G. eds. (2011). Robot ethics: the ethical and social implications of robotics, MIT Press. Lin, P., Abney, K. and Jenkins, R. eds. (2017). Robot ethics 2.0: from autonomous cars to artificial intelligence, Oxford University Press. Rawls, J. (1989). A theory of justice, Harvard University Press. Searle, J. (1969). Speech acts: An essay in the philosophy of language, Cambridge University Press. Verbeek, P. P. (2011). Moralizing technology: Understanding and designing the morality of things, University of Chicago Press. Veruggio, G. (2006). “The euron roboethics roadmap”, In Humanoid Robots, 2006 6th IEEE-RAS International Conference, pp.612-617. Vinyals, O. and Q. Le. (2015). “A neural conversational model”. arXiv preprint, arXiv:1506.05869. 久木田水生, 神崎宣次, 佐々木拓. (2017). 『ロボットからの倫理学入門』, 名古屋大学出版会. 中野幹生, 奥村学, 駒谷和範, 船越孝太郎, 中野有紀子. (2015). 『対話システム』, コロナ社. 東中竜一郎. (2016a). 「対話システムと倫理」, 『人工知能』, 31(5), pp.626-627. 東中竜一郎. (2016b). 「雑談対話システムの評価とその問題点」, SIG-FPAI, B5(01), pp.21-23.