Recommended
More Related Content
What's hot
What's hot (20)
ロボットに倫理を教えるということの困難
- 2. はじめに このたび、ロボット倫理学の重要文献、Wendell Wallach and Colin Allen, Moral Machines:Teaching Robot Right from Wrong, Oxford University Press 2009を久木田さんと一緒に翻訳した。(ウェンデル・ ウォラック、コリン・アレン『ロボットに倫理を教え る：モラルマシーン』名古屋大学出版会、近刊) ところが原書刊行から約１０年も経ってしまった。ふ つうの倫理学の研究書なら十年程度なんの問題もない が、人工知能の場合、刊行後数年でブレイクスルーが 起こり、予想を超えた大発展が生じてしまった。（阪 大のロボット研で2013年頃に某氏が「ディープラーニ ングはヤバイ」と言っていたのをよく覚えている。）
- 3. はじめに • 「そんなことはない！ この本は今でもロボッ ト倫理学の超重要文献だ」と声を大にして言い たいが、何の証拠もなしにそんなことを言って も説得力がまったくない。 • そこで、原書刊行以降に同書に言及した論文を 片っ端から読んで、この本が与えたインパクト は未だに続いていると示すことにした。 • 引用文献数は最終確認時点で７２４（Google Scholar調べ）となっており、単に文献表に挙 げているだけのもの、うちの大学からはアク セスできなかったもの、卒論や修論といった 例も多数あった。 • とはいえ、少なくとも確認できる文献のうち、 『ロボットに倫理を教える』に言及し、その 内容を論じているものを５０本用意した。
- 5. 第一部
- 6. 『ロボットに倫理を教え る：モラルマシーン』 • 序章 • 第１章 なぜ機械道徳なのか？ • 第２章 道徳の工学 • 第３章 人間はコンピュータに道徳的意思決定を してほしいのか？ • 第４章（ロ)ボットは本当に道徳的になりうるの か？ • 第５章 哲学者、エンジニア、AMAの設計
- 7. 『ロボットに倫理を教え る：モラルマシーン』 • 第６章 トップダウンの道徳 • 第７章 ボトムアップで発達的なアプローチ • 第８章 トップダウンとボトムアップを融合させ る • 第９章 ベーパーウェアを超えて？ • 第10章 理性を超えて • 第11章 もっと人間に似たAMA • 第12章 危険、権利、責任
- 8. 序章・第１章 • 本書の主題であるAMA（Artificial Moral Agent）の必要性と重要性が様々 な事例をもって説明される。 • 倫理学の通常の文脈ではAgentは 「行為者」と訳されるが、計算機科学 の文脈では「エージェント」と訳さな ければ誤解を生む。 • 基本的に人間を含む行為者一般を指す と明らかな場合には「行為者」、明ら かにソフトウェアを指す場合には 「エージェント」と訳し分けている。 • よってArtificial Moral Agentも「人工 道徳的エージェント」とした。
- 9. 第２章 • 「(ロ)ボット」〔ロボットとソフトウェ アエージェントの双方を指す言葉〕に倫 理を実装するのは不可能だ、とする ありがちな反論に対して「完全な道 徳的行為者」は無理でも「操作的道 徳」と「機能的道徳」のレベルなら 十分可能であると論じられる。 • 操作的道徳……「設計段階で倫理的 価値観を組み込んだもの」（例：銃 の安全装置） • 機能的道徳……「特定の制限の範囲 内で動作するエージェント or 自分 の動作が引き起こす道徳に関連する 結果を評価できるエージェント」
- 11. 第５章 • それではAMAを実際に作っていく として、「倫理学者にどのような貢 献ができるのか？」という問いが論 じられる。 • 「功利主義とか義務論といった倫理 学理論があって～」と倫理学入門講 義のようなものをしても、「こうい う場合ジレンマが生じて何をしても 不正になります」とか言っても、開 発の役にほとんど立たない。 • 倫理学の中でも長年工学と付き合っ てきた「工学倫理」の先行研究が検 討され、倫理問題を「設計問題の一 種」とみなすウィトベックの見解が 援用される。
- 12. 第６/７/８章 • 「倫理的にふるまう(ロ)ボット」を 設計するための２つのアプローチが 検討され、双方の限界が論じられる。 • 特定の倫理学理論を行動制約として 実装するトップダウンアプローチは、 プログラマに予見しえないAMAの 挙動には使えない[第6章]。 • 機械学習や進化的シミュレーション によって倫理の創発を試みるボトム アップアプローチは、たとえうまく いってもどんな規範が生成されるか 分かったものではない[第7章]。 • よって、トップダウンとボトムアッ プを融合させるハイブリッドアプ ローチが最終的な目的地として定め られる[第8章]。
- 13. 第９/10/11章 • 机上の空論（vaporware）から抜け出 し、トップダウン/ボトムアップの両 アプローチで当時利用可能だった 様々な工学的オプション（義務論理、 エキスパートシステム、マルチエー ジェントシミュレーション等）が検 討されていく[第9章]。 • 倫理的感受性に相当するアフェク ティブコンピューティングも多数の 研究が検討される[第10章]。 • 以上の章で列挙されたコンポーネン トを統合するアーキテクチャとして、 スタン・フランクリンが開発した LIDAの可能性が論じられる[第11章]。
- 15. 第二部
- 16. 書評 • Moral Machinesの刊行後、哲学の最新モノグラフ の書評サイトNDPRや、情報倫理学や技術倫理に関 する有力ジャーナル各誌に書評が掲載された。 • どれもそれなりの長文で、重要な扱いがなされてい る。 • Beavers, Anthony F.(2010) "Wendell Wallach and Colin Allen: Moral machines: teaching robots right from wrong [Book Review]" Ethics and Information Technology 12 (4):357-358 • Danielson, Peter (2009) “Moral Machines: Teaching Robots Right from Wrong.” Notre Dame Philosophical Reviews • Pritchard, Michael S. (2012) “Moral Machines?” Science and Engineering Ethics 18 (2):411-417 • Tavani, Herman (2011)"Can we Develop Artificial Agents Capable of Making Good Moral Decisions?" Minds and Machines 21 (3):465-474
- 17. 注目された 論点 同書に言及している論文をいくつか検討してみると、その内容はあ る程度の論点に集約されていることが分かる。 • 一点目：「機能的道徳」の問題（第２章） • 二点目：「道徳的チューリングテスト」の問題（第４章） • 三点目：「三つのアプローチと徳倫理」の問題（第６－８章） • その後も、現在まで『ロボットに倫理を教え る』に言及して、検討している論文は多数ある。 （資料参照）
- 19. 機能的道徳 操作的道徳
- 20. 反応の一例 “Similarly, Wallach and Allen (2009) introduced a diagram by which three classes of moral agency (operational morality, functional morality, and full moral agency) are distributed on a scale indicating progressive degrees of moral sensitivity and autonomy.” Fossa (2018) “Wallach and Allen also contend AI must be installed with a “functional morality” that empowers machines with the capacity to assess and respond to moral challenges” Grech et al. (2017)
- 22. 反応の一例 “It is for reasons like these, one should note, that suggestions for a moral Turing Test (Wallach and Allen 2008) lean too heavily on imitation as an ethical benchmark.” Arnold & Scheutz (2018) “The Moral Turing Test developed by Wallach and Allen (2009) is similar, but the behavior in question is in relation to some ethical decision (or action)” Roff (2014) “Allen and Wallach have broached this concept (coining the acronym MTT for moral Turing test), rightly noting some difficult problems an MTT would have to resolve in order to be viable (Allen et al. 2006; Wallach and Allen 2008). But while their discussion acknowledges that the MTT is ‘‘inadequate’’, the idea is still not wholly abandoned.” Arnold & Scheutz (2016)
- 24. 反応の一例 “Actually, for a robot to be an ethical learning robot both top-down and bottom-up approaches are needed (i.e., the robot should follow a suitable hybrid approach). Typically, the robot builds its morality through developmental learning similar to the way children develop their conscience.” Tzafestas (2018) “Top-down approaches involve turning explicit theories of moral behavior into algorithms. Bottom-up approaches involve attempts to train or evolve agents whose behavior emulates morally praiseworthy human behavior [12].” Azad-Manjiri (2016) “Wallach and Allen contrast this top down approach to a bottom up one, in which an emphasis is placed on ‘creating an environment where an agent explores courses of action and learns and is rewarded for behavior that is morally praiseworthy’” Sharkey (2017)
- 25. 人工知能は 徳をもてるか • ウォラックらは最終的に妥当なハイブリッ ド・アプローチを「徳倫理」モデルで考え ているが、その方針を巡っても議論はある。 • 彼らが「徳倫理」と呼ぶものがいったい何 なのかはよくわからない。以前ウォラック さんに会った際に「本当にあれがアリスト テレスなんすか」というようなことを聞い たのだけど、「あくまでアリストテレス徳 倫理というのは例えであって、ハイブリッ ドになるなら儒教の徳目とかでも問題な い」という趣旨のことを言っていた。 • この返事は「AMAに至る道は一つだけでは ない」という同書の論点とも一致する。
- 26. 反応の一例 “Allen and Wallach distinguish between a top-down theoretically driven approach, a bottom-up developmental or explorative approach and finally a hybrid (Wallach and Allen, 2009, Chapter 6, 7 and 8), which combines both top-down and bottom-up approaches and furthermore includes a virtue ethical component.” Gerdes & Øhrstrøm (2015) “According to Wallach and Allen, virtue ethics is a superior ethic to both deontology and consequentialism, at least with respect to their computability. And since this is what’s taken to matter at this stage in the game, with this insight we are one step closer to the successful development of AMAs. However, although it is important to ask whether a virtue-ethical framework could be successfully computed into machines, it must also be asked whether the act of creating virtuous machines is permitted by the tenets of virtue ethics.” Tonkens(2012)
- 27. その他の論点 • 他にも、当時すでに生じていた様々なロ ボット倫理問題の引用（３章）とか、哲学 者と工学者がコラボする際に注意するべき 論点（５章）とか、AIが我々の社会にもた らす変化の予測（12章）とか、これまでの 文献で引用されて論じられている論点は多 岐にわたる。 • 今でも彼らの発想は生きているどころか、 当時以上に重要なものになっている。 • ただし、9章~11章で論じられた具体的なコ ンポーネントやアーキテクチャに触れてい る文献はほとんど見つからなかった。（一 番訳出に苦労したところなのだけど…）
- 28. おしまい • いずれにせよ今後日本でロボット倫理学の問題 を論じるにあたって、とても役立つ情報が満載 なので、みなさん是非読んでみてください。 • ロボットへの関心を抜きにしても、エンジニア と倫理学者の交流の試みの一歩を踏み出すもの として面白いですよ。 • QRコードは『ロボットに倫理を教える』に言 及した文献の一覧です（確認したものだけ）。