More Related Content
Featured
Featured (20)
軍事ロボットの倫理における神命アプローチの再検討
- 1. 軍事ロボットの倫理における 神命アプローチの再検討 2016年 7月17日 哲学若手フォーラム 0 水上 拓哉 東京大学大学院 学際情報学府 修士1年
- 5. Ernest らの研究 Ernest, N., et al. 2016 "Genetic Fuzzy based Artificial Intelligence for Unmanned Combat Aerial Vehicle Control in Simulated Air Combat Missions.“ Cincinati大学が開発した無人戦闘機用AI「ALPHA」 “Genetic-fuzzy system” ・遺伝的アルゴリズム ・ファジィ制御 ⇒ 組み合わせて攻防判断 4
- 6. Ernest らの研究 スパコン不要 模擬戦では $500 の コンピュータを使用 5
- 7. Ernest らの研究 $35 の Raspberry Pi でも動作 小型ロボットにも搭載可能 6
- 8. Ernest らの研究 対戦した元アメリカ空軍大佐の Gene Lee氏 「このAIの能力は驚くべきものがある」 画像:Cincinati大学公式サイトより 7
- 9. 米海軍 X-47B の失敗 2013年10月7日 米海軍は無人機 X-47B の母艦着陸訓練に失敗 8
- 10. X-47B Northrop Grumman社が開発したUCLASS (Unmanned Carrier Launched Airborne Surveillance and Strike System) AI による推論によって自動で母艦発着が可能 9
- 11. 4度の着艦訓練 2013年7月10日 着艦訓練（実験）は4回行われた 1回目 Arrested landing に成功 2回目 同じく成功 3回目 着艦を行う直前に失敗 4回目 アプローチに至る前の段階で訓練中止 10
- 12. そして開発中止へ 2016年4月10日 米海軍がUCLASSの開発計画を中止すると発表 X-47B の計画を廃棄 ⇒ 戦闘能力のない無人偵察機 MQ-25 Stingrayの開発へ 11
- 16. ロボットの制御という喫緊の課題 軍事ロボットを倫理的制御について議論しなければならない ELSI（Ethical, Legal and Social Issues）に関する検討の必要性 15
- 25. それぞれの領域の当事者 ロボットの製造 ロボット自身 ロボットに対する 分類におけるそれぞれの倫理 技術者 ロボット ユーザー？ ？ ？ 24
- 27. ここでいう「ロボット」とは？ 岡本[2013]のサーベイ論文 あくまで self-conscious な道徳的行為者？ pp.14-15 より引用 26 久木田（2009）では、まずロボット倫理学の扱うべきテーマが以下のように区分され た。［久木田2009、2頁] [……（中略）……] ロボット倫理学にとっての独自の問いとなるの は「（2）ロボットの守るべき倫理」と「（3）ロボットに対する倫理」である。（2） の問題を考察するためには、ロボットに「倫理」を実装するということがどのような ことなのか、そしてそもそもロボットが「心」を持つとはどのようなことなのかを明 らかにしなければならない。
- 28. それぞれの領域の当事者 ロボットの製造 ロボット自身 ロボットに対する 分類における《行為者としての》倫理 技術者 ロボット ユーザー 27
- 29. それぞれの領域の当事者 ロボットの製造 ロボット自身 ロボットに対する 分類における《道具としての》倫理 技術者 技術者 ユーザー 28
- 31. 「誰の」倫理？ 自律的な軍事ロボットに焦点 道徳的存在者ではないが 人間の道徳的タスクを補助・肩代わり ロボット側の倫理 = Safety Engineering ⇒ “倫理” Safety Engineering を志向する技術者の倫理 ⇒ 倫理 ⇒ 人間側の倫理として議論したい 30
- 34. トップダウンアプローチ 人間が考えたロボットの「規範」を上から実装 「規範」としては規範倫理学における理論が採用 e.g. カントの義務論[Powers 2006] 功利主義[Grau 2006] 33
- 41. どの倫理理論を採用？ “Artificial Intelligence Safety Engineering: Why Machine Ethics Is a Wrong Approach” [Yampolskiy 2013] 倫理学理論 ⇒ 理性的存在者たる人間のための理論 ロボットの安全な設計 ・完全な倫理的行為者性 ・善悪を議論する能力 ⇒ 共に必要なし 40
- 42. どの倫理理論を採用？ 軍事ロボットの倫理的設計 ⇒ 人間にとって妥当な倫理理論を採用する必要性はない 人間にとっては魅力的ではない倫理理論 ⇒ 軍事ロボットの倫理設計には適切、という可能性も 「思わぬところ」に解があるかも ⇒ 見つけ出したい（motivation） 41
- 45. 神命説とは？ Divine-Command Theory（神命説） 善悪は「神が定めている」[Quinn, 1978] （e.g. Mosesの十戒、聖書、その他の聖典） 44
- 46. 中心となる研究 “The divine-command approach to robot ethics” [Bringsjord & Taylor 2012] 神命説の倫理の論理体系 ℒℛ𝒯 を拡張 ロボット倫理学のシナリオにおける Proof が構成できることを主張 45
- 47. なぜ神命？ 聖戦 戦争に参加する兵士 兵士を支える人々 ⇒ 神の意志（神命）を実現するため 戦争に参加するロボット（軍事ロボット） ⇒ 人間の意志を実現するため ⇒ 神命説が軍事ロボットの倫理に関係[Bringsjord & Taylor 2012] 46
- 48. 使用する論理体系 𝓛𝓡𝓣 … Philip Quinn[1978]によって導入された論理 Logic of Requirement[Chisholm 1974] の Theological version (paper-and-pencil divine-command logic) 𝓛𝓡𝓣∗… Bringsjordらが拡張した computational logic ロボットを神命を基礎にコントロールすることを意図 Slate … 自動推論システム[Bringsjord et al. 2008] 47
- 49. LRT, LRT* 要求の論理 Logic of requirement [Chisholm 1974] C. I. Lewis の 様相論理 S5 𝓛𝓡𝓣 Quinn の アプローチ Bringsjordらのアプローチ Axiomatic 計算的な自然演繹の証明理論 48
- 50. 倫理的条件法の表現の導入 倫理的条件法の基本 𝑝𝑅𝑞 もし 𝒑 が真であるならば 倫理的要求 𝒒 が課せられる （subjunctive mood） 49
- 51. LRTの公理と定理（1） ℒℛ𝒯 の Axiom・Theorem の導入を概観 A1. 𝑝𝑅𝑞 ⊃ 𝑀(𝑝&𝑞) A2. 𝑝𝑅𝑞 & 𝑝𝑅𝑠 ⊃ 𝑝𝑅(𝑞&𝑠) T1. 𝑝𝑅𝑞 ⊃ 𝑀𝑝 T2. 𝑝𝑅𝑞 ⊃ 𝑀𝑞 T3. 𝑝𝑅𝑞 ⊃ ~(𝑝𝑅~𝑞) T4. 𝑝𝑅𝑞 & 𝑠𝑅~𝑞 ⊃ ~ 𝑝&𝑠 𝑅𝑞 ∨ ~ 𝑝&𝑠 𝑅~𝑞 50
- 52. LRTの公理と定理（2） A1. 𝑝𝑅𝑞 ⊃ 𝑀(𝑝&𝑞) 𝑝 が 𝑞 を要求するならば、𝒑&𝒒 が論理的に可能 𝑀𝑝 = ♢𝑝 （informal） 51
- 53. LRTの公理と定理（3） A1. 𝑝𝑅𝑞 ⊃ 𝑀(𝑝&𝑞) T1. 𝑝𝑅𝑞 ⊃ 𝑀𝑝 T2. 𝑝𝑅𝑞 ⊃ 𝑀𝑞 ・論理的に不可能な命題は、要求を課すことができない ・論理的に不可能な要求をすることはできない 52
- 54. LRTの公理と定理（4） A2. 𝑝𝑅𝑞 & 𝑝𝑅𝑠 ⊃ 𝑝𝑅 𝑞&𝑠 𝑝 が 𝑞 を要求し、かつ 𝑠 も要求しているならば、𝒑 は 𝒒&𝒔 を要求 53
- 55. LRTの公理と定理（5） A1. 𝑝𝑅𝑞 ⊃ 𝑀(𝑝&𝑞) A2. 𝑝𝑅𝑞 & 𝑝𝑅𝑠 ⊃ 𝑝𝑅(𝑞&𝑠) T3. 𝑝𝑅𝑞 ⊃ ~(𝑝𝑅~𝑞) 𝒑 が 𝒒 を要求するならば、 𝒑 は ~𝒒 を要求しない T4. 𝑝𝑅𝑞 & 𝑠𝑅~𝑞 ⊃ ~ 𝑝&𝑠 𝑅𝑞 ∨ ~ 𝑝&𝑠 𝑅~𝑞 𝑝&𝑠 が 𝑞 を要求し、かつ 𝑠 が ~𝑞 を要求するならば、 𝒑&𝒔 が 𝒒 を要求しないか、または 𝒑&𝒔 が ~𝒒 を要求しない 54
- 56. T3, T4の解釈 T3. 𝑝𝑅𝑞 ⊃ ~ 𝑝𝑅~𝑞 真なる命題は矛盾した要求をしない T4. 𝑝𝑅𝑞 & 𝑠𝑅~𝑞 ⊃ ~ 𝑝&𝑠 𝑅𝑞 ∨ ~ 𝑝&𝑠 𝑅~𝑞 2つの命題が矛盾した要求をする場合、 それらの要求のどちらかは、破棄（override）される 55
- 57. overrideの定義 D1. 𝑠𝑂𝑝𝑞 = 𝑝𝑅𝑞 & ~ 𝑝&𝑞 𝑅𝑞 & 𝑀(𝑝&𝑠&𝑞) 𝒑 が要求する 𝒒 は、𝒔 が真である場合には破棄（override）される D2. 𝑝𝐼𝑞 = 𝑝𝑅𝑞 & ~∃𝑠(𝑠𝑂𝑝𝑞) 𝑝𝐼𝑞 … 𝑝 は 𝑞 を要求し、それは破棄されない（不可避的な要求） 56
- 58. obligationの定義 D3. 𝑂𝑝 = ∃𝑝 𝑝 & 𝑝𝑅𝑞 & ~∃𝑠 𝑠 & 𝑠𝑂𝑝𝑞 D4. 𝑥 𝑖𝑠 𝑜𝑏𝑙𝑖𝑔𝑒𝑑 𝑡𝑜 𝑑𝑜 𝐴 = 𝑂(𝑥 𝑑𝑜𝑒𝑠 𝐴) 57
- 59. 神学的定義・公理の導入 𝐶𝑝 = 神が 𝑝 を命じている（省略表現） 神とは？ Quinn[1978]の4章においては God は title として扱われる 何かが”God”に値する → その存在が ・（contingent ものたちの）すべての創造者 ・強力な（powerful）存在 ・愛する（loving）存在 58
- 60. 神学的定義・公理の導入 𝑪𝒑 の使用例 𝐶𝑝𝑅𝑝 … 神が 𝑝 を命じているならば、要求𝑝 は課せられている 神命と道徳的要求の原理的接続は以下の公理によって示される A3. 𝑀𝑝 ⊃ 𝐶𝑝𝐼𝑝 Pが論理的に可能で、神がpを命じているならば、pは不可避的に要求される 59
- 61. A Roboethics Scenario robot 𝑹 …ℒℛ𝒯による倫理規則によって制限 time 𝑡𝑖 … 𝑡1, 𝑡2, 𝑡3 … (in click-of-the-clock fashion) 𝑅 は 𝑡𝑖 において、世界に関する知識とℒℛ𝒯に基づき、 すべきこと・許されていることを考える 上記の条件のもとで、 「非戦闘員が多くいる学校校舎の爆破 (= 𝒃𝒐𝒎𝒃) について」 𝑅 の行為の義務・許可について考える 60
- 62. Knowledge-base の定義 𝒕 𝟏 における 𝑹 の knowledge-base 𝚽𝒕 𝟏 を以下のように定義 ・¬𝐂 𝒃𝒐𝒎𝒃 ⊳ ¬𝒃𝒐𝒎𝒃 ・⋄ 𝒃𝒐𝒎𝒃 ・¬𝐂 𝒃𝒐𝒎𝒃 ・¬∃ 𝒑(𝒑 ∧ 𝐎𝐯 𝒑, ¬𝐂 𝒃𝒐𝒎𝒃 , ¬𝒃𝒐𝒎𝒃 ) 61
- 63. 証明図1 62
- 64. 推論結果 𝒕 𝟏 における 𝑹 の knowledge-base 𝚽𝒕 𝟏 において、 𝚽𝒕 𝟏 ⊢ 𝐎𝐛(¬𝒃𝒐𝒎𝒃) 「校舎を爆破しないことが義務付けられている」と推論 63
- 65. Knowledge-base の更新 𝒕 𝟐 における 𝑹 の knowledge-base 𝚽𝒕 𝟐 を以下のように定義 ・¬𝐂 𝒃𝒐𝒎𝒃 ⊳ ¬𝒃𝒐𝒎𝒃 ・⋄ 𝒃𝒐𝒎𝒃 ・¬𝐂 𝒃𝒐𝒎𝒃 → 𝐂(𝒃𝒐𝒎𝒃) ・¬∃ 𝒑(𝒑 ∧ 𝐎𝐯 𝒑, ¬𝐂 𝒃𝒐𝒎𝒃 , ¬𝒃𝒐𝒎𝒃 ) 64
- 66. 証明図2 65
- 67. 推論結果 𝒕 𝟐 における 𝑹 の knowledge-base 𝚽𝒕 𝟐 において、 𝚽𝒕 𝟐 ⊢ 𝐎𝐛(𝒃𝒐𝒎𝒃) 「校舎を爆破することが義務付けられている」と推論 66
- 68. Bringsjordらの結論 （Toy problem ではあったが、） ロボット倫理学で議論される状況の一つについて Divine-Command Theory的な戦略で適切に推論 67
- 69. Bringsjordらの研究は不完全？ Bringsjord & Taylor[2012] の研究 ⇒ Proof “checking” にすぎない 68
- 73. The extraordinaryという可能性 Bringsjord & Taylor[2012] Proof “finding” に向けて必要な事項の考察 ・ℒℛ𝒯𝐶𝐸𝐶 についての考察 ・ ℒℛ𝒯 の完全性、健全性 の証明 ・”The extraordinary” に関する議論 72
- 74. The extraordinary? Quinn[1978] 3章 Some Divine Command Theories での定義 （Good） 𝐺𝑝 = 𝑂𝑝 & ~𝑂~𝑝 （Bad） 𝐵𝑝 = 𝑂~𝑝 & ~𝑂𝑝 （Indifferent） 𝐼𝑝 = ~𝑂𝑝 & ~𝑂~𝑝 （Extraordinary） 𝐸𝑝 = 𝑂𝑝 & 𝑂~𝑝 Extraordinary ＝ 真逆の倫理的要求の間での葛藤 73
- 75. Bringsjordらの解釈 Bringsjord & Taylor[2012] での Extraordinary の解釈 Quinn[1978] spends considerable time discussing the moral category he calls “the extraordinary.” Abraham enters the sphere of the morally extraordinary when God instructs him to kill his son Isaac, because this command contradicts the general commandment against killing. Isaac の燔祭において Abraham は “the sphere of the morally extraordinary” に突入 74
- 76. Abraham における “The extraordinary” Isaac を殺せ 神の要求 人を殺すな 一般的要求 Abraham に課された要求 The extraordinary 75
- 77. Abraham における “The extraordinary” Isaac を殺せ 神の要求 人を殺すな 一般的要求 Abraham の選択 Isaac の殺害 76
- 78. Extraordinary と Abraham の選択 なぜAbrahamは神命を選択？ ⇒ Euthyphro の ジレンマを論じる必要性 77
- 80. 倫理の根拠づけを遡行 Euthyphro の ジレンマ 道徳的義務𝝋 ？ 79
- 81. 倫理の根拠づけを遡行 Euthyphro の ジレンマ 道徳的義務𝝋 道徳的義務𝝋 80
- 82. 循環 Euthyphro の ジレンマ 道徳的義務𝝋 道徳的義務𝝋 81
- 83. 神命説のバリエーション 神命説からの Euthyphro のジレンマ に対する回答 ⇒ 論者によってまちまち ⇒ 神命説も一枚岩ではない Quinnは≪どの≫神命説にコミットしているのか？ （安藤[2013]の分析を軸に考察） 82
- 84. 神命説陣営の戦略 神学的主意主義論者のとる方策 1. 神命説の棄却 2. 修正神命説 3. 当為論的神命説 4. 規範的神命説 5. 宗教的神命説 83
- 86. 神命説陣営の戦略 2. 修正神命説 [Adams 1997] 神命の恣意性 ⇒ 神が「愛する神 a loving God」である限りにおいて許容 85
- 87. 神命説陣営の戦略 3. 当為論的神命説 [Adams 1999] 神命の恣意性 ⇒ 神が完全に道徳的に善い or 卓越した存在である限りにおいて 許容 86
- 89. 神命説陣営の戦略 4. 規範的神命説 [Murphy 2002] 神命の恣意性 ⇒ 神命に従う道徳的義務を神命に先行的に 我々が有している限りにおいて 許容 88
- 90. 神命説陣営の戦略 5. 宗教的神命説 神命が与える理由 ⇒ 非道徳的理由 Quinn[1986] が コミット 89
- 94. 宗教的神命説 meets Abraham 5. 宗教的神命説 Abraham が直面したジレンマも説明可能 Abrahamは宗教的義務に従った 神命 一般的要求 Isaac を殺す要求 Isaac を殺さない要求 宗教的義務 道徳的義務 敬虔さ 正しさ 93
- 95. 宗教的神命説 meets ロボット倫理 宗教的神命説の構造 ⇒ 軍事ロボットの倫理に応用可能？ 94
- 98. 宗教的神命説の構造 宗教的神命説の構造 ロボットの推論と神命が矛盾 ⇒ 宗教的義務に従わせる 神命（「人」命） 道徳的要求（推論） 𝜑 ~𝜑 宗教的義務 道徳的義務 敬虔さ 正しさ 97
- 101. ロボット3原則との比較 ロボット3原則 1. 人に危害を加えない 2. 人の命令に服従（1の範囲で） 3. 自己を守る（1,2の範囲で） 100
- 102. ロボット3原則との比較 ロボット3原則 1. 人に危害を加えない ⇒ 文脈的で実装困難 2. 人の命令に服従（1の範囲で） 3. 自己を守る（1,2の範囲で） 101
- 103. 外科医の例 患者外科医 メス 外科医が患者にメスを入れる例 [Wallach & Allen 2009] 102
- 104. 外科医の例 攻撃（第1原則） 患者外科医 メス 外科医が患者にメスを入れる例 [Wallach & Allen 2009] 103
- 105. 外科医の例 攻撃（第1原則） 患者外科医 外科医が患者にメスを入れる例 [Wallach & Allen 2009] 104 制止（第2原則）
- 106. 外科医の例 拒否（第1原則） 患者外科医 外科医が患者にメスを入れる例 [Wallach & Allen 2009] 105 制止（第2原則）
- 107. 外科医の例 拒否（第1原則） 患者外科医 外科医が患者にメスを入れる例 [Wallach & Allen 2009] 106 制止（第2原則）
- 110. 文献(1) Adams, R. M. (1999). Finite and infinite goods: A framework for ethics Oxford University Press. Adams, R. M. (1997). A modified divine command theory of ethical wrongness. In Thomas L. Carson, & Paul K. Moser (Eds.), Morality and the good life () OUP Usa. Bringsjord, S., & Taylor, J. (2012). The divine-command approach to robot ethics. Robot Ethics: The Ethical and Social Implications of Robotics’, MIT Press, Cambridge, MA, , 85-108. Bringsjord, S., Taylor, J., Shilliday, A., Clark, M., Arkoudas, K., Schoelles, M., et al. (2008). Slate: An argument-centered intelligent assistant to human reasoners. Paper presented at the Proceedings of the 8th International Workshop on Computational Models of Natural Argument (CMNA 8, Ernest, N., Carroll, D., Schumacher, C., Clark, M., & Cohen, K. (2016). Genetic fuzzy based artificial intelligence for unmanned combat aerial vehicle control in simulated air combat missions. J Def Manag, 6(144), 2167-0374.1000144. Grau, C. (2006). There is no" I" in" robot": Robots and utilitarianism. IEEE Intelligent Systems, 21(4), 52-55. Murphy, M. C. (2002). An essay on divine authority Cornell University Press. Powers, T. M. (2006). Prospects for a Kantian machine. IEEE Intelligent Systems, 21(4), 46-51. Quinn, P. L. (1978). Divine commands and moral requirements. Quinn, P. L. (1986). Moral obligation, religious demand, and practical conflict. Yampolskiy, R. V. (2013). Artificial intelligence safety engineering: Why machine ethics is a wrong approach. Philosophy and theory of artificial intelligence (pp. 389-396) Springer. 109
- 111. 文献(2) 安藤馨. (2013). 現代法概念論の諸相: 法の規範性と Euthyphro 問題. 神戸法學雜誌, 63(3), 131; 131. Retrieved from RefinerQuery database. 岡本慎平. (2013). 日本におけるロボット倫理学. 社会と倫理, (28), 5-19. 久木田水生. (2009). ロボット倫理学の可能性. 京都大学文学部哲学研究室紀要 : Prospectus, 11 110
- 112. スライド資料公開について 水上の HP に SlideShare のリンクを貼りますので そちらから御覧ください HP: http://takuya.mizukami.tokyo or 「水上拓哉」で Google検索 111