「AIと統治機構に関する考察（公開版）」は、2016年11月12日に開催された日本法哲学会学術大会のAワークショップ「人工知能（AI）／ロボットと法」での個別報告資料です。 法哲学年報2016の pp.163-164 で本ワークショップの概要をご覧いただけます。 http://www.yuhikaku.co.jp/books/detail/9784641125988

1. AIと統治機構に関する考察
2016年度日本法哲学会学術大会（於・立教大学池袋キャンパス）
Aワークショップ「人工知能（AI）／ロボットと法」セッション
2016年11月12日
マカイラ株式会社 工藤郁子
公開版

2. 本報告の目的
◉ 本報告は、AI/ロボットが統治機構の一翼を担うことになったときの
諸課題を例示し、検討することを目的としている。
◉ 以下では、まず創発性に関する問題意識を説明した上で、いくつ
かの「想定シナリオ」について検討する。次に、AI/ロボットが統治
機構にもたらすであろう課題を2つ指摘し、AI/ロボットが変容を迫
る伝統的な概念について述べる。

3. 透明性の確保
◉ AI/ロボットは、学習によって一定程度自律的判断を行う。
◉ 成長過程や判断基準を形成する過程を人間がトレースできず、判
断過程が不透明になるおそれが指摘されている。
◉ そのため、AI開発につき、アカウンタビリティ、管理可能性
（governable）、「オープンで、透明で、理解可能であること」などを
求める立場が見受けられる。
◉ AI研究開発8原則、ホワイトハウスの「AIの未来に備えて
（Preparing for the Future of Artificial Intelligence）」はその例であ
る。

4. 創発性と批判
◉ 一部の論者は、こうしたAI/ロボットの創発性（emergence）の問題
が、人と人の間の責任分解に帰着できるとしている。
◉ たしかに、AI/ロボットの不透明性は、開発者や製造者などの民
事・刑事の責任発生原因として処理した方がよい場面も多い。
◉ しかし、別の要素にも注目する必要があるのではないだろうか？
◉ 司法、立法、行政の各分野において、AI/ロボットがどのような変化
をもたらしうるか、想定されるシナリオを検討したい。

5. 想定シナリオ
近い将来 遠い未来
司法
 量刑予測による意思決定支援
 類似裁判例のサジェスト
 再犯予測による量刑の反映？
 「AI/ロボット裁判官」（すべては無理
でも略式手続などなら…）？
 「AI/ロボット裁判」？（cf. 動物裁判）
立法
 法制執務業務支援
 デジタルゲルマンダリング
 AI/ロボットの法人格？
 「AI/ロボット革命」？
行政  犯罪予測に基づく行政警察活動
 法の自動的な執行？
 法的推論の実装？

6. 例1：自律性の問題
◉ ニュースアプリやSNSなどで、トピックをピックアップする機能を、人
間の編集者による選択から、AIを活用した選択（のみ）に変更した
ケースを想定。
◉ もしもAIによって行われたトピックの選択が（環境要因を学習するこ
とで、開発者の意図しない形で）「偏向」し、その集積によって（偏向
の有無や前提条件すら不透明なまま）世論の誘導が起きて政策形
成に影響を与えるというシナリオが想定される。
◉ このシナリオでは、（民事・刑事の責任分解というよりも）「自律性」
に係る問題が生じている。

7. 例2：AI/ロボットの権利能力
◉ あるいは、より遠い将来には、ロボットの法人格を認めなければな
らないかもしれない。
◉ サミル・チョプラとローレンス・ホワイトは、「ヒューマニストの感性を
逆撫でするリスク」があると認めつつ、「法的義務への感受性」をも
ち、さらには「刑罰に道徳的な感受性を有し、最終的に「コンピュー
タであることを忘れさせる」ような能力を持つのであればAI/ロボット
がある種の権利能力者になりうると主張している。

8. 法人格の問題
◉ 現代において動物裁判が奇異な視線を向けられるように、「AI/ロ
ボット裁判」もまた社会的受容性がないだろう。
◉ ただし、AI/ロボットの法人格を認めるとしても、能力が制限される
ことは十分に考えられる。
◉ （社会のメンバーシップの話でもあるので、責任分解とはやや位相
がずれるものの）民事・刑事で分けて考えるべき。
◉ 民事法上は、財団法人などと同様に扱うべきか、また、動物、子供、
被用者の行為に関する伝統的な類型のいずれかに比定して位置
づけるべきか、さらに、ローマ法下による奴隷を参照すべきか…な
ど様々な議論が呼び起こされている。

9. まとめ
◉ いずれにせよ、AI/ロボットは、「責任」だけでなく、「自律性」や「法
人格」への問いを呼び起こす。
◉ それは、近い将来または遠い未来の統治機構に影響を与えうるよ
うに思われる。
◉ 民主主義を前提とした統治機構は、個人の自由な意思と自律を基
調としており、社会的に受容されてきたはずだからである。
◉ AI/ロボットは、「自律」や「法人格」（さらには「民主的正統性」）とい
った伝統的な概念に変容を与えるか？

10. “
◉ Asaro, Peter. "How just could a robot war be." Current issues in
computing and philosophy (2008): 50-64.
◉ Balkin, Jack M. "The Path of Robotics Law." California Law Review,
Forthcoming (2015).
◉ Calo, Ryan. "Robotics and the Lessons of Cyberlaw." Cal. L.
Rev. 103 (2015): 513.
◉ Chopra, Samir, and Laurence F. White. A legal theory for
autonomous artificial agents. University of Michigan Press, 2011.
◉ Pagallo, Ugo. The laws of robots. Heidelberg: Springer, 2013.

11. 以上です。
ご清聴ありがとうございました。