Ethics of AI - AIの倫理-
•Download as PPTX, PDF•
2 likes•414 views
プログラミングの実装と異なり、AI モデルの実装はデータをもとにして行います。 この誰もが理解しているコトから発生する社会・ビジネス実装をする際に注意したい倫理とそれらへの対応である Responsibility について取り扱います。
Recommended
More Related Content
What's hot
What's hot (20)
Similar to Ethics of AI - AIの倫理-
Similar to Ethics of AI - AIの倫理- (20)
More from Daiyu Hatakeyama
More from Daiyu Hatakeyama (20)
Recently uploaded
Recently uploaded (14)
Ethics of AI - AIの倫理-
- 1. Ethics of AI - 機械学習を扱う上で知っておきたい、倫理問題とその対応策 - 畠山 大有 | Daiyu Hatakeyama Architect && Software Engineer && Applied Data Scientist Microsoft Japan /dahatake @dahatake /in/dahatake /dahatake /dahatake /dahatake
- 3. 「動けばいい」
- 4. Deepfakes
- 5. 10 年前 Studios で制作 高価なCG設備 | プロのエディター | 何百時間 現在 誰でも制作 豊富なアプリ | 専門性不要 | 数分
- 9. 虚偽情報対策に向けた新たな取り組みについて - News Center Japan (microsoft.com)
- 11. • 例: StreetBump smartphone app • スマートフォンの GPS “Data” を使って、 道路の異常個所を収集 • 年収の低い方は? http://www.streetbump.org/
- 16. Report 企業役員
- 20. 責任ある AI のための 企業規模のポリシーと プラクティスを策定する 社内ポリシー Office of Responsible AI は、責任ある AI に対する企業のアプローチを定義、実現、管理、調整する。 ポリシー、ガバナンス、実現に関する責任ある AI 機能の中央の “ハブ” として機能し、 企業全体に適用される関連したプロセスと機能を提供する 担当と責任を定義して、 進捗が評価され、 ガバナンス システムが 確立されるようにする ガバナンス マイクロソフト内で 責任ある AI のプラクティスを 導入する準備を整える お客様とパートナーが 同じことを行えるよう サポートする 研修・教育 機微なシナリオの ためのガイダンスをトリアージ、 管理、提供し、 機微な AI アプリケーション のための 手法を 構築する 機微なシナリオ での使用 責任ある AI ポリシーを 社外に対して 策定および提唱する パブリック ポリシー
- 21. 法的地位・ 生活サービスへの 影響が大 物理的・ 精神的危害の リスクが高い 人権侵害に つながるリスク 機微なシナリオの ためのガイダンスをトリアージ、 管理、提供し、 機微な AI アプリケーション のための 手法を 構築します。 機微なシナリオでの 使用
- 25. • Microsoft 社内の物理移動に関してのプロジェクト • より高い流動性と 障壁の少ないビルへの入館に フォーカス • IDカード利用を無くする事で、 より安全で安全な環境を 提供し、更に入り口付近の 人々の空きスペースの改善を 目指す Facial Recognition cameras mounted on pedestals Lobby glass doors
- 28. Joy Buolamwini, MIT Dr. Timnit Gebru, Google
- 29. Woman Dark Skin Woman Light Skin Man Dark Skin Man Light Skin 2018 MS Face API Error Rate 20.8% 1.7% 6.0% 0.0% 2019 MS Face API Error Rate 1.5% 0.3% 0.3% 0.0%
- 30. Woman Dark Skin Woman Light Skin Man Dark Skin Man Light Skin 1.52% .34% .33% 0% 304,000 68,000 66,000 0 公平なのか? NYC の著名なデパートには 毎年 2,000万人もの人が来店する 50%ずつの性別と肌の色と仮説する 小売業向けの性別分類 誤差率が小さくとも、相対的な違いに注目
- 31. Woman Dark Skin Woman Light Skin Man Dark Skin Man Light Skin 2019 MS Face API Error Rate 1.5% 0.3% 0.3% 0.0% Expected failures a month 48,000 9600 9600 0
- 34. 他と比較 失敗
- 35. 画質の影響を強く受ける ユーザーにとって便利なイメージでも、 システムでは使用できなかったのもある (ポージング, 隠れているもの など) システムで1/3 くらいしか利用できない True-Positive のマッチングにおいて、 少数が10位以内。 ただし、似ているものという観点だと 200 以上の結果が返ってくる 人が、 False Positive と 判断したものの影響は? Positive (推論) Negative (推論) Positive (実際) True Positive False Positive Negative (実際) True Negative False Negative
- 37. 他の人 Health data Financial data Calendar data Location data …
- 38. 公共の場所での顔認識を使用することへの、機微な性質を考えると、 人々はそれが、いつどのように使用されるかについて、思慮深くなる ユーザーの同意 • 同意を収集する方法とタイミングが重要 • 収集対象とその使用方法をユーザーに 教育する • 後でオプトアウトする方法についての 明確なガイダンス • • •
- 42. 思慮深い設計、強いフィードバックチャネル および 殆どについて考慮すべき事項 全員が 150cm以上ではない • 最初の展開時には、地上 150 cmの場所に センサーを設置 • 数名の同僚はドアから入れなかった
- 47. 高さが解決する唯一の問題ではない • 顔を遮るヘッドウエアやフェイスアクセサリーを つけている方は? • このシステムを使い慣れていない人は? • 視覚障碍のある人にどう使ってもらうのか?
- 50. 97% 49% 91% 0.5 0.6 0.57 1st Event 2nd Event 3rd Event False positive match rate and match threshold False Positive Rate Match Threshold 1回目の結果を受けて2回目の前に閾値をあげた “検知”数が減ったため、3回目の前に閾値を下げた 透明性に欠け、過去データからの学びもない状態で、 閾値と False Positive との関係が設定されている 組織としてのポリシー・一貫性が無い
- 52. 1. 公平性: すべての人々を公平に扱うように努め、顔認識技術の 開発と展開に努めます 2. 透明性: 顔認識技術の能力と限界を文書化し、明確に伝達します 3. 説明責任: お客様の顔認識技術の導入を支援し、結果的に人々 に影響を及ぼす可能性のある用途に対して適切なレベルの人の 制御が出来るように保証します 4. 非差別: 不当な差別を行うための顔認識技術の利用については、 サービス利用規約を禁止します 5. 通知と同意: 企業のお客様に対し、顔認識技術の展開についての 通知及び安全な同意を促します 6. 合法的な監査: 法執行機関による監査において、人々の 民主主義的な自由のための保護を提唱し、これらの自由を 危険にさらすと考えるシナリオにおいて、顔認識技術を展開しません 注: 公式な日本語ドキュメントが公開されるまでの意訳
- 55. 資産管理 モデルの理解 資産の管理 AI System Inventory Model(s), Data Lineage, RAI Artifacts, Features, Ownership… Impact Assessments Benefits, Risks, Mitigations / Controls, Reviews PowerBI Compliance Reporting AI System compliance reporting for product owners / auditors. InterpretML 主な重要な要素 Fairlearn 公平性メトリック Error-Analysis エラー分析 Exploratory-Data-Analysis データバランスメトリクス Counterfactual What-if 機能の重要度 Transparency Reporting / Model Cards Data Scientist and Developer relevant reports.
- 58. エラー分析 Model Overview モデルの解釈可能性 予測と正解に発生する誤差の多寡について分析 例：特徴量Aが100~200の間に判別ミスが多い など 特徴量ごとの目的変数分布や予測分布の分析 特徴量の重要度や、SHAP値など特徴量が予測にどのように寄与したかの分析 因果関係推論 関心の結果に対して最も直接的効果を持つ特徴を識別 公平性分析 性別、人種、年齢などのセンシティブな属性の観点から定義された さまざまなグループが、モデル予測によってどのような影響を受けるかの分析 Data Explorer データセットの各特徴量ごとの分布や散布図の分析 反事実分析と What-If 入力が変更された場合にモデルは何を予測するかをシミュレート
- 59. • InterpretML – interpret.ml • Error Analysis – erroranalysis.ai • Fairlearn – fairlearn.github.io • DiCE – github.com/interpretml/dice • EconML – aka.ms/econml • DoWhy – github.com/microsoft/dowhy • BackwardCompatibilityML – github.com/microsoft/BackwardCompatibilityML aka.ms/rai-toolbox
- 60. ガバナンス ツール プラクティス 基本原則 Guidelines for Human-AI Design Guidelines for Conversational AI (Internal) Friction access Project など 最高 RAI 責任者 RAI オフィス RAI 委員会 AI ハンドブック
- 62. Microsoft & OpenAI • Azure を大規模 AI の主要なプラットフォームとして確立する • AIハードウェアとシステムソフトウェアでコラボレーション • 汎用人工知能を専用スーパーコンピュータで提供するというOpenAIのミッションをサポート AI Supercomputers & Systems • OpenAIの大規模プラットフォームモデルの採用を1st Partyおよび3rd Party 顧客で推進 • 新しいAI技術、製品カテゴリー、ビジネスモデルに関する共同研究 • 高度なAI、倫理、安全、ガバナンスにおけるソートリーダーシップ AI Research, Products & Services 大規模なAIモデルのイノベーションを加速するための戦略的パートナーシップ ソフトウェアシステム、インフラストラクチャ、アプリケーション、安全性 の確立
- 63. The Future Computed：AI とその社会における役割 -ブラッド スミス Brad Smith, President of Microsoft
- 64. Microsoft Responsible AI Resource Center https://www.microsoft.com/ja-jp/ai/responsible-ai-resources ご参考情報
- 65. Step-by-Step Learning Achievements スムーズな学習環境 無料 日本語対応 ブラウザーのみ。ハンズオン環境 も含めて ダウンロード可能なサンプルコード Product/Service, 技術レベル, job role, などに応じたガイダンス Videos, チュートリアル, ハンズオン スキルアップを促す ユーザー プロファイル毎に カスタマイズ www.microsoft.com/learn