Recommended
More Related Content
What's hot
What's hot (20)
Similar to エンジニアも知っておきたいAI倫理のはなし
Similar to エンジニアも知っておきたいAI倫理のはなし (20)
エンジニアも知っておきたいAI倫理のはなし
- 1. 2022.02.17 二瓶 泰徳 株式会社ディー・エヌ・エー ＋ 株式会社 Mobility Technologies エンジニアも知っておきたい AI倫理のはなし
- 2. 2 自己紹介 名前 二瓶 泰徳 経歴 自動車メーカー等でプロジェクトマネジメント => データサイエンティスト 現在のお仕事 Mobility Technologiesのデータサイエンスグルー プに所属し、プロダクトのデータ解析、機能開発 等を担当 趣味 スノーボード、登山、キャンプ、 スキューバダイビング
- 4. 4 01 はじめに
- 6. 6 はじめに ü 開発に関わったサービスが、意図せず人を傷つけるのを防ぐ ü 開発したサービスが倫理的な問題を起こすことで、社内のAI開発 への投資が消極的になるなど、自分のキャリアに悪影響をもたら す場合がある ü 自分の判断に含まれるバイアスに気づくことは難しく、個人の判 断だけでは倫理的な問題を防げない恐れがある AIエンジニアがAI倫理を学ぶ必要性
- 14. 14 03 世の中の動向
- 15. 15 世の中の動向 ü 2017年ごろから各国でAI利用に関する議論が開始され、2022年 現在はAI倫理の原則の議論から、具体的に原則をどのように社会 実装してくかという議論に移ってきている [3.1] ü これまで提案されてきたAI原則や実装に関するガイドラインの大 半は法的拘束力のないものだったが、2021年にEUからAIの法的 規制が提案される ü AI原則に関するスタンスを独自に表明している企業も多い: Google /Meta / Microsoft /Sony など
- 19. 19 項目 概要 Overview Principles AI原則 後ほど詳しく紹介 Responsible AI practices Fairness, Interpretabilityなどのカテゴリ別に Recommended practiceの紹介 Review Process Principlesを遵守するためのReview Process 後ほど詳しく紹介 Public policy perspective 各公的機関が公表しているpolicyなどに関するGoogleの 見解表明 EUのAI規制についてのfeedbackも記載 [3.5] 世の中の動向 Google AI responsibilities principles
- 20. 20 世の中の動向 Google AI principles Googleは以下の基本方針に基づきAIの利用を決定する ü 社会にとって有益である ü 不公平なバイアスの発生・助長に寄与しない ü 安全に開発・テストされる ü 人々への説明責任 ü Googleのprivacy design principleに準拠する ü 科学的卓越性(Scientific excellence)の探究 ü 基本理念に沿った利用への技術提供
- 21. 21 世の中の動向 Google AI principles 以下の用途にはAIを使用しない ü 広範な害をもたらすとき ü 武器、または技術の適用により直接的/間接的に人に危害を加える ü 国際的に認知された規範に反したデータ収集及び使用 ü 広く認知されている人権や国際法に反する目的
- 22. 22 世の中の動向 Google AI Review Process 項目 概要 1. Intake 開発チームがレビュアーに対してAI原則に関するアドバイスを要求する 2. Analysis レビュアーはプロダクトのもたらす利益と害それぞれの規模と範囲を解析する 過去の類似プロジェクトのレビュー結果を判例として用いる場合もある レビュアーは必要に応じてプライバシーやセキュリティ、公平性など、領域毎の社内 専門家に相談する 3. Adjustment レビュアーは技術的な評価手法を推奨する(e.g. MLモデルに不公平なバイアスが ないか確認すべき) レビュアーは必要に応じて外部の専門家(e.g. 人権の専門家)に相談する レビュアーはリスク削減案(mitigation strategies)を提案する 4. Decision レビュアーはプロジェクトの採否を決定する 複数のプロジェクトに影響を与える決定の場合、上級役員が決済する 本決定が新しい判例として今後利用される ü レビュアーの役割・権限が大きい印象 ü 必要に応じて社内外の専門家にアドバイスを求めている
- 25. 25 ü 倫理的な考慮が不十分であることによるリスクを認識する ü 自分の関わるプロジェクトがヤバいと感じたらすぐに声をあげる ü 各団体・企業が公表しているAI原則やガイドラインをざっと眺めて みる → AI原則はどこも似たような内容だが、特定の技術(顔認証など) や応用分野に対して個別に見解を公表している場合もある → さらに具体的な取り組みについては、GoogleのRecommended practicesが参考になるかも…? エンジニアが論理的な問題を起こさないためにできること
- 26. 26 項目 内容 データセット データ可視化やクラスタリング、アノテーションを利用して、データセットが何を表 現しているか、また、その表現の制限事項の特定する。同様に、データセットの特徴 量・グループ・ラベル間に差別的な相関がないかを確認する 目標設定 想定されるユースケースに対して公平に動作することを、プロダクトの目標に設定す る(例: 異なる言語にて公平に動作すること、異なる年齢グループに対して公平に動作 すること、など) 目標は常にモニタリングし、必要に応じて拡張する アノテーション 持続的に正確で多様なアノテーションを獲得するため、アノテーションチームと協業 して明確なタスクやインセンティブ、フィードバックの仕組みを検討する テスト 困難なケースのテストセットを作成し、システムをアップデートするたびに適用する また、テストセットは特徴量の追加などのシステムへの変更やユーザーからのフィー ドバックを反映して常にアップデートするべき AI技術者が論理的な問題を起こさないためにできること GoogleのRecommended practicesから、AI倫理に関連しそうな項目を抜粋 [4.1]
- 27. 27 EOF