2018年9月日経BPセミナー
•Download as PPTX, PDF•
1 like•587 views
AI／クラウド時代のセキュリティ対策 進化する脅威に最新のテクノロジーで対抗する
Recommended
More Related Content
What's hot
What's hot (12)
Similar to 2018年9月日経BPセミナー
Similar to 2018年9月日経BPセミナー (20)
More from Ruo Ando
More from Ruo Ando (20)
2018年9月日経BPセミナー
- 3. 反脆弱性とは – 果ての国でのサバイバル ❑反脆弱性：「いかに壊れないかではなく、どのように壊れるか？」を問題にする。 ❑世の中の半分のものには名前がない – Fragile(脆弱）とBrittle（頑健）と Antifragile（反脆弱） ❑Antifragileは、セキュリティの分野でいうResilienceが意味が近い。 ❑ 【反脆弱性のモットー】測れるものを重視する。防止と予測に加えて、「システム がどれくらい脆弱か？」を重視する。 ❑【反脆弱性のモットー】「破壊不可能」「絶対」「偽造不可能」「貫通不可能」と いった言葉は無益である。こういう言葉を発する人はセキュリティをまるでわかっ ていないか、ごまかそうとしているかのどちらかだ。 - 「セキュリティはなぜ破られたか」 ブルースシュナイアー
- 4. 深層学習・強化学習の概要
- 5. AIアルゴリズムの３分類 ①教師あり学習 - Misuse Detection バイオメトリクス、スパムメール検知等 パターンマッチング, 損失関数 どれだけ近いかを計ることが多い。 ②教師なし学習 - Anomaly detection クレジットカードの不正利用検知、システム侵入検知等 クラスタリング, 距離関数 どれだけ遠いかを計ることが多い。 ③強化学習 AIが正解を確かめることができる事例（Alpha Go等） 探索、報酬関数
- 6. 深層学習：「データの不合理な有効性」 ツイッターの誕生以降に投稿されたツイートをすべて保 存するには、高性能のノートパソコンを１台買うくらい の予算があれば充分 １兆個の項目を含む乱雑なデータセットを使う機械学習は、わずか100万個の項目しか入っていないク リーンな データセットを使う機械学習が全く役に立たないような作業に対して有効になる。 直感的には100万個ものデータが入っている訓練セットで うまくいかない学習アルゴリズムなら、直感的な結論としては１兆個の乱雑なデータセットでもまった く動かないということになる。 シンギュラリティ人工知能から超知能へ マレー シャナハン 動画でライフログを常時記録する場合、 データの量は一人当たり７００ギガバ イト、アメリカ人全員のデータを残す 場合、年間２エクサバイトで、必要な 費用は２０００万ドル。 http://blog.mortardata.com/post/31027073689/ho w-much-would-it-cost-to-store-the-entire-twitter Revisiting Unreasonable Effectiveness of Data in Deep Learning Era IEEE Intelligent Systems archive Volume 24 Issue 2, March 2009 Pages 8-12 Chen Sun(Google), Abhinav Shrivastava(Google), Saurabh Singh(Google Research), and Abhinav Gupta(Google Research, Carnegie Mellon University)
- 8. 深層学習：時系列が読めるようになる 出力層 時刻t 時刻t 時刻t 時刻t-1 時刻t-2 隠れ層 入力層 リカレントニューラルネットワーク 静的なモデルだが、過去の情報が隠れ層に保存される。 rnn.c:138: for(j=0;j<HIDDENNO;++j){/*中間層の各セルjを対象*/ rnn.c:139: dj=hi[j]*(1-hi[j])*wo[j]*(e[INPUTNO+k+HIDDENNO]-o)*o*(1-o) ; rnn.c:140: for(i=0;i<INPUTNO+HIDDENNO;++i)/*i番目の重みを処理*/ rnn.c:141: wh[j][i]+=ALPHA*e[i]*dj ; rnn.c:142: wh[j][i]+=ALPHA*(-1.0)*dj ;/*しきい値の学習*/ rnn.c:143: } bp.c:115: for(j=0;j<HIDDENNO;++j){/*中間層の各セルjを対象*/ bp.c:116: dj=hi[j]*(1-hi[j])*wo[j]*(e[INPUTNO]-o)*o*(1-o) ; bp.c:117: for(i=0;i<INPUTNO;++i)/*i番目の重みを処理*/ bp.c:118: wh[j][i]+=ALPHA*e[i]*dj ; bp.c:119: wh[j][i]+=ALPHA*(-1.0)*dj ;/*しきい値の学習*/ bp.c:120: }
- 9. 深層学習＊強化学習 → 普遍人工知 能？ 戦術 戦略 意思 決定 意思 決定 支援 超大規模検索 （将棋・囲碁） 画像認識 情報集約 文章生成 画像生成 普遍人工知能？ 深層学習 強化学習
- 11. サイバー防御技術への適用
- 12. 適用事例 ❑ VulDeePecker: A Deep Learning-Based System for Vulnerability Detection (NDSS 2018) ❑ Deep Exploit (BlackHat 2018) Self-learning: DeepExploit can learn how to exploitation by itself (uses reinforcement learning) ❑ MLSploit: Resilient ML Platform - Advanced Deep Learning Analytic Platform Made Easy for Every Security Researcher (BlackHat 2018)
- 13. 教師あり学習・教師なし学習の問題点 • 過学習の問題 あるデータでうまくいった方法を、他のデータにも適用できるとは限らない。 • ブラックボックス・説明できないという問題 人間には計算プロセスが理解できないので、認識率、危険度の指標が算出されてもそれを 説得・説明に使えない。 • 誤警報の問題 積極的誤警報が大量に発生すると、検出システム自体が破たんしてしまう。 • プライバシー侵害の問題 解析目的以外のことが分かってしまうことがある。出力（メタデータ）がプライバシーを 如実に映し出してしまうことがある。
- 14. パターンマッチと誤警報の問題 • もともとは生物のサバイバル技術のため、ランダムな視覚デー タからパターンを見るける能力として身につけた。 • 【積極的誤警報】パターンマッチの能力が過剰になり、本当は パターンのないところにもパターンを見てしまうようになった。 • 【能動的誤警報】人間は、ランダムなデータからパターンを読 み取れる反面、均一なデータから例外を読み取ることは難しい。
- 16. 果ての国とは？ 2010年代のリスク工学の議論から ❑2010年代からアメリカで起きているデータマイニング、リスク・不確実管理に ついてのコンセプト。 ❑リスク工学専門家のNassim Nicholas Taleb氏によると、事象は「月並みの 国」と「果ての国」で起こる２種類に分類される。 ❑「果ての国」では、データ１つが全体の構成や集計量に大きな影響を及ぼす。 ❑「果ての国」では、データを積み重ねても知識はゆっくりとしか増えない。 ❑「果ての国」では、ほとんど起こりえないが起きれば大きな影響がある事象が 起きる。 Nassim Nicholas Taleb ブラック・スワン[上]―不確実性とリスクの本質
- 18. 【事例】大規模化するサイバー金融犯罪 「科学者たちが100万倍も知能 を高め、100万倍も速く作業す れば、１時間で１世紀分の進展 が見られることになる。」 - シンギュラリティは近い レ イ・カーツワイル ① 2007年のTJマックスのハッキング：4500万人の顧客と金融 データに影響。 ②2011年 ソニーのプレイステーションネットワークのハッキン グ： 7700万人のクレジットカード番号と個人情報が流出。被害は 10億ドルを越えると推定される。 ③2013年 クリスマス商戦時に、ロシアの17歳のハッカーが 米国のターゲット社のネットワークに侵入。1億1千万以上の口座か らデータを盗む。 ④2014年 ロシアのハッキング集団が、42万のWebサイトから 12億人分のユーザ名、パスワードなどを窃盗。 AIの発達に伴い、犯罪がアルゴリズムを実装したスクリプトで行われ、 自動化により必要な人手やコストは小さくなり、効果が大きくなって しまうケースが多くなる。 「自動化も脆弱性を悪化させる 一因となる。同時に、自動化は 攻撃者の友である。５円硬貨を 手づくりで偽造するという攻撃 は心配するほどのことではない。 しかし、これにコンピュータが 加わると様相が一変する。」 - セキュリティはなぜ破られた か ブルース・シュナイアー サイバー金融犯罪は特にこの傾向が強くなる
- 20. 剛性：クラスブレークが可能になる ❏技術が進むと標準化が進み、脆弱性が増える。同じ機能を持つ 部分すべてを破壊する「クラスブレーク」が可能になる。 例：Android OS, Telnet Protocol (IoT) ❏クラスブレークとは、大勢が使っているシステムを使うと危ないことを意味する。 ❏「自動化は攻撃者の友」ー 一度、クラスブレークが見つかれば、何度も自動化 された攻撃が繰り返される。 ❏10万の1回の割合で成功する詐欺は普通非現実的だが、コンピュータによる自動 化により、毎日、数十件は成功してしまうケースが多い。そのため、スパムメー ルがビジネスモデルとして成立する
- 21. 剛性：2013年4月23日 シリア電子軍によるハッキング シリア電子軍がAP通信社をハッキングする 「Breaking News: ホワイトハウスで２度の爆発があり、 バラク・オバマが負傷」とのツイートを流す。 HFT(超高速取引）のAIがこのツイートを解析、 大量の株を売りに出す。 ３分間で、株式市場全体で1360億円の損害を出した。 HFT(超高速取引）のAI: 高速なクローリングと 自動化された推論によって市場の揺れに反応し、 株取引を行う。 例：トムソン・ロイターのHFTアルゴリズム ５万のニュースソースと400万のソーシャル メディアサイトをスキャンし、毎秒何兆回の 計算を行い、取引は50万分の1秒もかからずに 行える。 AP通信社のツイートは「Breaking」で始まるが、 シリア電子軍のツイートは「breaking」で始まっ ていた。 100万分の何秒で測られ、指数関数的に加速する 世界では、アルゴリズムが暴走すると人間に介入 する時間はない。