Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

YJTC18 A-1 データセンタネットワークの取り組み

3,132 views

Published on

Yahoo! JAPAN Tech Conference 2018 A-1 セッションのスライドです。

Published in: Technology
  • Be the first to comment

YJTC18 A-1 データセンタネットワークの取り組み

  1. 1. データセンタネットワークの取り組み サイトオペレーション本部 インフラ技術3部 村越 健哉 Copyright 2018 Yahoo Japan Corporation. All Rights Reserved.
  2. 2. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. 自己紹介 • 村越 健哉(むらこし けんや) • サイトオペレーション本部 インフラ技術3部 部長 • 第6代/第7代 黒帯 〜ネットワーク〜 • 2012年からヤフーへ • プロダクションネットワーク全般を担当
  3. 3. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. アジェンダ • ネットワーク概要 • Backbone Network • Data Center Network • 苦労している点 • データセンタネットワークの取り組み • Design • Box/Chip • Automation
  4. 4. ネットワーク概要 Copyright 2018 Yahoo Japan Corporation. All Rights Reserved.
  5. 5. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. ネットワーク概要 Internet EDGE(CDN) Backbone Network Data Center Network
  6. 6. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. ネットワーク概要 Internet EDGE(CDN) Backbone Network Data Center Network Yahoo! JAPAN Network Infra
  7. 7. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. ネットワーク概要 Internet EDGE(CDN) Backbone Network Data Center Network Yahoo! JAPAN Network Infra サーバ:80,000 VM:100,000 ルータ:70+ コアスイッチ:200+ ロードバランサ:600+ エッジスイッチ:4500+ マネージメントスイッチ:3000+
  8. 8. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. ネットワーク概要 Internet EDGE(CDN) Backbone Network Data Center Network
  9. 9. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Backbone Network 東北 東京 大阪 九州 AS 24572 AS 23816 Internet Internet CDN CDN
  10. 10. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Actapio, Inc. AS24572 Actapio, Inc. AS23816 AS18140
  11. 11. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Actapio, Inc. Actapio, Inc. IngressZilla
  12. 12. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Backbone Network 東北 東京 大阪 九州 CDN CDN AS 24572 AS 23816 Internet Internet
  13. 13. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Backbone Network 東北 東京 大阪 九州 CDN CDN AS 24572 AS 23816 Internet Internet 対外接続 500Gbps以上
  14. 14. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Backbone Network 東北 東京 大阪 九州 CDN CDN AS 24572 AS 23816 Internet Internet 対外接続 500Gbps以上 動画トラフィックは7〜8割 ニュース動画、GYAOなどにより North-Southのトラフィックは増加傾向
  15. 15. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Backbone Network 東北 東京 大阪 九州 CDN CDN AS 24572 AS 23816 Internet Internet 対外接続 500Gbps以上 動画トラフィックは7〜8割 ニュース動画、GYAOなどにより North-Southのトラフィックは増加傾向 IF増速、機器のグレードアップ =Scale Upで対応
  16. 16. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. ネットワーク概要 Internet EDGE(CDN) Backbone Network Data Center Network
  17. 17. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Data Center Network ・・・ ・・・
  18. 18. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Data Center Network Backbone Aggregation (棟 or フロア集約) 1棟 or 1フロア 1棟 or 1フロア 1棟 or 1フロア ・・・ ・・・
  19. 19. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Data Center Network ・・・ ・・・ ToRのトータルトラフィックは?
  20. 20. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Data Center Network 九州DCのエッジ uplink Total Traffic 東北DCのエッジ uplink Total Traffic ・・・ ・・・ 約3.6 Tbps 約1.5 Tbps
  21. 21. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Data Center Network ・・・ ・・・ 全拠点で約10Tbps 対外接続500Gbpsの20倍 九州DCのエッジ uplink Total Traffic 東北DCのエッジ uplink Total Traffic
  22. 22. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Data Center Network HadoopやComputeとストレージ分離などにより East-Westトラフィックが急激に増加 ・・・ ・・・ 全拠点で約10Tbps 対外接続500Gbpsの20倍 九州DCのエッジ uplink Total Traffic 東北DCのエッジ uplink Total Traffic
  23. 23. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Data Center Network Traditional Network CLOS Fabric Network(zone security) ・・・ ・・・ East-Westに弱い East-Westに強い
  24. 24. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Data Center Network • Janog38 ヤフーのIP CLOS ネットワークを参照 • https://www.janog.gr.jp/meeting/janog38/download_file/clos.pdf ・・・・・ Internet ・・・・・ Spine Core Router Layer3 Layer2 ルーティング経路はECMP (Equal Cost Multi Path) eBGP ・・・・・ ・・・・・ 4x40G AS6500 AS65101 AS65102 AS651xx AS651xy AS65301 AS65302 AS653xx AS653xy リンク間は/31 で節約 leaf配下は/26や/27 BFDで素早く検知 Bidirectional Forwarding Detection BGPのAS番号はPrivate ASを利⽤ ACL (zone security)
  25. 25. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. 苦労している点 • Traditional Networkの更改 • 20年以上の歴史 • それぞれの時代に応じたネットワーク機器・構成 • 保守費、保守期限、故障との戦い
  26. 26. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. ネットワーク概要 まとめ • North-South トラフィック • 動画トラフィックにより増加傾向 • Scale Upで増速、増強し対応 • East-West トラフィック • Hadoop、ストレージネットワークなどにより急激に増加 • Scale Upでは限界のため、Scale Outで対応 • zone securityでCLOS Fabric ネットワークを構築 • 歴史のあるネットワーク更改に苦労
  27. 27. データセンタネットワーク の取り組み Copyright 2018 Yahoo Japan Corporation. All Rights Reserved.
  28. 28. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. https://code.facebook.com/posts/1782709872057497 データセンタネットワークの取り組み
  29. 29. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. データセンタネットワークの取り組み Facebook Yahoo! JAPAN Design CLOS Fabric NW CLOS Fabric NW Automation Home Grown Tool Home Grown + OSS + Apstra Software NWメーカー OS FBOSS NWメーカー OS EOS Cumulus NX-OS Junos Chip 汎用ASIC (Broadcomなど) カスタム ASIC 汎用ASIC (Broadcomなど) カスタム ASIC Box NWメーカー OCP (Wedge, Backpack) NWメーカー Arista White Box Cisco Juniper
  30. 30. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Design Facebook Yahoo! JAPAN Design CLOS Fabric NW CLOS Fabric NW Automation Home Grown Tool Home Grown + OSS + Apstra Software NWメーカー OS FBOSS NWメーカー OS EOS Cumulus NX-OS Junos Chip 汎用ASIC (Broadcomなど) カスタム ASIC 汎用ASIC (Broadcomなど) カスタム ASIC Box NWメーカー OCP (Wedge, Backpack) NWメーカー Arista White Box Cisco Juniper
  31. 31. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Design Traditional Network CLOS Fabric Network(zone security) ACL ACL 同じセキュリティポリシー であれば構築可能 L3 L2 ・・・ ・・・
  32. 32. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Design • ACL数がコアスイッチで最大110,000以上
  33. 33. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Design • ACL数がコアスイッチで最大110,000以上 分散が必要
  34. 34. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Design • iptablesベースのセキュリティ管理システムを開発 • 開発環境で最終テスト中 ・・・ ・・・ 様々なセキュリティポリシーが 共存可能
  35. 35. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Box/Chip Facebook Yahoo! JAPAN Design CLOS Fabric NW CLOS Fabric NW Automation Home Grown Tool Home Grown + OSS + Apstra Software NWメーカー OS FBOSS NWメーカー OS EOS Cumulus NX-OS Junos Chip 汎用ASIC (Broadcomなど) カスタム ASIC 汎用ASIC (Broadcomなど) カスタム ASIC Box NWメーカー OCP (Wedge, Backpack) NWメーカー Arista White Box Cisco Juniper
  36. 36. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Box/Chip • 汎用ASICとカスタムASIC • 安く、タイムリーな速度のIFを利用 → 汎用ASIC(Broadcomなど) • Inbound TelemetryなどカスタムASICでしかできないことも検討中 • 昔:メーカー冗長 • 今:Chip Diversity
  37. 37. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Box/Chip • Advent Calendar 2017 参照 • データセンタネットワークの取り組みとFacebook Backpack • https://techblog.yahoo.co.jp/advent-calendar-2017/datacenternetwork_backpack/ Fabric1 Fabric2 Fabric3 Fabric4 LC1-L LC1-R LC2-L LC2-R LC3-L LC3-R LC4-L LC4-R Backpack swp1〜16 swp17〜32 ECMP BGP Cumulus® Linux® Network OS Cumulus® Linux® Network OS Cumulus® Linux® Network OS Cumulus® Linux® Network OS Cumulus® Linux® Network OS Cumulus® Linux® Network OS Cumulus® Linux® Net work OS Cumulus® Linux® Net work OS Cumulus® Linux® Network OS Cumulus® Linux® Network OS Cumulus® Linux® Net work OS Cumulus® Linux® Net work OS
  38. 38. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Automation Facebook Yahoo! JAPAN Design CLOS Fabric NW CLOS Fabric NW Automation Home Grown Tool Home Grown + OSS + Apstra Software NWメーカー OS FBOSS NWメーカー OS EOS Cumulus NX-OS Junos Chip 汎用ASIC (Broadcomなど) カスタム ASIC 汎用ASIC (Broadcomなど) カスタム ASIC Box NWメーカー OCP (Wedge, Backpack) NWメーカー Arista White Box Cisco Juniper
  39. 39. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Automation • Janog40 ソフトウェアエンジニアが ネットワーク部隊に来ていろいろ やってみた 参照 • https://www.janog.gr.jp/meeting/janog40/application/files/9015/0103/0898/janog40-soft-ando-00.pdf
  40. 40. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Automation • Janog40 ソフトウェアエンジニアが ネットワーク部隊に来ていろいろ やってみた 参照 • https://www.janog.gr.jp/meeting/janog40/application/files/9015/0103/0898/janog40-soft-ando-00.pdf 既存のネットワーク機器は自動化、可視化 ができている
  41. 41. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Automation • Apstra AOS:CLOS Fabricに特化した自動化ツール • Intentベース(アドレス、ラック数、アップリンク帯域などを定義するだけ) • Config自動生成 • ケーブルミス、障害解析、Telemetryなど運用向上 自前でできないものをカバー
  42. 42. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. Automation • 国内DC Hadoopネットワーク リプレース 100G BGP, ECMP
  43. 43. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved. DCNW取り組み まとめ • Hyper Scale(OTT)の良いところをうまく取り入れる • Design • 新しいセキュリティ管理システム • CLOS Fabric Network • Box/Chip • Chip Diversity • 新しい取り組みとしてFacebook Bakcpack • Automation • 自前運用ツール • CLOS Fabricに新しい運用ツール(Apstra)
  44. 44. Copyright 2018 Yahoo Japan Corporation. All Rights Reserved.

×