学生向けMEETUP LT用の資料です。 データセンタネットワークの取り組みについて紹介します。

1. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
2018年8月8日
ヤフー株式会社 サイトオペレーション本部 インフラ技術3部 坂本 要
ヤフーを支える
データセンタネットワーク

2. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved. 2
自己紹介
坂本 要
• 2017年新卒入社 DCNW3所属
• 主にLB、GSLB、DNS等構築運用
• ネットワークの可視化自動化

3. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
ヤフーのネットワーク

4. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
データセンタネットワーク？
4
• ヤフーのプロダクションネットワーク
を担当するチーム
• 規模感 コアスイッチ:200+
ロードバランサ:600+
エッジスイッチ:4500+
マネージメントスイッチ:3000+

5. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
取り組み
5
• 既存ネットワークの運用
• 次世代ネットワークの設計、構築
• CLOSネットワーク、ホワイトボックススイッチ等
• サービス担当者からの依頼対応
• 運用のボトルネック改善
• 自動化、可視化、ツール開発

6. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
トラディショナルなネットワーク
6

7. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
トラディショナルなネットワーク
7
Backbone
Aggregation
1棟/1フロア 1棟/1フロア

8. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
CLOS ネットワーク
8
・・・ ・・・
より詳しく知りたい方は
• JANOG38 ヤフーのIP CLOS ネットワーク
• https://www.janog.gr.jp/meeting/janog38/download_file/clos.pdf

9. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
ネットワークエンジニアの
業務

10. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
業務内容
10
• 依頼対応
• 内容に応じて設定投入
• アラート対応
• ネットワーク障害は影響範囲が大きい
• 機器メンテナンス
• 周辺ツール開発

11. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
サービスから様々な依頼がやってくる
11
NW機器にこのよう
な設定を入れること
は可能でしょうか
VLANを追加してくだ
さい
機器にVIPの設定をしてください
専用NWの構築をお願いします
システムがおかしいのでNW
の調査をしてください
突然サーバにsshできなくなりました

12. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
サービスから様々な依頼がやってくる
12
突然サーバにsshできなくなりました
AからBへのポート開
放をお願いします
NW機器にこのよう
な設定を入れること
は可能でしょうか
VLANを追加してくだ
さい
機器にVIPの設定をしてください
専用NWの構築をお願いします
Aレコードの設定をお
願いします
Geolocationの設定をしてください
システムがおかしいのでNW
の調査をしてください
該当時間のトラフィックを
調査してください

13. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
牧歌的な運用の限界
13
• サービス規模、トラフィックの拡大
• オンプレ->IaaS->PaaS->CaaS等
の環境変化による依頼の増加
• 数千台規模の機器を運用しながら新規
構築、開発の必要性

14. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
自動化

15. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
人手作業の問題点
15
• 時間がかかる
• オペレーションミスが発生する
• コピペミス
• 確認不足
• 知識不足
• 再発防止が困難

16. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
自動化の難しい点
16
• テスト
• 失敗した際の影響範囲が大きい
• マルチベンダー対応
• ヤフーでは様々なベンダー、OSバージョンのネットワーク機器を
取り扱っている
• 情報取得方法、設定投入方法がバラバラ
• NW/開発両方の知識が必要

17. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
設計
17
• OS毎の情報取得、投入経路選定
• CLI/Netconf/SNMP/API
• 取得した情報の抽象化
• OSの差異を意識する必要をなくす

18. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
設計
18
• CLIコマンドベース
• 自前実装/OSS利用
• オプションやサブコマンドで機能を追加し
ていく
• チケットシステムとの連携
• 起票されたチケットの情報から設定生成
• キューイングしておき、承認すると処理実
行

19. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
自動化のメリット
19
• オペレーションにかかる時間短縮
• 作業内容の属人性廃止
• 事前確認項目の定義、ヌケモレ防止
• dryrunによる事前確認

20. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
監視・可視化
20
• アラートが上がっていても気付けなければ意味
がない
• 可視化することで原因箇所の早期特定

21. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
監視・可視化
21
• アラートが上がっていても気付けなければ意味
がない
• 可視化することで原因箇所の早期特定

22. Copyright (C) 2018 Yahoo Japan Corporation. All Rights Reserved.
最後に
22
• こんな人におすすめ
• 大規模ネットワークの設計構築運用に携わりた
い
• 運用だけでなく開発もしたい
• CSS、JS等のフロントからNW運用、サーバ構成
管理、パケット解析まで何でも出来ます