©  BIGLOBE  Inc.  20141
ISPネットワーク運⽤用で
覗いてるもの
|_̲・)ジー
BIGLOBE  Inc.
Taiji  Tsuchiya
2014-‐‑‒07-‐‑‒17
©  BIGLOBE  Inc.  20142
自己紹介
l 土屋 太二 (つちや  たいじ)
l 2011年入社。28歳
l ネットワークエンジニア
→DCネットワーク
→SDN
→海外ネットワーク立ち上げ
→バックボーンネットワーク
l 現在はISPネットワークの設計、運用が仕事
©  BIGLOBE  Inc.  20143
BIGLOBEのISPネットワーク運用を紹介
l 覗いているもの
l 次のアクション
l 使っているもの
©  BIGLOBE  Inc.  20144
トラフィック流量
l 覗いているもの
p 各ルータインタフェースのトラフィック流量
l 次のアクション
p トラフィック輻輳の回避
p 回線増強の計画
p 異常トラフィックの調査
l 使っているもの
p Cacti
http://www.cacti.net/
©  BIGLOBE  Inc.  20145
トラフィックフロー
l 覗いているもの
p AS間を流れるトラフィック
l 次のアクション
p Peer選定
p トラフィック流量の調整
p DDoS対策
l 使っているもの
p Genie
http://www.genie-networks.com/
©  BIGLOBE  Inc.  20146
通信遅延
l 覗いているもの
p 人気サービスへの遅延測定
l 次のアクション
p Peer選定
p 異常遅延の調査
l 使っているもの
p SmokePing
http://oss.oetiker.ch/smokeping/
p Splunk
http://www.splunk.com/
©  BIGLOBE  Inc.  20147
経路情報の変化
l 覗いてるもの
p ルータの持つ経路情報の時系列情報
l 次のアクション
p 異常経路の調査
l 使っているもの
p Quagga + MRT + libbgpdump
https://github.com/woodrow/cidr-report_analysis/tree/master/
libbgpdump/libbgpdump-1.4.99.13
©  BIGLOBE  Inc.  20148
異常監視
l 覗いているもの
p ルータ本体の異常
p BGPピアのセッション異常
l 次のアクション
p ルータ異常の調査
l 使っているもの
p SNMP trap + メール
p Syslog + メール
©  BIGLOBE  Inc.  20149
最後はルータログイン!
l 覗いてるもの
p ルータのエラーログ、BGP送受信状況
l 次のアクション
p 異常原因の切り分け
p 現地作業員、他社のNW担当者に
調査協力の依頼
l 使っているもの
p ping / traceroute
p show ip bgp xxxx
p show ip route xxxxx
©  BIGLOBE  Inc.  201410
やりたいオペレーション
l 異常原因の即時判断
p 問題ポイントを瞬時で判断し、
即座に次のアクションに移りたい
p 夜中にルータログインはしたくない
l 全ルータのBGP情報を一元管理したい
p 現状の運用では状況把握に時間がかかる
p SNMP BGP MIBはメーカ特有のものがあり、
使いづらい
⇒BGP情報を外部サーバに逐次送ってくれる 
   BMPというプロトコルが活用できるかも?

ISPネットワーク運用で覗いてるもの

  • 1.
    ©  BIGLOBE  Inc. 20141 ISPネットワーク運⽤用で 覗いてるもの |_̲・)ジー BIGLOBE  Inc. Taiji  Tsuchiya 2014-‐‑‒07-‐‑‒17
  • 2.
    ©  BIGLOBE  Inc. 20142 自己紹介 l 土屋 太二 (つちや  たいじ) l 2011年入社。28歳 l ネットワークエンジニア →DCネットワーク →SDN →海外ネットワーク立ち上げ →バックボーンネットワーク l 現在はISPネットワークの設計、運用が仕事
  • 3.
    ©  BIGLOBE  Inc. 20143 BIGLOBEのISPネットワーク運用を紹介 l 覗いているもの l 次のアクション l 使っているもの
  • 4.
    ©  BIGLOBE  Inc. 20144 トラフィック流量 l 覗いているもの p 各ルータインタフェースのトラフィック流量 l 次のアクション p トラフィック輻輳の回避 p 回線増強の計画 p 異常トラフィックの調査 l 使っているもの p Cacti http://www.cacti.net/
  • 5.
    ©  BIGLOBE  Inc. 20145 トラフィックフロー l 覗いているもの p AS間を流れるトラフィック l 次のアクション p Peer選定 p トラフィック流量の調整 p DDoS対策 l 使っているもの p Genie http://www.genie-networks.com/
  • 6.
    ©  BIGLOBE  Inc. 20146 通信遅延 l 覗いているもの p 人気サービスへの遅延測定 l 次のアクション p Peer選定 p 異常遅延の調査 l 使っているもの p SmokePing http://oss.oetiker.ch/smokeping/ p Splunk http://www.splunk.com/
  • 7.
    ©  BIGLOBE  Inc. 20147 経路情報の変化 l 覗いてるもの p ルータの持つ経路情報の時系列情報 l 次のアクション p 異常経路の調査 l 使っているもの p Quagga + MRT + libbgpdump https://github.com/woodrow/cidr-report_analysis/tree/master/ libbgpdump/libbgpdump-1.4.99.13
  • 8.
    ©  BIGLOBE  Inc. 20148 異常監視 l 覗いているもの p ルータ本体の異常 p BGPピアのセッション異常 l 次のアクション p ルータ異常の調査 l 使っているもの p SNMP trap + メール p Syslog + メール
  • 9.
    ©  BIGLOBE  Inc. 20149 最後はルータログイン! l 覗いてるもの p ルータのエラーログ、BGP送受信状況 l 次のアクション p 異常原因の切り分け p 現地作業員、他社のNW担当者に 調査協力の依頼 l 使っているもの p ping / traceroute p show ip bgp xxxx p show ip route xxxxx
  • 10.
    ©  BIGLOBE  Inc. 201410 やりたいオペレーション l 異常原因の即時判断 p 問題ポイントを瞬時で判断し、 即座に次のアクションに移りたい p 夜中にルータログインはしたくない l 全ルータのBGP情報を一元管理したい p 現状の運用では状況把握に時間がかかる p SNMP BGP MIBはメーカ特有のものがあり、 使いづらい ⇒BGP情報を外部サーバに逐次送ってくれる     BMPというプロトコルが活用できるかも?