SlideShare a Scribd company logo
1 of 56
Download to read offline
Advanced IPv4 BGP troubleshooting
глазами TAC
Василий Михайловский
(инженер TAC, команда Routing Protocols)
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.
Основные правила troubleshooting
•  Не следует поддаваться панике;
•  Четко определите что является симптомом проблемы;
•  Если проблема затрагивает большое количество маршрутов, выберите
один и сфокусируйтесь на нем;
•  Если проблема имеет эпизодический характер, постарайтесь найти
корреляцию с другими событиями в сети;
•  Если Вы знакомы с сетью – постарайтесь сравнить наблюдаемое
поведение с baseline;
•  Не зацикливайтесь на одной версии причины – старайтесь
сформулировать несколько версий и, по ходу, отсеивайте неверные;
•  Если обнаружилась возможность workaround – используйте ее, в этом
случае поиск и устранение root cause можно будет перенести за пределы
бизнес-часов;
•  Keep calm and call TAC
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.2
СОДЕРЖАНИЕ
•  Классификация проблемных ситуаций
•  Детали конкретных случаев
•  Рекомендации: как [не] следует делать
•  Q&A
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.3
Классификация проблемных ситуаций
Проблемы конфигурации (настроили, а не работает);
Проблемы транспортного уровня (TCP 179);
Проблемы этапа обмена данными (updates);
Проблемы выбора best-path;
Проблемы быстрой сходимости и установки маршрутов в RIB/FIB
Общесистемные проблемы
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.4
Классификация проблемных ситуаций
R1# show runn | section r.bgp|Loopback
Interface Loopback0
ip address 1.1.1.1 255.255.255.255
router bgp 100
neighbor 3.3.3.3 remote-as 300
neighbor 3.3.3.3 update-source Loopback0
neighbor 3.3.3.3 ebgp-multihop 3
R1# show tcp brief all
R1# show ip route 3.3.3.3
R1# show ip cef 3.3.3.3
Проблемы конфигурации
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.5
R3# show runn | section r.bgp|Loopback
Interface Loopback0
ip address 3.3.3.3 255.255.255.255
router bgp 300
neighbor 1.1.1.1 remote-as 100
neighbor 1.1.1.1 update-source Loopback0
neighbor 1.1.1.1 ebgp-multihop 3
R3# show tcp brief all
R3# show ip route 1.1.1.1
R3# show ip cef 1.1.1.1
Классификация проблемных ситуаций
Проблемы конфигурации;
Проблемы транспортного уровня (TCP 179);
Проблемы этапа обмена данными (updates);
Проблемы выбора best-path;
Проблемы быстрой сходимости и установки маршрутов в RIB/FIB
Общесистемные проблемы
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.6
Классификация проблемных ситуаций
Т.к. протокол BGP является, по сути, TCP/IP приложением, то ему присущи
все проблемы транспорта:
1)  Полная потеря пакетов (отсутствие маршрута, 100%-packet loss);
2)  Частичная потеря пакетов (при перегрузке канала);
3)  Проблемы MTU (включая pMTU discovery);
4)  Проблемы BGP аутентификации (MD5)
Проблемы транспортного уровня
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.7
Команды:
- show ip bgp sum
- show ip tcp
- show ip bgp nei <peer ip-address>
- show ip cef/route <peer ip-address>
- ping <peer ip-address> df-bit [size 1500]
- show runn | section router bgp
Классификация проблемных ситуаций
- Пакеты не доходят от 10.0.1.254:
%BGP-3-NOTIFICATION: sent to neighbor 10.0.1.254 4/0 (hold time expired) 0 bytes
%BGP-5-NBR_RESET: Neighbor 10.0.1.254 reset (BGP Notification sent)
%BGP-5-ADJCHANGE: neighbor 10.0.1.254 Down BGP Notification sent
- Пакеты не доходят до 10.0.1.254:
%BGP-3-NOTIFICATION: received from neighbor 10.0.1.254 4/0 (hold time expired) 0 bytes
%BGP-5-NBR_RESET: Neighbor 10.0.1.254 reset (BGP Notification received)
%BGP-5-ADJCHANGE: neighbor 10.0.1.254 Down BGP Notification received
- Проблема конфигурации (remote-as):
%BGP-3-NOTIFICATION: sent to neighbor 10.0.1.254 passive 2/2 (peer in wrong AS) 2 bytes
0001
%BGP-3-NOTIFICATION: received from neighbor 10.0.1.254 passive 2/2 (peer in wrong AS) 2
bytes 0001
-Проблема конфигурации (VRF, src/dst ip-address):
%TCP-6-BADAUTH: No MD5 digest from 3.3.3.3(179) to 1.1.1.1(28866) (RST)
- Проблема конфигурации (пароль) или firewall на пути:
%TCP-6-BADAUTH: Invalid MD5 digest from 3.3.3.3(36840) to 1.1.1.1(179)
%TCP-6-BADAUTH: No MD5 digest from 3.3.3.3(24249) to 1.1.1.1(179)
Проблемы транспортного уровня / сообщения из show logg
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.8
Классификация проблемных ситуаций
Проблемы транспортного уровня / аутентификация
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.9
0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
| Source Port | Destination Port |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
| Sequence Number |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
| Acknowledgment Number |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
| Data | |U|A|P|R|S|F| |
| Offset| Reserved |R|C|S|S|Y|I| Window |
| | |G|K|H|T|N|N| |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
| Checksum | Urgent Pointer |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
| Options | Padding |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
| data |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
Firewall между BGP пирами может:
- вырезать TCP опции;
- выполнять “sequence number randomization”;
Что приводит к невозможности установить сессию – проблема аутентификации!
“neighbor 3.3.3.3 password CISCO”
MD5 – TCP option 19
Sequence number – включен в расчет MD5
MD5 включен в каждый TCP пакет
(включая SYN и RST)
Классификация проблемных ситуаций
Проблемы транспортного уровня / аутентификация
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.10
R1#
Interface E0/0
ip address 10.1.3.1 255.255.255.0
router bgp 100
neighbor 10.1.3.3 remote-as 300
neighbor 10.1.3.3 password CISCO
R3#
Interface E0/0
vrf forwarding INET
ip address 10.1.3.3 255.255.255.0
router bgp 300
neighbor 10.1.3.1 remote-as 100
neighbor 10.1.3.1 password CISCO
%TCP-6-BADAUTH: No MD5 digest from 10.1.3.3 (179) to
10.1.3.1(31262) (RST)
Классификация проблемных ситуаций
R1#sh ip bgp nei 3.3.3.3 | i Last read|retran
Last read 00:00:15, last write 00:00:13, hold time is 180, keepalive interval is 60 seconds
Enqueued packets for retransmit: 1, input: 0 mis-ordered: 0 (0 bytes)
Sent: 6285 (retransmit: 14 fastretransmit: 0),with data: 6275, total data bytes: 5039815
R3#sh ip bgp nei 1.1.1.1 | i Last r|retra
Last read 00:02:02, last write 00:00:13, hold time is 180, keepalive interval is 60 seconds
Enqueued packets for retransmit: 2, input: 0 mis-ordered: 0 (0 bytes)
Status Flags: passive open, retransmission timeout, gen tcbs
Sent: 2993 (retransmit: 5 fastretransmit: 0),with data: 7, total data bytes: 175
Проблемы транспортного уровня / диагностика packet-loss
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.11
Потери пакетов можно диагностировать командой ping:
- ping 1.1.1.1 source 3.3.3.3 tos 192
- ping 1.1.1.1 source 3.3.3.3 tos 192 size <MTU> df-bit
#show ip bgp summ
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
R1# 3.3.3.3 4 100 6 40006 2612561 0 0 00:02:10 0
R3# 1.1.1.1 4 100 40004 6 0 0 0 00:02:16 400000
Классификация проблемных ситуаций
Проблемы транспортного уровня / MTU
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.12
Проблема MTU будет рассмотрена в разделе «ситуаций»
Классификация проблемных ситуаций
Проблемы транспортного уровня (TCP 179);
Проблемы этапа обмена данными (updates);
Проблемы выбора best-path;
Проблемы установки маршрутов в RIB/ программирование HW
Общесистемные проблемы
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.13
Классификация проблемных ситуаций
После установки TCP сессии, протокол начинает обмен данными (application
level):
1)  Встроенный loop-prevention механизм BGP;
2)  Проблемы «тиражирования» updates на большое количество сессий;
Проблемы этапа обмена данными (updates)
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.14
Команды:
- show ip bgp <prefix>/<lenth>
- show ip bgp sum
- show ip bgp nei <peer ip-address>
- show ip bgp update-group
- show runn | section router bgp
Классификация проблемных ситуаций
Основные механизмы loop-prevention включают в себя:
•  *Next-hop должен быть валиден (существует в RIB и не блокирован);
•  По умолчанию, BGP анонсирует только best-path;
•  AS-path (своя AS от eBGP пира);
•  “Connected check” (eBGP на физических интерфейсах);
•  По умолчанию, updates от iBGP не тиражируются другим iBGP пирам;
•  Если же тиражируются (route-reflector), то используется BGP router-id и
cluster-list.
Проблемы этапа обмена данными (updates) – loop prevention
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.15
Команды:
- debug ip bgp updates
- show ip bgp sum
- show ip bgp update-group
- show runn | section router bgp
- show ip bgp version recent …
Классификация проблемных ситуаций
show ip bgp [prefix/length]
Status codes: s suppressed, d damped, h history, * valid, > best, i - internal,
r RIB-failure, S Stale, m multipath, b backup-path, f RT-Filter,
x best-external, a additional-path, c RIB-compressed,
Origin codes: i - IGP, e - EGP, ? - incomplete
Network Next Hop Metric LocPrf Weight Path
r>i 1.1.1.1/32 10.0.13.1 11 100 0 I
i 10.0.4.0/24 99.99.99.99 0 100 0 i
BGP routing table entry for 10.0.4.0/24, version 0
Paths: (1 available, no best path)
Not advertised to any peer
99.99.99.99 (inaccessible) from 4.4.4.4 (4.4.4.4)
BGP routing table entry for 1.1.1.1/32, version 7
Paths: (1 available, best #1, table default, RIB-failure(17))
Local
10.0.13.1 (metric 1020) from 4.4.4.4 (4.4.4.4)
Origin IGP, metric 11, localpref 100, valid, internal, best
Проблемы этапа обмена данными (updates) – show ip bgp
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.16
Классификация проблемных ситуаций
debug ip bgp updates [ACL] [neighbor address] [in | out]:
•  BGP(0): 10.0.34.4 rcv UPDATE about 4.4.4.4/32 -- DENIED due to: NEXTHOP is our own
address;
•  BGP: 10.0.34.4 Advertised Nexthop 99.99.99.99: Non-local or Nexthop and peer Not on same
interface
BGP(0): 10.0.34.4 rcv UPDATE about -- DENIED due to: non-connected NEXTHOP;
•  BGP(0): 10.0.34.4 rcv UPDATE about 4.4.4.4/32 -- DENIED due to: AS-PATH contains our
own AS
•  BGP(0): 4.4.4.4 rcv UPDATE about 1.1.1.1/32 -- DENIED due to: ORIGINATOR is us
•  BGP(0): 4.4.4.4 rcv UPDATE about 1.1.1.1/32 -- DENIED due to: reflected from the same
cluster;
•  BGP(0): 4.4.4.4 rcvd 10.0.0.0/22 -- DENIED due to: route-map;
Проблемы этапа обмена данными (updates) – debug
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.17
Классификация проблемных ситуаций
Проблемы этапа обмена данными (updates) – тиражирование updates
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.18
R1#sh ip bgp neighbors 3.3.3.3 advertised-routes
Network Next Hop Metric LocPrf Weight Path
*> 11.11.11.0/24 0.0.0.0 0 32768 i
R1#sh ip bgp 11.11.11.0/24
BGP routing table entry for 11.11.11.0/24, version 6
Paths: (1 available, best #1, table default)
Advertised to update-groups:
2 3
Refresh Epoch 1
Local
0.0.0.0 from 0.0.0.0 (1.1.1.1)
Origin IGP, metric 0, localpref 100, weight 32768, valid, sourced, local, best
rx pathid: 0, tx pathid: 0x0
Классификация проблемных ситуаций
Проблемы этапа обмена данными (updates) – тиражирование updates
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.19
R1#sh ip bgp update-group 2
BGP version 4 update-group 2, external, Address Family: IPv4 Unicast
BGP Update version : 6/0, messages 0
Route map for outgoing advertisements is SET_NH
Topology: global, highest version: 6, tail marker: 6
Format state: Current working (OK, last minimum advertisement interval)
Refresh blocked (not in list, last not in list)
Update messages formatted 3, replicated 3, current 0, refresh 0, limit 1000
Number of NLRIs in the update sent: max 1, min 0
Minimum time between advertisement runs is 30 seconds
Has 1 member:
3.3.3.3
R1#sh ip bgp update-group 3
BGP version 4 update-group 3, internal, Address Family: IPv4 Unicast
BGP Update version : 6/0, messages 0
Topology: global, highest version: 6, tail marker: 6
Format state: Current working (OK, last not in list)
Refresh blocked (not in list, last not in list)
Update messages formatted 2, replicated 2, current 0, refresh 0, limit 1000
Number of NLRIs in the update sent: max 1, min 0
Minimum time between advertisement runs is 0 seconds
Has 2 members:
2.2.2.2 6.6.6.6
Классификация проблемных ситуаций
Проблемы этапа обмена данными (updates) – множество RR кластеров
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.20
https://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/
200153-BGP-Route-Reflection-and-Multiple-Cluste.html
Классификация проблемных ситуаций
Проблемы этапа обмена данными (updates) / prefix flapping
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.21
R1#sh ip bgp summ
BGP router identifier 1.1.1.1, local AS number 100
BGP table version is 402735, main routing table version 402735
399996 network entries using 55999440 bytes of memory
399996 path entries using 30399696 bytes of memory
40000/40000 BGP path/bestpath attribute entries using 5440000 bytes of memory
40000 BGP AS-PATH entries using 1616904 bytes of memory
0 BGP route-map cache entries using 0 bytes of memory
0 BGP filter-list cache entries using 0 bytes of memory
BGP using 93456040 total bytes of memory
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
3.3.3.3 4 100 4 41109 402735 0 0 00:00:43 0
10.0.1.254 4 99 82956 7 402471 0 0 00:04:35 399996
R1#sh ip bgp summ
BGP router identifier 1.1.1.1, local AS number 100
BGP table version is 402928, main routing table version 402928
...
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
3.3.3.3 4 100 4 41311 402938 0 0 00:00:52 0
10.0.1.254 4 99 83149 7 402471 0 0 00:04:44 399995
Классификация проблемных ситуаций
Проблемы этапа обмена данными (updates) / prefix flapping
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.22
R1#sh ip route | i 00:00:0
B 128.136.139.32[20/17968] via 10.0.1.254, 00:00:01
B 128.1.169.160 [20/16430] via 10.0.1.254, 00:00:04
...
R1#sh ip bgp version recent <n>
Network Next Hop Metric LocPrf Weight Path
*> 128.136.139.32/27
10.0.1.254 17968 0 99 8124 4520 {19806} e
*> 128.170.223.192/27
10.0.1.254 9866 0 99 23700 5437 e
R1#sh ip bgp 128.136.139.32/27
BGP routing table entry for 128.136.139.32/27, version 412867
Paths: (1 available, best #1, table default)
Not advertised to any peer
Refresh Epoch 1
99 8124 4520 {19806}
10.0.1.254 from 10.0.1.254 (10.0.1.254)
Origin EGP, metric 17968, localpref 100, valid, external, best
rx pathid: 0, tx pathid: 0x0
Классификация проблемных ситуаций
Проблемы этапа обмена данными (updates) – тиражирование updates
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.23
Дополнительно проблема тиражирования будет рассмотрена в
разделе «ситуаций»
Классификация проблемных ситуаций
Проблемы транспортного уровня (TCP 179);
Проблемы этапа обмена данными (updates);
Проблемы выбора best-path;
Проблемы установки маршрутов в RIB/ программирование HW
Общесистемные проблемы
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.24
Классификация проблемных ситуаций
Из расчета best-path исключаются:
1.  Неверный (отсутствует или рекурсивный конфликт RIB), либо
блокированный next-hop;
2.  Префикс от iBGP «не синхронизирован» (команда “sync”);
3.  “Receive-only” (могут присутствовать в таблице BGP, когда настроен “soft-
reconfiguration inbound”)
Выбор best-path
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.25
Классификация проблемных ситуаций
1.  WEIGHT (не передается в updates);
2.  Local preference (default –eq 100, распространяется только в рамках AS);
3.  Locally originated (“network”, “aggregate”) – weight 32768;
4.  AS-path;
5.  Origin type (IGP/EGP/INCOMPLETE);
6.  MED (ряд условий и настроек);
7.  eBGP over iBGP;
8.  IGP metric to next-hop;
9.  *Multipath (требует настройки);
10. eBGP – наиболее старый маршрут (настройки)
11. Router-id (originator-id);
12. Cluster length
13. Lowest IP-address
Алгоритм best-path
http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/13753-25.html
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.26
Классификация проблемных ситуаций
Проблемы расчет Best-path для каждого префикса:
1)  Next-hop недоступен;
2)  Next-hop рекурсивно указывает на BGP peer;
3)  Next-hop указывает в неверном направлении;
4)  Несогласованность настроек внутри одной AS (перманентная
нестабильность);
5)  Более одного стабильного состояния
Алгоритм best-path
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.27
Команды:
- show ip bgp <prefix>/<mask>
- show ip cef/route <prefix>/<mask>
- show runn | section router bgp
Классификация проблемных ситуаций
iBGP может передать next-hop, который нам не известен:
BGP(0): 1.1.1.1 rcvd UPDATE w/ attr: nexthop 99.99.99.99, origin i, localpref 100, metric 0
BGP(0): 1.1.1.1 rcvd 10.0.1.0/24
BGP(0): no valid path for 10.0.1.0/24
R3#sh ip bgp 10.0.1.0/24
BGP routing table entry for 10.0.1.0/24, version 5
Paths: (1 available, no best path)
Not advertised to any peer
Local
99.99.99.99 (inaccessible) from 1.1.1.1 (1.1.1.1)
Алгоритм best-path / проблемы Next-hop - недоступен
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.28
Классификация проблемных ситуаций
BGP может передать next-hop, рекурсивно указывающий на себя:
R3# sh ip bgp
Network Next Hop Metric LocPrf Weight Path
* 1.1.1.1/32 10.0.1.253 0 0 100 i
*> 10.0.1.0/24 10.0.1.253 0 0 100 I
R3#sh ip bgp 10.0.1.0/24
10.0.1.253 from 10.0.13.1 (1.1.1.1)
Origin IGP, metric 0, localpref 100, valid, external, best
R3#sh ip bgp 1.1.1.1/32
Paths: (1 available, no best path)
Not advertised to any peer
10.0.1.253 (inaccessible) from 10.0.13.1 (1.1.1.1)
Origin IGP, metric 0, localpref 100, valid, external
rx pathid: 0, tx pathid: 0
R3#sh ip cef 10.0.1.253 det
10.0.1.253/32, epoch 0
1 RR source [active source]
Dependent covered prefix type rr, cover 10.0.1.0/24
recursive via 10.0.1.0/24, unresolved
Алгоритм best-path / проблемы Next-hop – проблема рекурсии
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.29
Классификация проблемных ситуаций
Либо next-hop может вести не туда, куда мы ожидаем:
R3#sh ip route 10.0.1.0
Routing entry for 10.0.1.0/24
Known via "bgp 100", distance 200, metric 0, type internal
Last update from 99.99.99.99 00:03:08 ago
Routing Descriptor Blocks:
* 99.99.99.99, from 1.1.1.1, 00:03:08 ago
R3#sh ip cef 10.0.1.0 detail
10.0.1.0/24, epoch 0, flags rib only nolabel, rib defined all labels
recursive via 99.99.99.99
recursive via 99.0.0.0/8
nexthop 10.0.3.253 Ethernet0/0
nexthop 10.0.3.254 Ethernet0/0
Алгоритм best-path / проблемы Next-hop
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.30
Классификация проблемных ситуаций
Алгоритм best-path / нестабильные состояния
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.31
Несогласованность настроек MED может вести к постоянным пересчетам
BGP:
• “bgp always-compare-med”;
• “bgp deterministic-med”:
•  IOS – выключен;
•  IOS-XR – включен;
http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/
13759-37.html
Классификация проблемных ситуаций
Проблема: существование более одного потенциального стабильного
состояния существенно усложняет troubleshooting и делает
практически невозможным “baseline-анализ”.
•  Проблема стабильных состояний BGP
хорошо (и с примерами) описана в RFC 4264 “BGP Wedgies”
•  Проблема стабильных состояний сети (проблема дизайна)
как правило, возникает в случаях явного и неявного redistribute
Алгоритм best-path / более одного стабильного состояния
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.32
Классификация проблемных ситуаций
Алгоритм best-path / проблема дизайна
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.33
Сценарий EIGRP:
Префикс 10.0.1.0/24 получен по eBGP (от R3).
Префикс 10.0.1.0/24 получен по IGP (от R1).
На R2 команда BGP “network 10.0.1.0 mask 255.255.255.0”
Сценарий OSPF:
Префикс 10.0.0.0/8 получен по eBGP (от R3)
На R2 OSPF : “area 0 range 10.0.0.0 255.0.0.0”
На R2 команда BGP “network 10.0.0.0 mask 255.0.0.0”
Классификация проблемных ситуаций
BGP first:
R2#
Network Next Hop Metric LocPrf Weight Path
*> 10.0.1.0/24 10.0.23.3 0 0 33 i
R2#sh ip route 10.0.1.0
Routing entry for 10.0.1.0/24
Known via "bgp 22", distance 20, metric 0
Tag 33, type external
Алгоритм best-path / проблема дизайна
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.34
EIGRP first:
R2#
Network Next Hop Metric LocPrf Weight Path
* 10.0.1.0/24 10.0.23.3 0 0 33 i
*> 10.0.12.1 156160 32768 I
R2#sh ip route 10.0.1.0
Routing entry for 10.0.1.0/24
Known via "eigrp 1", distance 170, metric 156160, type external
Redistributing via eigrp 1
Advertised by bgp 22
Классификация проблемных ситуаций
Проблемы транспортного уровня (TCP 179);
Проблемы этапа обмена данными (updates);
Проблемы выбора best-path;
Проблемы быстрой сходимости и установки маршрутов в RIB/
FIB
Общесистемные проблемы
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.35
Классификация проблемных ситуаций
1)  Большое время “failure detection”;
2)  Большое время control plane convergence;
3)  Большое время установки маршрутов в FIB
Рекомендации по теме:
BRKIPM-2265 – Deploying BGP Fast Convergence
Проблемы быстрой сходимости и установки маршрутов в RIB/FIB
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.36
Классификация проблемных ситуаций
Проблемы транспортного уровня (TCP 179);
Проблемы этапа обмена данными (updates);
Проблемы выбора best-path;
Проблемы быстрой сходимости и установки маршрутов в RIB/FIB
Общесистемные проблемы
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.37
Классификация проблемных ситуаций
1)  High CPU “BGP Router“
2)  High CPU “BGP Scanner“
3)  Высокая загрузка памяти
Рекомендации по теме:
http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/
107615-highcpu-bgp.html
http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/
12512-41.html
Общесистемный проблемы
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.38
Классификация проблемных ситуаций
#show proc cpu sort | I BGP
Общесистемный проблемы / процессы BGP
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.39
Процесс Описание Интервал
BGP Router Расчет best path, контроль получения
отправки updates, обновления RIB
По факту
события
BGP Scanner Проверка BGP table на предмет
доступности next-hop; проверка условного
анонса префиксов,route dampening,
1 раз в
минуту
BGP I/O Обработка пакетов BGP (update/keepalive) По факту
события
Классификация проблемных ситуаций
Дополнительные ссылки по теме:
https://tools.ietf.org/html/rfc4271
http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/22166-
bgp-trouble-main.html
http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/19345-
bgp-noad.html
http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/19167-
bgp-rec-routing.html
https://supportforums.cisco.com/discussion/12576981/ask-expert-configuring-and-
troubleshooting-border-gateway-protocol-bgp
Резюме
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.40
Agenda
•  Классификация проблемных ситуаций
•  Детали конкретных случаев
•  Рекомендации: как [не] следует делать
•  Q&A
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.41
Детали случаев
Пример 1 – BGP flapping
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.42
13:38:46.588: %BGP-5-ADJCHANGE: neighbor 6.6.6.6 Up
13:39:22.231: %BGP-5-NBR_RESET: Neighbor 6.6.6.6 reset (Peer closed the session)
13:39:22.231: %BGP-3-NOTIFICATION: received from neighbor 6.6.6.6 4/0 (hold time expired) 0 bytes
13:39:22.232: %BGP-5-ADJCHANGE: neighbor 6.6.6.6 Down Peer closed the session
13:39:22.232: %BGP_SESSION-5-ADJCHANGE: neighbor 6.6.6.6 IPv4 Unicast topology base removed from session
Peer closed the session
13:39:35.750: %BGP-5-ADJCHANGE: neighbor 6.6.6.6 Up
13:40:11.361: %BGP-3-NOTIFICATION: received from neighbor 6.6.6.6 4/0 (hold time expired) 0 bytes
13:40:11.361: %BGP-5-NBR_RESET: Neighbor 6.6.6.6 reset (BGP Notification received)
13:40:11.362: %BGP-5-ADJCHANGE: neighbor 6.6.6.6 Down BGP Notification received
13:40:11.362: %BGP_SESSION-5-ADJCHANGE: neighbor 6.6.6.6 IPv4 Unicast topology base removed from session
BGP Notification received
13:40:20.726: %BGP-5-ADJCHANGE: neighbor 6.6.6.6 Up
Timers 10/35
Детали случаев
Пример 1 – BGP flapping
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.43
R1# sh ip bgp summ
BGP router identifier 1.1.1.1, local AS number 100
BGP table version is 2000001, main routing table version 2000001
400000 network entries using 56000000 bytes of memory
400000 path entries using 30400000 bytes of memory
40000/40000 BGP path/bestpath attribute entries using 5440000 bytes of memory
40000 BGP AS-PATH entries using 1616904 bytes of memory
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
3.3.3.3 4 100 41 81734 2000001 0 0 00:35:22 0
6.6.6.6 4 100 4 14 1 0 999 00:00:05 0
10.0.1.254 4 99 40020 24 2000001 0 0 00:18:23 400000
R1#ping 6.6.6.6 so 1.1.1.1 si 1500 df
Sending 5, 1500-byte ICMP Echos to 6.6.6.6, timeout is 2 seconds:
Packet sent with a source address of 1.1.1.1
Packet sent with the DF bit set
.....
Success rate is 0 percent (0/5)
http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/116377-troubleshoot-bgp-mtu.html
Детали случаев
Пример 2 – несоответствие количества маршрутов на BGP соседях
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.44
R3#sh ip bgp summ
BGP table version is 1, main routing table version 1
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
1.1.1.1 4 100 93595 59 1 0 0 00:51:30 113500
R6#sh ip bgp summ
BGP table version is 1, main routing table version 1
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
1.1.1.1 4 100 50810 50 1 0 0 00:07:25 113500
R1#sh ip bgp summ
BGP table version is 2800001, main routing table version 2800001
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
3.3.3.3 4 100 59 93547 2405131 0 0 00:51:29 0
6.6.6.6 4 100 50 50808 2405131 0 1000 00:07:24 0
10.0.1.254 4 99 40006 9 2800001 0 0 00:04:35 400000
Детали случаев
Пример 2 – несоответствие маршрутов
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.45
R1#sh ip bgp summ | b Nei
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
3.3.3.3 4 100 62 108719 2405131 0 0 00:54:13 0
6.6.6.6 4 100 67 65980 2405131 0 1000 00:10:08 0
10.0.1.254 4 99 40008 11 2800001 0 0 00:07:19 400000
R1#
R1#sh ip bgp summ | b Nei
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
3.3.3.3 4 100 63 110385 2405131 0 0 00:54:30 0
6.6.6.6 4 100 69 67646 2405131 0 1000 00:10:25 0
10.0.1.254 4 99 40009 12 2800001 0 0 00:07:37 400000
R1#sh ip bgp update-group
BGP version 4 update-group 1, internal, Address Family: IPv4 Unicast
BGP Update version : 2405131/2800001, messages 1000
Topology: global, highest version: 2800001, tail marker: 2800001
Format state: Current blocked (no message space, last no message space)
Refresh blocked (not in list, last not in list)
Update messages formatted 208363, replicated 259705, current 1000, refresh 0, limit 1000
Number of NLRIs in the update sent: max 812, min 0
Minimum time between advertisement runs is 0 seconds
Has 2 members:
3.3.3.3 6.6.6.6
Детали случаев
Пример 2 – несоответствие маршрутов
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.46
R1#sh ip bgp summ
BGP router identifier 1.1.1.1, local AS number 100
BGP table version is 2800001, main routing table version 2800001
400000 network entries using 56000000 bytes of memory
400000 path entries using 30400000 bytes of memory
40000/40000 BGP path/bestpath attribute entries using 5440000 bytes of memory
40000 BGP AS-PATH entries using 1616904 bytes of memory
0 BGP route-map cache entries using 0 bytes of memory
0 BGP filter-list cache entries using 0 bytes of memory
BGP using 93456904 total bytes of memory
BGP activity 834910/434910 prefixes, 1600000/1200000 paths, scan interval 60 secs
Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd
3.3.3.3 4 100 74 122254 2800001 0 0 01:04:54 0
6.6.6.6 4 100 136 80551 2800001 0 0 00:20:49 0
10.0.1.254 4 99 40019 23 2800001 0 0 00:18:01 400000
http://www.cisco.com/c/en/us/td/docs/ios/ios_xe/iproute_bgp/configuration/guide/2_xe/irg_xe_book/
irg_slow_peer_xe.html
Детали случаев
Пример 3 – полная потеря маршрутов / проблема
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.47
R4#sh ip bgp 10.0.67.0/24
BGP routing table entry for 10.0.67.0/24, version 4
Paths: (2 available, best #2, table default)
Advertised to update-groups:
2
Refresh Epoch 1
Local, (Received from a RR-client)
7.7.7.7 (metric 21) from 7.7.7.7 (7.7.7.7)
Origin IGP, metric 0, localpref 100, valid, internal
rx pathid: 0, tx pathid: 0
Refresh Epoch 1
Local, (Received from a RR-client)
6.6.6.6 (metric 21) from 6.6.6.6 (6.6.6.6)
Origin IGP, metric 0, localpref 100, valid, internal, best
rx pathid: 0, tx pathid: 0x0
R4#sh ip bgp 10.0.67.0/24
BGP routing table entry for 10.0.67.0/24, version 5
Paths: (2 available, best #1, table default)
Advertised to update-groups:
2
Refresh Epoch 1
Local, (Received from a RR-client)
7.7.7.7 from 7.7.7.7 (7.7.7.7)
Origin IGP, metric 0, localpref 100, valid, internal, best
rx pathid: 0, tx pathid: 0x0
Refresh Epoch 1
Local, (Received from a RR-client)
6.6.6.6 (metric 21) from 6.6.6.6 (6.6.6.6)
Origin IGP, metric 0, localpref 100, valid, internal
rx pathid: 0, tx pathid: 0
10.0.67.0/24
Детали случаев
Пример 3 – полная потеря маршрутов / причина
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.48
R4#sh ip route 7.7.7.7
% Network not in table
R4#sh ip cef 7.7.7.7
7.7.7.7/32
nexthop 10.0.4.254 Ethernet0/3
R4#sh ip route 0.0.0.0
Routing entry for 0.0.0.0/0, supernet
Known via "static", distance 1, metric 0, candidate
default path
Routing Descriptor Blocks:
* 10.0.4.254
Route metric is 0, traffic share count is 1
Детали случаев
Пример 3 – полная потеря маршрутов / два варианта решения
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.49
router bgp 12345
template peer-session RRC
remote-as 12345
update-source Loopback0
exit-peer-session
!
neighbor 6.6.6.6 inherit peer-session RRC
neighbor 7.7.7.7 inherit peer-session RRC
fall-over route-map NO_DEF_GW
bgp nexthop route-map NO_DEF_GW
route-map NO_DEF_GW deny 10
match ip address prefix-list DEF_GW
route-map NO_DEF_GW permit 20
ip prefix-list DEF_GW seq 10 permit 0.0.0.0/0
Содержание
•  Классификация проблемных ситуаций
•  Детали конкретных случаев
•  Рекомендации: как [не] следует делать
•  Q&A
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.50
Рекомендации
•  “Keep it simple, stupid” – избегайте излишней сложности дизайна;
•  Тщательное планирование топологии (масштабируемость, надежность);
•  Избегайте конфигураций со множеством стабильных состояний сети;
•  Используйте community для маркировки префиксов;
•  Используйте частные номера AS для private сетей;
•  Быстрая сходимость за счет настройки IGP (timer 1/3 – не лучший вариант
для iBGP сессии);
•  Используйте BFD для быстрой сходимости eBGP или floating static;
•  Избегайте присутствия 0.0.0.0/0 на iBGP роутерах, либо примите меры;
•  Следите за идентичностью настроек по всей AS (deterministic-med);
•  RR: используйте template peer-policy/peer-session;
•  RR: используйте slow-peer detection;
•  Избегайте ненужных iBGP сессий.
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.51
Основные правила troubleshooting
•  Не следует поддаваться панике;
•  Четко определите что является симптомом проблемы;
•  Если проблема затрагивает большое количество маршрутов, выберите
один и сфокусируйтесь на нем;
•  Если проблема имеет эпизодический характер, постарайтесь найти
корреляцию с другими событиями в сети;
•  Если Вы знакомы с сетью – постарайтесь сравнить наблюдаемое
поведение с baseline;
•  Не зацикливайтесь на одной версии причины – старайтесь
сформулировать несколько версий и, по ходу, отсеивайте неверные;
•  Если обнаружилась возможность workaround – используйте ее, в этом
случае поиск и устранение root cause можно будет перенести за пределы
бизнес-часов;
•  Keep calm and call TAC
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.52
Q&A
Вопросы?
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.53
Video
Russian Cisco Support Community
Data Center
VoiceSecurity
Routing and Switching
Contact Center
Unified Communications
Воспользуйтесь возможностью и задайте вопросы на форуме Технической
Поддержки Cisco - http://russiansupportforum.cisco.com
Голосовая связь
Системы унифицированных коммуникаций Маршрутизация и коммутация
Видео
Контакт центры
Центры Обработки данных
Безопасность
CUCMCUBE
UCCX
UCCE
Telepresence
ASA VPN IPS
ISR44xx/43xx
Nexus 7000 Cat 4900
4500 76006500
VSS
Протоколы маршрутизации
IOS XEIOS IOS XR
ISR ISR G2
ASR1000
FWSM
ASR90x
ASR9000
GSR12000 CRS
Ждем ваших сообщений с хештегом
#CiscoConnectRu
CiscoRu Cisco CiscoRussia CiscoRu
23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.
Advanced IPv4 BGP troubleshooting глазами TAC

More Related Content

What's hot

Межсетевые экраны Cisco ASA – десять лет непрерывного развития. Новые функции...
Межсетевые экраны Cisco ASA – десять лет непрерывного развития. Новые функции...Межсетевые экраны Cisco ASA – десять лет непрерывного развития. Новые функции...
Межсетевые экраны Cisco ASA – десять лет непрерывного развития. Новые функции...Cisco Russia
 
Развитие технологий построения распределенных ЦОД
Развитие технологий построения распределенных ЦОДРазвитие технологий построения распределенных ЦОД
Развитие технологий построения распределенных ЦОДCisco Russia
 
Как настроить DMVPN и избежать проблем
Как настроить DMVPN и избежать проблемКак настроить DMVPN и избежать проблем
Как настроить DMVPN и избежать проблемCisco Russia
 
Обзор новых возможностей Cisco WAE. Назначение и состав программной платформы
Обзор новых возможностей Cisco WAE. Назначение и состав программной платформыОбзор новых возможностей Cisco WAE. Назначение и состав программной платформы
Обзор новых возможностей Cisco WAE. Назначение и состав программной платформыCisco Russia
 
linkmeup-058. SDN. Cisco ACI
linkmeup-058. SDN. Cisco ACIlinkmeup-058. SDN. Cisco ACI
linkmeup-058. SDN. Cisco ACIeucariot
 
SoC, Ethernet testers
SoC, Ethernet testersSoC, Ethernet testers
SoC, Ethernet testerseucariot
 
Linkmeup #41 (2016-07) НТЦ Метротек. SoC
Linkmeup #41 (2016-07) НТЦ Метротек. SoCLinkmeup #41 (2016-07) НТЦ Метротек. SoC
Linkmeup #41 (2016-07) НТЦ Метротек. SoCeucariot
 
полигон импортозамещение для промпредприятий 2015 v11
полигон импортозамещение для промпредприятий 2015 v11полигон импортозамещение для промпредприятий 2015 v11
полигон импортозамещение для промпредприятий 2015 v11eucariot
 
MikroTik MUM Russia 2015
MikroTik MUM Russia 2015MikroTik MUM Russia 2015
MikroTik MUM Russia 2015MikroTikSPW
 
Технология Cisco Instant Access для упрощения структуры кампусных сетей
Технология Cisco Instant Access для упрощения структуры кампусных сетейТехнология Cisco Instant Access для упрощения структуры кампусных сетей
Технология Cisco Instant Access для упрощения структуры кампусных сетейCisco Russia
 
Технология Cisco Instant Access для упрощения структуры кампусных сетей.
Технология Cisco Instant Access для упрощения структуры кампусных сетей. Технология Cisco Instant Access для упрощения структуры кампусных сетей.
Технология Cisco Instant Access для упрощения структуры кампусных сетей. Cisco Russia
 
Обзор протокола Netconf/YANG и его применение для управления услугами
Обзор протокола Netconf/YANG и его применение для управления услугамиОбзор протокола Netconf/YANG и его применение для управления услугами
Обзор протокола Netconf/YANG и его применение для управления услугамиCisco Russia
 
Пакетное ядро мобильного оператора: ASR5k, поиски устранение неисправностей
Пакетное ядро мобильного оператора: ASR5k, поиски устранение неисправностейПакетное ядро мобильного оператора: ASR5k, поиски устранение неисправностей
Пакетное ядро мобильного оператора: ASR5k, поиски устранение неисправностейCisco Russia
 
Новые возможности межсетевых экранов Cisco ASA версий 9.2 - 9.5
Новые возможности межсетевых экранов Cisco ASA версий 9.2 - 9.5Новые возможности межсетевых экранов Cisco ASA версий 9.2 - 9.5
Новые возможности межсетевых экранов Cisco ASA версий 9.2 - 9.5Cisco Russia
 
Nexus 7000 – архитектура передачи данных. Поиск и устранение неисправностей.
Nexus 7000 – архитектура передачи данных. Поиск и устранение неисправностей.Nexus 7000 – архитектура передачи данных. Поиск и устранение неисправностей.
Nexus 7000 – архитектура передачи данных. Поиск и устранение неисправностей.Cisco Russia
 
Stc metrotek plum_space_smart_sfp_linkmeup_01
Stc metrotek plum_space_smart_sfp_linkmeup_01Stc metrotek plum_space_smart_sfp_linkmeup_01
Stc metrotek plum_space_smart_sfp_linkmeup_01eucariot
 
Архитектура Cisco EPN для сетей Carrier Ethernet и Mobile Backhaul
Архитектура Cisco EPN для сетей Carrier Ethernet и Mobile BackhaulАрхитектура Cisco EPN для сетей Carrier Ethernet и Mobile Backhaul
Архитектура Cisco EPN для сетей Carrier Ethernet и Mobile BackhaulCisco Russia
 

What's hot (17)

Межсетевые экраны Cisco ASA – десять лет непрерывного развития. Новые функции...
Межсетевые экраны Cisco ASA – десять лет непрерывного развития. Новые функции...Межсетевые экраны Cisco ASA – десять лет непрерывного развития. Новые функции...
Межсетевые экраны Cisco ASA – десять лет непрерывного развития. Новые функции...
 
Развитие технологий построения распределенных ЦОД
Развитие технологий построения распределенных ЦОДРазвитие технологий построения распределенных ЦОД
Развитие технологий построения распределенных ЦОД
 
Как настроить DMVPN и избежать проблем
Как настроить DMVPN и избежать проблемКак настроить DMVPN и избежать проблем
Как настроить DMVPN и избежать проблем
 
Обзор новых возможностей Cisco WAE. Назначение и состав программной платформы
Обзор новых возможностей Cisco WAE. Назначение и состав программной платформыОбзор новых возможностей Cisco WAE. Назначение и состав программной платформы
Обзор новых возможностей Cisco WAE. Назначение и состав программной платформы
 
linkmeup-058. SDN. Cisco ACI
linkmeup-058. SDN. Cisco ACIlinkmeup-058. SDN. Cisco ACI
linkmeup-058. SDN. Cisco ACI
 
SoC, Ethernet testers
SoC, Ethernet testersSoC, Ethernet testers
SoC, Ethernet testers
 
Linkmeup #41 (2016-07) НТЦ Метротек. SoC
Linkmeup #41 (2016-07) НТЦ Метротек. SoCLinkmeup #41 (2016-07) НТЦ Метротек. SoC
Linkmeup #41 (2016-07) НТЦ Метротек. SoC
 
полигон импортозамещение для промпредприятий 2015 v11
полигон импортозамещение для промпредприятий 2015 v11полигон импортозамещение для промпредприятий 2015 v11
полигон импортозамещение для промпредприятий 2015 v11
 
MikroTik MUM Russia 2015
MikroTik MUM Russia 2015MikroTik MUM Russia 2015
MikroTik MUM Russia 2015
 
Технология Cisco Instant Access для упрощения структуры кампусных сетей
Технология Cisco Instant Access для упрощения структуры кампусных сетейТехнология Cisco Instant Access для упрощения структуры кампусных сетей
Технология Cisco Instant Access для упрощения структуры кампусных сетей
 
Технология Cisco Instant Access для упрощения структуры кампусных сетей.
Технология Cisco Instant Access для упрощения структуры кампусных сетей. Технология Cisco Instant Access для упрощения структуры кампусных сетей.
Технология Cisco Instant Access для упрощения структуры кампусных сетей.
 
Обзор протокола Netconf/YANG и его применение для управления услугами
Обзор протокола Netconf/YANG и его применение для управления услугамиОбзор протокола Netconf/YANG и его применение для управления услугами
Обзор протокола Netconf/YANG и его применение для управления услугами
 
Пакетное ядро мобильного оператора: ASR5k, поиски устранение неисправностей
Пакетное ядро мобильного оператора: ASR5k, поиски устранение неисправностейПакетное ядро мобильного оператора: ASR5k, поиски устранение неисправностей
Пакетное ядро мобильного оператора: ASR5k, поиски устранение неисправностей
 
Новые возможности межсетевых экранов Cisco ASA версий 9.2 - 9.5
Новые возможности межсетевых экранов Cisco ASA версий 9.2 - 9.5Новые возможности межсетевых экранов Cisco ASA версий 9.2 - 9.5
Новые возможности межсетевых экранов Cisco ASA версий 9.2 - 9.5
 
Nexus 7000 – архитектура передачи данных. Поиск и устранение неисправностей.
Nexus 7000 – архитектура передачи данных. Поиск и устранение неисправностей.Nexus 7000 – архитектура передачи данных. Поиск и устранение неисправностей.
Nexus 7000 – архитектура передачи данных. Поиск и устранение неисправностей.
 
Stc metrotek plum_space_smart_sfp_linkmeup_01
Stc metrotek plum_space_smart_sfp_linkmeup_01Stc metrotek plum_space_smart_sfp_linkmeup_01
Stc metrotek plum_space_smart_sfp_linkmeup_01
 
Архитектура Cisco EPN для сетей Carrier Ethernet и Mobile Backhaul
Архитектура Cisco EPN для сетей Carrier Ethernet и Mobile BackhaulАрхитектура Cisco EPN для сетей Carrier Ethernet и Mobile Backhaul
Архитектура Cisco EPN для сетей Carrier Ethernet и Mobile Backhaul
 

Viewers also liked

Bsci module 2_advanced_eigrp
Bsci module 2_advanced_eigrpBsci module 2_advanced_eigrp
Bsci module 2_advanced_eigrpGaurav Saxena
 
Tradicional kermess
Tradicional kermessTradicional kermess
Tradicional kermesscrisgab57
 
Taller sistemas tecnológicos
Taller sistemas tecnológicosTaller sistemas tecnológicos
Taller sistemas tecnológicosgenial4
 
Critères affiche
Critères afficheCritères affiche
Critères afficheKlasse9PR2
 
Segundo gerardo alquinga ango
Segundo gerardo alquinga angoSegundo gerardo alquinga ango
Segundo gerardo alquinga angosgerardoalquinga
 
Como Perder Peso Sin hacer Dieta
Como Perder Peso Sin hacer Dieta Como Perder Peso Sin hacer Dieta
Como Perder Peso Sin hacer Dieta levelelation2732
 
Ingrid takamura saldaña
Ingrid takamura saldañaIngrid takamura saldaña
Ingrid takamura saldañaingrita16
 
Baromètre GPL mai 2016
Baromètre GPL mai 2016Baromètre GPL mai 2016
Baromètre GPL mai 2016VITOGAZ FRANCE
 
McMillan Resume - August 2016
McMillan Resume - August 2016McMillan Resume - August 2016
McMillan Resume - August 2016Mark McMillan
 
Mapa de Santiago de Paucaray - Sucre de Ayacucho
Mapa de Santiago de Paucaray - Sucre de AyacuchoMapa de Santiago de Paucaray - Sucre de Ayacucho
Mapa de Santiago de Paucaray - Sucre de AyacuchoSantiago De Paucaray Ac
 
VITOGAZ présente: l'édito Auto plus
VITOGAZ présente: l'édito Auto plusVITOGAZ présente: l'édito Auto plus
VITOGAZ présente: l'édito Auto plusVITOGAZ FRANCE
 
Empresas De Vehiculos Con Conductor
Empresas De Vehiculos Con Conductor
Empresas De Vehiculos Con Conductor
Empresas De Vehiculos Con Conductor coldnymph8202
 
CCNA Discovery 3 - Chapter 5
CCNA Discovery 3 - Chapter 5CCNA Discovery 3 - Chapter 5
CCNA Discovery 3 - Chapter 5Irsandi Hasan
 
Apakah perhitungan biaya kapital rata rata tertimbang (wacc) dalam capital bu...
Apakah perhitungan biaya kapital rata rata tertimbang (wacc) dalam capital bu...Apakah perhitungan biaya kapital rata rata tertimbang (wacc) dalam capital bu...
Apakah perhitungan biaya kapital rata rata tertimbang (wacc) dalam capital bu...Futurum2
 

Viewers also liked (19)

Bsci module 2_advanced_eigrp
Bsci module 2_advanced_eigrpBsci module 2_advanced_eigrp
Bsci module 2_advanced_eigrp
 
Tradicional kermess
Tradicional kermessTradicional kermess
Tradicional kermess
 
Taller sistemas tecnológicos
Taller sistemas tecnológicosTaller sistemas tecnológicos
Taller sistemas tecnológicos
 
Critères affiche
Critères afficheCritères affiche
Critères affiche
 
Plan de negocio
Plan de negocioPlan de negocio
Plan de negocio
 
Mazen_Mostafa
Mazen_MostafaMazen_Mostafa
Mazen_Mostafa
 
Segundo gerardo alquinga ango
Segundo gerardo alquinga angoSegundo gerardo alquinga ango
Segundo gerardo alquinga ango
 
Food balt kurppa
Food balt kurppaFood balt kurppa
Food balt kurppa
 
Como Perder Peso Sin hacer Dieta
Como Perder Peso Sin hacer Dieta Como Perder Peso Sin hacer Dieta
Como Perder Peso Sin hacer Dieta
 
Ingrid takamura saldaña
Ingrid takamura saldañaIngrid takamura saldaña
Ingrid takamura saldaña
 
Historia del mercadeo
Historia del mercadeo Historia del mercadeo
Historia del mercadeo
 
Baromètre GPL mai 2016
Baromètre GPL mai 2016Baromètre GPL mai 2016
Baromètre GPL mai 2016
 
McMillan Resume - August 2016
McMillan Resume - August 2016McMillan Resume - August 2016
McMillan Resume - August 2016
 
Mapa de Santiago de Paucaray - Sucre de Ayacucho
Mapa de Santiago de Paucaray - Sucre de AyacuchoMapa de Santiago de Paucaray - Sucre de Ayacucho
Mapa de Santiago de Paucaray - Sucre de Ayacucho
 
VITOGAZ présente: l'édito Auto plus
VITOGAZ présente: l'édito Auto plusVITOGAZ présente: l'édito Auto plus
VITOGAZ présente: l'édito Auto plus
 
Empresas De Vehiculos Con Conductor
Empresas De Vehiculos Con Conductor
Empresas De Vehiculos Con Conductor
Empresas De Vehiculos Con Conductor
 
CCNA Discovery 3 - Chapter 5
CCNA Discovery 3 - Chapter 5CCNA Discovery 3 - Chapter 5
CCNA Discovery 3 - Chapter 5
 
Apakah perhitungan biaya kapital rata rata tertimbang (wacc) dalam capital bu...
Apakah perhitungan biaya kapital rata rata tertimbang (wacc) dalam capital bu...Apakah perhitungan biaya kapital rata rata tertimbang (wacc) dalam capital bu...
Apakah perhitungan biaya kapital rata rata tertimbang (wacc) dalam capital bu...
 
Bab ii
Bab iiBab ii
Bab ii
 

Similar to Advanced IPv4 BGP troubleshooting глазами TAC

Построение автономных и управляемых сетей
Построение автономных и управляемых сетейПостроение автономных и управляемых сетей
Построение автономных и управляемых сетейCisco Russia
 
iWAN: Интелектуальная маршрутизация, основанная на функционале Performance Ro...
iWAN: Интелектуальная маршрутизация, основанная на функционале Performance Ro...iWAN: Интелектуальная маршрутизация, основанная на функционале Performance Ro...
iWAN: Интелектуальная маршрутизация, основанная на функционале Performance Ro...Cisco Russia
 
Методики и инструменты для самостоятельного решения проблем в сети
Методики и инструменты для самостоятельного решения проблем в сетиМетодики и инструменты для самостоятельного решения проблем в сети
Методики и инструменты для самостоятельного решения проблем в сетиCisco Russia
 
Сетевая диагностика: новый взгляд сквозь старые щели / Евгений Усков (Qrator ...
Сетевая диагностика: новый взгляд сквозь старые щели / Евгений Усков (Qrator ...Сетевая диагностика: новый взгляд сквозь старые щели / Евгений Усков (Qrator ...
Сетевая диагностика: новый взгляд сквозь старые щели / Евгений Усков (Qrator ...Ontico
 
Архитектура Segment Routing
Архитектура Segment RoutingАрхитектура Segment Routing
Архитектура Segment RoutingCisco Russia
 
Примеры применения Cisco WAE на сети оператора связи
Примеры применения Cisco WAE на сети оператора связиПримеры применения Cisco WAE на сети оператора связи
Примеры применения Cisco WAE на сети оператора связиCisco Russia
 
Linkmeup v076(2019-06).3
Linkmeup v076(2019-06).3Linkmeup v076(2019-06).3
Linkmeup v076(2019-06).3eucariot
 
Поддержка Segment Routing на IOS XR
Поддержка Segment Routing на IOS XRПоддержка Segment Routing на IOS XR
Поддержка Segment Routing на IOS XRCisco Russia
 
Cisco Nexus 7700 и Cisco Catalyst 6800. Особенности применения в корпоративно...
Cisco Nexus 7700 и Cisco Catalyst 6800. Особенности применения в корпоративно...Cisco Nexus 7700 и Cisco Catalyst 6800. Особенности применения в корпоративно...
Cisco Nexus 7700 и Cisco Catalyst 6800. Особенности применения в корпоративно...Cisco Russia
 
Пишем свой протокол поверх UDP или платформа потокового видео с нуля на милли...
Пишем свой протокол поверх UDP или платформа потокового видео с нуля на милли...Пишем свой протокол поверх UDP или платформа потокового видео с нуля на милли...
Пишем свой протокол поверх UDP или платформа потокового видео с нуля на милли...Ontico
 
Поиск неисправностей в беспроводных сетях, управляемых контроллерами
 Поиск неисправностей в беспроводных сетях, управляемых контроллерами Поиск неисправностей в беспроводных сетях, управляемых контроллерами
Поиск неисправностей в беспроводных сетях, управляемых контроллерамиCisco Russia
 
Настройка резервирования в Mikrotik. Dual-WAN, основные принципы и пошаговая ...
Настройка резервирования в Mikrotik. Dual-WAN, основные принципы и пошаговая ...Настройка резервирования в Mikrotik. Dual-WAN, основные принципы и пошаговая ...
Настройка резервирования в Mikrotik. Dual-WAN, основные принципы и пошаговая ...mikrotik-training
 
Планирование и оптимизация сети оператора связи IP/MPLS с Cisco WAN Orchestra...
Планирование и оптимизация сети оператора связи IP/MPLS с Cisco WAN Orchestra...Планирование и оптимизация сети оператора связи IP/MPLS с Cisco WAN Orchestra...
Планирование и оптимизация сети оператора связи IP/MPLS с Cisco WAN Orchestra...Cisco Russia
 
Тестирование оборудования для операторов связи: методики, инструменты, анализ...
Тестирование оборудования для операторов связи: методики, инструменты, анализ...Тестирование оборудования для операторов связи: методики, инструменты, анализ...
Тестирование оборудования для операторов связи: методики, инструменты, анализ...Cisco Russia
 
Архитектура UCCE: компоненты UCCE и их взаимодействие
Архитектура UCCE: компоненты UCCE и их взаимодействиеАрхитектура UCCE: компоненты UCCE и их взаимодействие
Архитектура UCCE: компоненты UCCE и их взаимодействиеCisco Russia
 
Networking technology in modern Virtual Private Clouds (RUS, RootConf++ 2018)
Networking technology in modern Virtual Private Clouds (RUS, RootConf++ 2018)Networking technology in modern Virtual Private Clouds (RUS, RootConf++ 2018)
Networking technology in modern Virtual Private Clouds (RUS, RootConf++ 2018)Vadim Ponomarev
 
Networks in the cloud on OpenStask: problems we face and their solution
Networks in the cloud on OpenStask: problems we face and their solutionNetworks in the cloud on OpenStask: problems we face and their solution
Networks in the cloud on OpenStask: problems we face and their solutionVadim Ponomarev
 
QA Fest 2018. Святослав Логин. Что такое Metasploit? Как его использовать для...
QA Fest 2018. Святослав Логин. Что такое Metasploit? Как его использовать для...QA Fest 2018. Святослав Логин. Что такое Metasploit? Как его использовать для...
QA Fest 2018. Святослав Логин. Что такое Metasploit? Как его использовать для...QAFest
 

Similar to Advanced IPv4 BGP troubleshooting глазами TAC (20)

Построение автономных и управляемых сетей
Построение автономных и управляемых сетейПостроение автономных и управляемых сетей
Построение автономных и управляемых сетей
 
iWAN: Интелектуальная маршрутизация, основанная на функционале Performance Ro...
iWAN: Интелектуальная маршрутизация, основанная на функционале Performance Ro...iWAN: Интелектуальная маршрутизация, основанная на функционале Performance Ro...
iWAN: Интелектуальная маршрутизация, основанная на функционале Performance Ro...
 
Методики и инструменты для самостоятельного решения проблем в сети
Методики и инструменты для самостоятельного решения проблем в сетиМетодики и инструменты для самостоятельного решения проблем в сети
Методики и инструменты для самостоятельного решения проблем в сети
 
Rc uskov
Rc uskovRc uskov
Rc uskov
 
RootConf 2015
RootConf 2015RootConf 2015
RootConf 2015
 
Сетевая диагностика: новый взгляд сквозь старые щели / Евгений Усков (Qrator ...
Сетевая диагностика: новый взгляд сквозь старые щели / Евгений Усков (Qrator ...Сетевая диагностика: новый взгляд сквозь старые щели / Евгений Усков (Qrator ...
Сетевая диагностика: новый взгляд сквозь старые щели / Евгений Усков (Qrator ...
 
Архитектура Segment Routing
Архитектура Segment RoutingАрхитектура Segment Routing
Архитектура Segment Routing
 
Примеры применения Cisco WAE на сети оператора связи
Примеры применения Cisco WAE на сети оператора связиПримеры применения Cisco WAE на сети оператора связи
Примеры применения Cisco WAE на сети оператора связи
 
Linkmeup v076(2019-06).3
Linkmeup v076(2019-06).3Linkmeup v076(2019-06).3
Linkmeup v076(2019-06).3
 
Поддержка Segment Routing на IOS XR
Поддержка Segment Routing на IOS XRПоддержка Segment Routing на IOS XR
Поддержка Segment Routing на IOS XR
 
Cisco Nexus 7700 и Cisco Catalyst 6800. Особенности применения в корпоративно...
Cisco Nexus 7700 и Cisco Catalyst 6800. Особенности применения в корпоративно...Cisco Nexus 7700 и Cisco Catalyst 6800. Особенности применения в корпоративно...
Cisco Nexus 7700 и Cisco Catalyst 6800. Особенности применения в корпоративно...
 
Пишем свой протокол поверх UDP или платформа потокового видео с нуля на милли...
Пишем свой протокол поверх UDP или платформа потокового видео с нуля на милли...Пишем свой протокол поверх UDP или платформа потокового видео с нуля на милли...
Пишем свой протокол поверх UDP или платформа потокового видео с нуля на милли...
 
Поиск неисправностей в беспроводных сетях, управляемых контроллерами
 Поиск неисправностей в беспроводных сетях, управляемых контроллерами Поиск неисправностей в беспроводных сетях, управляемых контроллерами
Поиск неисправностей в беспроводных сетях, управляемых контроллерами
 
Настройка резервирования в Mikrotik. Dual-WAN, основные принципы и пошаговая ...
Настройка резервирования в Mikrotik. Dual-WAN, основные принципы и пошаговая ...Настройка резервирования в Mikrotik. Dual-WAN, основные принципы и пошаговая ...
Настройка резервирования в Mikrotik. Dual-WAN, основные принципы и пошаговая ...
 
Планирование и оптимизация сети оператора связи IP/MPLS с Cisco WAN Orchestra...
Планирование и оптимизация сети оператора связи IP/MPLS с Cisco WAN Orchestra...Планирование и оптимизация сети оператора связи IP/MPLS с Cisco WAN Orchestra...
Планирование и оптимизация сети оператора связи IP/MPLS с Cisco WAN Orchestra...
 
Тестирование оборудования для операторов связи: методики, инструменты, анализ...
Тестирование оборудования для операторов связи: методики, инструменты, анализ...Тестирование оборудования для операторов связи: методики, инструменты, анализ...
Тестирование оборудования для операторов связи: методики, инструменты, анализ...
 
Архитектура UCCE: компоненты UCCE и их взаимодействие
Архитектура UCCE: компоненты UCCE и их взаимодействиеАрхитектура UCCE: компоненты UCCE и их взаимодействие
Архитектура UCCE: компоненты UCCE и их взаимодействие
 
Networking technology in modern Virtual Private Clouds (RUS, RootConf++ 2018)
Networking technology in modern Virtual Private Clouds (RUS, RootConf++ 2018)Networking technology in modern Virtual Private Clouds (RUS, RootConf++ 2018)
Networking technology in modern Virtual Private Clouds (RUS, RootConf++ 2018)
 
Networks in the cloud on OpenStask: problems we face and their solution
Networks in the cloud on OpenStask: problems we face and their solutionNetworks in the cloud on OpenStask: problems we face and their solution
Networks in the cloud on OpenStask: problems we face and their solution
 
QA Fest 2018. Святослав Логин. Что такое Metasploit? Как его использовать для...
QA Fest 2018. Святослав Логин. Что такое Metasploit? Как его использовать для...QA Fest 2018. Святослав Логин. Что такое Metasploit? Как его использовать для...
QA Fest 2018. Святослав Логин. Что такое Metasploit? Как его использовать для...
 

More from Cisco Russia

Service portfolio 18
Service portfolio 18Service portfolio 18
Service portfolio 18Cisco Russia
 
История одного взлома. Как решения Cisco могли бы предотвратить его?
История одного взлома. Как решения Cisco могли бы предотвратить его?История одного взлома. Как решения Cisco могли бы предотвратить его?
История одного взлома. Как решения Cisco могли бы предотвратить его?Cisco Russia
 
Об оценке соответствия средств защиты информации
Об оценке соответствия средств защиты информацииОб оценке соответствия средств защиты информации
Об оценке соответствия средств защиты информацииCisco Russia
 
Обзор Сервисных Услуг Cisco в России и странах СНГ.
Обзор Сервисных Услуг Cisco в России и странах СНГ.Обзор Сервисных Услуг Cisco в России и странах СНГ.
Обзор Сервисных Услуг Cisco в России и странах СНГ.Cisco Russia
 
Клиентские контракты на техническую поддержку Cisco Smart Net Total Care
Клиентские контракты на техническую поддержку Cisco Smart Net Total CareКлиентские контракты на техническую поддержку Cisco Smart Net Total Care
Клиентские контракты на техническую поддержку Cisco Smart Net Total CareCisco Russia
 
Cisco Catalyst 9000 series
Cisco Catalyst 9000 series Cisco Catalyst 9000 series
Cisco Catalyst 9000 series Cisco Russia
 
Cisco Endpoint Security for MSSPs
Cisco Endpoint Security for MSSPsCisco Endpoint Security for MSSPs
Cisco Endpoint Security for MSSPsCisco Russia
 
Профессиональные услуги Cisco для Software-Defined Access
Профессиональные услуги Cisco для Software-Defined AccessПрофессиональные услуги Cisco для Software-Defined Access
Профессиональные услуги Cisco для Software-Defined AccessCisco Russia
 
Обнаружение известного вредоносного кода в зашифрованном с помощью TLS трафик...
Обнаружение известного вредоносного кода в зашифрованном с помощью TLS трафик...Обнаружение известного вредоносного кода в зашифрованном с помощью TLS трафик...
Обнаружение известного вредоносного кода в зашифрованном с помощью TLS трафик...Cisco Russia
 
Промышленный Интернет вещей: опыт и результаты применения в нефтегазовой отрасли
Промышленный Интернет вещей: опыт и результаты применения в нефтегазовой отраслиПромышленный Интернет вещей: опыт и результаты применения в нефтегазовой отрасли
Промышленный Интернет вещей: опыт и результаты применения в нефтегазовой отраслиCisco Russia
 
Полугодовой отчет Cisco по информационной безопасности за 2017 год
Полугодовой отчет Cisco по информационной безопасности за 2017 год Полугодовой отчет Cisco по информационной безопасности за 2017 год
Полугодовой отчет Cisco по информационной безопасности за 2017 год Cisco Russia
 
Годовой отчет Cisco по кибербезопасности за 2017 год
Годовой отчет Cisco по кибербезопасности за 2017 годГодовой отчет Cisco по кибербезопасности за 2017 год
Годовой отчет Cisco по кибербезопасности за 2017 годCisco Russia
 
Безопасность для цифровой экономики. Развитие продуктов и решений Cisco
Безопасность для цифровой экономики. Развитие продуктов и решений CiscoБезопасность для цифровой экономики. Развитие продуктов и решений Cisco
Безопасность для цифровой экономики. Развитие продуктов и решений CiscoCisco Russia
 
Cisco StealthWatch. Использование телеметрии для решения проблемы зашифрованн...
Cisco StealthWatch. Использование телеметрии для решения проблемы зашифрованн...Cisco StealthWatch. Использование телеметрии для решения проблемы зашифрованн...
Cisco StealthWatch. Использование телеметрии для решения проблемы зашифрованн...Cisco Russia
 
Обеспечение бесперебойной работы корпоративных приложений в больших гетероген...
Обеспечение бесперебойной работы корпоративных приложений в больших гетероген...Обеспечение бесперебойной работы корпоративных приложений в больших гетероген...
Обеспечение бесперебойной работы корпоративных приложений в больших гетероген...Cisco Russia
 
Новое поколение серверов Сisco UCS. Гиперконвергентное решении Cisco HyperFle...
Новое поколение серверов Сisco UCS. Гиперконвергентное решении Cisco HyperFle...Новое поколение серверов Сisco UCS. Гиперконвергентное решении Cisco HyperFle...
Новое поколение серверов Сisco UCS. Гиперконвергентное решении Cisco HyperFle...Cisco Russia
 

More from Cisco Russia (20)

Service portfolio 18
Service portfolio 18Service portfolio 18
Service portfolio 18
 
История одного взлома. Как решения Cisco могли бы предотвратить его?
История одного взлома. Как решения Cisco могли бы предотвратить его?История одного взлома. Как решения Cisco могли бы предотвратить его?
История одного взлома. Как решения Cisco могли бы предотвратить его?
 
Об оценке соответствия средств защиты информации
Об оценке соответствия средств защиты информацииОб оценке соответствия средств защиты информации
Об оценке соответствия средств защиты информации
 
Обзор Сервисных Услуг Cisco в России и странах СНГ.
Обзор Сервисных Услуг Cisco в России и странах СНГ.Обзор Сервисных Услуг Cisco в России и странах СНГ.
Обзор Сервисных Услуг Cisco в России и странах СНГ.
 
Клиентские контракты на техническую поддержку Cisco Smart Net Total Care
Клиентские контракты на техническую поддержку Cisco Smart Net Total CareКлиентские контракты на техническую поддержку Cisco Smart Net Total Care
Клиентские контракты на техническую поддержку Cisco Smart Net Total Care
 
Cisco Catalyst 9000 series
Cisco Catalyst 9000 series Cisco Catalyst 9000 series
Cisco Catalyst 9000 series
 
Cisco Catalyst 9500
Cisco Catalyst 9500Cisco Catalyst 9500
Cisco Catalyst 9500
 
Cisco Catalyst 9400
Cisco Catalyst 9400Cisco Catalyst 9400
Cisco Catalyst 9400
 
Cisco Umbrella
Cisco UmbrellaCisco Umbrella
Cisco Umbrella
 
Cisco Endpoint Security for MSSPs
Cisco Endpoint Security for MSSPsCisco Endpoint Security for MSSPs
Cisco Endpoint Security for MSSPs
 
Cisco FirePower
Cisco FirePowerCisco FirePower
Cisco FirePower
 
Профессиональные услуги Cisco для Software-Defined Access
Профессиональные услуги Cisco для Software-Defined AccessПрофессиональные услуги Cisco для Software-Defined Access
Профессиональные услуги Cisco для Software-Defined Access
 
Обнаружение известного вредоносного кода в зашифрованном с помощью TLS трафик...
Обнаружение известного вредоносного кода в зашифрованном с помощью TLS трафик...Обнаружение известного вредоносного кода в зашифрованном с помощью TLS трафик...
Обнаружение известного вредоносного кода в зашифрованном с помощью TLS трафик...
 
Промышленный Интернет вещей: опыт и результаты применения в нефтегазовой отрасли
Промышленный Интернет вещей: опыт и результаты применения в нефтегазовой отраслиПромышленный Интернет вещей: опыт и результаты применения в нефтегазовой отрасли
Промышленный Интернет вещей: опыт и результаты применения в нефтегазовой отрасли
 
Полугодовой отчет Cisco по информационной безопасности за 2017 год
Полугодовой отчет Cisco по информационной безопасности за 2017 год Полугодовой отчет Cisco по информационной безопасности за 2017 год
Полугодовой отчет Cisco по информационной безопасности за 2017 год
 
Годовой отчет Cisco по кибербезопасности за 2017 год
Годовой отчет Cisco по кибербезопасности за 2017 годГодовой отчет Cisco по кибербезопасности за 2017 год
Годовой отчет Cisco по кибербезопасности за 2017 год
 
Безопасность для цифровой экономики. Развитие продуктов и решений Cisco
Безопасность для цифровой экономики. Развитие продуктов и решений CiscoБезопасность для цифровой экономики. Развитие продуктов и решений Cisco
Безопасность для цифровой экономики. Развитие продуктов и решений Cisco
 
Cisco StealthWatch. Использование телеметрии для решения проблемы зашифрованн...
Cisco StealthWatch. Использование телеметрии для решения проблемы зашифрованн...Cisco StealthWatch. Использование телеметрии для решения проблемы зашифрованн...
Cisco StealthWatch. Использование телеметрии для решения проблемы зашифрованн...
 
Обеспечение бесперебойной работы корпоративных приложений в больших гетероген...
Обеспечение бесперебойной работы корпоративных приложений в больших гетероген...Обеспечение бесперебойной работы корпоративных приложений в больших гетероген...
Обеспечение бесперебойной работы корпоративных приложений в больших гетероген...
 
Новое поколение серверов Сisco UCS. Гиперконвергентное решении Cisco HyperFle...
Новое поколение серверов Сisco UCS. Гиперконвергентное решении Cisco HyperFle...Новое поколение серверов Сisco UCS. Гиперконвергентное решении Cisco HyperFle...
Новое поколение серверов Сisco UCS. Гиперконвергентное решении Cisco HyperFle...
 

Recently uploaded (9)

CVE. The Fortra's GoAnywhere MFT [RU].pdf
CVE. The Fortra's GoAnywhere MFT [RU].pdfCVE. The Fortra's GoAnywhere MFT [RU].pdf
CVE. The Fortra's GoAnywhere MFT [RU].pdf
 
ИСТОЧНИКИ ИННОВАЦИОННОСТИ КИТАЯ (ПО ВЕРСИИ DGAP) | The Sources of China’s Inn...
ИСТОЧНИКИ ИННОВАЦИОННОСТИ КИТАЯ (ПО ВЕРСИИ DGAP) | The Sources of China’s Inn...ИСТОЧНИКИ ИННОВАЦИОННОСТИ КИТАЯ (ПО ВЕРСИИ DGAP) | The Sources of China’s Inn...
ИСТОЧНИКИ ИННОВАЦИОННОСТИ КИТАЯ (ПО ВЕРСИИ DGAP) | The Sources of China’s Inn...
 
СИСТЕМА ОЦЕНКИ УЯЗВИМОСТЕЙ CVSS 4.0 / CVSS v4.0 [RU].pdf
СИСТЕМА ОЦЕНКИ УЯЗВИМОСТЕЙ CVSS 4.0 / CVSS v4.0 [RU].pdfСИСТЕМА ОЦЕНКИ УЯЗВИМОСТЕЙ CVSS 4.0 / CVSS v4.0 [RU].pdf
СИСТЕМА ОЦЕНКИ УЯЗВИМОСТЕЙ CVSS 4.0 / CVSS v4.0 [RU].pdf
 
Ransomware_Q3 2023. The report [RU].pdf
Ransomware_Q3 2023.  The report [RU].pdfRansomware_Q3 2023.  The report [RU].pdf
Ransomware_Q3 2023. The report [RU].pdf
 
Cyberprint. Dark Pink Apt Group [RU].pdf
Cyberprint. Dark Pink Apt Group [RU].pdfCyberprint. Dark Pink Apt Group [RU].pdf
Cyberprint. Dark Pink Apt Group [RU].pdf
 
Cyber Defense Doctrine Managing the Risk Full Applied Guide to Organizational...
Cyber Defense Doctrine Managing the Risk Full Applied Guide to Organizational...Cyber Defense Doctrine Managing the Risk Full Applied Guide to Organizational...
Cyber Defense Doctrine Managing the Risk Full Applied Guide to Organizational...
 
Malware. DCRAT (DARK CRYSTAL RAT) [RU].pdf
Malware. DCRAT (DARK CRYSTAL RAT) [RU].pdfMalware. DCRAT (DARK CRYSTAL RAT) [RU].pdf
Malware. DCRAT (DARK CRYSTAL RAT) [RU].pdf
 
MS Navigating Incident Response [RU].pdf
MS Navigating Incident Response [RU].pdfMS Navigating Incident Response [RU].pdf
MS Navigating Incident Response [RU].pdf
 
2023 Q4. The Ransomware report. [RU].pdf
2023 Q4. The Ransomware report. [RU].pdf2023 Q4. The Ransomware report. [RU].pdf
2023 Q4. The Ransomware report. [RU].pdf
 

Advanced IPv4 BGP troubleshooting глазами TAC

  • 1. Advanced IPv4 BGP troubleshooting глазами TAC Василий Михайловский (инженер TAC, команда Routing Protocols) 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.
  • 2. Основные правила troubleshooting •  Не следует поддаваться панике; •  Четко определите что является симптомом проблемы; •  Если проблема затрагивает большое количество маршрутов, выберите один и сфокусируйтесь на нем; •  Если проблема имеет эпизодический характер, постарайтесь найти корреляцию с другими событиями в сети; •  Если Вы знакомы с сетью – постарайтесь сравнить наблюдаемое поведение с baseline; •  Не зацикливайтесь на одной версии причины – старайтесь сформулировать несколько версий и, по ходу, отсеивайте неверные; •  Если обнаружилась возможность workaround – используйте ее, в этом случае поиск и устранение root cause можно будет перенести за пределы бизнес-часов; •  Keep calm and call TAC 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.2
  • 3. СОДЕРЖАНИЕ •  Классификация проблемных ситуаций •  Детали конкретных случаев •  Рекомендации: как [не] следует делать •  Q&A 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.3
  • 4. Классификация проблемных ситуаций Проблемы конфигурации (настроили, а не работает); Проблемы транспортного уровня (TCP 179); Проблемы этапа обмена данными (updates); Проблемы выбора best-path; Проблемы быстрой сходимости и установки маршрутов в RIB/FIB Общесистемные проблемы 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.4
  • 5. Классификация проблемных ситуаций R1# show runn | section r.bgp|Loopback Interface Loopback0 ip address 1.1.1.1 255.255.255.255 router bgp 100 neighbor 3.3.3.3 remote-as 300 neighbor 3.3.3.3 update-source Loopback0 neighbor 3.3.3.3 ebgp-multihop 3 R1# show tcp brief all R1# show ip route 3.3.3.3 R1# show ip cef 3.3.3.3 Проблемы конфигурации 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.5 R3# show runn | section r.bgp|Loopback Interface Loopback0 ip address 3.3.3.3 255.255.255.255 router bgp 300 neighbor 1.1.1.1 remote-as 100 neighbor 1.1.1.1 update-source Loopback0 neighbor 1.1.1.1 ebgp-multihop 3 R3# show tcp brief all R3# show ip route 1.1.1.1 R3# show ip cef 1.1.1.1
  • 6. Классификация проблемных ситуаций Проблемы конфигурации; Проблемы транспортного уровня (TCP 179); Проблемы этапа обмена данными (updates); Проблемы выбора best-path; Проблемы быстрой сходимости и установки маршрутов в RIB/FIB Общесистемные проблемы 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.6
  • 7. Классификация проблемных ситуаций Т.к. протокол BGP является, по сути, TCP/IP приложением, то ему присущи все проблемы транспорта: 1)  Полная потеря пакетов (отсутствие маршрута, 100%-packet loss); 2)  Частичная потеря пакетов (при перегрузке канала); 3)  Проблемы MTU (включая pMTU discovery); 4)  Проблемы BGP аутентификации (MD5) Проблемы транспортного уровня 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.7 Команды: - show ip bgp sum - show ip tcp - show ip bgp nei <peer ip-address> - show ip cef/route <peer ip-address> - ping <peer ip-address> df-bit [size 1500] - show runn | section router bgp
  • 8. Классификация проблемных ситуаций - Пакеты не доходят от 10.0.1.254: %BGP-3-NOTIFICATION: sent to neighbor 10.0.1.254 4/0 (hold time expired) 0 bytes %BGP-5-NBR_RESET: Neighbor 10.0.1.254 reset (BGP Notification sent) %BGP-5-ADJCHANGE: neighbor 10.0.1.254 Down BGP Notification sent - Пакеты не доходят до 10.0.1.254: %BGP-3-NOTIFICATION: received from neighbor 10.0.1.254 4/0 (hold time expired) 0 bytes %BGP-5-NBR_RESET: Neighbor 10.0.1.254 reset (BGP Notification received) %BGP-5-ADJCHANGE: neighbor 10.0.1.254 Down BGP Notification received - Проблема конфигурации (remote-as): %BGP-3-NOTIFICATION: sent to neighbor 10.0.1.254 passive 2/2 (peer in wrong AS) 2 bytes 0001 %BGP-3-NOTIFICATION: received from neighbor 10.0.1.254 passive 2/2 (peer in wrong AS) 2 bytes 0001 -Проблема конфигурации (VRF, src/dst ip-address): %TCP-6-BADAUTH: No MD5 digest from 3.3.3.3(179) to 1.1.1.1(28866) (RST) - Проблема конфигурации (пароль) или firewall на пути: %TCP-6-BADAUTH: Invalid MD5 digest from 3.3.3.3(36840) to 1.1.1.1(179) %TCP-6-BADAUTH: No MD5 digest from 3.3.3.3(24249) to 1.1.1.1(179) Проблемы транспортного уровня / сообщения из show logg 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.8
  • 9. Классификация проблемных ситуаций Проблемы транспортного уровня / аутентификация 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+ | Source Port | Destination Port | +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+ | Sequence Number | +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+ | Acknowledgment Number | +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+ | Data | |U|A|P|R|S|F| | | Offset| Reserved |R|C|S|S|Y|I| Window | | | |G|K|H|T|N|N| | +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+ | Checksum | Urgent Pointer | +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+ | Options | Padding | +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+ | data | +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+ Firewall между BGP пирами может: - вырезать TCP опции; - выполнять “sequence number randomization”; Что приводит к невозможности установить сессию – проблема аутентификации! “neighbor 3.3.3.3 password CISCO” MD5 – TCP option 19 Sequence number – включен в расчет MD5 MD5 включен в каждый TCP пакет (включая SYN и RST)
  • 10. Классификация проблемных ситуаций Проблемы транспортного уровня / аутентификация 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.10 R1# Interface E0/0 ip address 10.1.3.1 255.255.255.0 router bgp 100 neighbor 10.1.3.3 remote-as 300 neighbor 10.1.3.3 password CISCO R3# Interface E0/0 vrf forwarding INET ip address 10.1.3.3 255.255.255.0 router bgp 300 neighbor 10.1.3.1 remote-as 100 neighbor 10.1.3.1 password CISCO %TCP-6-BADAUTH: No MD5 digest from 10.1.3.3 (179) to 10.1.3.1(31262) (RST)
  • 11. Классификация проблемных ситуаций R1#sh ip bgp nei 3.3.3.3 | i Last read|retran Last read 00:00:15, last write 00:00:13, hold time is 180, keepalive interval is 60 seconds Enqueued packets for retransmit: 1, input: 0 mis-ordered: 0 (0 bytes) Sent: 6285 (retransmit: 14 fastretransmit: 0),with data: 6275, total data bytes: 5039815 R3#sh ip bgp nei 1.1.1.1 | i Last r|retra Last read 00:02:02, last write 00:00:13, hold time is 180, keepalive interval is 60 seconds Enqueued packets for retransmit: 2, input: 0 mis-ordered: 0 (0 bytes) Status Flags: passive open, retransmission timeout, gen tcbs Sent: 2993 (retransmit: 5 fastretransmit: 0),with data: 7, total data bytes: 175 Проблемы транспортного уровня / диагностика packet-loss 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.11 Потери пакетов можно диагностировать командой ping: - ping 1.1.1.1 source 3.3.3.3 tos 192 - ping 1.1.1.1 source 3.3.3.3 tos 192 size <MTU> df-bit #show ip bgp summ Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd R1# 3.3.3.3 4 100 6 40006 2612561 0 0 00:02:10 0 R3# 1.1.1.1 4 100 40004 6 0 0 0 00:02:16 400000
  • 12. Классификация проблемных ситуаций Проблемы транспортного уровня / MTU 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.12 Проблема MTU будет рассмотрена в разделе «ситуаций»
  • 13. Классификация проблемных ситуаций Проблемы транспортного уровня (TCP 179); Проблемы этапа обмена данными (updates); Проблемы выбора best-path; Проблемы установки маршрутов в RIB/ программирование HW Общесистемные проблемы 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.13
  • 14. Классификация проблемных ситуаций После установки TCP сессии, протокол начинает обмен данными (application level): 1)  Встроенный loop-prevention механизм BGP; 2)  Проблемы «тиражирования» updates на большое количество сессий; Проблемы этапа обмена данными (updates) 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.14 Команды: - show ip bgp <prefix>/<lenth> - show ip bgp sum - show ip bgp nei <peer ip-address> - show ip bgp update-group - show runn | section router bgp
  • 15. Классификация проблемных ситуаций Основные механизмы loop-prevention включают в себя: •  *Next-hop должен быть валиден (существует в RIB и не блокирован); •  По умолчанию, BGP анонсирует только best-path; •  AS-path (своя AS от eBGP пира); •  “Connected check” (eBGP на физических интерфейсах); •  По умолчанию, updates от iBGP не тиражируются другим iBGP пирам; •  Если же тиражируются (route-reflector), то используется BGP router-id и cluster-list. Проблемы этапа обмена данными (updates) – loop prevention 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.15 Команды: - debug ip bgp updates - show ip bgp sum - show ip bgp update-group - show runn | section router bgp - show ip bgp version recent …
  • 16. Классификация проблемных ситуаций show ip bgp [prefix/length] Status codes: s suppressed, d damped, h history, * valid, > best, i - internal, r RIB-failure, S Stale, m multipath, b backup-path, f RT-Filter, x best-external, a additional-path, c RIB-compressed, Origin codes: i - IGP, e - EGP, ? - incomplete Network Next Hop Metric LocPrf Weight Path r>i 1.1.1.1/32 10.0.13.1 11 100 0 I i 10.0.4.0/24 99.99.99.99 0 100 0 i BGP routing table entry for 10.0.4.0/24, version 0 Paths: (1 available, no best path) Not advertised to any peer 99.99.99.99 (inaccessible) from 4.4.4.4 (4.4.4.4) BGP routing table entry for 1.1.1.1/32, version 7 Paths: (1 available, best #1, table default, RIB-failure(17)) Local 10.0.13.1 (metric 1020) from 4.4.4.4 (4.4.4.4) Origin IGP, metric 11, localpref 100, valid, internal, best Проблемы этапа обмена данными (updates) – show ip bgp 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.16
  • 17. Классификация проблемных ситуаций debug ip bgp updates [ACL] [neighbor address] [in | out]: •  BGP(0): 10.0.34.4 rcv UPDATE about 4.4.4.4/32 -- DENIED due to: NEXTHOP is our own address; •  BGP: 10.0.34.4 Advertised Nexthop 99.99.99.99: Non-local or Nexthop and peer Not on same interface BGP(0): 10.0.34.4 rcv UPDATE about -- DENIED due to: non-connected NEXTHOP; •  BGP(0): 10.0.34.4 rcv UPDATE about 4.4.4.4/32 -- DENIED due to: AS-PATH contains our own AS •  BGP(0): 4.4.4.4 rcv UPDATE about 1.1.1.1/32 -- DENIED due to: ORIGINATOR is us •  BGP(0): 4.4.4.4 rcv UPDATE about 1.1.1.1/32 -- DENIED due to: reflected from the same cluster; •  BGP(0): 4.4.4.4 rcvd 10.0.0.0/22 -- DENIED due to: route-map; Проблемы этапа обмена данными (updates) – debug 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.17
  • 18. Классификация проблемных ситуаций Проблемы этапа обмена данными (updates) – тиражирование updates 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.18 R1#sh ip bgp neighbors 3.3.3.3 advertised-routes Network Next Hop Metric LocPrf Weight Path *> 11.11.11.0/24 0.0.0.0 0 32768 i R1#sh ip bgp 11.11.11.0/24 BGP routing table entry for 11.11.11.0/24, version 6 Paths: (1 available, best #1, table default) Advertised to update-groups: 2 3 Refresh Epoch 1 Local 0.0.0.0 from 0.0.0.0 (1.1.1.1) Origin IGP, metric 0, localpref 100, weight 32768, valid, sourced, local, best rx pathid: 0, tx pathid: 0x0
  • 19. Классификация проблемных ситуаций Проблемы этапа обмена данными (updates) – тиражирование updates 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.19 R1#sh ip bgp update-group 2 BGP version 4 update-group 2, external, Address Family: IPv4 Unicast BGP Update version : 6/0, messages 0 Route map for outgoing advertisements is SET_NH Topology: global, highest version: 6, tail marker: 6 Format state: Current working (OK, last minimum advertisement interval) Refresh blocked (not in list, last not in list) Update messages formatted 3, replicated 3, current 0, refresh 0, limit 1000 Number of NLRIs in the update sent: max 1, min 0 Minimum time between advertisement runs is 30 seconds Has 1 member: 3.3.3.3 R1#sh ip bgp update-group 3 BGP version 4 update-group 3, internal, Address Family: IPv4 Unicast BGP Update version : 6/0, messages 0 Topology: global, highest version: 6, tail marker: 6 Format state: Current working (OK, last not in list) Refresh blocked (not in list, last not in list) Update messages formatted 2, replicated 2, current 0, refresh 0, limit 1000 Number of NLRIs in the update sent: max 1, min 0 Minimum time between advertisement runs is 0 seconds Has 2 members: 2.2.2.2 6.6.6.6
  • 20. Классификация проблемных ситуаций Проблемы этапа обмена данными (updates) – множество RR кластеров 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.20 https://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/ 200153-BGP-Route-Reflection-and-Multiple-Cluste.html
  • 21. Классификация проблемных ситуаций Проблемы этапа обмена данными (updates) / prefix flapping 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.21 R1#sh ip bgp summ BGP router identifier 1.1.1.1, local AS number 100 BGP table version is 402735, main routing table version 402735 399996 network entries using 55999440 bytes of memory 399996 path entries using 30399696 bytes of memory 40000/40000 BGP path/bestpath attribute entries using 5440000 bytes of memory 40000 BGP AS-PATH entries using 1616904 bytes of memory 0 BGP route-map cache entries using 0 bytes of memory 0 BGP filter-list cache entries using 0 bytes of memory BGP using 93456040 total bytes of memory Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd 3.3.3.3 4 100 4 41109 402735 0 0 00:00:43 0 10.0.1.254 4 99 82956 7 402471 0 0 00:04:35 399996 R1#sh ip bgp summ BGP router identifier 1.1.1.1, local AS number 100 BGP table version is 402928, main routing table version 402928 ... Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd 3.3.3.3 4 100 4 41311 402938 0 0 00:00:52 0 10.0.1.254 4 99 83149 7 402471 0 0 00:04:44 399995
  • 22. Классификация проблемных ситуаций Проблемы этапа обмена данными (updates) / prefix flapping 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.22 R1#sh ip route | i 00:00:0 B 128.136.139.32[20/17968] via 10.0.1.254, 00:00:01 B 128.1.169.160 [20/16430] via 10.0.1.254, 00:00:04 ... R1#sh ip bgp version recent <n> Network Next Hop Metric LocPrf Weight Path *> 128.136.139.32/27 10.0.1.254 17968 0 99 8124 4520 {19806} e *> 128.170.223.192/27 10.0.1.254 9866 0 99 23700 5437 e R1#sh ip bgp 128.136.139.32/27 BGP routing table entry for 128.136.139.32/27, version 412867 Paths: (1 available, best #1, table default) Not advertised to any peer Refresh Epoch 1 99 8124 4520 {19806} 10.0.1.254 from 10.0.1.254 (10.0.1.254) Origin EGP, metric 17968, localpref 100, valid, external, best rx pathid: 0, tx pathid: 0x0
  • 23. Классификация проблемных ситуаций Проблемы этапа обмена данными (updates) – тиражирование updates 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.23 Дополнительно проблема тиражирования будет рассмотрена в разделе «ситуаций»
  • 24. Классификация проблемных ситуаций Проблемы транспортного уровня (TCP 179); Проблемы этапа обмена данными (updates); Проблемы выбора best-path; Проблемы установки маршрутов в RIB/ программирование HW Общесистемные проблемы 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.24
  • 25. Классификация проблемных ситуаций Из расчета best-path исключаются: 1.  Неверный (отсутствует или рекурсивный конфликт RIB), либо блокированный next-hop; 2.  Префикс от iBGP «не синхронизирован» (команда “sync”); 3.  “Receive-only” (могут присутствовать в таблице BGP, когда настроен “soft- reconfiguration inbound”) Выбор best-path 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.25
  • 26. Классификация проблемных ситуаций 1.  WEIGHT (не передается в updates); 2.  Local preference (default –eq 100, распространяется только в рамках AS); 3.  Locally originated (“network”, “aggregate”) – weight 32768; 4.  AS-path; 5.  Origin type (IGP/EGP/INCOMPLETE); 6.  MED (ряд условий и настроек); 7.  eBGP over iBGP; 8.  IGP metric to next-hop; 9.  *Multipath (требует настройки); 10. eBGP – наиболее старый маршрут (настройки) 11. Router-id (originator-id); 12. Cluster length 13. Lowest IP-address Алгоритм best-path http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/13753-25.html 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.26
  • 27. Классификация проблемных ситуаций Проблемы расчет Best-path для каждого префикса: 1)  Next-hop недоступен; 2)  Next-hop рекурсивно указывает на BGP peer; 3)  Next-hop указывает в неверном направлении; 4)  Несогласованность настроек внутри одной AS (перманентная нестабильность); 5)  Более одного стабильного состояния Алгоритм best-path 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.27 Команды: - show ip bgp <prefix>/<mask> - show ip cef/route <prefix>/<mask> - show runn | section router bgp
  • 28. Классификация проблемных ситуаций iBGP может передать next-hop, который нам не известен: BGP(0): 1.1.1.1 rcvd UPDATE w/ attr: nexthop 99.99.99.99, origin i, localpref 100, metric 0 BGP(0): 1.1.1.1 rcvd 10.0.1.0/24 BGP(0): no valid path for 10.0.1.0/24 R3#sh ip bgp 10.0.1.0/24 BGP routing table entry for 10.0.1.0/24, version 5 Paths: (1 available, no best path) Not advertised to any peer Local 99.99.99.99 (inaccessible) from 1.1.1.1 (1.1.1.1) Алгоритм best-path / проблемы Next-hop - недоступен 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.28
  • 29. Классификация проблемных ситуаций BGP может передать next-hop, рекурсивно указывающий на себя: R3# sh ip bgp Network Next Hop Metric LocPrf Weight Path * 1.1.1.1/32 10.0.1.253 0 0 100 i *> 10.0.1.0/24 10.0.1.253 0 0 100 I R3#sh ip bgp 10.0.1.0/24 10.0.1.253 from 10.0.13.1 (1.1.1.1) Origin IGP, metric 0, localpref 100, valid, external, best R3#sh ip bgp 1.1.1.1/32 Paths: (1 available, no best path) Not advertised to any peer 10.0.1.253 (inaccessible) from 10.0.13.1 (1.1.1.1) Origin IGP, metric 0, localpref 100, valid, external rx pathid: 0, tx pathid: 0 R3#sh ip cef 10.0.1.253 det 10.0.1.253/32, epoch 0 1 RR source [active source] Dependent covered prefix type rr, cover 10.0.1.0/24 recursive via 10.0.1.0/24, unresolved Алгоритм best-path / проблемы Next-hop – проблема рекурсии 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.29
  • 30. Классификация проблемных ситуаций Либо next-hop может вести не туда, куда мы ожидаем: R3#sh ip route 10.0.1.0 Routing entry for 10.0.1.0/24 Known via "bgp 100", distance 200, metric 0, type internal Last update from 99.99.99.99 00:03:08 ago Routing Descriptor Blocks: * 99.99.99.99, from 1.1.1.1, 00:03:08 ago R3#sh ip cef 10.0.1.0 detail 10.0.1.0/24, epoch 0, flags rib only nolabel, rib defined all labels recursive via 99.99.99.99 recursive via 99.0.0.0/8 nexthop 10.0.3.253 Ethernet0/0 nexthop 10.0.3.254 Ethernet0/0 Алгоритм best-path / проблемы Next-hop 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.30
  • 31. Классификация проблемных ситуаций Алгоритм best-path / нестабильные состояния 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.31 Несогласованность настроек MED может вести к постоянным пересчетам BGP: • “bgp always-compare-med”; • “bgp deterministic-med”: •  IOS – выключен; •  IOS-XR – включен; http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/ 13759-37.html
  • 32. Классификация проблемных ситуаций Проблема: существование более одного потенциального стабильного состояния существенно усложняет troubleshooting и делает практически невозможным “baseline-анализ”. •  Проблема стабильных состояний BGP хорошо (и с примерами) описана в RFC 4264 “BGP Wedgies” •  Проблема стабильных состояний сети (проблема дизайна) как правило, возникает в случаях явного и неявного redistribute Алгоритм best-path / более одного стабильного состояния 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.32
  • 33. Классификация проблемных ситуаций Алгоритм best-path / проблема дизайна 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.33 Сценарий EIGRP: Префикс 10.0.1.0/24 получен по eBGP (от R3). Префикс 10.0.1.0/24 получен по IGP (от R1). На R2 команда BGP “network 10.0.1.0 mask 255.255.255.0” Сценарий OSPF: Префикс 10.0.0.0/8 получен по eBGP (от R3) На R2 OSPF : “area 0 range 10.0.0.0 255.0.0.0” На R2 команда BGP “network 10.0.0.0 mask 255.0.0.0”
  • 34. Классификация проблемных ситуаций BGP first: R2# Network Next Hop Metric LocPrf Weight Path *> 10.0.1.0/24 10.0.23.3 0 0 33 i R2#sh ip route 10.0.1.0 Routing entry for 10.0.1.0/24 Known via "bgp 22", distance 20, metric 0 Tag 33, type external Алгоритм best-path / проблема дизайна 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.34 EIGRP first: R2# Network Next Hop Metric LocPrf Weight Path * 10.0.1.0/24 10.0.23.3 0 0 33 i *> 10.0.12.1 156160 32768 I R2#sh ip route 10.0.1.0 Routing entry for 10.0.1.0/24 Known via "eigrp 1", distance 170, metric 156160, type external Redistributing via eigrp 1 Advertised by bgp 22
  • 35. Классификация проблемных ситуаций Проблемы транспортного уровня (TCP 179); Проблемы этапа обмена данными (updates); Проблемы выбора best-path; Проблемы быстрой сходимости и установки маршрутов в RIB/ FIB Общесистемные проблемы 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.35
  • 36. Классификация проблемных ситуаций 1)  Большое время “failure detection”; 2)  Большое время control plane convergence; 3)  Большое время установки маршрутов в FIB Рекомендации по теме: BRKIPM-2265 – Deploying BGP Fast Convergence Проблемы быстрой сходимости и установки маршрутов в RIB/FIB 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.36
  • 37. Классификация проблемных ситуаций Проблемы транспортного уровня (TCP 179); Проблемы этапа обмена данными (updates); Проблемы выбора best-path; Проблемы быстрой сходимости и установки маршрутов в RIB/FIB Общесистемные проблемы 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.37
  • 38. Классификация проблемных ситуаций 1)  High CPU “BGP Router“ 2)  High CPU “BGP Scanner“ 3)  Высокая загрузка памяти Рекомендации по теме: http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/ 107615-highcpu-bgp.html http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/ 12512-41.html Общесистемный проблемы 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.38
  • 39. Классификация проблемных ситуаций #show proc cpu sort | I BGP Общесистемный проблемы / процессы BGP 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.39 Процесс Описание Интервал BGP Router Расчет best path, контроль получения отправки updates, обновления RIB По факту события BGP Scanner Проверка BGP table на предмет доступности next-hop; проверка условного анонса префиксов,route dampening, 1 раз в минуту BGP I/O Обработка пакетов BGP (update/keepalive) По факту события
  • 40. Классификация проблемных ситуаций Дополнительные ссылки по теме: https://tools.ietf.org/html/rfc4271 http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/22166- bgp-trouble-main.html http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/19345- bgp-noad.html http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/19167- bgp-rec-routing.html https://supportforums.cisco.com/discussion/12576981/ask-expert-configuring-and- troubleshooting-border-gateway-protocol-bgp Резюме 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.40
  • 41. Agenda •  Классификация проблемных ситуаций •  Детали конкретных случаев •  Рекомендации: как [не] следует делать •  Q&A 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.41
  • 42. Детали случаев Пример 1 – BGP flapping 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.42 13:38:46.588: %BGP-5-ADJCHANGE: neighbor 6.6.6.6 Up 13:39:22.231: %BGP-5-NBR_RESET: Neighbor 6.6.6.6 reset (Peer closed the session) 13:39:22.231: %BGP-3-NOTIFICATION: received from neighbor 6.6.6.6 4/0 (hold time expired) 0 bytes 13:39:22.232: %BGP-5-ADJCHANGE: neighbor 6.6.6.6 Down Peer closed the session 13:39:22.232: %BGP_SESSION-5-ADJCHANGE: neighbor 6.6.6.6 IPv4 Unicast topology base removed from session Peer closed the session 13:39:35.750: %BGP-5-ADJCHANGE: neighbor 6.6.6.6 Up 13:40:11.361: %BGP-3-NOTIFICATION: received from neighbor 6.6.6.6 4/0 (hold time expired) 0 bytes 13:40:11.361: %BGP-5-NBR_RESET: Neighbor 6.6.6.6 reset (BGP Notification received) 13:40:11.362: %BGP-5-ADJCHANGE: neighbor 6.6.6.6 Down BGP Notification received 13:40:11.362: %BGP_SESSION-5-ADJCHANGE: neighbor 6.6.6.6 IPv4 Unicast topology base removed from session BGP Notification received 13:40:20.726: %BGP-5-ADJCHANGE: neighbor 6.6.6.6 Up Timers 10/35
  • 43. Детали случаев Пример 1 – BGP flapping 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.43 R1# sh ip bgp summ BGP router identifier 1.1.1.1, local AS number 100 BGP table version is 2000001, main routing table version 2000001 400000 network entries using 56000000 bytes of memory 400000 path entries using 30400000 bytes of memory 40000/40000 BGP path/bestpath attribute entries using 5440000 bytes of memory 40000 BGP AS-PATH entries using 1616904 bytes of memory Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd 3.3.3.3 4 100 41 81734 2000001 0 0 00:35:22 0 6.6.6.6 4 100 4 14 1 0 999 00:00:05 0 10.0.1.254 4 99 40020 24 2000001 0 0 00:18:23 400000 R1#ping 6.6.6.6 so 1.1.1.1 si 1500 df Sending 5, 1500-byte ICMP Echos to 6.6.6.6, timeout is 2 seconds: Packet sent with a source address of 1.1.1.1 Packet sent with the DF bit set ..... Success rate is 0 percent (0/5) http://www.cisco.com/c/en/us/support/docs/ip/border-gateway-protocol-bgp/116377-troubleshoot-bgp-mtu.html
  • 44. Детали случаев Пример 2 – несоответствие количества маршрутов на BGP соседях 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.44 R3#sh ip bgp summ BGP table version is 1, main routing table version 1 Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd 1.1.1.1 4 100 93595 59 1 0 0 00:51:30 113500 R6#sh ip bgp summ BGP table version is 1, main routing table version 1 Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd 1.1.1.1 4 100 50810 50 1 0 0 00:07:25 113500 R1#sh ip bgp summ BGP table version is 2800001, main routing table version 2800001 Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd 3.3.3.3 4 100 59 93547 2405131 0 0 00:51:29 0 6.6.6.6 4 100 50 50808 2405131 0 1000 00:07:24 0 10.0.1.254 4 99 40006 9 2800001 0 0 00:04:35 400000
  • 45. Детали случаев Пример 2 – несоответствие маршрутов 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.45 R1#sh ip bgp summ | b Nei Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd 3.3.3.3 4 100 62 108719 2405131 0 0 00:54:13 0 6.6.6.6 4 100 67 65980 2405131 0 1000 00:10:08 0 10.0.1.254 4 99 40008 11 2800001 0 0 00:07:19 400000 R1# R1#sh ip bgp summ | b Nei Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd 3.3.3.3 4 100 63 110385 2405131 0 0 00:54:30 0 6.6.6.6 4 100 69 67646 2405131 0 1000 00:10:25 0 10.0.1.254 4 99 40009 12 2800001 0 0 00:07:37 400000 R1#sh ip bgp update-group BGP version 4 update-group 1, internal, Address Family: IPv4 Unicast BGP Update version : 2405131/2800001, messages 1000 Topology: global, highest version: 2800001, tail marker: 2800001 Format state: Current blocked (no message space, last no message space) Refresh blocked (not in list, last not in list) Update messages formatted 208363, replicated 259705, current 1000, refresh 0, limit 1000 Number of NLRIs in the update sent: max 812, min 0 Minimum time between advertisement runs is 0 seconds Has 2 members: 3.3.3.3 6.6.6.6
  • 46. Детали случаев Пример 2 – несоответствие маршрутов 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.46 R1#sh ip bgp summ BGP router identifier 1.1.1.1, local AS number 100 BGP table version is 2800001, main routing table version 2800001 400000 network entries using 56000000 bytes of memory 400000 path entries using 30400000 bytes of memory 40000/40000 BGP path/bestpath attribute entries using 5440000 bytes of memory 40000 BGP AS-PATH entries using 1616904 bytes of memory 0 BGP route-map cache entries using 0 bytes of memory 0 BGP filter-list cache entries using 0 bytes of memory BGP using 93456904 total bytes of memory BGP activity 834910/434910 prefixes, 1600000/1200000 paths, scan interval 60 secs Neighbor V AS MsgRcvd MsgSent TblVer InQ OutQ Up/Down State/PfxRcd 3.3.3.3 4 100 74 122254 2800001 0 0 01:04:54 0 6.6.6.6 4 100 136 80551 2800001 0 0 00:20:49 0 10.0.1.254 4 99 40019 23 2800001 0 0 00:18:01 400000 http://www.cisco.com/c/en/us/td/docs/ios/ios_xe/iproute_bgp/configuration/guide/2_xe/irg_xe_book/ irg_slow_peer_xe.html
  • 47. Детали случаев Пример 3 – полная потеря маршрутов / проблема 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.47 R4#sh ip bgp 10.0.67.0/24 BGP routing table entry for 10.0.67.0/24, version 4 Paths: (2 available, best #2, table default) Advertised to update-groups: 2 Refresh Epoch 1 Local, (Received from a RR-client) 7.7.7.7 (metric 21) from 7.7.7.7 (7.7.7.7) Origin IGP, metric 0, localpref 100, valid, internal rx pathid: 0, tx pathid: 0 Refresh Epoch 1 Local, (Received from a RR-client) 6.6.6.6 (metric 21) from 6.6.6.6 (6.6.6.6) Origin IGP, metric 0, localpref 100, valid, internal, best rx pathid: 0, tx pathid: 0x0 R4#sh ip bgp 10.0.67.0/24 BGP routing table entry for 10.0.67.0/24, version 5 Paths: (2 available, best #1, table default) Advertised to update-groups: 2 Refresh Epoch 1 Local, (Received from a RR-client) 7.7.7.7 from 7.7.7.7 (7.7.7.7) Origin IGP, metric 0, localpref 100, valid, internal, best rx pathid: 0, tx pathid: 0x0 Refresh Epoch 1 Local, (Received from a RR-client) 6.6.6.6 (metric 21) from 6.6.6.6 (6.6.6.6) Origin IGP, metric 0, localpref 100, valid, internal rx pathid: 0, tx pathid: 0 10.0.67.0/24
  • 48. Детали случаев Пример 3 – полная потеря маршрутов / причина 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.48 R4#sh ip route 7.7.7.7 % Network not in table R4#sh ip cef 7.7.7.7 7.7.7.7/32 nexthop 10.0.4.254 Ethernet0/3 R4#sh ip route 0.0.0.0 Routing entry for 0.0.0.0/0, supernet Known via "static", distance 1, metric 0, candidate default path Routing Descriptor Blocks: * 10.0.4.254 Route metric is 0, traffic share count is 1
  • 49. Детали случаев Пример 3 – полная потеря маршрутов / два варианта решения 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.49 router bgp 12345 template peer-session RRC remote-as 12345 update-source Loopback0 exit-peer-session ! neighbor 6.6.6.6 inherit peer-session RRC neighbor 7.7.7.7 inherit peer-session RRC fall-over route-map NO_DEF_GW bgp nexthop route-map NO_DEF_GW route-map NO_DEF_GW deny 10 match ip address prefix-list DEF_GW route-map NO_DEF_GW permit 20 ip prefix-list DEF_GW seq 10 permit 0.0.0.0/0
  • 50. Содержание •  Классификация проблемных ситуаций •  Детали конкретных случаев •  Рекомендации: как [не] следует делать •  Q&A 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.50
  • 51. Рекомендации •  “Keep it simple, stupid” – избегайте излишней сложности дизайна; •  Тщательное планирование топологии (масштабируемость, надежность); •  Избегайте конфигураций со множеством стабильных состояний сети; •  Используйте community для маркировки префиксов; •  Используйте частные номера AS для private сетей; •  Быстрая сходимость за счет настройки IGP (timer 1/3 – не лучший вариант для iBGP сессии); •  Используйте BFD для быстрой сходимости eBGP или floating static; •  Избегайте присутствия 0.0.0.0/0 на iBGP роутерах, либо примите меры; •  Следите за идентичностью настроек по всей AS (deterministic-med); •  RR: используйте template peer-policy/peer-session; •  RR: используйте slow-peer detection; •  Избегайте ненужных iBGP сессий. 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.51
  • 52. Основные правила troubleshooting •  Не следует поддаваться панике; •  Четко определите что является симптомом проблемы; •  Если проблема затрагивает большое количество маршрутов, выберите один и сфокусируйтесь на нем; •  Если проблема имеет эпизодический характер, постарайтесь найти корреляцию с другими событиями в сети; •  Если Вы знакомы с сетью – постарайтесь сравнить наблюдаемое поведение с baseline; •  Не зацикливайтесь на одной версии причины – старайтесь сформулировать несколько версий и, по ходу, отсеивайте неверные; •  Если обнаружилась возможность workaround – используйте ее, в этом случае поиск и устранение root cause можно будет перенести за пределы бизнес-часов; •  Keep calm and call TAC 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.52
  • 53. Q&A Вопросы? 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.53
  • 54. Video Russian Cisco Support Community Data Center VoiceSecurity Routing and Switching Contact Center Unified Communications Воспользуйтесь возможностью и задайте вопросы на форуме Технической Поддержки Cisco - http://russiansupportforum.cisco.com Голосовая связь Системы унифицированных коммуникаций Маршрутизация и коммутация Видео Контакт центры Центры Обработки данных Безопасность CUCMCUBE UCCX UCCE Telepresence ASA VPN IPS ISR44xx/43xx Nexus 7000 Cat 4900 4500 76006500 VSS Протоколы маршрутизации IOS XEIOS IOS XR ISR ISR G2 ASR1000 FWSM ASR90x ASR9000 GSR12000 CRS
  • 55. Ждем ваших сообщений с хештегом #CiscoConnectRu CiscoRu Cisco CiscoRussia CiscoRu 23.11.15 © 2015 Cisco and/or its affiliates. All rights reserved.