Slides from the Linuxcon Europe presentation on bufferbloat

1. BBuuffffeerrbbllooaatt iiss aallll wweett??
SStteepphheenn HHeemmmmiinnggeerr
sstteepphheenn@@nneettwwoorrkkpplluummbbeerr..oorrgg
@@nneettwwoorrkkpplluummbbeerr Linuxcon Europe Oct 2014

2. BBuuffffeerrbbllooaatt
● WWhhaatt iiss tthhee pprroobblleemm
● WWhhaatt ccaauusseess tthhee pprroobblleemm
● SSoolluuttiioonnss
– DDeemmoonnssttrraattiioonn
● CCuurrrreenntt ssttaattuuss
– TThhee GGoooodd
– TThhee BBaadd
– TThhee UUggllyy

3. SSiiggnnss ooff BBuuffffeerrbbllooaatt
● YYoouu mmiigghhtt hhaavvee bbuuffffeerrbbllooaatt iiff
– TThhrroouugghhppuutt
● DDoowwnnllooaadd 1100%% ooff aaddvveerrttiisseedd
● UUppllooaadd ddooeessnn''tt wwoorrkk
– LLaatteennccyy
● llaarrggee ((>> 220000mmss))
● VVaarriiaabbllee
– AAnndd nnoo ppaacckkeett lloossss!!!!!!

4. HHooww bbaadd iiss iitt??

5. QQuueeuuiinngg TThheeoorryy BBaassiiccss
average time in queue =
utilization
service rate
1- utilization
From Fred Baker: Bufferbloat!
Graphic courtesy Sprint, Apricot
2004

6. NNeettwwoorrkk PPeerrffoorrmmaannccee
Throughput
Mbits/sec
Latency
Round Trip Time
Fairness

7. NNeettaallyyzzrr:: DDoowwnnssttrreeaamm

8. NNeettaallyyzzrr:: UUppssttrreeaamm

10. CCllaassssiiccaall TTCCPP

11. TCP tthhrroouugghhppuutt ddyynnaammiiccss
Increasing Measurable Throughput
Bottleneck Capacity
mean throughput = effective window
“knee” “cliff”
Increasing TCP Window
Queue
Depth
mean round trip time
From Fred Baker: Bufferbloat!

12. BBllaammee LLiinnuuxx
● WWiinnddoowwss XXPP
– MMaaxxiimmuumm wwiinnddooww 6644kk
● WWiinnddoowwss 77
– BBaannddwwiiddtthh lliimmiitt ttoo 8800 mmbbiittss
● AAnnddrrooiidd
– RReecceeiivvee wwiinnddooww lliimmiitteedd

13. BBllaammee tthhee ccuussttoommeerr
● CCuussttoommeerrss ccaallll
ssuuppppoorrtt
● AApppplliiccaattiioonnss aarree
uussiinngg mmoorree
bbaannddwwiiddtthh
● BBlloocckk aanndd cchhaarrggee

15. Back to Reality

16. BBeenncchhmmaarrkk iissssuueess
● BBaadd
– BByytteess//sseecc
– PPaacckkeess//sseecc
– LLaatteennccyy

17. RReeaallttiimmee RReessppoonnssee UUnnddeerr LLooaadd
● UUssee eexxiissttiinngg ttooooll
– NNeettppeerrff
● CCoommbbiinnee mmuullttiippllee ssttrreeaammss
– DDoowwnnllooaadd
– UUppllooaadd
– LLaatteennccyy mmeeaassuurreemmeenntt

18. FFIIFFOO –– tthhee ddeeffaauulltt
Høiland-Jørgensen T., Battling Bufferbloat
Ping 1sec!
Upload
Download

19. SSttoocchhaassttiicc FFaaiirr QQuueeuuee
Høiland-Jørgensen T., Battling Bufferbloat

20. CCoonnttrroolllleedd DDeellaayy -- ccooddeell
Høiland-Jørgensen T., Battling Bufferbloat

21. FFaaiirr QQuueeuuee CCoonnttrroolllleedd DDeellaayy
Høiland-Jørgensen T., Battling Bufferbloat

22. BBuuffffeerrbbllooaatt ssttaattuuss

23. WWhheerree iiss BBuuffffeerrbbllooaatt??
Receiver
Application
TCP
Router
Sender
Application
TCP
QDisc
Router
ISP Backbone ISP

24. BBuuffffeerrbbllooaatt SSoollvveedd??
● QQuueeuuiinngg ddiisscciipplliinneess
– CCooddeell,, PPIIEE,, ......
● LLiinnuuxx iinntteerrnnaall
– BBQQLL,, FFQQ,, PPaacciinngg
● DDeeffaauulltt qqddiisscc
Sysctl ­­w
sys.net.core.default_qdisc=fq_codel
YYeess,, mmaannyy ttiimmeess oovveerr

25. BBuuffffeerrbbllooaatt:: TThhee GGoooodd
● IInndduussttrryy aawwaarreenneessss
● SSttaannddaarrddss pprrooggrreessss
● AAccttiivvee rreesseeaarrcchh
● OOppeenn SSoouurrccee
SSoolluuttiioonnss

26. BBuuffffeerrbbllooaatt:: tthhee BBaadd
● LLeeggaaccyy eeqquuiippmmeenntt
– OOEEMM ffooccuuss oonn ccoosstt nnoott AAQQMM
● CCoonnggeessttiioonn oonn bbaacckkbboonnee
– IItt''ss nnoott aa bbuugg iitt''ss aa ffeeaattuurree??
– PPrroobblleemm iiss ppoolliittiiccaall nnoott tteecchhnniiccaall

27. BBuuffffeerrbbllooaatt:: tthhee UUggllyy
● WWiirreelleessss
– AAggggrreeggaattiioonn
– MMuullttiiccaasstt
– PPrroopprriieettaarryy ffiirrmmwwaarree

28. Questions?
Dave T<dave.taht@bufferbloat.net>

29. Thank you
Stephen Hemminger
@networkplumber
stephen@networkplumber.org

30. Bufferbloat resources
Bufferbloat.net: http://bufferbloat.net
Email Lists: http://lists.bufferbloat.net
IRC Channel: #bufferbloat on chat.freenode.net
CeroWrt: http://www.bufferbloat.net/projects/cerowrt
Other talks: http://mirrors.bufferbloat.net/Talks
Jim Gettys Blog – http://gettys.wordpress.com
RRUL Test-https://
github.com/tohojo/netperf-wrapper
A big thanks to the bloat mailing list, Jim, Kathie, Van, and Eric, ISC, the
CeroWrt contributors, OpenWrt, the Internet Civil Engineering
Institute, and the Google Fiber for their interest and support in
the work!