Schaalbaarheid En Optimalisatie

Extremely
Help, mijn site wordt populair! evolved
solutions
Schalen en Optimalisatie
Lorem ipsum dolor sit amet, cons
ectetuer adipiscing elit. Donec
sagittis sagittis urna. Aliquam ipsum.

Nunc in leo sed ante lacinia volutpat.

Pellentesque urna diam, aliquet
non, ullamcorper ut, volutpat lacinia,
purus.

Frank Louwers
Openminds bvba

Zilverenberg 39 - B-9000 Gent - Belgium
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57

pub_openminds.indd 1 11/15/06 10:53:57 AM

Oh hai!

Frank Louwers
co-founder & “Mr Operations” @ Openminds

Vanavond
• Schaalbaarheid Extremely
• wat evolved
solutions
• hoe Lorem ipsum dolor sit amet, cons

•

=> theoretisch Nunc in leo sed ante lacinia volutpat.

purus.

• Pauze
• Tips voor webbouwers
• meten is weten
• eenvoudige technieken met snel resultaat
• hulp van uw hoster Zilverenberg 39 - B-9000 Gent - Belgium
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57

Frank Louwers Netlab - Schaalbaarheid en Optimalisatie
pub_openminds.indd 1 11/15/06 10:53:5

Schaalbaarheid en mythes
Schaalbaarheid gaat niet over:
Extremely
evolved
• technologie Z solutions

•

ruwe performantie en snelheid



• veel enterprise level servers
purus.

• zeker niet over programmeertaal X of Y

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Languages don’t scale!

http://ﬂickr.com/photos/lij/122525716

http://ﬂickr.com/photos/codeﬁn/46216344/

Architectures Scale
http://ﬂickr.com/photos/thomashawk/44667887/

Schaalbaarheid
Schaalbaarheid gaat over: Extremely
evolved
• toename aantal bezoekers solutions

•

toename hoeveelheid data



• beheersbaarheid van dit alles
purus.

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Schalen: H & V
Vertikaal schalen Extremely
• “dikkere doos” evolved
solutions
• op zich eenvoudig Lorem ipsum dolor sit amet, cons

•

prijs: dubbel zo krachtige server kost meer dan dubbel zoveel Nunc in leo sed ante lacinia volutpat.


•

maar wat kost software redesignen?
purus.

• biedt GEEN HA (high availability)
• soms juiste keuze
• complexe monolitische applicaties
• databases

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Schalen: H & V
Horizontaal schalen Extremely
• meerdere servers evolved
solutions
• gespecialiseerde servers Lorem ipsum dolor sit amet, cons

•

database, loadbalancing, maar ook bv speciﬁeke delen Nunc in leo sed ante lacinia volutpat.


• upload / authenticatie / video transcoding
purus.

• vereist soms applicatie aanpassingen (als niet voorzien)
• maar kan snel (als hoster capaciteit heeft)
• en tijdelijk (bv voor 2 dagen tot het “Digg/Techcrunch”
effect over is)

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Applicatie servers
• eenvoudig te schalen als “Shared Nothing”
Extremely
• schuift probleem “down the stack” evolved
• belangrijkste: sessie-data solutions

•

niet elke request op zelfde server ectetuer adipiscing elit. Donec


• lokale sessies: slecht
purus.

• bv PHP: standaard naar disk
• gecentraliseerde sessies: beter
• centrale databank of speciale cache (memcache)
• nadeel: sessiestore moet schalen (“down the stack”)
• geen sessies: ideaal!
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Vergeet cookie store niet!
http://ﬂickr.com/photos/mr-outdoorguy/2100813932/

Ah, the stack!
http://ﬂickr.com/photos/keitheddleman/2124245307

Queing systemen
• “Wachtrijen”
• vaak onderschat, maar zeer handig Extremely
evolved
• voor alles wat parallelliseerbaar is solutions

•

image conversion, video transcoding, mail uitsturen, ... ectetuer adipiscing elit. Donec


• meestal eenvoudig op te zetten
purus.

• je stuurt er iets naar toe, je haalt er iets af
• helpen bij schalen, maar schalen zelf iets moeilijker
• ActiveMQ, startling (van Twitter), ...

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Beste I/O
Extremely

• Beste I/O: geen I/O evolved
solutions

• Correctie: geen disk I/O Lorem ipsum dolor sit amet, cons

• Disks zijn inherent traag, zelfs snelle disks

purus.

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Databanken
• Moeilijkste component om te schalen (tenzij je heel veel ﬁles
servet) Extremely
evolved
• Te weinig Read performantie? solutions
• Meeste webapps doen 80/20 of zelfs 90/10 read/write Lorem ipsum dolor sit amet, cons

•

Splits read/writes in uw applicatie en gebruik master-slave Pellentesque urna diam, aliquet
purus.

• denormalisatie
• als het echt niet anders kan
• Te weinig Write performantie?
• Lastig horizontaal te schalen!
• master/master, cluster: zeer complex en lost niet alles op
• partitioning / sharding
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Help uw databank!
• Juiste tabelformaat!
• InnoDB heeft row locking Extremely
evolved
• MyISAM heeft full text indexes solutions

•

Juiste queries en datastructuren ectetuer adipiscing elit. Donec


• niet ...

and category like “%3” or like “%,3,%” or like “3,%”
purus.

• ken uw joins
• GEEN order by rand()

• Juiste Indexen
• vooral bij veel data, veel verschil!
• stijgt exponentieel met hoeveelheid data
• EXPLAIN is uw vriend! Zilverenberg 39 - B-9000 Gent - Belgium
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Caching
• Caching zorgt dat je niet moet schalen Extremely

• of toch zo snel niet evolved
solutions

• of maakt het goedkoper Lorem ipsum dolor sit amet, cons


purus.

• Algemene strategie: cache alles wat je kan!
• Cache op alle lagen

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Caching op alle lagen
• Templates naar applicatie-code
• bv Smarty templates naar PHP Extremely
evolved
• Output naar HTML solutions

•

hoeveel echt dynamische blokken zitten er op een page? ectetuer adipiscing elit. Donec


• meestal niet zo moeilijk (PHP: ob_ functies)
purus.

• nadenken over invalidatie
• Object en result caching
• bv lijst van alle categoriën van een shop, lijst 10 populairste
• memcache! (snel, eenvoudig, schaalt goed)
• externe API calls
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Caches: bestaande
Gebruik bestaande caching systemen!
Extremely
• Browser cache (juiste parameters doorgeven)
evolved
solutions

• Database cache (MySQL Query cache)


• Query cache moest correct ingesteld staan
purus.

• Opgelet met “prepared statements”

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Files serven
• Files serven is eenvoudig voor een webserver.
• Extremely
Is bovendien stateless, dus eenvoudig te loadbalancen
evolved
• Nadenken over: solutions

•

files in sync houden? ectetuer adipiscing elit. Donec


• versies van files?
purus.

• Zorg dat alle files rechtstreeks geservet worden, buiten uw
applicatie om
• Zeker niet uit een database!
• Zelfs voor private images
• tijdelijke urls?
• cookie based regels?
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Files opslaan
• In het begin eenvoudig: diskspace tot Extremely
ongeveer 2TB per server evolved
solutions

• tot op limiet waar niet meer kan Lorem ipsum dolor sit amet, cons

•

of tot limiet waar disks te traag worden Pellentesque urna diam, aliquet
purus.

• SAN = duur, maar noodzakelijk
• zelfs bij weinig data: opletten voor limieten
• ﬁlesystemen worden traag bij 10000 ﬁles
• meerdere directories, hashing
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


HA (High Availability)
• Vermijden van SPOFs - Single Point of Failure
• identiﬁceren en elimineren Extremely
evolved
• sommige zeer lastig! solutions

•

database master ectetuer adipiscing elit. Donec


• datacenter?
purus.

• meerdere datacenters lost problemen op
• maar introduceert nieuwe (bv latency en replication)

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Pauze!

http://ﬂickr.com/photos/bubblewrap76/2895595130

Meten is weten
• Vragen beantwoorden als: Extremely
• Hoe snel is mijn applicatie of site eigenlijk? evolved
solutions
• Hoeveel hits kan ik aan? Lorem ipsum dolor sit amet, cons

•

Als ik morgen in de Humo sta, lukt dat? Nunc in leo sed ante lacinia volutpat.


•

Als ik straks vermeld wordt op Studio Brussel, kan ik dat aan?
purus.

• Wat als ik een nieuwsbrief stuur naar mijn 25000 klanten?

• Experts inhuren?
• Kan ik dit zelf?
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Meten kan je zelf
• Eenvoudige tests, eenvoudige tools: Extremely
• evolved
ab (uit de Apache toolkit: http://httpd.apache.org/)
solutions
• httperf (http://www.hpl.hp.com/research/linux/httperf/) Lorem ipsum dolor sit amet, cons

• testen 1 hit op 1 pagina


purus.

• zonder css, js, ajax, images, enz
• vaak meer dan genoeg om een antwoord te krijgen

• Complexere tools
• jmeter
• log replay tools
• kunnen een sessie simuleren, traject volgen Zilverenberg 39 - B-9000 Gent - Belgium
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Wat moet je testen?
• Hoofdpagina. Altijd! Extremely
• evolved
Zelfs als die link niet in de nieuwsbrief gaat staan
solutions
• Eerste indruk Lorem ipsum dolor sit amet, cons


• Meest ingewikkelde pagina
purus.

• Hopelijk is dat een andere dan de hoofdpagina

• “Typische” pagina
• Landingspagina, actiepagina enz Zilverenberg 39 - B-9000 Gent - Belgium
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Test juist
• In goede omstandigheden Extremely
• test-pc snel genoeg? evolved
solutions
• lokaal internet snel genoeg? Lorem ipsum dolor sit amet, cons


• Test met relevante dataset!
purus.

• Vooral belangrijk voor database problemen
• Index problemen: exponentiëel trager
• Als je binnen 3 maand 10000 artikels verwacht
• Test dan ook met 10000 artikels

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Opgepast!
• Je test altijd in development of acceptatie Extremely
evolved
solutions

• Verwittig je hoster voor je gaat testen Lorem ipsum dolor sit amet, cons

•

Evil Sysadmin Day! Pellentesque urna diam, aliquet
purus.

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Metrics
• Hoeveel requests per seconde bij 1 Extremely
gelijktijdige bezoeker evolved
solutions

• Hoeveel requests per seconde bij veel

purus.

gelijktijdige bezoekers

• In hoeveel tijd laadt de pagina voor 80%
van de bezoekers
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Meer resultaten nodig?
• Wil je nog meer weten, vraag uw hoster!
Extremely
evolved
• Vragen: solutions
• CPU belasting tijdens testen? Lorem ipsum dolor sit amet, cons

•

Memory gebruik? Pellentesque urna diam, aliquet
purus.

• Waarom is het traag? Wat is de ﬂessenhals?
• I/O (meestal)
• CPU (soms)
• Netwerk (zelden, tenzij je GarageTV bent)

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Wat optimaliseren?
• “Dat wat voor vertraging zorgt” Extremely
evolved
solutions

• Kijk naar snelheidswinst in tijd Lorem ipsum dolor sit amet, cons

• niet in percenten

purus.

• niet in aantal function calls
• zelfs niet in aantal database queries
• beter 100 supersnelle queries dan 1
trage
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Performantiekillers
• Geheugenintensieve operaties Extremely
• Grote ﬁles inlezen? evolved
solutions
• 24bit tiff aan 600dpi uploaden en converteren Lorem ipsum dolor sit amet, cons

•

thumbnails “on the ﬂy” aanmaken? Nunc in leo sed ante lacinia volutpat.


•

Foto’s uit uw database halen en uw applicatie laten serven
purus.

• Database intensieve operaties
• slechte indexen / queries
• geen gebruik van DB query cache
• order by RAND() op grote set
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Performantiekillers
• CPU intensieve operaties Extremely
• Loops in je code, templates verwerken evolved
solutions
• Image verwerkingen Lorem ipsum dolor sit amet, cons

•

Encryptie (extra md5() op sessies?) Nunc in leo sed ante lacinia volutpat.

purus.

• Externe factoren
• Externe RSS
• Gravatars
• externe css/javascript
• ﬂickr foto’s of lokaal?
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Tips
• Plan! Meet! Analyseer! Gok niet Extremely
evolved
solutions

• Cache zoveel mogelijk Lorem ipsum dolor sit amet, cons


purus.

• Juiste indexen op uw database
• Denk na over URL structuur
• bv upload.uwsite.tld of login.uwsite.tld
• asset hosts en pipelining Zilverenberg 39 - B-9000 Gent - Belgium
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Tips
• Cache! Extremely

• Bouw met (uw eigen) API’s evolved
solutions
• maakt ook schalen van ontwikkeling makkelijker Lorem ipsum dolor sit amet, cons

• Huur experts in


purus.

• om met uw ontwikkelaars te praten
• of te testen
• al is het maar voor 1/2 dag of 2 dagen

• Praat met uw hoster voor de piek Zilverenberg 39 - B-9000 Gent - Belgium
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Je hoster wil dit weten ...
Extremely
evolved
solutions


purus.

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Waarom?
• Waarom wil je hoster dit weten voor het Extremely
zich voordoet? evolved
solutions

•

Maximale ROI (beste hardware op juiste moment) Pellentesque urna diam, aliquet
purus.

• Stabiele service bieden, aan alle klanten
• Zorgen dat andere sites vlot blijven werken
• ‘s Nachts slapen

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Waarom?
• Je hoster is de ideale partner hiervoor Extremely
• Heeft toegang tot de fysieke hardware evolved
solutions
• Kent die hardware het best Lorem ipsum dolor sit amet, cons

•

Heeft DBA’s in dienst, jij waarschijnlijk niet Nunc in leo sed ante lacinia volutpat.


•

Heeft Webserver specialisten in dienst, jij waarschijnlijk niet
purus.

• Je bent heus niet de eerste ...

Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Expert!

http://ﬂickr.com/photos/fcb/58600311

Het bos en de bomen

http://ﬂickr.com/photos/mr_fabulous/2033276270

One more thing ...
• Shared Hosting en Rails hosting pakketten:
• tot eind deze maand kortingscode “NETLAB” Extremely
evolved
• geeft je 1 maand gratis hosting! solutions

•

Virtual Dedicated Servers: ectetuer adipiscing elit. Donec


• vermeld “Netlab korting” bij je kennismakingsgesprek
purus.

• en de setup kost valt helemaal weg

• Performantietests van uw applicatie: vanaf 200 eur

• http://www.openminds.be/
• Telefoon: 09 225 82 91 Zilverenberg 39 - B-9000 Gent - Belgium
Tel: +32 9 225 82 91 - Fax: +32 9 224 46 57


Q &A

http://ﬂickr.com/photos/mbake/399084699/

Schaalbaarheid En Optimalisatie

Recommended

Recommended

More Related Content

More from Frank Louwers

More from Frank Louwers (7)

Schaalbaarheid En Optimalisatie