Viele Server – wenig ArbeitBerlin | 07.06.2013 | Schlomo Schapiro | @SchlomoSchapiroSystemarchitekt, Open Source Evangelis...
Slide 3 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapirowww.ImmobilienScout24.de>2 billion PI per month2 data...
Slide 4 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroPapa,wasmachst Dueigentlichauf Arbeit?
Slide 5 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 6 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 7 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 8 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 9 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 10 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroLego City
Slide 11 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroOrchestrierung & Automation
Slide 12 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroSpielen diewirklichnur mitLEGO rum?
Slide 13 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroBusinessDecisionTo goLiveAllHumansare on theSame Sid...
Slide 14 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroPROInfrastructureBuildApplicationBuildConfigurationB...
Slide 15 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro“Any relevant file should be eitherdeployed via a pa...
Slide 16 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro„Every package must be verifyable –stay away from pa...
Slide 17 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroConfigSVNpost-commit→ YUM reposInfrastructureasCode
Slide 18 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroTSTWEB05Location &EnvironmentFunction GroupInstanceC...
Slide 19 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroBig Picture – Static StructureConfigSVNYUMRepository...
Slide 20 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroStatic Structure – Pros and ConsVariables follow sam...
Slide 21 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 22 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 23 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 24 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 25 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 26 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 27 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 28 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
Slide 29 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroFile Management with RPM & YUMPRODDEVInfrastructureB...
Slide 30 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroExample: is24-tomcat Packagesis24-tomcat-welcome = 6...
Slide 31 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroExample: Apache HTTPDDesign Goals:Use and extend ups...
Slide 32 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroExample: is24-httpd RPMif ! echo # IS24 HTTPD conf f...
Slide 33 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroExample: is24-httpd RPMif ! echo # HTTPD options can...
Slide 34 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroSystems Managementyadtshell
Slide 35 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroYADT – Unified Dependency TreeWeb ServerHTTPDTomcatA...
Slide 36 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroHTTPDTomcatweb-apphttpdconfigtomcatYADT – Unified De...
Slide 37 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroYADT – Large Scale System ManagementWeb ServerHTTPDT...
Slide 38 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroYADT – Large Scale System ManagementLB: www.immobili...
Slide 39 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroYADT – Large Scale System ManagementLB: www.immobili...
Slide 40 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroYADT – Large Scale System ManagementLB: www.immobili...
Slide 41 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiroyadtshell Wave Deployment
Slide 42 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroSystems Management with YADTReduce Systemic Complexi...
Slide 43 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroContinuous Delivery PlatformBusinessDecisionTo GoLiv...
Slide 44 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroDevOps
Slide 45 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroAbstraktionStarke VereinfachungStandardbausteineLösu...
Slide 46 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapirowww.yadt-project.orggo.schapiro.org/slides
Slide 47 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapirobit.ly/is24techjobs
Slide 48 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroKontakt:Immobilien Scout GmbHAndreasstraße 1010243 B...
Slide 49 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroPhoto URLs:http://skepchick.org/wp-content/uploads/l...
Upcoming SlideShare
Loading in...5
×

Viele Server - Wenig Arbeit: Betriebsautomation bei ImmobilienScout24

1,059

Published on

Der Vortrag gibt einen Einblick in die Betriebsautomation bei ImmobilienScout24.

Warum verfolgen wir eine 100%ige Paketierung aller Inhalte (Config, Software usw.) und welche Vorteile verschafft uns das?

Konkrete (Live Demo) Lösungen für typische Pakete: httpd, tomcat, postfix ...
Live Demo des Config SVNs und seiner Arbeitsweise
Mit welchen Tricks schaffen wir das, alles zu paketieren?
Wie hilft uns die Paketierung mit Dev und Ops und vielen Teams effizient zusammen zu arbeiten?
Continuous Live Deployment als Weg, um das Risiko von Änderungen zu minimieren und viele parallel laufende Änderungen unter einen Hut zu bekommen.
Warum modellieren wir die Abhängigkeiten zwischen Systemen, wie vereinfacht das den Job der Admins?
Generell Einblick in unsere agile Arbeitsweise - Wie sieht DevOps wirklich aus? - Geschichten aus dem wahren Leben. - Ups und Downs.

Die zentralen Tools sind als Open-Source Projekte frei verfügbar:
http://yadt-project.org und https://github.com/yadt
https://github.com/ImmobilienScout24/yum-repo-server
https://github.com/ImmobilienScout24/lab-manager-light
https://github.com/ImmobilienScout24/kickstart-debugger
https://github.com/ImmobilienScout24/kiosk-browser
https://github.com/sonatype/nexus-yum-plugin

Vortragsvideo: http://www.youtube.com/watch?v=UqIY55dc_P8
Konferenzarchiv: https://www.heinlein-support.de/slac/2013/vortrag/viele-server-wenig-arbeit-betriebsautomation-bei-immobilienscout24

Published in: Technology
0 Comments
1 Like
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total Views
1,059
On Slideshare
0
From Embeds
0
Number of Embeds
2
Actions
Shares
0
Downloads
11
Comments
0
Likes
1
Embeds 0
No embeds

No notes for slide

Viele Server - Wenig Arbeit: Betriebsautomation bei ImmobilienScout24

  1. 1. Viele Server – wenig ArbeitBerlin | 07.06.2013 | Schlomo Schapiro | @SchlomoSchapiroSystemarchitekt, Open Source EvangelistLicense: http://creativecommons.org/licenses/by-nc-nd/3.0/Betriebsautomation bei ImmobilienScout24
  2. 2. Slide 3 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapirowww.ImmobilienScout24.de>2 billion PI per month2 data center with ~1400 VMtotal of ~600 employees ~30 crossfunctional IT teams ~160 in IT15 years in businesspart of Deutsche Telekom
  3. 3. Slide 4 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroPapa,wasmachst Dueigentlichauf Arbeit?
  4. 4. Slide 5 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  5. 5. Slide 6 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  6. 6. Slide 7 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  7. 7. Slide 8 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  8. 8. Slide 9 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  9. 9. Slide 10 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroLego City
  10. 10. Slide 11 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroOrchestrierung & Automation
  11. 11. Slide 12 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroSpielen diewirklichnur mitLEGO rum?
  12. 12. Slide 13 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroBusinessDecisionTo goLiveAllHumansare on theSame SideBuildConfigDeployTestSystems-ManagementAutomationScale OutData Centersthroughpackages
  13. 13. Slide 14 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroPROInfrastructureBuildApplicationBuildConfigurationBuildQAYUMReposInterfaceDEVgithub.com/ImmobilienScout24/yum-repo-server
  14. 14. Slide 15 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro“Any relevant file should be eitherdeployed via a packageorcompletely managed by anapplication that is thus deployed.”
  15. 15. Slide 16 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro„Every package must be verifyable –stay away from package scripts.““Reducing the config packagereduces the deployment risk.”
  16. 16. Slide 17 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroConfigSVNpost-commit→ YUM reposInfrastructureasCode
  17. 17. Slide 18 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroTSTWEB05Location &EnvironmentFunction GroupInstanceConfiguration over Convention
  18. 18. Slide 19 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroBig Picture – Static StructureConfigSVNYUMRepositoryIS24 softwareAutomated RPMcreationconfig├── host│ └── tstweb02│├── loc│ └── tst│ ├── VARIABLES│ │ ├── RPM_REQUIRES│ │ ├── RPM_PROVIDES│ │ ├── DB_HOST│ │ └── DB_USER│ └── etc│ └── is24│ ├── web.properties│ └── db.properties├── typ│ └── web│├── loctyp│ └── tstweb│ └── etc│ └── is24│ └── web.properties└── all├── VARIABLES│ └── SYSLOG_HOST└── etc└── is24└── system.propertiesis24-config-tstweb01-1.0-$rev.rpm:/etc/is24/system.properties/etc/is24/db.properties/etc/is24/web.properties[root@tstweb01 ~]# yum updatesvn cidb.host=@@@DB_HOST@@@db.user=@@@DB_USER@@@db.port=3306Post-commit hook createsis24-config-$hostname RPM●svn export●patch VARIABLES●fill in metadatasvn cologhost=log.domain.com
  19. 19. Slide 20 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroStatic Structure – Pros and ConsVariables follow samestructure as config dataOnly one tool (SVN) neededGUI talks only to SVNVersioning and changetracking for variablesVariables and config fileschange together (atomic)easy rollback→Is this simple overlaying structure sufficient? Simplify the world so that it is good enough!ConfigSVNYUMRepositoryIS24 softwareAutomated RPMcreationconfig├── host│ └── tstweb02│├── loc│ └── tst│ ├── VARIABLES│ │ ├── RPM_REQUIRES│ │ ├── RPM_PROVIDES│ │ ├── DB_HOST│ │ └── DB_USER│ └── etc│ └── is24│ ├── web.properties│ └── db.properties├── typ│ └── web│├── loctyp│ └── tstweb│ └── etc│ └── is24│ └── web.properties└── all├── VARIABLES│ └── SYSLOG_HOST└── etc└── is24└── system.propertiesis24-config-tstweb01-1.0-$rev.rpm:/etc/is24/system.properties/etc/is24/db.properties/etc/is24/web.properties[root@tstweb01 ~]# yum updatesvn cidb.host=@@@DB_HOST@@@db.user=@@@DB_USER@@@db.port=3306Post-commit hook createsis24-config-$hostname RPM●svn export●patch VARIABLES●fill in metadatasvn cologhost=log.domain.comyadt-config-rpm-maker
  20. 20. Slide 21 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  21. 21. Slide 22 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  22. 22. Slide 23 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  23. 23. Slide 24 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  24. 24. Slide 25 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  25. 25. Slide 26 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  26. 26. Slide 27 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  27. 27. Slide 28 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiro
  28. 28. Slide 29 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroFile Management with RPM & YUMPRODDEVInfrastructureBuildApplicationBuildConfigurationBuildQAYUMRepos
  29. 29. Slide 30 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroExample: is24-tomcat Packagesis24-tomcat-welcome = 6.0.35is24-tomcat-standalone is24-tomcat-behind-httpdis24-tomcat-baseis24-tomcat = 6.0.35XORReqReq ReqReqis24-tomcat-welcome = 7.0.40is24-tomcat = 7.0.40
  30. 30. Slide 31 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroExample: Apache HTTPDDesign Goals:Use and extend upstream httpd RPMConfigure MPM and service user per applicationIS24 standard configuration everywherehttpd RPM/etc/httpd/conf/httpd.conf/etc/sysconfig/httpd
  31. 31. Slide 32 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroExample: is24-httpd RPMif ! echo # IS24 HTTPD conf framework. Read IS24_README!# This file is managed by %{name}­%{version}.%{release}# Put your stuff in /etc/conf/*/is24*.conf files!ServerRoot "/etc/httpd"Include conf/basic/is24*.confInclude conf/main/is24*.confInclude conf/other/is24*.conf >/etc/httpd/conf/httpd.conf ; then    logger ­p user.err ­s ­t %name ­­ "ERROR: …"fiRequires: httpdRequires(Pre): httpd%post
  32. 32. Slide 33 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroExample: is24-httpd RPMif ! echo # HTTPD options can be configured in# additional /etc/httpd/conf/env/*.sh files# This file is managed by %{name}­%{version}.%{release}# Please add extra options to the OPTIONS Bash Arrayshopt ­s nullglobHTTPD=/usr/sbin/httpd.workerfor f in /etc/httpd/conf/env/*.sh ; do    source $fdoneOPTIONS="${OPTIONS[*]}" # flatten array >/etc/sysconfig/httpd ; then    logger ­p user.err ­s ­t %name ­­ "ERROR: ..."fi...%post (continued)
  33. 33. Slide 34 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroSystems Managementyadtshell
  34. 34. Slide 35 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroYADT – Unified Dependency TreeWeb ServerHTTPDTomcatApp ServerLoad Balancer
  35. 35. Slide 36 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroHTTPDTomcatweb-apphttpdconfigtomcatYADT – Unified Dependency Treeinitscriptinitscript/etc/yadt.services- httpd:is_frontservice: trueneeds_services:- tomcat- tomcat:
  36. 36. Slide 37 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroYADT – Large Scale System ManagementWeb ServerHTTPDTomcatweb-apphttpdconfigtomcatApp ServerJava Appappconfig
  37. 37. Slide 38 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroYADT – Large Scale System ManagementLB: www.immobilienscout24.deWeb ServerHTTPDTomcatweb-apphttpdconfigtomcatApp ServerJava AppappconfigWeb ServerHTTPDTomcatweb-apphttpdconfigtomcatApp ServerJava Appappconfig
  38. 38. Slide 39 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroYADT – Large Scale System ManagementLB: www.immobilienscout24.deWeb ServerHTTPDTomcatweb-apphttpdconfigtomcatApp ServerJava AppappconfigWeb ServerHTTPDTomcatweb-apphttpdconfigtomcatApp ServerJava Appappconfig1stchunk
  39. 39. Slide 40 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroYADT – Large Scale System ManagementLB: www.immobilienscout24.deWeb ServerHTTPDTomcatweb-apphttpdconfigtomcatApp ServerJava AppappconfigWeb ServerHTTPDTomcatweb-apphttpdconfigtomcatApp ServerJava Appappconfig1stchunk2ndchunk
  40. 40. Slide 41 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapiroyadtshell Wave Deployment
  41. 41. Slide 42 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroSystems Management with YADTReduce Systemic ComplexityKeep It Simple
  42. 42. Slide 43 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroContinuous Delivery PlatformBusinessDecisionTo GoLiveAll Humansare on theSame SideBuildConfigDeployTestSystems-ManagementAutomationScale OutData Centers
  43. 43. Slide 44 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroDevOps
  44. 44. Slide 45 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroAbstraktionStarke VereinfachungStandardbausteineLösungen wiederverwendenKleine Komponenten zu Großem verbindenAlles ist machbar
  45. 45. Slide 46 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapirowww.yadt-project.orggo.schapiro.org/slides
  46. 46. Slide 47 | Betriebsautomation bei ImmobilienScout24 | Schlomo Schapirobit.ly/is24techjobs
  47. 47. Slide 48 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroKontakt:Immobilien Scout GmbHAndreasstraße 1010243 BerlinFon: +49 30 243 01-1229Email: schlomo.schapiro@immobilienscout24.deURL: www.immobilienscout24.deThank you very much!Please contact me for furtherquestions and discussions.
  48. 48. Slide 49 | Betriebsautomation bei ImmobilienScout24 | Schlomo SchapiroPhoto URLs:http://skepchick.org/wp-content/uploads/lego-1.jpghttp://smithduck.home.comcast.net/~smithduck/bmw/kwiring/Early%20K75%20K100/K100_Early_Wiring_Diagram.jpeghttp://brickbrowse.com/creator/small-cottage-31009/http://static.desktopnexus.com/owallpaper/15044-1024x768-4097LinuxSkeleton1024768.jpg (John Schriener)http://images.brickbrowse.com/technic/motorized-excavator-8043/technic-motorized-excavator-8043-3.jpghttp://images.brickbrowse.com/technic/container-truck-8052/technic-container-truck-8052-3.jpghttp://www.flickr.com/photos/dhardacre/5754596620/http://images.brickbrowse.com/architecture/brandenburg-gate-21011/architecture-brandenburg-gate-21011-1.jpghttp://www.gtaberlin.de/models/brandenburger_tor_1.jpgAll remaining images are custom-made or from http://openclipart.org
  1. A particular slide catching your eye?

    Clipping is a handy way to collect important slides you want to go back to later.

×