Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
Управление тысячами  серверов в
Знакомство с проектом
Одноклассникиwww                    api       mobile   xmpp
Немного статистики200 M зарегистрированных пользователей40 M уникальных пользователей в день6 M одновременно на сайте240 Г...
Команда100 разработчиков и тестировщиков25 системных администраторов и инженеров8 специалистов по мониторингудизайнеры, ме...
Инфраструктура4 центра обработки данных150 км оптических линийболее 5000 серверов (95% Linux)
Эйфелева башня   5000 серверов    300 м            350 м
Управление
ЭтапыПланирование Монтаж   Развертывание     Конфигурация       Ввод в работу
Планированиевыбор центра обработки данныхпланирование размещения в стойкепланирование сетевой инфраструктурыназначение име...
CMDBБаза данных управления конфигурацией(configuration management database, CMDB) —репозиторий всех компонентов информацио...
Развитие CMDB  +      +      +
CMDB в Одноклассникахавтоматическое планированиеавтоматическая проверка оборудованиясвязи между объектамиинтеграция со все...
Интеграция с CMDBDNSфинансовые системысистема развертываниясистемы мониторинга (Zabbix, Cacti)системы бизнес-анализа и ста...
ЭтапыПланирование Монтаж   Развертывание     Конфигурация       Ввод в работу
РазвертываниеClonezillaвыделенный VLANинтеграция с CMDBавтоматическое определение MAC адресаавтоматический перевод в рабоч...
ЭтапыПланирование Монтаж   Развертывание     Конфигурация       Ввод в работу
Управление конфигурациейлокальное управлениеудаленное управлениеудаленное выполнение командцентрализованное управление
Централизованное                      управлениеMulti SSH            DSSH
Централизованное управление
Требованияинтеграция с CMDBконтроль и журнализация изменениймасштабирование и резервированиемониторинг и отчетыразделение ...
Почему         ?производительностьмасштабируемостьбезопасностьгибкостьпопулярность
ВерсииCommunity edition (Core)  open source (GPL3)Enterprise edition (Nova)  коммерческая поддержка  веб-интерфейс (отчеты...
Компонентыcf-agent      выполняет политикиcf-execd      запускает агента по расписаниюcf-monitord   собирает статистическу...
Клиент – серверсвой протокол 5308/tcp  аутентификация  авторизация  шифрование  передача файловтолько pull
Политикиgit репозиторий на HUBкаждые 5 минут:  git pull  копирование политикsplaytime = 4
Git mirror
Hub fail
Hub fail
Master fail
Master fail
МониторингMySQL на HUBкаждые 5 минут:  INSERT             INSERT   SELECTкаждую минуту:  SELECTраз в сутки чистка
ИтогиПланирование Монтаж   Развертывание     Конфигурация       Ввод в работу
Дополнительная информацияБлог компании Одноклассникиhttp://habrahabr.ru/company/odnoklassniki/CFEnginehttp://cfengine.com/...
Спасибо за внимание!
А л е к с е й Ч уд о в     ведущий системныйадминистратор, Одноклассникиa l e k s e y. c h u d o v @ o d n o k l a s s n i...
Управление тысячами серверов в Одноклассниках. Алексей Чудов.
Управление тысячами серверов в Одноклассниках. Алексей Чудов.
Управление тысячами серверов в Одноклассниках. Алексей Чудов.
Upcoming SlideShare
Loading in …5
×

Управление тысячами серверов в Одноклассниках. Алексей Чудов.

6,568 views

Published on

В докладе пойдет речь о том, как происходит развертывание и управление серверами в проекте Одноклассники, какие этапы проходит каждый сервер с момента его закупки до запуска в работу. Более подробно будут рассмотрены вопросы мониторинга и автоматического управления конфигурацией. Доклад будет полезен как начинающим администраторам, которые смогут почерпнуть в нем идеи для автоматизации инфраструктуры, так и профессионалам, которым интересен опыт высоконагруженных проектов.

Видео:
http://broadcast.comdi.com/broadcast/player/stream/?streamKey=qgrcbqtqp4dd2d8gtm9z
( кликните на название доклада )

Published in: Technology
  • Be the first to comment

Управление тысячами серверов в Одноклассниках. Алексей Чудов.

  1. 1. Управление тысячами серверов в
  2. 2. Знакомство с проектом
  3. 3. Одноклассникиwww api mobile xmpp
  4. 4. Немного статистики200 M зарегистрированных пользователей40 M уникальных пользователей в день6 M одновременно на сайте240 Гбит/с трафикаболее 1 ПБ данных
  5. 5. Команда100 разработчиков и тестировщиков25 системных администраторов и инженеров8 специалистов по мониторингудизайнеры, менеджеры, правление и др.
  6. 6. Инфраструктура4 центра обработки данных150 км оптических линийболее 5000 серверов (95% Linux)
  7. 7. Эйфелева башня 5000 серверов 300 м 350 м
  8. 8. Управление
  9. 9. ЭтапыПланирование Монтаж Развертывание Конфигурация Ввод в работу
  10. 10. Планированиевыбор центра обработки данныхпланирование размещения в стойкепланирование сетевой инфраструктурыназначение имени и IP-адресазанесение информации в CMDB
  11. 11. CMDBБаза данных управления конфигурацией(configuration management database, CMDB) —репозиторий всех компонентов информационнойсистемы. CMDB помогает понять взаимосвязимежду этими компонентами и отслеживать ихконфигурации. CMDB — основной компонентпроцесса управления конфигурацией.
  12. 12. Развитие CMDB + + +
  13. 13. CMDB в Одноклассникахавтоматическое планированиеавтоматическая проверка оборудованиясвязи между объектамиинтеграция со всеми системамижурнализация измененийотчеты
  14. 14. Интеграция с CMDBDNSфинансовые системысистема развертываниясистемы мониторинга (Zabbix, Cacti)системы бизнес-анализа и статистикисистемы конфигурации и управления порталомсистема предоставления доступа
  15. 15. ЭтапыПланирование Монтаж Развертывание Конфигурация Ввод в работу
  16. 16. РазвертываниеClonezillaвыделенный VLANинтеграция с CMDBавтоматическое определение MAC адресаавтоматический перевод в рабочий VLAN
  17. 17. ЭтапыПланирование Монтаж Развертывание Конфигурация Ввод в работу
  18. 18. Управление конфигурациейлокальное управлениеудаленное управлениеудаленное выполнение командцентрализованное управление
  19. 19. Централизованное управлениеMulti SSH DSSH
  20. 20. Централизованное управление
  21. 21. Требованияинтеграция с CMDBконтроль и журнализация изменениймасштабирование и резервированиемониторинг и отчетыразделение доступа
  22. 22. Почему ?производительностьмасштабируемостьбезопасностьгибкостьпопулярность
  23. 23. ВерсииCommunity edition (Core) open source (GPL3)Enterprise edition (Nova) коммерческая поддержка веб-интерфейс (отчеты, мониторинг и др.)
  24. 24. Компонентыcf-agent выполняет политикиcf-execd запускает агента по расписаниюcf-monitord собирает статистическую информациюcf-serverd обслуживает сетевые соединенияcf-runagent вызывает агента на удаленных хостах
  25. 25. Клиент – серверсвой протокол 5308/tcp аутентификация авторизация шифрование передача файловтолько pull
  26. 26. Политикиgit репозиторий на HUBкаждые 5 минут: git pull копирование политикsplaytime = 4
  27. 27. Git mirror
  28. 28. Hub fail
  29. 29. Hub fail
  30. 30. Master fail
  31. 31. Master fail
  32. 32. МониторингMySQL на HUBкаждые 5 минут: INSERT INSERT SELECTкаждую минуту: SELECTраз в сутки чистка
  33. 33. ИтогиПланирование Монтаж Развертывание Конфигурация Ввод в работу
  34. 34. Дополнительная информацияБлог компании Одноклассникиhttp://habrahabr.ru/company/odnoklassniki/CFEnginehttp://cfengine.com/Chefhttp://www.opscode.com/chef/Puppet Labshttp://puppetlabs.com/
  35. 35. Спасибо за внимание!
  36. 36. А л е к с е й Ч уд о в ведущий системныйадминистратор, Одноклассникиa l e k s e y. c h u d o v @ o d n o k l a s s n i k i . r u

×