Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
Организация доставки видеоконтента пользователям Андрей Смирнов  (НетСтрим)
Содержание <ul><li>Видео: организация файлового хранилища. </li></ul><ul><li>Вещания: ретрансляция. </li></ul><ul><li>Геог...
Видеофайлы <ul><li>Объем хранения: </li></ul><ul><ul><li>на хранение 1 секунды видео требуется  ~  2 5 0 Кб ( FLV,  оригин...
Файловый сервер Файловый сервер  (2-4 Тб,  RAID ) просмотр видео,  HTTP - streaming «Морда» / Сервер кодирования WebDAV уд...
Кластер файловых серверов <ul><li>Какой сервер выбрать? </li></ul><ul><ul><li>diskfree </li></ul></ul><ul><ul><li>нагрузка...
Файловый сервер <ul><li>Отдача контента (статика): </li></ul><ul><ul><li>FLV-streaming (lighttpd, nginx); </li></ul></ul><...
Бэкап данных <ul><li>Объем данных не позволяет использовать традиционные схемы. </li></ul><ul><li>Решение -  кросс-бэкап :...
Кросс-бэкап <ul><li>Основа –  rsync . </li></ul><ul><li>Проблема вычисления свободного места: </li></ul><ul><ul><li>период...
Вещания <ul><li>Клиент:  Adobe Flash Player; </li></ul><ul><li>Сервер:  Adobe FMS, pyFMS , … ; </li></ul><ul><li>Протокол:...
Ретрансляция вещаний pyFMS  1 pyFMS  2 pyFMS  3 pyFMS  4 Источник вещания Ретрансляторы Клиенты вещания Автор вещания
Геораспределенность <ul><li>Контент должен быть «близко» к потребителю: </li></ul><ul><ul><li>региональное развитие (РФ); ...
Посетитель IP- адрес Посетитель Географическое положение: - страна; - регион; - город. БД  GeoIP
Ресурс Ресурс Сервер Географическое положение 1 Копии ресурса Зеркалирующие сервера Географическое положение 2 Географичес...
Вычисление расстояний Москва Киев Харьков Хьюстон Таллин Пермь Находка 20 5 15 40 30 5 10 20 15
Вычисление расстояний <ul><li>Поиск кратчайшего пути во взвешенном орграфе. </li></ul><ul><li>Фиксированное количество кон...
Выбор копии ресурса <ul><li>Из мест расположения ресурса и его копий выбираем ближайший к пользователю; </li></ul><ul><li>...
Начисление бонусов <ul><li>Всем местам, где ресурс отсутствует сегодня, начисляем бонус: где  k  –  коэффициент, определяю...
Копирование ресурса <ul><li>Как только бонус ресурса относительно места превышает некоторый предел: </li></ul><ul><ul><li>...
Гео: видеофайлы <ul><li>Ресурс – видеофайл; </li></ul><ul><li>Первичная копия ресурса – файл, расположенный на файловом се...
Гео: вещания <ul><li>Ресурс – вещание; </li></ul><ul><li>Первичная копия ресурса – вещание на сервере, к которому подключе...
Заключение <ul><li>Результат:  </li></ul><ul><ul><li>контент надежно хранится ; </li></ul></ul><ul><ul><li>хранилище масшт...
Спасибо! Вопросы?
Upcoming SlideShare
Loading in …5
×

Доклад на РИТ: Высокие нагрузки (2008)

782 views

Published on

Организация доставки видеоконтента

Published in: Education
  • Be the first to comment

  • Be the first to like this

Доклад на РИТ: Высокие нагрузки (2008)

  1. 1. Организация доставки видеоконтента пользователям Андрей Смирнов (НетСтрим)
  2. 2. Содержание <ul><li>Видео: организация файлового хранилища. </li></ul><ul><li>Вещания: ретрансляция. </li></ul><ul><li>Географическая распределенность: подход. </li></ul><ul><li>Географически распределенные видеофайлы и вещания. </li></ul>
  3. 3. Видеофайлы <ul><li>Объем хранения: </li></ul><ul><ul><li>на хранение 1 секунды видео требуется ~ 2 5 0 Кб ( FLV, оригинал, 3 GP, …) ; </li></ul></ul><ul><ul><li>средняя длительность видео ~ 4 минут; </li></ul></ul><ul><ul><li>для 1 млн. видео необходимо 60 Тб. </li></ul></ul><ul><li>Одно видео = 5 файлов + 15 картинок. </li></ul>
  4. 4. Файловый сервер Файловый сервер (2-4 Тб, RAID ) просмотр видео, HTTP - streaming «Морда» / Сервер кодирования WebDAV удаление, создание, копирование файлов и т.п.
  5. 5. Кластер файловых серверов <ul><li>Какой сервер выбрать? </li></ul><ul><ul><li>diskfree </li></ul></ul><ul><ul><li>нагрузка </li></ul></ul><ul><ul><li>случайно </li></ul></ul>Файловый сервер №1 Файловый сервер №2 Файловый сервер № n …
  6. 6. Файловый сервер <ul><li>Отдача контента (статика): </li></ul><ul><ul><li>FLV-streaming (lighttpd, nginx); </li></ul></ul><ul><ul><li>Оригинал, 3 GP, MPEG-4 – любой HTTP- сервер. </li></ul></ul><ul><li>Управление файлами ( WebDAV): </li></ul><ul><ul><li>Apache, nginx, … </li></ul></ul><ul><li>Доступ к файлам: </li></ul><ul><ul><li>Любой WebDAV- клиент ( PHP, Python, …) </li></ul></ul>
  7. 7. Бэкап данных <ul><li>Объем данных не позволяет использовать традиционные схемы. </li></ul><ul><li>Решение - кросс-бэкап : </li></ul>Бэкап 2 Файлы 1 Бэкап 1 Файлы 2 1 2
  8. 8. Кросс-бэкап <ul><li>Основа – rsync . </li></ul><ul><li>Проблема вычисления свободного места: </li></ul><ul><ul><li>периодичность выполнения бэкапа. </li></ul></ul>
  9. 9. Вещания <ul><li>Клиент: Adobe Flash Player; </li></ul><ul><li>Сервер: Adobe FMS, pyFMS , … ; </li></ul><ul><li>Протокол: RTMP; </li></ul><ul><li>Проблема – «мультиплицирование» потока на количество зрителей вещания. </li></ul>
  10. 10. Ретрансляция вещаний pyFMS 1 pyFMS 2 pyFMS 3 pyFMS 4 Источник вещания Ретрансляторы Клиенты вещания Автор вещания
  11. 11. Геораспределенность <ul><li>Контент должен быть «близко» к потребителю: </li></ul><ul><ul><li>региональное развитие (РФ); </li></ul></ul><ul><ul><li>международные рынки. </li></ul></ul><ul><li>Проблемы: </li></ul><ul><ul><li>сетевые каналы (пропускная способность); </li></ul></ul><ul><ul><li>разница в стоимости локального и внешнего трафика. </li></ul></ul>
  12. 12. Посетитель IP- адрес Посетитель Географическое положение: - страна; - регион; - город. БД GeoIP
  13. 13. Ресурс Ресурс Сервер Географическое положение 1 Копии ресурса Зеркалирующие сервера Географическое положение 2 Географическое положение 3
  14. 14. Вычисление расстояний Москва Киев Харьков Хьюстон Таллин Пермь Находка 20 5 15 40 30 5 10 20 15
  15. 15. Вычисление расстояний <ul><li>Поиск кратчайшего пути во взвешенном орграфе. </li></ul><ul><li>Фиксированное количество концов пути: расположение серверов. </li></ul><ul><li>Слабосвязанный граф, кеширование вычисленных расстояний. </li></ul>
  16. 16. Выбор копии ресурса <ul><li>Из мест расположения ресурса и его копий выбираем ближайший к пользователю; </li></ul><ul><li>Если таких мест несколько – выбираем случайно (в соответствие с весом). </li></ul>
  17. 17. Начисление бонусов <ul><li>Всем местам, где ресурс отсутствует сегодня, начисляем бонус: где k – коэффициент, определяющий скорость копирования ресурсов. </li></ul>
  18. 18. Копирование ресурса <ul><li>Как только бонус ресурса относительно места превышает некоторый предел: </li></ul><ul><ul><li>выполняется копирование ресурса на любой из серверов, расположенных в данном географическом месте. </li></ul></ul>
  19. 19. Гео: видеофайлы <ul><li>Ресурс – видеофайл; </li></ul><ul><li>Первичная копия ресурса – файл, расположенный на файловом сервере; </li></ul><ul><li>Копии ресурса – копии файла, расположенные на зеркалирующих файловых серверах; </li></ul><ul><li>Обращение к ресурсу – просмотр видео, скачивание; </li></ul><ul><li>Копирование ресурса – копирование файла на зеркалирующий файловый сервер. </li></ul>
  20. 20. Гео: вещания <ul><li>Ресурс – вещание; </li></ul><ul><li>Первичная копия ресурса – вещание на сервере, к которому подключен автор вещания; </li></ul><ul><li>Копии ресурса – ретрансляция вещания; </li></ul><ul><li>Обращение к ресурсу – «вход» в вещание; </li></ul><ul><li>Копирование ресурса – создание нового источника ретрансляции. </li></ul>
  21. 21. Заключение <ul><li>Результат: </li></ul><ul><ul><li>контент надежно хранится ; </li></ul></ul><ul><ul><li>хранилище масштабируется ; </li></ul></ul><ul><ul><li>контент «приближается» к пользователю по мере необходимости. </li></ul></ul><ul><li>Альтернативы: </li></ul><ul><ul><li>CDN; </li></ul></ul><ul><ul><li>распределенные файловые системы. </li></ul></ul>
  22. 22. Спасибо! Вопросы?

×