SlideShare a Scribd company logo
Aurora
Система распределенных высоконагруженных вычислений
Докладчик: магистр 2 курса Повар А. В.
Научный руководитель: д.ф.-м.н. Прудников П.В.
Проблематика
• Коммуникационная среда
• Доступ и хранение данных
• Переносимость и развертывание
Коммуникационная среда
• MPI хорош для не слишком
коммуникационно сложных программ
• MPI хорош для выполнения гомогенных
задач
• Особенности стандарта
• Слишком низкоуровневый для того чтобы
“просто пользоваться”
• Создание среды выполнения MPI – не
самая тривиальная задача
Базы данных
• Реляционные и нереляционные БД –
идеальные решения для хранения данных
• Данные структурированы
• Данные всегда доступны
• Данные надежно хранятся
• Доступны базовые операции (sum, max, min,
avg, count)
• Сложность использования в связке MPI/C++
сводит на нет все плюсы
Переносимость
Разработка
Отладка
Сборка на
кластере
Интеграция и
исправление
ошибок
Запуск
Результат?
Развертывание
Достаточно трудно быстро развернуть
вычислительную сеть для проведения
моделирования с помощью
компьютеров, объединенных локальной
сетью. Особенно если используются
различные операционные системы и
аппаратное обеспечение.
Как можно улучшить ситуацию
• Упростить и стандартизировать интерфейсы
взаимодействия
• Стандартные решения для стандартных
задач
• Механизм быстрого построения
вычислительной системы на основе
доступного оборудования
Aurora. Система распределенных
высоконагруженных вычислений
Система Aurora
Среда
исполнения
Программный
каркас
Aurora. Программный каркас
• Скелет для построения вычислительно
сложных приложений
• Инструменты для статистических расчетов.
• Библиотеки физических моделей и
алгоритмов.
• Возможность использования уже
существующих вычислительных программ
Aurora. Среда исполнения
• Механизмы запуска и контроля
приложений
• Унифицированный доступ к
коммуникационным средам
• Унифицированный доступ к средствам
хранения и анализа информации
• Адаптеры для работы с различными
вычислительными средами
Aurora. Технологии
• В основе – Java Virtual Machine
• Построена с помощью языков
программирования
– Scala
– Java
– C++
• Модульность - OSGi
Aurora. Архитектура
• Хранилища и источники данных
• Компоненты анализа данных
• Генераторы отчетов
Прикладные
компоненты
• Жизненный цикл приложений
• Мониторинг и управление взаимодействиями
Управление
исполнением
• Виртуальная сеть(MPI, TCP/IP)
• Обмен сообщениями
• Механизмы интеграции с вычислительными
платформами
• Механизмы развертывания выч. среды
Tier-0 / Сеть
Aurora. Сеть
• Наиболее важный компонент
• Связующее программное обеспечении
• Скрывает все особенности нижележащих
платформ
• Отдельный модуль для каждой платформы
• Собственный механизм адресации
• Частично реализует некоторые протоколы
сетевой модели OSI (ARP, Inverse ARP, DHCP)
Aurora. Управление выполнением
• Определяет жизненный цикл запускаемых
программ и управляет ими
• Подключает программы к коммуникационной
среде
• Предоставляет механизмы мониторинга
выполняемых задач в режиме реального
времени
• Распределяет задачи по исполнительным
узлам и обеспечивает их выполнение
• Вводит и выводит узлы из сети, не прерывая
исполнение программ
Aurora. Прикладные компоненты
• Компоненты работы с реляционными
базами данных
• Генераторы отчетов
• Инструменты анализа данных
• Инструменты для интеграции
существующего прикладного ПО и моделей
• Библиотеки моделей и алгоритмов
Aurora. Статус
• Разрабатывается модуль интеграции со
СКИФ МГУ Чебышев
• Ведется активная работа по запуску проекта
в коммуникационной среде TCP/IP с
помощью собственного сетевого протокола
• Существует возможность запуска тестовых
задач с помощью проекта Aurora
• Ведется работа по интеграции с
хранилищами данных
Aurora. Перспективы
• Полная интеграция с кластером СКИФ МГУ
Чебышев
• Полностью готовый модуль для построения
собственной вычислительной сети
• Стандартизация системы с возможностью
написания компонент сторонними
разработчиками
• Получение результатов в физическом
моделировании, как главный критерий успеха.
Java Virtual Machine
• Основная часть исполняющей системы Java
• Интерпретирует байт-код
• Доступна для многих платформ
• Compile once, run anywhere
Scala
• Функциональное и объектно-
ориентированное программирование
• Единообразная объектная модель
• Функции – полноправные объекты
• Шаблоны и шаблоны высших порядков
• Полная интероперабельность с java
• Разработан в EPFL (Федеральная
политехническая школа
Лазаны)
OSGi
• Динамическая модульная шина
• Позволяет создавать приложения из
слабосвязанных взаимодействующих
компонент
• Поддерживает конфигурацию “на-лету”
Сетевая модель OSI
• Open systems interconnection basic reference
model
• ЭМВОС – базовая эталонная модель
взаимодействия открытых систем (ГОСТ Р
ИСО/МЭК 7498-1-99)
• Сетевая модель взаимодействия сетевых
протоколов
Уровни
модели
OSI
Сетевые протоколы
• ARP – Address Resolution Protocol (протокол
определения адреса)
• DHCP – Dynamic Host Configuration Protocol
(протокол динамической конфигурации
узла)

More Related Content

Similar to система высоконагруженных распределенных вычислений Aurora

Архитектура программных систем на Node.js
Архитектура программных систем на Node.jsАрхитектура программных систем на Node.js
Архитектура программных систем на Node.js
Timur Shemsedinov
 
JSLab.Тимур Шемсединов. "Архитектура программных систем на Node.js"
JSLab.Тимур Шемсединов. "Архитектура программных систем на Node.js"JSLab.Тимур Шемсединов. "Архитектура программных систем на Node.js"
JSLab.Тимур Шемсединов. "Архитектура программных систем на Node.js"
GeeksLab Odessa
 
Онлайн миграция контейнеров. Взгляд изнутри
Онлайн миграция контейнеров. Взгляд изнутриОнлайн миграция контейнеров. Взгляд изнутри
Онлайн миграция контейнеров. Взгляд изнутри
Jelastic Multi-Cloud PaaS
 
Fors и big data appliance
Fors и big data applianceFors и big data appliance
Fors и big data appliance
CleverDATA
 
Eduard Dautov (Provectus): СКОРИНГ ML МОДЕЛЕЙ В МИКРОСЕРВИСНОЙ АРХИТЕКТУРЕ
Eduard Dautov (Provectus): СКОРИНГ ML МОДЕЛЕЙ В МИКРОСЕРВИСНОЙ АРХИТЕКТУРЕ Eduard Dautov (Provectus): СКОРИНГ ML МОДЕЛЕЙ В МИКРОСЕРВИСНОЙ АРХИТЕКТУРЕ
Eduard Dautov (Provectus): СКОРИНГ ML МОДЕЛЕЙ В МИКРОСЕРВИСНОЙ АРХИТЕКТУРЕ
Provectus
 
cloud technologies
cloud technologiescloud technologies
cloud technologies
Valeria Valkovskaya
 
RUNOS OpenFlow controller (ru)
RUNOS OpenFlow controller (ru)RUNOS OpenFlow controller (ru)
RUNOS OpenFlow controller (ru)
Alexander Shalimov
 
OTUS Infrastructure as Code
OTUS Infrastructure as CodeOTUS Infrastructure as Code
OTUS Infrastructure as Code
Igor Kurochkin
 
Павел Брылов, Skype
Павел Брылов, SkypeПавел Брылов, Skype
Павел Брылов, Skype
Ontico
 
Powershell, Graphs and more. Or how to find dependencies in your systems
Powershell, Graphs and more. Or how to find dependencies in your systemsPowershell, Graphs and more. Or how to find dependencies in your systems
Powershell, Graphs and more. Or how to find dependencies in your systems
Andrey Vernigora
 
Net core and linux in production
Net core and linux in productionNet core and linux in production
Net core and linux in production
Anatoly Popov
 
раубичи ронд
раубичи рондраубичи ронд
раубичи ронд
zolik
 
Презентация Дроздова А. (Вице-президента Soft Machines), Владиславлева В.(Зам...
Презентация Дроздова А. (Вице-президента Soft Machines), Владиславлева В.(Зам...Презентация Дроздова А. (Вице-президента Soft Machines), Владиславлева В.(Зам...
Презентация Дроздова А. (Вице-президента Soft Machines), Владиславлева В.(Зам...
Наталия Егорова
 
Гатиятов Руслан, технический директор ООО “Дроид Лабс”: “Система управления п...
Гатиятов Руслан, технический директор ООО “Дроид Лабс”: “Система управления п...Гатиятов Руслан, технический директор ООО “Дроид Лабс”: “Система управления п...
Гатиятов Руслан, технический директор ООО “Дроид Лабс”: “Система управления п...
Provectus
 
SECON'2017, Реуцкий Вадим, О чем мечтают современные андройды: особенности ра...
SECON'2017, Реуцкий Вадим, О чем мечтают современные андройды: особенности ра...SECON'2017, Реуцкий Вадим, О чем мечтают современные андройды: особенности ра...
SECON'2017, Реуцкий Вадим, О чем мечтают современные андройды: особенности ра...
SECON
 
Про курс «Технологии Индустрии 4.0»
Про курс «Технологии Индустрии 4.0» Про курс «Технологии Индустрии 4.0»
Про курс «Технологии Индустрии 4.0»
Пупена Александр
 
AiCare - self-organizing device management service
AiCare - self-organizing device management serviceAiCare - self-organizing device management service
AiCare - self-organizing device management service
Кварта Технологии
 
AiCare - самоорганизующийся сервис управления
AiCare - самоорганизующийся сервис управленияAiCare - самоорганизующийся сервис управления
AiCare - самоорганизующийся сервис управленияКварта Технологии
 
Платформа для автоматического тестирования Erlang проектов на примере UserGat...
Платформа для автоматического тестирования Erlang проектов на примере UserGat...Платформа для автоматического тестирования Erlang проектов на примере UserGat...
Платформа для автоматического тестирования Erlang проектов на примере UserGat...DevDay
 
2 виды и особенности клиент серверных систем с бд
2 виды и особенности клиент серверных систем с бд2 виды и особенности клиент серверных систем с бд
2 виды и особенности клиент серверных систем с бд
KewpaN
 

Similar to система высоконагруженных распределенных вычислений Aurora (20)

Архитектура программных систем на Node.js
Архитектура программных систем на Node.jsАрхитектура программных систем на Node.js
Архитектура программных систем на Node.js
 
JSLab.Тимур Шемсединов. "Архитектура программных систем на Node.js"
JSLab.Тимур Шемсединов. "Архитектура программных систем на Node.js"JSLab.Тимур Шемсединов. "Архитектура программных систем на Node.js"
JSLab.Тимур Шемсединов. "Архитектура программных систем на Node.js"
 
Онлайн миграция контейнеров. Взгляд изнутри
Онлайн миграция контейнеров. Взгляд изнутриОнлайн миграция контейнеров. Взгляд изнутри
Онлайн миграция контейнеров. Взгляд изнутри
 
Fors и big data appliance
Fors и big data applianceFors и big data appliance
Fors и big data appliance
 
Eduard Dautov (Provectus): СКОРИНГ ML МОДЕЛЕЙ В МИКРОСЕРВИСНОЙ АРХИТЕКТУРЕ
Eduard Dautov (Provectus): СКОРИНГ ML МОДЕЛЕЙ В МИКРОСЕРВИСНОЙ АРХИТЕКТУРЕ Eduard Dautov (Provectus): СКОРИНГ ML МОДЕЛЕЙ В МИКРОСЕРВИСНОЙ АРХИТЕКТУРЕ
Eduard Dautov (Provectus): СКОРИНГ ML МОДЕЛЕЙ В МИКРОСЕРВИСНОЙ АРХИТЕКТУРЕ
 
cloud technologies
cloud technologiescloud technologies
cloud technologies
 
RUNOS OpenFlow controller (ru)
RUNOS OpenFlow controller (ru)RUNOS OpenFlow controller (ru)
RUNOS OpenFlow controller (ru)
 
OTUS Infrastructure as Code
OTUS Infrastructure as CodeOTUS Infrastructure as Code
OTUS Infrastructure as Code
 
Павел Брылов, Skype
Павел Брылов, SkypeПавел Брылов, Skype
Павел Брылов, Skype
 
Powershell, Graphs and more. Or how to find dependencies in your systems
Powershell, Graphs and more. Or how to find dependencies in your systemsPowershell, Graphs and more. Or how to find dependencies in your systems
Powershell, Graphs and more. Or how to find dependencies in your systems
 
Net core and linux in production
Net core and linux in productionNet core and linux in production
Net core and linux in production
 
раубичи ронд
раубичи рондраубичи ронд
раубичи ронд
 
Презентация Дроздова А. (Вице-президента Soft Machines), Владиславлева В.(Зам...
Презентация Дроздова А. (Вице-президента Soft Machines), Владиславлева В.(Зам...Презентация Дроздова А. (Вице-президента Soft Machines), Владиславлева В.(Зам...
Презентация Дроздова А. (Вице-президента Soft Machines), Владиславлева В.(Зам...
 
Гатиятов Руслан, технический директор ООО “Дроид Лабс”: “Система управления п...
Гатиятов Руслан, технический директор ООО “Дроид Лабс”: “Система управления п...Гатиятов Руслан, технический директор ООО “Дроид Лабс”: “Система управления п...
Гатиятов Руслан, технический директор ООО “Дроид Лабс”: “Система управления п...
 
SECON'2017, Реуцкий Вадим, О чем мечтают современные андройды: особенности ра...
SECON'2017, Реуцкий Вадим, О чем мечтают современные андройды: особенности ра...SECON'2017, Реуцкий Вадим, О чем мечтают современные андройды: особенности ра...
SECON'2017, Реуцкий Вадим, О чем мечтают современные андройды: особенности ра...
 
Про курс «Технологии Индустрии 4.0»
Про курс «Технологии Индустрии 4.0» Про курс «Технологии Индустрии 4.0»
Про курс «Технологии Индустрии 4.0»
 
AiCare - self-organizing device management service
AiCare - self-organizing device management serviceAiCare - self-organizing device management service
AiCare - self-organizing device management service
 
AiCare - самоорганизующийся сервис управления
AiCare - самоорганизующийся сервис управленияAiCare - самоорганизующийся сервис управления
AiCare - самоорганизующийся сервис управления
 
Платформа для автоматического тестирования Erlang проектов на примере UserGat...
Платформа для автоматического тестирования Erlang проектов на примере UserGat...Платформа для автоматического тестирования Erlang проектов на примере UserGat...
Платформа для автоматического тестирования Erlang проектов на примере UserGat...
 
2 виды и особенности клиент серверных систем с бд
2 виды и особенности клиент серверных систем с бд2 виды и особенности клиент серверных систем с бд
2 виды и особенности клиент серверных систем с бд
 

система высоконагруженных распределенных вычислений Aurora

  • 2. Докладчик: магистр 2 курса Повар А. В. Научный руководитель: д.ф.-м.н. Прудников П.В.
  • 3. Проблематика • Коммуникационная среда • Доступ и хранение данных • Переносимость и развертывание
  • 4. Коммуникационная среда • MPI хорош для не слишком коммуникационно сложных программ • MPI хорош для выполнения гомогенных задач • Особенности стандарта • Слишком низкоуровневый для того чтобы “просто пользоваться” • Создание среды выполнения MPI – не самая тривиальная задача
  • 5. Базы данных • Реляционные и нереляционные БД – идеальные решения для хранения данных • Данные структурированы • Данные всегда доступны • Данные надежно хранятся • Доступны базовые операции (sum, max, min, avg, count) • Сложность использования в связке MPI/C++ сводит на нет все плюсы
  • 7. Развертывание Достаточно трудно быстро развернуть вычислительную сеть для проведения моделирования с помощью компьютеров, объединенных локальной сетью. Особенно если используются различные операционные системы и аппаратное обеспечение.
  • 8. Как можно улучшить ситуацию • Упростить и стандартизировать интерфейсы взаимодействия • Стандартные решения для стандартных задач • Механизм быстрого построения вычислительной системы на основе доступного оборудования
  • 9. Aurora. Система распределенных высоконагруженных вычислений Система Aurora Среда исполнения Программный каркас
  • 10. Aurora. Программный каркас • Скелет для построения вычислительно сложных приложений • Инструменты для статистических расчетов. • Библиотеки физических моделей и алгоритмов. • Возможность использования уже существующих вычислительных программ
  • 11. Aurora. Среда исполнения • Механизмы запуска и контроля приложений • Унифицированный доступ к коммуникационным средам • Унифицированный доступ к средствам хранения и анализа информации • Адаптеры для работы с различными вычислительными средами
  • 12. Aurora. Технологии • В основе – Java Virtual Machine • Построена с помощью языков программирования – Scala – Java – C++ • Модульность - OSGi
  • 13. Aurora. Архитектура • Хранилища и источники данных • Компоненты анализа данных • Генераторы отчетов Прикладные компоненты • Жизненный цикл приложений • Мониторинг и управление взаимодействиями Управление исполнением • Виртуальная сеть(MPI, TCP/IP) • Обмен сообщениями • Механизмы интеграции с вычислительными платформами • Механизмы развертывания выч. среды Tier-0 / Сеть
  • 14. Aurora. Сеть • Наиболее важный компонент • Связующее программное обеспечении • Скрывает все особенности нижележащих платформ • Отдельный модуль для каждой платформы • Собственный механизм адресации • Частично реализует некоторые протоколы сетевой модели OSI (ARP, Inverse ARP, DHCP)
  • 15. Aurora. Управление выполнением • Определяет жизненный цикл запускаемых программ и управляет ими • Подключает программы к коммуникационной среде • Предоставляет механизмы мониторинга выполняемых задач в режиме реального времени • Распределяет задачи по исполнительным узлам и обеспечивает их выполнение • Вводит и выводит узлы из сети, не прерывая исполнение программ
  • 16. Aurora. Прикладные компоненты • Компоненты работы с реляционными базами данных • Генераторы отчетов • Инструменты анализа данных • Инструменты для интеграции существующего прикладного ПО и моделей • Библиотеки моделей и алгоритмов
  • 17. Aurora. Статус • Разрабатывается модуль интеграции со СКИФ МГУ Чебышев • Ведется активная работа по запуску проекта в коммуникационной среде TCP/IP с помощью собственного сетевого протокола • Существует возможность запуска тестовых задач с помощью проекта Aurora • Ведется работа по интеграции с хранилищами данных
  • 18. Aurora. Перспективы • Полная интеграция с кластером СКИФ МГУ Чебышев • Полностью готовый модуль для построения собственной вычислительной сети • Стандартизация системы с возможностью написания компонент сторонними разработчиками • Получение результатов в физическом моделировании, как главный критерий успеха.
  • 19.
  • 20.
  • 21.
  • 22.
  • 23. Java Virtual Machine • Основная часть исполняющей системы Java • Интерпретирует байт-код • Доступна для многих платформ • Compile once, run anywhere
  • 24. Scala • Функциональное и объектно- ориентированное программирование • Единообразная объектная модель • Функции – полноправные объекты • Шаблоны и шаблоны высших порядков • Полная интероперабельность с java • Разработан в EPFL (Федеральная политехническая школа Лазаны)
  • 25. OSGi • Динамическая модульная шина • Позволяет создавать приложения из слабосвязанных взаимодействующих компонент • Поддерживает конфигурацию “на-лету”
  • 26. Сетевая модель OSI • Open systems interconnection basic reference model • ЭМВОС – базовая эталонная модель взаимодействия открытых систем (ГОСТ Р ИСО/МЭК 7498-1-99) • Сетевая модель взаимодействия сетевых протоколов
  • 28. Сетевые протоколы • ARP – Address Resolution Protocol (протокол определения адреса) • DHCP – Dynamic Host Configuration Protocol (протокол динамической конфигурации узла)