SlideShare a Scribd company logo
1 of 16
ЗАДАЧА РАСПРЕДЕЛЕНИЯ РЕСУРСОВ
ЦЕНТРОВ ОБРАБОТКИ ДАННЫХ И
АЛГОРИТМЫ ЕЕ РЕШЕНИЯ
Костенко Валерий Алексеевич
kost@cs.msu.su
Модель обслуживания IaaS (Infrastructure-as-a-Service)
Загрузка физических ресурсов ЦОД 20-30%
Приемлемы простые алгоритмы распределения ресурсов:
• «назначение запроса на первый подходящий ресурс»
• «выбор случайным образом физического ресурса из
множества подходящих ресурсов»
Виртуализация, облачные вычисления → загрузка 70-90%
• отображение виртуальных машин на вычислительные
модули ЦОД,
• отображение storage-элементов на хранилища данных
ЦОД,
• отображение виртуальных каналов на физические ресурсы
сети обмена ЦОД.
Модель физических ресурсов ЦОД
Модель физических ресурсов:
• Р – множество вычислительных узлов, vh(p)
• М – множество хранилищ данных, uh(m), type(m)
• К – множество коммутационных элементов сети
обмена,
• L – множество физических каналов передачи
данных, rh(l)
),( LKMPH ∪∪=
)(khτ
Топология сети обмена ЦОД fattree
Модель запроса
Модель запроса:
• W – множество виртуальных машин реализующих
приложения, v(w)
• S – множество storage-элементов, u(s), type(s)
• E – множество виртуальных каналов, r(e)
Запросы могут быть двух типов:
• слабосвязный:
• сильносвязный:
),( ESWG ∪=
)]),}{,}[({ 11 ∅=== ESW K
jj
N
ii
)}]}{,}{{(),}{,}[({ 1
'
1
'
11
K
jj
N
ii
K
jj
N
ii SSWWESW ==== ⊂⊂=
Размещение элементов запроса на физические
ресурсы ЦОД
Размещением запроса будем называть отображение
которое удовлетворяет ограничениям:
)()( pvhwv
pWw
≤∑∈
}},{,,{: LKEMSPWHGA →→→=→
)()( lrher
lEe
≤∑∈
)()( kher
kEe
τ≤∑∈
)()( muhsu
mSs
≤∑∈
)()(: mtypestypeSs m =∈∀
Репликация и остаточный граф сети
Репликация :
дублирует данные хранилища m в m’
и создается канал поддержания консистентности:
Остаточный граф ресурсов сети Hres:
• для него переопределены функции: vh(p), uh(m),
type(m) , rh(l), .
∑∈
−=
pWw
res wvpvhpvh )()()(
)(khτ
HHR →:
MmLlKkmlkklm iinn ∈∈∈− ',,);,,,,,,'( 111 
Задача распределения ресурсов
Дано:
• Множество запросов: Z = {(Gi,Ti)} .
• Остаточный граф ресурсов ЦОД: Hres.
Требуется:
• из множества Z разместить на выполнение в ЦОД
максимальное число запросов. При это должны
выполняться требования SLA.
Задача
Выделение
вычислительны
х ресурсов как
типа ресурсов
Выделение
хранилищ
данных как
типа
ресурсов
Выделение
коммутирующих
устройств как
типа ресурсов
Возможность
прокладки
виртуальных
каналов
Возможность
репликации
storage-эл.
Возможность
миграции
Application
Placement on a
Cluster of
Servers
+ - - - - -
Cloud Storage
and Online Bin
Packing
- + - - - -
Efficient
Resource
Scheduling in
Data Centers
using MRIS
+ + + - - -
Разработанные
алгоритмы
+ + + + + +
Алгоритмы распределения ресурсов ЦОД
• Алгоритмы сочетающие жадные стратегии и
стратегии ограниченного перебора:
– для ЦОД с единым планировщиком для всех типов
ресурсов,
– для ЦОД с раздельными планировщиками для
каждого типа ресурсов.
• Алгоритм, основанный на схеме муравьиных
колоний.
Алгоритмы сочетающие жадные стратегии и
стратегии ограниченного перебора
Выбор запроса (k1)
Выбор элемента запроса (k2)
Построение мн. допустимых физ. ресурсов (А) в
соответствии с SLA для размещения элемента
А=0
Разместить запрос и
изменить HRES
Выбор физ. ресурса (k3)
эл.∈S
Вызов проц. репликации
Успеш. зав.
Вызов процедуры
ограниченного перебора
Разместить «реплику» и
изменить HRES
нет да
да
да
нет
нет
Ограниченный перебор
О.4
0.3
0.5
0.2
0.3
0.5
0.2
0.4
0.4
0.1
0.1
M1 M2 M3
Алгоритм, основанный на схеме
муравьиных колоний
• Муравьиный алгоритм для отображения
виртуальных машин и storage-элементов на
вычислительные узлы и хранилища данных.
• Алгоритм нахождения кратчайшего пути для
отображения виртуальных каналов на
физические ресурсы сети обмена ЦОД.
Муравьиные алгоритмы
( )
( )( ) ( )( )
( )( ) ( )( )







∈
∉
⋅
⋅
= ∑
∈
k
k
Jl
ilil
ijij
kij
Lj
Lj
tt
tt
tP
k
,0
,
,
βα
βα
ητ
ητ
ii
j
( ) ( ) ( ) ( )∑
=
∆+⋅−=+
m
k
kijijij ttpt
1
,11 τττ
( )
( )( ) ( ) ( )
( ) ( )


∉
∈
=∆
tTji
tTjitTF
t
k
kk
kij
,,0
,,
,τ
Результаты исследования свойств алгоритмов
• Алгоритм с общим планировщиком имеет лучшую точность
когда критическим ресурсом является сеть обмена ЦОД.
• Алгоритм с раздельными планировщиками имеет лучшую
точность когда критическими ресурсами являются ВМ и
хранилища данных.
• Эффективность применения репликации растет:
– с ростом загрузки сети обмена ЦОД,
– с уменьшением значения "пропускная способность
канала для поддержания консистентности "/"суммарная
пропускная способность каналов БД - виртуальные
машины"
0
5
10
15
20
25
0 0,2 0,4 0,6 0,8 1
Загрузка сети
Количествоназначенных
запросов
без репликации
с репликацией

More Related Content

What's hot

Андрей Созыкин — ИММ УрО РАН — ICDBA2016
Андрей Созыкин — ИММ УрО РАН — ICDBA2016Андрей Созыкин — ИММ УрО РАН — ICDBA2016
Андрей Созыкин — ИММ УрО РАН — ICDBA2016rusbase
 
ElasticSearch и Heka: как мы учились просеивать слона через сито / Адель Сачк...
ElasticSearch и Heka: как мы учились просеивать слона через сито / Адель Сачк...ElasticSearch и Heka: как мы учились просеивать слона через сито / Адель Сачк...
ElasticSearch и Heka: как мы учились просеивать слона через сито / Адель Сачк...Ontico
 
Лекция 13. YARN
Лекция 13. YARNЛекция 13. YARN
Лекция 13. YARNTechnopark
 
Эффективные алгоритмы поиска подобных объектов для терабайтов данных / Евгени...
Эффективные алгоритмы поиска подобных объектов для терабайтов данных / Евгени...Эффективные алгоритмы поиска подобных объектов для терабайтов данных / Евгени...
Эффективные алгоритмы поиска подобных объектов для терабайтов данных / Евгени...Ontico
 
Мощнее или умнее? Возможности оптимизации ИТ-инфраструктуры для сейсмики
Мощнее или умнее? Возможности оптимизации ИТ-инфраструктуры для сейсмикиМощнее или умнее? Возможности оптимизации ИТ-инфраструктуры для сейсмики
Мощнее или умнее? Возможности оптимизации ИТ-инфраструктуры для сейсмикиVsevolod Shabad
 
10 HappyDev-lite'14 Иван Погудин, Анатолий Никулин. Решение задач, связанных...
10 HappyDev-lite'14 Иван Погудин, Анатолий Никулин. Решение задач, связанных...10 HappyDev-lite'14 Иван Погудин, Анатолий Никулин. Решение задач, связанных...
10 HappyDev-lite'14 Иван Погудин, Анатолий Никулин. Решение задач, связанных...HappyDev
 
HPC vs Big Data (Russian version)
HPC vs Big Data (Russian version)HPC vs Big Data (Russian version)
HPC vs Big Data (Russian version)Irina Fedulova
 

What's hot (7)

Андрей Созыкин — ИММ УрО РАН — ICDBA2016
Андрей Созыкин — ИММ УрО РАН — ICDBA2016Андрей Созыкин — ИММ УрО РАН — ICDBA2016
Андрей Созыкин — ИММ УрО РАН — ICDBA2016
 
ElasticSearch и Heka: как мы учились просеивать слона через сито / Адель Сачк...
ElasticSearch и Heka: как мы учились просеивать слона через сито / Адель Сачк...ElasticSearch и Heka: как мы учились просеивать слона через сито / Адель Сачк...
ElasticSearch и Heka: как мы учились просеивать слона через сито / Адель Сачк...
 
Лекция 13. YARN
Лекция 13. YARNЛекция 13. YARN
Лекция 13. YARN
 
Эффективные алгоритмы поиска подобных объектов для терабайтов данных / Евгени...
Эффективные алгоритмы поиска подобных объектов для терабайтов данных / Евгени...Эффективные алгоритмы поиска подобных объектов для терабайтов данных / Евгени...
Эффективные алгоритмы поиска подобных объектов для терабайтов данных / Евгени...
 
Мощнее или умнее? Возможности оптимизации ИТ-инфраструктуры для сейсмики
Мощнее или умнее? Возможности оптимизации ИТ-инфраструктуры для сейсмикиМощнее или умнее? Возможности оптимизации ИТ-инфраструктуры для сейсмики
Мощнее или умнее? Возможности оптимизации ИТ-инфраструктуры для сейсмики
 
10 HappyDev-lite'14 Иван Погудин, Анатолий Никулин. Решение задач, связанных...
10 HappyDev-lite'14 Иван Погудин, Анатолий Никулин. Решение задач, связанных...10 HappyDev-lite'14 Иван Погудин, Анатолий Никулин. Решение задач, связанных...
10 HappyDev-lite'14 Иван Погудин, Анатолий Никулин. Решение задач, связанных...
 
HPC vs Big Data (Russian version)
HPC vs Big Data (Russian version)HPC vs Big Data (Russian version)
HPC vs Big Data (Russian version)
 

Similar to Задача распределения ресурсов ЦОД и алгоритмы ее решения

Информационные технологии в эру Больших данных
Информационные технологии в эру Больших данныхИнформационные технологии в эру Больших данных
Информационные технологии в эру Больших данныхСергей Макрушин
 
Информационные технологии в эру Больших данных
Информационные технологии в эру Больших данныхИнформационные технологии в эру Больших данных
Информационные технологии в эру Больших данныхSergey Makrushin
 
Андрей Зайчиков "Архитектура распределенных кластеров NoSQL на AWS"
Андрей Зайчиков "Архитектура распределенных кластеров NoSQL на AWS"Андрей Зайчиков "Архитектура распределенных кластеров NoSQL на AWS"
Андрей Зайчиков "Архитектура распределенных кластеров NoSQL на AWS"IT Event
 
Разработка и реализация механизма мандатного управления доступом в СУБД MySQL...
Разработка и реализация механизма мандатного управления доступом в СУБД MySQL...Разработка и реализация механизма мандатного управления доступом в СУБД MySQL...
Разработка и реализация механизма мандатного управления доступом в СУБД MySQL...Denis Kolegov
 
Petrov Cloud for corporate customer
Petrov Cloud for corporate customerPetrov Cloud for corporate customer
Petrov Cloud for corporate customerAnton Petrov
 
NoNoSQL = Not Only NoSQL, HappyDev'13
NoNoSQL = Not Only NoSQL, HappyDev'13NoNoSQL = Not Only NoSQL, HappyDev'13
NoNoSQL = Not Only NoSQL, HappyDev'13chaltaj
 
High Load 2009 Dimaa Rus Ready
High Load 2009 Dimaa Rus ReadyHigh Load 2009 Dimaa Rus Ready
High Load 2009 Dimaa Rus ReadyHighLoad2009
 
Александр Соловьёв, Griddynamics.com
Александр Соловьёв, Griddynamics.comАлександр Соловьёв, Griddynamics.com
Александр Соловьёв, Griddynamics.comOntico
 
Windows Azure - BigData and Hadoop
Windows Azure - BigData and HadoopWindows Azure - BigData and Hadoop
Windows Azure - BigData and HadoopAlexey Bokov
 
Передовой опыт создания Инфраструктуры SharePoint
Передовой опыт создания  Инфраструктуры SharePointПередовой опыт создания  Инфраструктуры SharePoint
Передовой опыт создания Инфраструктуры SharePointMichael Noel
 
ФГУП НИИР - Cloud
ФГУП НИИР - CloudФГУП НИИР - Cloud
ФГУП НИИР - Cloudifedorus
 
Работа с платами ИНСИС из MATLAB
Работа с платами ИНСИС из MATLABРабота с платами ИНСИС из MATLAB
Работа с платами ИНСИС из MATLABMATLAB
 
Экстремальная оптимизация производительности на примере MongoDB Java Driver
Экстремальная оптимизация производительности на примере MongoDB Java DriverЭкстремальная оптимизация производительности на примере MongoDB Java Driver
Экстремальная оптимизация производительности на примере MongoDB Java DriverVitebsk DSC
 
JS Fest 2019. Игорь Березин и Николай Крещенко. Эволюция архитектуры многогра...
JS Fest 2019. Игорь Березин и Николай Крещенко. Эволюция архитектуры многогра...JS Fest 2019. Игорь Березин и Николай Крещенко. Эволюция архитектуры многогра...
JS Fest 2019. Игорь Березин и Николай Крещенко. Эволюция архитектуры многогра...JSFestUA
 
Моделирование для NoSQL БД
Моделирование для NoSQL БДМоделирование для NoSQL БД
Моделирование для NoSQL БДAndrew Sovtsov
 
Новости Global summit 2015
Новости Global summit 2015Новости Global summit 2015
Новости Global summit 2015Timur Safin
 
Андрей Кондрашов, Банк Москвы. «АБС в крупном Банке. Тестирование PostgreSQL...
Андрей Кондрашов, Банк Москвы.  «АБС в крупном Банке. Тестирование PostgreSQL...Андрей Кондрашов, Банк Москвы.  «АБС в крупном Банке. Тестирование PostgreSQL...
Андрей Кондрашов, Банк Москвы. «АБС в крупном Банке. Тестирование PostgreSQL...Mail.ru Group
 
Доклад к защите кандидатской диссертации
Доклад к защите кандидатской диссертацииДоклад к защите кандидатской диссертации
Доклад к защите кандидатской диссертацииАндрей Гайнулин
 

Similar to Задача распределения ресурсов ЦОД и алгоритмы ее решения (20)

Информационные технологии в эру Больших данных
Информационные технологии в эру Больших данныхИнформационные технологии в эру Больших данных
Информационные технологии в эру Больших данных
 
Информационные технологии в эру Больших данных
Информационные технологии в эру Больших данныхИнформационные технологии в эру Больших данных
Информационные технологии в эру Больших данных
 
Андрей Зайчиков "Архитектура распределенных кластеров NoSQL на AWS"
Андрей Зайчиков "Архитектура распределенных кластеров NoSQL на AWS"Андрей Зайчиков "Архитектура распределенных кластеров NoSQL на AWS"
Андрей Зайчиков "Архитектура распределенных кластеров NoSQL на AWS"
 
Разработка и реализация механизма мандатного управления доступом в СУБД MySQL...
Разработка и реализация механизма мандатного управления доступом в СУБД MySQL...Разработка и реализация механизма мандатного управления доступом в СУБД MySQL...
Разработка и реализация механизма мандатного управления доступом в СУБД MySQL...
 
Petrov Cloud for corporate customer
Petrov Cloud for corporate customerPetrov Cloud for corporate customer
Petrov Cloud for corporate customer
 
NoNoSQL = Not Only NoSQL, HappyDev'13
NoNoSQL = Not Only NoSQL, HappyDev'13NoNoSQL = Not Only NoSQL, HappyDev'13
NoNoSQL = Not Only NoSQL, HappyDev'13
 
High Load 2009 Dimaa Rus Ready
High Load 2009 Dimaa Rus ReadyHigh Load 2009 Dimaa Rus Ready
High Load 2009 Dimaa Rus Ready
 
Александр Соловьёв, Griddynamics.com
Александр Соловьёв, Griddynamics.comАлександр Соловьёв, Griddynamics.com
Александр Соловьёв, Griddynamics.com
 
Windows Azure - BigData and Hadoop
Windows Azure - BigData and HadoopWindows Azure - BigData and Hadoop
Windows Azure - BigData and Hadoop
 
Передовой опыт создания Инфраструктуры SharePoint
Передовой опыт создания  Инфраструктуры SharePointПередовой опыт создания  Инфраструктуры SharePoint
Передовой опыт создания Инфраструктуры SharePoint
 
Druid - Interactive Analytics At Scale
Druid - Interactive Analytics At ScaleDruid - Interactive Analytics At Scale
Druid - Interactive Analytics At Scale
 
ФГУП НИИР - Cloud
ФГУП НИИР - CloudФГУП НИИР - Cloud
ФГУП НИИР - Cloud
 
Работа с платами ИНСИС из MATLAB
Работа с платами ИНСИС из MATLABРабота с платами ИНСИС из MATLAB
Работа с платами ИНСИС из MATLAB
 
Экстремальная оптимизация производительности на примере MongoDB Java Driver
Экстремальная оптимизация производительности на примере MongoDB Java DriverЭкстремальная оптимизация производительности на примере MongoDB Java Driver
Экстремальная оптимизация производительности на примере MongoDB Java Driver
 
JS Fest 2019. Игорь Березин и Николай Крещенко. Эволюция архитектуры многогра...
JS Fest 2019. Игорь Березин и Николай Крещенко. Эволюция архитектуры многогра...JS Fest 2019. Игорь Березин и Николай Крещенко. Эволюция архитектуры многогра...
JS Fest 2019. Игорь Березин и Николай Крещенко. Эволюция архитектуры многогра...
 
Cloud computing
Cloud computingCloud computing
Cloud computing
 
Моделирование для NoSQL БД
Моделирование для NoSQL БДМоделирование для NoSQL БД
Моделирование для NoSQL БД
 
Новости Global summit 2015
Новости Global summit 2015Новости Global summit 2015
Новости Global summit 2015
 
Андрей Кондрашов, Банк Москвы. «АБС в крупном Банке. Тестирование PostgreSQL...
Андрей Кондрашов, Банк Москвы.  «АБС в крупном Банке. Тестирование PostgreSQL...Андрей Кондрашов, Банк Москвы.  «АБС в крупном Банке. Тестирование PostgreSQL...
Андрей Кондрашов, Банк Москвы. «АБС в крупном Банке. Тестирование PostgreSQL...
 
Доклад к защите кандидатской диссертации
Доклад к защите кандидатской диссертацииДоклад к защите кандидатской диссертации
Доклад к защите кандидатской диссертации
 

More from ARCCN

Построение транспортных SDN сетей для операторов связи
Построение транспортных SDN сетей для операторов связиПостроение транспортных SDN сетей для операторов связи
Построение транспортных SDN сетей для операторов связиARCCN
 
Магистерская программа «Распределённые системы и компьютерные сети»
Магистерская программа «Распределённые системы и компьютерные сети»Магистерская программа «Распределённые системы и компьютерные сети»
Магистерская программа «Распределённые системы и компьютерные сети»ARCCN
 
Особенности интеграции сторонних сервисов в облачную MANO платформу
Особенности интеграции сторонних сервисов в облачную MANO платформуОсобенности интеграции сторонних сервисов в облачную MANO платформу
Особенности интеграции сторонних сервисов в облачную MANO платформуARCCN
 
Основные направления развития ФГБОУ ВО «РГРТУ» в области программно-конфигури...
Основные направления развития ФГБОУ ВО «РГРТУ» в области программно-конфигури...Основные направления развития ФГБОУ ВО «РГРТУ» в области программно-конфигури...
Основные направления развития ФГБОУ ВО «РГРТУ» в области программно-конфигури...ARCCN
 
Методика стратегического управления развитием SDN&NFV-сети оператора связи и ...
Методика стратегического управления развитием SDN&NFV-сети оператора связи и ...Методика стратегического управления развитием SDN&NFV-сети оператора связи и ...
Методика стратегического управления развитием SDN&NFV-сети оператора связи и ...ARCCN
 
Перспективы развития SDN  в МИЭТ на базе кафедры ТКС
Перспективы развития SDN  в МИЭТ на базе кафедры ТКСПерспективы развития SDN  в МИЭТ на базе кафедры ТКС
Перспективы развития SDN  в МИЭТ на базе кафедры ТКСARCCN
 
MetaCloud Computing Environment
MetaCloud Computing EnvironmentMetaCloud Computing Environment
MetaCloud Computing EnvironmentARCCN
 
Пилотные зоны для тестирования и апробирования SDN&NFV разработок и решений в...
Пилотные зоны для тестирования и апробирования SDN&NFV разработок и решений в...Пилотные зоны для тестирования и апробирования SDN&NFV разработок и решений в...
Пилотные зоны для тестирования и апробирования SDN&NFV разработок и решений в...ARCCN
 
Возможности импортозамещения коммутационного оборудования в сетях нового пок...
Возможности импортозамещения коммутационного оборудования  в сетях нового пок...Возможности импортозамещения коммутационного оборудования  в сетях нового пок...
Возможности импортозамещения коммутационного оборудования в сетях нового пок...ARCCN
 
Внедрение SDN в сети телеком-оператора
Внедрение SDN в сети телеком-оператораВнедрение SDN в сети телеком-оператора
Внедрение SDN в сети телеком-оператораARCCN
 
Об одном подходе переноса функциональности CPE устройств в ЦОД телеком оператора
Об одном подходе переноса функциональности CPE устройств в ЦОД телеком оператораОб одном подходе переноса функциональности CPE устройств в ЦОД телеком оператора
Об одном подходе переноса функциональности CPE устройств в ЦОД телеком оператораARCCN
 
A Perspective on the Future of Computer Architecture
A Perspective on the  Future of Computer ArchitectureA Perspective on the  Future of Computer Architecture
A Perspective on the Future of Computer ArchitectureARCCN
 
Radical step in computer architecture
Radical step in computer architectureRadical step in computer architecture
Radical step in computer architectureARCCN
 
Облачная платформа Cloud Conductor
Облачная платформа Cloud ConductorОблачная платформа Cloud Conductor
Облачная платформа Cloud ConductorARCCN
 
Типовые сервисы региональной сети передачи данных
Типовые сервисы региональной сети передачи данныхТиповые сервисы региональной сети передачи данных
Типовые сервисы региональной сети передачи данныхARCCN
 
Разработка OpenFlow-коммутатора на базе сетевого процессора EZchip
Разработка OpenFlow-коммутатора на базе сетевого процессора EZchipРазработка OpenFlow-коммутатора на базе сетевого процессора EZchip
Разработка OpenFlow-коммутатора на базе сетевого процессора EZchipARCCN
 
Исследования SDN в Оренбургском государственном университете: сетевая безопас...
Исследования SDN в Оренбургском государственном университете: сетевая безопас...Исследования SDN в Оренбургском государственном университете: сетевая безопас...
Исследования SDN в Оренбургском государственном университете: сетевая безопас...ARCCN
 
Цели и задачи МИЭТ, как участника Консорциума на примере кафедры "Телекоммуни...
Цели и задачи МИЭТ, как участника Консорциума на примере кафедры "Телекоммуни...Цели и задачи МИЭТ, как участника Консорциума на примере кафедры "Телекоммуни...
Цели и задачи МИЭТ, как участника Консорциума на примере кафедры "Телекоммуни...ARCCN
 
SDN и защищенные квантовые коммуникации
SDN и защищенные квантовые коммуникацииSDN и защищенные квантовые коммуникации
SDN и защищенные квантовые коммуникацииARCCN
 
Отчет по проектах ЦПИКС
Отчет по проектах ЦПИКСОтчет по проектах ЦПИКС
Отчет по проектах ЦПИКСARCCN
 

More from ARCCN (20)

Построение транспортных SDN сетей для операторов связи
Построение транспортных SDN сетей для операторов связиПостроение транспортных SDN сетей для операторов связи
Построение транспортных SDN сетей для операторов связи
 
Магистерская программа «Распределённые системы и компьютерные сети»
Магистерская программа «Распределённые системы и компьютерные сети»Магистерская программа «Распределённые системы и компьютерные сети»
Магистерская программа «Распределённые системы и компьютерные сети»
 
Особенности интеграции сторонних сервисов в облачную MANO платформу
Особенности интеграции сторонних сервисов в облачную MANO платформуОсобенности интеграции сторонних сервисов в облачную MANO платформу
Особенности интеграции сторонних сервисов в облачную MANO платформу
 
Основные направления развития ФГБОУ ВО «РГРТУ» в области программно-конфигури...
Основные направления развития ФГБОУ ВО «РГРТУ» в области программно-конфигури...Основные направления развития ФГБОУ ВО «РГРТУ» в области программно-конфигури...
Основные направления развития ФГБОУ ВО «РГРТУ» в области программно-конфигури...
 
Методика стратегического управления развитием SDN&NFV-сети оператора связи и ...
Методика стратегического управления развитием SDN&NFV-сети оператора связи и ...Методика стратегического управления развитием SDN&NFV-сети оператора связи и ...
Методика стратегического управления развитием SDN&NFV-сети оператора связи и ...
 
Перспективы развития SDN  в МИЭТ на базе кафедры ТКС
Перспективы развития SDN  в МИЭТ на базе кафедры ТКСПерспективы развития SDN  в МИЭТ на базе кафедры ТКС
Перспективы развития SDN  в МИЭТ на базе кафедры ТКС
 
MetaCloud Computing Environment
MetaCloud Computing EnvironmentMetaCloud Computing Environment
MetaCloud Computing Environment
 
Пилотные зоны для тестирования и апробирования SDN&NFV разработок и решений в...
Пилотные зоны для тестирования и апробирования SDN&NFV разработок и решений в...Пилотные зоны для тестирования и апробирования SDN&NFV разработок и решений в...
Пилотные зоны для тестирования и апробирования SDN&NFV разработок и решений в...
 
Возможности импортозамещения коммутационного оборудования в сетях нового пок...
Возможности импортозамещения коммутационного оборудования  в сетях нового пок...Возможности импортозамещения коммутационного оборудования  в сетях нового пок...
Возможности импортозамещения коммутационного оборудования в сетях нового пок...
 
Внедрение SDN в сети телеком-оператора
Внедрение SDN в сети телеком-оператораВнедрение SDN в сети телеком-оператора
Внедрение SDN в сети телеком-оператора
 
Об одном подходе переноса функциональности CPE устройств в ЦОД телеком оператора
Об одном подходе переноса функциональности CPE устройств в ЦОД телеком оператораОб одном подходе переноса функциональности CPE устройств в ЦОД телеком оператора
Об одном подходе переноса функциональности CPE устройств в ЦОД телеком оператора
 
A Perspective on the Future of Computer Architecture
A Perspective on the  Future of Computer ArchitectureA Perspective on the  Future of Computer Architecture
A Perspective on the Future of Computer Architecture
 
Radical step in computer architecture
Radical step in computer architectureRadical step in computer architecture
Radical step in computer architecture
 
Облачная платформа Cloud Conductor
Облачная платформа Cloud ConductorОблачная платформа Cloud Conductor
Облачная платформа Cloud Conductor
 
Типовые сервисы региональной сети передачи данных
Типовые сервисы региональной сети передачи данныхТиповые сервисы региональной сети передачи данных
Типовые сервисы региональной сети передачи данных
 
Разработка OpenFlow-коммутатора на базе сетевого процессора EZchip
Разработка OpenFlow-коммутатора на базе сетевого процессора EZchipРазработка OpenFlow-коммутатора на базе сетевого процессора EZchip
Разработка OpenFlow-коммутатора на базе сетевого процессора EZchip
 
Исследования SDN в Оренбургском государственном университете: сетевая безопас...
Исследования SDN в Оренбургском государственном университете: сетевая безопас...Исследования SDN в Оренбургском государственном университете: сетевая безопас...
Исследования SDN в Оренбургском государственном университете: сетевая безопас...
 
Цели и задачи МИЭТ, как участника Консорциума на примере кафедры "Телекоммуни...
Цели и задачи МИЭТ, как участника Консорциума на примере кафедры "Телекоммуни...Цели и задачи МИЭТ, как участника Консорциума на примере кафедры "Телекоммуни...
Цели и задачи МИЭТ, как участника Консорциума на примере кафедры "Телекоммуни...
 
SDN и защищенные квантовые коммуникации
SDN и защищенные квантовые коммуникацииSDN и защищенные квантовые коммуникации
SDN и защищенные квантовые коммуникации
 
Отчет по проектах ЦПИКС
Отчет по проектах ЦПИКСОтчет по проектах ЦПИКС
Отчет по проектах ЦПИКС
 

Задача распределения ресурсов ЦОД и алгоритмы ее решения

  • 1. ЗАДАЧА РАСПРЕДЕЛЕНИЯ РЕСУРСОВ ЦЕНТРОВ ОБРАБОТКИ ДАННЫХ И АЛГОРИТМЫ ЕЕ РЕШЕНИЯ Костенко Валерий Алексеевич kost@cs.msu.su
  • 2. Модель обслуживания IaaS (Infrastructure-as-a-Service) Загрузка физических ресурсов ЦОД 20-30% Приемлемы простые алгоритмы распределения ресурсов: • «назначение запроса на первый подходящий ресурс» • «выбор случайным образом физического ресурса из множества подходящих ресурсов» Виртуализация, облачные вычисления → загрузка 70-90% • отображение виртуальных машин на вычислительные модули ЦОД, • отображение storage-элементов на хранилища данных ЦОД, • отображение виртуальных каналов на физические ресурсы сети обмена ЦОД.
  • 3. Модель физических ресурсов ЦОД Модель физических ресурсов: • Р – множество вычислительных узлов, vh(p) • М – множество хранилищ данных, uh(m), type(m) • К – множество коммутационных элементов сети обмена, • L – множество физических каналов передачи данных, rh(l) ),( LKMPH ∪∪= )(khτ
  • 5. Модель запроса Модель запроса: • W – множество виртуальных машин реализующих приложения, v(w) • S – множество storage-элементов, u(s), type(s) • E – множество виртуальных каналов, r(e) Запросы могут быть двух типов: • слабосвязный: • сильносвязный: ),( ESWG ∪= )]),}{,}[({ 11 ∅=== ESW K jj N ii )}]}{,}{{(),}{,}[({ 1 ' 1 ' 11 K jj N ii K jj N ii SSWWESW ==== ⊂⊂=
  • 6. Размещение элементов запроса на физические ресурсы ЦОД Размещением запроса будем называть отображение которое удовлетворяет ограничениям: )()( pvhwv pWw ≤∑∈ }},{,,{: LKEMSPWHGA →→→=→ )()( lrher lEe ≤∑∈ )()( kher kEe τ≤∑∈ )()( muhsu mSs ≤∑∈ )()(: mtypestypeSs m =∈∀
  • 7. Репликация и остаточный граф сети Репликация : дублирует данные хранилища m в m’ и создается канал поддержания консистентности: Остаточный граф ресурсов сети Hres: • для него переопределены функции: vh(p), uh(m), type(m) , rh(l), . ∑∈ −= pWw res wvpvhpvh )()()( )(khτ HHR →: MmLlKkmlkklm iinn ∈∈∈− ',,);,,,,,,'( 111 
  • 8. Задача распределения ресурсов Дано: • Множество запросов: Z = {(Gi,Ti)} . • Остаточный граф ресурсов ЦОД: Hres. Требуется: • из множества Z разместить на выполнение в ЦОД максимальное число запросов. При это должны выполняться требования SLA.
  • 9. Задача Выделение вычислительны х ресурсов как типа ресурсов Выделение хранилищ данных как типа ресурсов Выделение коммутирующих устройств как типа ресурсов Возможность прокладки виртуальных каналов Возможность репликации storage-эл. Возможность миграции Application Placement on a Cluster of Servers + - - - - - Cloud Storage and Online Bin Packing - + - - - - Efficient Resource Scheduling in Data Centers using MRIS + + + - - - Разработанные алгоритмы + + + + + +
  • 10. Алгоритмы распределения ресурсов ЦОД • Алгоритмы сочетающие жадные стратегии и стратегии ограниченного перебора: – для ЦОД с единым планировщиком для всех типов ресурсов, – для ЦОД с раздельными планировщиками для каждого типа ресурсов. • Алгоритм, основанный на схеме муравьиных колоний.
  • 11. Алгоритмы сочетающие жадные стратегии и стратегии ограниченного перебора Выбор запроса (k1) Выбор элемента запроса (k2) Построение мн. допустимых физ. ресурсов (А) в соответствии с SLA для размещения элемента А=0 Разместить запрос и изменить HRES Выбор физ. ресурса (k3) эл.∈S Вызов проц. репликации Успеш. зав. Вызов процедуры ограниченного перебора Разместить «реплику» и изменить HRES нет да да да нет нет
  • 13. Алгоритм, основанный на схеме муравьиных колоний • Муравьиный алгоритм для отображения виртуальных машин и storage-элементов на вычислительные узлы и хранилища данных. • Алгоритм нахождения кратчайшего пути для отображения виртуальных каналов на физические ресурсы сети обмена ЦОД.
  • 14. Муравьиные алгоритмы ( ) ( )( ) ( )( ) ( )( ) ( )( )        ∈ ∉ ⋅ ⋅ = ∑ ∈ k k Jl ilil ijij kij Lj Lj tt tt tP k ,0 , , βα βα ητ ητ ii j ( ) ( ) ( ) ( )∑ = ∆+⋅−=+ m k kijijij ttpt 1 ,11 τττ ( ) ( )( ) ( ) ( ) ( ) ( )   ∉ ∈ =∆ tTji tTjitTF t k kk kij ,,0 ,, ,τ
  • 15. Результаты исследования свойств алгоритмов • Алгоритм с общим планировщиком имеет лучшую точность когда критическим ресурсом является сеть обмена ЦОД. • Алгоритм с раздельными планировщиками имеет лучшую точность когда критическими ресурсами являются ВМ и хранилища данных. • Эффективность применения репликации растет: – с ростом загрузки сети обмена ЦОД, – с уменьшением значения "пропускная способность канала для поддержания консистентности "/"суммарная пропускная способность каналов БД - виртуальные машины"
  • 16. 0 5 10 15 20 25 0 0,2 0,4 0,6 0,8 1 Загрузка сети Количествоназначенных запросов без репликации с репликацией

Editor's Notes

  1. Для большинства известных из теории расписания алгоритмов решения каждой из задач оценки точности следующего порядка «алгоритм гарантированно получит решение не отличающееся от оптимального в два раза», если не накладываются ограничения на возможные значения входных данных. То есть из 100 запросов гарантированно будут размещены 50 запросов. Кроме того оценки точности будут ухудшаться из-за требований соблюдения SLA и из-за связности задач. Задача, которая решена с наихудшей точностью, будет определять точность решения задачи распределения виртуальных ресурсов на физические ресурсы ЦОД. Следовательно ключевым вопросом для достижения таких загрузок физических ресурсов ЦОД является разработка алгоритмов распределения ресурсов, которые позволяют решать задачу распределения ресурсов с точностью 10-30 % .