AACIMP 2010 Summer School lecture by Sergey Kaplun (IBM). "Information Technologies" stream. ""Smart Planet": Advanced Methods of Analytics" course. More info at http://summerschool.ssa.org.ua

1. Обзор современных
подходов IBM к построению
систем обработки
информации
Сергей Каплун,
ведущий специалист Департамента
Корпоративных Систем,
IBM Украина
Sergey.Kaplun@ua.ibm.com
© IBM,2010

2. Содержание
1. Обзор подходов к построению систем обработки
информации
2. Динамическая инфраструктура как модель
организации обработки данных, предпосылки
применения
3. Последние нововведения IBM
© IBM,2010

3. IBM’s 2009 Patent Total: 17 yrs of Leadership
IBM 4,914
Samsung 3,611
Microsoft 2,906
Canon 2,206
Matsushita 1,829
Toshiba 1,696
Sony 1,680
Intel 1,537
Seiko Epson 1,330
HP 1,273
SUN 562
Apple 289
EMC 250
Oracle 208 IBM Austin: 880 Patents
Source: IFI Patent Intelligence #1 IBM location for 7th year © IBM,2010

4. Watson
IBM Research строит компьютерную систему, способную соревноваться с человеком в игре
Jeopardy! (у нас известна как “Своя игра”).
Кодовое название “Watson” – компьютер соперничает с интеллектом человека
Поиск ответов на вопросы в игре Jeopardy! сложная задача
Широкий спектр знаний – история, литература, политика, культура и наука
Природа задаваемых вопросов требует анализа скрытого смысла, вопросы обычно
ироничны, сформулированы в виде загадки, целенаправленно усложнены.
Игра основана на теории Вопросов/Ответов, это не просто традиционный поиск информации
Критично для реализации таких приложений, как:
Управление отношениями с клиентами
Соответствие требованиям регулирующих органов
Системы поддержки конечных пользователей © IBM,2010

5. Эволюция центров обработки данных
“В истории уже все было, но народы и правительства никогда не делали выводов
и не извлекали для себя уроков, которые им следовало бы извлечь из истории”.
Георг Вильгельм Фридрих Гегель (1770-1831) © IBM,2010

6. Законы диалектики, проявляющиеся в разных областях.
Радиоэлектроника
Детекторный приемник (кристаллический полупроводник) ->
(отрицание) Электронная лампа –>
(второе отрицание) Транзистор, Микросхемы
Авиация
Воздушный винт (движитель первых летательных аппаратов) -
>
(отрицание) Турбореактивный двигатель
(второе отрицание) Винтовентилятор
© IBM,2010

7. Парус: от “Виктории” Магеллана до ....
Космос 1
© IBM,2010

8. Эволюция систем электроснабжения
“The big switch:Rewriting the world, from Edison to Google” Nicholas Carr
"the best read so far about the significance of the shift to cloud computing" -Financial Times © IBM,2010

9. ЦОД сегодня Public
Internet/
Intranet
Clients
Firewall Routers
s (Layer 3
Switches)
Layer 4-7
SSL Appliances Switches SSL Appliances
Layer 2
Switches
Caching Caching
Appliances Appliances
Network Application Security Application Web Security File WebSphere
Servers Servers Servers Servers Servers Gateway Servers Application
Servers
Storage
Fibre
Switches
Storage
Fibre
Switches
SAN
© IBM,2010

10. Приблиз.
Технология Типичное время доступа Человеческий Применение
емкость
м-таб
Регистр 100 пикосекунд (100 e-12) 0.1 сек 64 × 64 бит Часть
Процессора процессора
Интегр. L1: ~1, L2-L3: 2-10 наносекунд 10 сек Часть МБ до Часть
Кэш (10 e -9) нескольких процессора
МБ
Память DDR3 ~10-60 наносекунд (60 e -9) ~1-5 мин Десятки – Магистраль
сотни ГБ сервера
Сеть Infiniband 8-10 микросекунд (10 e -6) ~3 часа 8 Гб/сек Магистраль/сеть
Сеть Ethernet 100 микросекунд (100 e -6) ~30 часов <= 10 Гб/сек Сеть
(10 Гб/сек)
Диск ~6 миллисекунд (6 e -3) ~70 дней Сотни ГБ Сеть
Свет 1 метр в ~ 4000 пикосекунд (4000 e-12) ~4 сек
оптоволокне
“Difficile est proprie communia dicere” Quintus Horatius Flaccus
© IBM,2010

11. Не слишком ли много соединений и кабелей?
Как такое можно
планировать,обслуживать,
обновлять, изменять,
обеспечить надежность ?
© IBM,2010

12. Факторы, ограничивающие развитие
современных вычислительных систем
David Patterson , профессор, университет Berkeley, США
The power wall -стена мощности
+
The memory wall -стена памяти
+
The ILP wall -стена
параллельности
на уровне команд
= a brick wall for serial performance.
§http://www.ctwatch.org/quarterly/articles/2007/02/the-many-core-inflection-point-for-mass-market-computer-systems/2/ © IBM,2010

13. Закон Марка Крайдера (Mark Kryder)
Наблюдалась ежегодная тенденция удвоения емкости дисковых
накопителей и соответствующим уменьшением стоимости хранения
за единицу объема, однако в последнее время тенденция
замедлилась. Увеличение объема хранения не сопровождалось
должным увеличением скорости обращения к данным (для сравнения
IBM RAMAC 350 - 5 000 000 символов, 8 800 символов/сек, 600
миллисекунд время доступа, первые винчестеры Kenneth E Haughton,
Jack Harker, Chris Coolures (IBM 3340) – современные диски в 50 000 000
раз имеют большую плотность записи...
http://www.mattscomputertrends.com/Kryder%27s.html http://www.computerhistory.org/collections/accession/102658029
© IBM,2010
http://www.scientificamerican.com/article.cfm?id=kryders-law

14. Does IT matter?
“Коротко говоря, в настоящее время остается
затруднительным, даже невозможным, прийти к
заключению о влиянии ИТ на прибыльность и
эффективность бизнеса. Информационные технологии
стали значительной частью затрат компаний – самым
значимым и неотделимым элементом практически всех
современных бизнес-процессов – но компании
инвестируют средства в ИТ без ясного понимания
общей стратегии и полученного экономического
эффекта“
Nicolas G.Carr,
”Does IT matter? Information Technology and the corrosion of competetive advantage” 2004
http://books.google.co.uk/books?id=wrROE6SLJFEC&dq=does+it+matter+carr&printsec=frontcover&source=bn&hl=en&ei=FzFcSvPGMZHesgaC-5SUBw&sa=X&
© IBM,2010
oi=book_result&ct=result&resnum=4

15. Сколько стоит в год сервер в распределенной
системе ?
Стоимость электроснабжения $731
Стоимость занимаемой площади $987
Стоимость технического обслуживания $777
Стоимость обслуживания и поддержки соединений $213
Стоимость обслуживания дисковых накопителей $203
Стоимость сопровождения программного обеспечения $10,153
Стоимость обслуживания корпоративной сети $1024
Затраты на обслуживающий персонал и управление $20,359
$34,447
Общая стоимость на сервер
Источник: Внутренние исследование IBM, 3 917 распределенных серверов в рамках проектов по консолидации
© IBM,2010

16. Структура затрат на содержание центров
обработки
65
§ IDC прогнозирует, что использование виртуализации
приведет к существенному увеличению количества 60 К-во
Затраты установленных
обслуживаемых серверов (физических и виртуальных) 55 физических и
(US$B)
Это не учтено в прогнозируемом росте стоимости виртуальных
$300 50 серверов
обслуживания
45 (миллионы)
$250
Стоимость электроснабжения и охлаждения 40
$200 Стоимость обслуживания 35 установленных
К-во
физических
Затраты на новые серверы 30
серверов
(миллионы)
$150 25
20
$100
15 Неучтенные
затраты на
$50 10 сопровождение
5
$0 0
97
96
98
99
00
01
02
03
04
05
06
07
08
09
10
19
Source: IDC, May 2006
19
19
19
20
20
20
20
20
20
20
20
20
20
20
SOURCE: IDC, ‘Worldwide Server Power and Cooling Expens e 2006-2010,’ Document #203598, Sept. 2006
© IBM,2010

17. Как используется электроэнергия в ЦОД?
Based on IBM Server
Consolidation Engagements
100
80
60 Server
40
20
Loads
0
Центр обработки Сервер Ty pical Utilization
Mainf rame 80 – 90%
Unix 10 – 20%
Wintel 5 – 12%
AC/DC F ans; 9%
losses; 25%
Используется
Простаивает
80% 20%
HVAC, IT = 3,6% всего
P r ocessor
UPS power DC/DC
40% 60% losses; 10%
30%
S tandby; 2%
Drives; 6%
P CI; 3%
Memory; 1%
1
P lanar; 4%
1 Вт
электроэнергии
27 Вт центра обработки X1,7 16 Вт для питания сервера x3 5 Вт для питания процессора x5 +1 Вт полезного использования
Коэффициент полезного действия 1/27=3.7%
Паровая машина 8-12%, современная паровая турбина 45-47 %, газотурбинная установка + регенератор 55-60%
http://www.expert.ru/printissues/expert/2007/09/dvigatelnaya_istoriya/
© IBM,2010

18. Как изменяется тепловыделение компонентов
инфраструктуры в центрах обработки?
© IBM,2010

19. Power Density paradox
Увеличение потребляемой мощности (тепловыделения) на единицу площади,
необходимой для размещения оборудования (характерно для коммуникационного
оборудования, серверов – лезвий), приводит к потребности в дополнительном
оборудовании для энергоснабжения и эффективного отвода тепла и
дополнительной площади центра обработки для обеспечения циркуляции
охлаждающего воздуха.
Пример для центра обработки (тепловыделение 100 ватт/квадратный фут)
http://www.transitionaldata.com/insights/TDS_DC_Optimization_Power_Density_Paradox_White_Paper.pdf © IBM,2010

20. Аппаратные средства и подходы для построения
инфраструктуры
System Z
Power Systems
Partitioning
Clusters
Scale Up / Консолидированная платформа
Virtualization
PowerHA
Parallel Sysplex
HPC
Enterprise SMP
High Density
BladeCenter™
Rack Mount
System
X3950m2
(16 sockets) Servers & IO ф изическая интеграция
Scale Out / Распределенная платформа
© IBM,2010

21. Ускорение выполнения операций при
Закон Амдаля параллельной обработке на нескольких
Узлах обработки
T1 - время, затрачиваемое на реализацию алгоритма
на одном процессоре (узле), p–число процессоров (узлов)
- доля операций в алгоритме, выполняемых одним процессором (узлом),
(1- ) - доля операций, выполняемых всеми процессорами (узлами)
- общее время, требуемое для доставки данных для обработки.
http://ru.w ikipedia.org/w iki/%D0%97%D0%B0%D0%BA%D0%BE%D0%BD_%D0%90%D0%BC%D0%B4%D0%B0%D0%BB%D0%B0 © IBM,2010

22. Обеспечение качества обслуживания и запас
производительности сервера
L=La + k*σ для одного сервера
L= N * La + k *  N * σ для распределенной
системы из N серверов
© IBM,2010

23. Почему нужно менять подходы ?
85% простои 70¢ на $1
В распределенных 70% затрат на
системах доступные поддержку IT
вычислительные
ресурсы
$40 000 000 000 инфраструктуры а не
ее развитие.
используются всего
на 15% Поставщики продуктов потребления
теряют около $40 миллиардов
ежегодно (или 3.5% выручки) из-за
неэффективности управления
поставками.
в 1,5 раза в год 33%
Взрывообразный рост обрабатываемых 33% потребителей прерывают отношения с
данных приводит к 54% росту объема поставщиками услуг из-за выявленных
систем хранения ежегодно. проблем в безопасности информационных
систем.
Может в консерватории что-то исправить? (с) М.М.Жванецкий. © IBM,2010

24. Динамическая инфраструктура - определение
Динамическая инфраструктура (Dynamic
infrastructure) - модель информационных
технологий, предоставляющая возможность
интеллектуального, автоматического и
защищенного перемещения
вычислительной нагрузки в центре
обработки данных.
Применение этой модели способствует
повышению производительности,
масштабируемости, возможности
проведения работ по обслуживанию
аппаратных и виртуальных систем без
прерывания бизнес-операций, сокращению
затрат на ИТ, помогает обеспечить
требуемую непрерывность
функционирования и высокую доступность
данных, характерных для “облачных
вычислений” (Cloud Computing)
http://en.wikipedia.org/wiki/Dynamic_Infrastructure
© IBM,2010

25. Динамическая инфраструктура сосредоточена
на решении современных проблем
Инф раструктура сегодня Динамическая инф раструктура
Разобщенность бизнеса и IT § Предоставляет встроенную
прозрачность, управляемость и
автоматизацию процессов
обслуживания.
Острова вычислительных ресурсов
приводят к низкому уровню
§ Оптимизирована для выполнения
использования и неэффективности
большего количества задач при
оборудования
меньших затратах
Страдает от несоответствия требованиям § Направлена на решение проблем,
регулирующих органов, проблемы связанных с ростом и разнообразием
стандартизации обрабатываемой информации.
§ Сокращает и устраняет риски.
Ограничения доступных ресурсов,
сложность в управлении и § Очень гибкая и просто адаптируемая.
модернизации.
© IBM,2010

26. Динамическая инфраструктура должна
поддерживать растущие потребности:
§ Принятие обоснованных решений в рельном масштабе времени:
– Системы, адаптирующиеся к изменяющимся условиям более полно
удовлетворяют потребности бизнеса.
§ Управление сервисами в условиях более оснащенного инструментами
бизнеса, интегрированного с информационными технологиями :
– Интегрированный подход к управлению сервисами.
§ Изменяющийся состав хранимых и обрабатываемых данных, бурный рост
объема хранимых данных:
– Новые сервисы, построенные на технологиях “облачных” вычислений.
Mobility Facilities Production Technology Communications
Infrastructure Infrastructure Infrastructure Infrastructure Infrastructure
+ + + +
DYNAMIC INFRASTRUCTURE
© IBM,2010

27. Разумная планета увеличивает сложность задач
и объемы обрабатываемых данных.
Новые инструменты создают огромные объемы данных и приложений,
требующие обработки в реальном времени и прогнозирования.
Medical
Advanced Financial
Imaging
Search Analytics
3D On-Line
Infotainment
Video
Surveillance
Analytics with Online Network Security
Transaction Processing & Threat Management
© IBM,2010

28. Композитный профиль нагрузки
ERP/CRM
§Пики нагрузки со стороны компонентов ПО не
Процент использования
совпадают во времени - композитная нагрузка носит
более равномерный характер и требует избыточных
01:00 03:00 05:00 07:00 09:00 11:00 13:00 15:00 17:00 19:00 21:00 23:00 вычислительных ресурсов, которые используются
Infrastructur
e
прикладными системами по мере потребности
4 отдельных сервера или
ф иксированных раздела
процессоров
100
Процент использования
80
ERP/CRM
Web Services 60
процессоров
40
Infrastructur
20 e
0
00:0 0
06:0 0
08:0 0
14:0 0
16:0 0
22:0 0
24:0 0
01:00
02:00
03:00
04:00
05:00
07:00
09:00
10:00
11:00
12:00
13:00
15:00
17:00
18:00
19:00
20:00
21:00
23:00
0 0: 00 02 : 00 04 : 00 06 : 00 0 8: 00 1 0: 00 12: 00 14 : 00 16 : 00 18: 00 20: 00 22: 00 24: 00
Core system
Core system Web Services
• Компоненты ПО интегрированы с точки зрения • Серверы и программное обеспечение IBM позволяют
реализуемой бизнес-логики, а не с точки зрения комбинировать разнородную нагрузку, сохраняя
создаваемой нагрузки изолированность приложений в рамках отдельных
• Компоненты размещаются на отдельных экземпляров ОС
серверах или разделах сервера
© IBM,2010

29. Что такое виртуализация?
Термин “виртуализация” сегодня применяется в очень широком смысле
-Все то, что относится к абстрагированию от аппаратных ресурсов
В терминах маркетинга
-Подтвержденный практикой подход совместного использования разделяемых ресурсов, сокращающий
стоимость, повышающий уровень использования вычислительных ресурсов и позволяющий создать
инфраструктуру, динамически изменяющуюся по потребности
В технических терминах
-Отделение программного обеспечения от аппаратных средств, абстрагирование ПО от платформы, на
которой оно выполняется
Происхождение термина
-Возник в связи с созданием виртуальной машины (VM), являющейся комбинацией программного и
аппаратного обеспечения (разработана IBM в 60х годах прошлого века)
-Несколько сред выполнения (виртуальных машин), выполняющихся на одной физической системе,
каждая из которых управляется своей операционной системой
-Virtual – латинский корень Vir (мужчина), близкое по смыслу Virtue –
соответствие жизни и поведения к моральным и этическим принципам; хорошее или замечательное
качество или собственность
© IBM,2010

30. IBM : 43 летняя история виртуализации
Серверы
1967 1973 1987 1997 2001 2004 2008 2009/10
IBM
IBM IBM IBM IBM
introduces announces
develops announces IBM POWER Advanced announce
LPAR in Active
Hypervisor first machines announces LPAR POWER
POWER4 s memory
that would
to do LPAR on the design systems Virtualizati PowerVM sharing
become VM
on the Physical mainframe begins with AIX / on ships Live partition Active
Partitioning Linux Mobility memory
mainframe
expansion
Системы хранения
Virtual IBM IBM IBM IBM IBM IBM announces
Storage is a announces invents announces announces announces new storage
component MSS – RAID Virtual SAN System system
of the OS/ Mass Tape Volume Storage XIV
VS1 system Storage Server Controller Productivity
System Center
1973 1974 1978 1997 2003 2007 2008 2009
Timeline reference http://www.levenez.com/unix/history.html#01
Client quote source: rku.it case s tudy published at http://www.ibm.com/software/success/cssdb.nsf/CS/JSTS-6KXPPG?OpenDocument&Site=eserverpseries © IBM,2010

31. IBM : 43 летняя история виртуализации
System z: “ Золотой стандарт”
POWER Systems: Наследование
виртуализации, технологий
надежности и доступности System z для AIX,Linux, I
z/OS™ Linux z/VM AIX Linux i
PR/SM POWER
Hypervisor Hypervisor
z/990 POWER™
Server Based-Server
Начиная с 1988 г Начиная с 2001 г
Технология, проверенная временем © IBM,2010

32. Какая бывает виртуализация?
Hardware Partitioning Hypervisor: Type 1 Hypervisor: Type 2
Apps Apps Apps Apps Apps Apps
... ... ...
OS OS OS OS OS OS
Adjustable
partitions Hypervisor
Partition Hypervisor
Controller Host OS
SMP Server SMP Server SMP Server
Физические разделы Hypervisor Firmware/Software, Hypervisor software,
IBM S/370 SI->PP & PP->SI, выполняется сервером выполняется операционной
Sun Domains системой
IBM System z™ PR/SM and zVM™
HP nPartitions IBM PowerVM Editions HP Integrity VM
IBM System x 3950 HP vPartitions Solaris Containers
VMware ESX Server IBM AIX® V6.1 Workload Partitions
Sun Logical Domains (T2000)
“Я пришел к тебе с приветом, я прочел твои тетради:
в прошлом веке неким Фетом был ты жутко обокраден”
Игорь Губерман (1931-) © IBM,2010

33. Не все то золото, что блестит
© IBM,2010

34. Виртуализация и управляемость систем IBM
z/VM PowerV
M
Непревзойденная Динамическое
масштабируемость, перераспределение
универсальность и и мобильность для
безопасность. AIX, Linux и i
IBM System z ™ IBM Power™
Systems
SVC
Центральное управление
Масштабируемость
виртуальными и
систем хранения
ф изическими ресурсами
для SAN и NAS.
ЦОД .
IBM System IBM Systems
Storage™ Director
Полная интегрирация Консолидация
ввода/вывода и разнородных
резервирование, нагрузок,
энергоэф ф ективност надежность.
IBM BladeCenter® IBM System x™
ь
X5
CoolBlue™ Architecture
© IBM,2010

35. Пулы виртуальных ресурсов –
строительные блоки для построения
инфраструктуры.
Cloud
Enabled
System Pools
Virtual M achine
Images
Image Library § Управление на
Im age основе
Best Im age
App характеристик
Practices Im age
App § Пул стандартизованных нагрузки и уровнях
Im age OS
App строителных блоков.
App
OS сервиса.
OS § Работа с большим § Интегрированное
OS
количеством образов управление
как с одним. виртуальных
§ Получение и § Автоматическое сервисов и
каталогизация размещение новой процессов .
виртуальных образов нагрузки. § Высокая
§ Лучшие практики, систем, используемых в
соответствующие § Агрегированное доступность.
центрах обработки. управление и
потребностям бизнеса. § Эластичное
§ Стандартизация отслеживание
§ Стандартизованные масштабирование
виртуальных образов состояния.
виртуальные строительные строительных блоков. § Оплата по
блоки. § Унифицированное использованию.
§ Адаптация к обслуживание.
§ Улучшенная управляемость. требованиям . § Автоматическое
§ Надежное и простое предоставление
§ Упрощенное включение новых ресурсов. © IBM,2010
применение.

36. Динамическая инфраструктура IBM основа для
“облачных вычислений”.
CLOUD COMPUTING
Требуемые характеристики инфраструктуры для
облачных вычислений
§ Основана на открытых § Состоит из стандартизованных
стандартах, сервисно- компонентов и сопровождается
ориентированная. стандартными техпроцессами.
§ Виртуализированная и § Защищена и устойчива к
управляемая с изменяющимся условиям.
использованием § Проста в использовании, оснащена
специальных средств. каталогом предоставляемых
сервисов.
© IBM,2010

37. Динамическая инфраструктура –
направленность в будущее
Улучшение качества сервисов
Не только обеспечение
высокой доступности и
качества предоставляемых
сервисов, а соответствие
требованиям, предъявляемым
к новым сервисам и
динамический доступ в
реальном времени
Сокращение затрат Управление рисками
Не только сокращение Не только защита от
операционных затрат и существующих угроз, адаптация
сложности, а достижение к изменяющимся условиям и
Dynamic требованиям регулирующих
высочайшего уровня
Infrastructure органов, а сокращение влияния
производительности
посредством виртуализации, новых рисков, возникающих в
оптимизации ресурсов и нашем объединенном и
энергоэффективности. взаимодействующем мире.
© IBM,2010

38. Мы плывем вверх по течению, борясь с огромным потоком дезорганизованности,
который в соответствии со вторым законом термодинамики,
стремится все свести к тепловой смерти - всеобщему равновесию и одинаковости.
… В этом мире наша первая обязанность состоит в том, чтобы устраивать произвольные
островки порядка и системы (Норберт Винер. “Я – математик”. 1950г.)
Спасибо за
внимание!
Сергей Каплун,
ведущий специалист Департамента Корпоративных Систем IBM Украина
Sergey.Kaplun@ua.ibm.com
Киев, ул. Глыбочицкая 4, Артем бизнес-центр
…В мире, где энтропия в целом стремится к возрастанию, существуют местные
и временные островки уменьшающейся энтропии,
и наличие этих островков дает возможность некоторым
из нас доказывать наличие прогресса.
(Норберт Винер “Кибернетика и общество”. 1950г.)
© IBM,2010