1© Copyright 2015 EMC Corporation. All rights reserved.
Хранение контента в интернет
сервисах
Взгляд EMC
2© Copyright 2015 EMC Corporation. All rights reserved.
Рост данных меняет подход к хранению
Емкость файловых хранилищ растет на 53% ежегодно
•  Чрезмерная сложность
–  Большое количество разных
технологий защиты данных,
протоколов, средств управления
•  Отсутствие экономической гибкости
–  Неэффективность, высокие
накладные расходы при
распределенных архитектурах
•  Отсутствие облачных технологий
–  Стандартная архитектура, отсутствие
самообслуживания
Source: IDC EMC Digital Universe Study 2014
3© Copyright 2015 EMC Corporation. All rights reserved.
Современные приложения меняют
подход к хранению
•  Слишком сложная архитектура
–  Блокировки, репликация, высокая
доступность, распределенность
•  Сложность работы с Web и при
наличии межсетевых экранов
–  Сложность доступа в
распределённых сетях
•  Сложность разработки
–  Различное оборудование и
технологии для различных типов
данных
4© Copyright 2015 EMC Corporation. All rights reserved.
ИЗМЕНЕНИЕ ПОДХОДА К
ИНВЕСТИЦИЯМ
5© Copyright 2015 EMC Corporation. All rights reserved.
Сколько стоит 10 центов?
$1 $10 $100 $1 000 $10 000 $100 000 $1 000 000 $10 000 000$100 000 000
1 Exabyte
1 Petabyte
1 Terabyte
$0.10/GB SAVINGS = $100,000,000 / EXABYTE
6© Copyright 2015 EMC Corporation. All rights reserved.
Преимущество стандартных платформ
•  Использование
стандартизированных и открытых
технологий
•  Проприетарные компоненты дают
меньшую экономическую гибкость
•  Стандартные компоненты дают
большую экономическую
эффективность при использовании
специализированного ПО
7© Copyright 2015 EMC Corporation. All rights reserved.
ЗАЧЕМ МНЕ ЭТО?
8© Copyright 2015 EMC Corporation. All rights reserved.
Ограничения файловых систем
Структурированн
ая
(Таблицы,Индексы,Ключ
и)
•  Ограничение на количество файлов файловых систем
•  Ограничение по объему файлов файловых систем
•  Блокировки файловых систем
•  Долгие файловые операции листинга, сканирования и т. д.
•  Отсутствие возможности создания геораспределенного хранилища с единой точкой входа
•  Отсутствие версионности и поколений данных
•  Необходимость проведения операций резервного копирования
•  Ограничения файловых таблиц
•  Различная скорость работы разных файловых систем с разными объемами файлов
•  Низкий уровень безопасности
•  Низкий уровень защиты данных
•  Сложность работы с метаданными
•  Существенные ограничения на создание горизонтально-расширяемых хранилищ
•  Низкий уровень гибкости и масштабируемости
•  Нестабильность работы сетевых файловых систем из-за нестабильной работы каналов связи
9© Copyright 2015 EMC Corporation. All rights reserved.
Объектное хранение не
имеет этих ограничений!
10© Copyright 2015 EMC Corporation. All rights reserved.
Объект – некая логическая
сущность, имеющая четко
определенные свойства.
11© Copyright 2015 EMC Corporation. All rights reserved.
Принципы объектного хранилища
•  Доступ к объектам предоставляется по специализированным
протоколам отличным от блочных или файловых (протоколы
работающие поверх HTTP и основанные на REST: S3, Swift,
Atmos)
•  Ориентированность на хранение неструктурированной
информации (image, video, audio, html, *ml, любые файлы
являющиеся статическим контентом или динамическим
контентом на стороне клиента)
•  Каждый объект обладает уникальным адресом
•  Пространство имен объектов является глобальным – любой
объект доступен из любого сегмента инфраструктуры в любой
момент
12© Copyright 2015 EMC Corporation. All rights reserved.
ТЕКУЩИЙ РЫНОК ОБЪЕКТНОГО ХРАНЕНИЯ
7.8
8.4
Cloud Gateways
0.2
Self-built &
Open Source1
Emerging
Vendor SW
& Appliances
0.1
External
Storage
Platforms
0.3
Total Market
for Scale-Out
Object SW &
Appliances
Source: EMC Market Intelligence estimates; Nadkarni, IDC, Jul 2013; IDC, Sep 2014; Turner et al., IDC, Apr 2013; Sheppard, Sep 2014
“The biggest
contributors to
[scale-out object
market] are DIY
deployments…”
--IDC, Jul ‘13
5.0
EMC MARKET INTELLIGENCE
13© Copyright 2015 EMC Corporation. All rights reserved.
«EVERYTHING SOFTWARE»
ПОЧЕМУ НЕТ?
14© Copyright 2015 EMC Corporation. All rights reserved.
ЗАМЕЧАЕТЕ ЧТО-НИБУДЬ?
15© Copyright 2015 EMC Corporation. All rights reserved.
«EVERYTHING SOFTWARE»
ПОЧЕМУ НЕТ?
ПОТОМУ ЧТО НАДЕЖНОСТЬ
ИМЕЕТ ЗНАЧЕНИЕ
ДАЖЕ КОГДА ОЧЕНЬ
ДЕШЕВО
16© Copyright 2015 EMC Corporation. All rights reserved.
ELASTIC CLOUD STORAGE
17© Copyright 2015 EMC Corporation. All rights reserved.
СИСТЕМА ХРАНЕНИЯ ИЗ КОММОДИТИ
КОМПОНЕНТ
ECS
Software HDFS
STORAGE
OBJECT
STORAGE
Commodity
Platforms
18© Copyright 2015 EMC Corporation. All rights reserved.
Распределенная защита данных
Высокая консистентность данных с поддержкой Active-Active read/write
Отсутствие единой точки отказа
Единая производительность и эффективность для любых объектов
АРХИТЕКТУРА ECS SOFTWARE
ECS
Software HDFS
STORAGE
OBJECT
STORAGE
SITE 1 SITE 2 SITE 3
19© Copyright 2015 EMC Corporation. All rights reserved.
Распределенная защита данных
Защита от локальных и глобальных сбоев
Site 1
Site 3
Site 2
•  Сбои оборудования и всего
ЦОД
–  Disk, Node, Rack, Data Center
•  Ребилд без перегрузок на
каналах связи
•  Снижение нагрузки и затрат
20© Copyright 2015 EMC Corporation. All rights reserved.
Потери емкости на защиту данных
1,33
2,67
2,00
1,77
1,67
1,60 1,55 1,52
0,00
0,50
1,00
1,50
2,00
2,50
3,00
1 2 3 4 5 6 7 8
Overhead
# of Data Centers
Оптимизация доступа, защиты и эффективности
21© Copyright 2015 EMC Corporation. All rights reserved.
Архитектура Active-Active Read/Write
Доступ к контенту без ограничений
https://accesspoint.yourcompany.com •  Единое пространство имен
•  Консистентность данных между
всеми ЦОД
•  Оптимизация передачи данных
22© Copyright 2015 EMC Corporation. All rights reserved.
Единая платформа для всех типов доступа
Совместимость с стандартными API
Atmos
•  Различные интерфейсы доступа делают
ненужным ETL
–  Object, HDFS , File (Future)
•  HDFS совместимость с Cloudera,
Hortonworks, Pivotal etc.
•  Поддержка S3, Swift, Atmos и Centera CAS
API
•  Расширения API
–  Byte-Range updates, Atomic appends,
Rich ACLs etc.
HDFS
23© Copyright 2015 EMC Corporation. All rights reserved.
ECS Software
Enterprise & SPs
DIY with 3rd Party Commodity
Hardware
ECS Appliance
Enterprise & SPs
Hyperscale Cloud Storage Platform
EMC Service and Support
24© Copyright 2015 EMC Corporation. All rights reserved.
•  Платформа для хранения
неструктурированного контента
•  Платформа для хранения
аналитических данных
Области применения
25© Copyright 2015 EMC Corporation. All rights reserved.
Примеры сервисов
Провайдер налоговой отчётности
Хранилище контента
Крупнейшая торговая площадка
Хранилище контента
Крупнейшая энергетическая компания
Платформа для
распределенных вычислений
26© Copyright 2015 EMC Corporation. All rights reserved.
Примеры сервисов
9 vinogradov

9 vinogradov

  • 1.
    1© Copyright 2015EMC Corporation. All rights reserved. Хранение контента в интернет сервисах Взгляд EMC
  • 2.
    2© Copyright 2015EMC Corporation. All rights reserved. Рост данных меняет подход к хранению Емкость файловых хранилищ растет на 53% ежегодно •  Чрезмерная сложность –  Большое количество разных технологий защиты данных, протоколов, средств управления •  Отсутствие экономической гибкости –  Неэффективность, высокие накладные расходы при распределенных архитектурах •  Отсутствие облачных технологий –  Стандартная архитектура, отсутствие самообслуживания Source: IDC EMC Digital Universe Study 2014
  • 3.
    3© Copyright 2015EMC Corporation. All rights reserved. Современные приложения меняют подход к хранению •  Слишком сложная архитектура –  Блокировки, репликация, высокая доступность, распределенность •  Сложность работы с Web и при наличии межсетевых экранов –  Сложность доступа в распределённых сетях •  Сложность разработки –  Различное оборудование и технологии для различных типов данных
  • 4.
    4© Copyright 2015EMC Corporation. All rights reserved. ИЗМЕНЕНИЕ ПОДХОДА К ИНВЕСТИЦИЯМ
  • 5.
    5© Copyright 2015EMC Corporation. All rights reserved. Сколько стоит 10 центов? $1 $10 $100 $1 000 $10 000 $100 000 $1 000 000 $10 000 000$100 000 000 1 Exabyte 1 Petabyte 1 Terabyte $0.10/GB SAVINGS = $100,000,000 / EXABYTE
  • 6.
    6© Copyright 2015EMC Corporation. All rights reserved. Преимущество стандартных платформ •  Использование стандартизированных и открытых технологий •  Проприетарные компоненты дают меньшую экономическую гибкость •  Стандартные компоненты дают большую экономическую эффективность при использовании специализированного ПО
  • 7.
    7© Copyright 2015EMC Corporation. All rights reserved. ЗАЧЕМ МНЕ ЭТО?
  • 8.
    8© Copyright 2015EMC Corporation. All rights reserved. Ограничения файловых систем Структурированн ая (Таблицы,Индексы,Ключ и) •  Ограничение на количество файлов файловых систем •  Ограничение по объему файлов файловых систем •  Блокировки файловых систем •  Долгие файловые операции листинга, сканирования и т. д. •  Отсутствие возможности создания геораспределенного хранилища с единой точкой входа •  Отсутствие версионности и поколений данных •  Необходимость проведения операций резервного копирования •  Ограничения файловых таблиц •  Различная скорость работы разных файловых систем с разными объемами файлов •  Низкий уровень безопасности •  Низкий уровень защиты данных •  Сложность работы с метаданными •  Существенные ограничения на создание горизонтально-расширяемых хранилищ •  Низкий уровень гибкости и масштабируемости •  Нестабильность работы сетевых файловых систем из-за нестабильной работы каналов связи
  • 9.
    9© Copyright 2015EMC Corporation. All rights reserved. Объектное хранение не имеет этих ограничений!
  • 10.
    10© Copyright 2015EMC Corporation. All rights reserved. Объект – некая логическая сущность, имеющая четко определенные свойства.
  • 11.
    11© Copyright 2015EMC Corporation. All rights reserved. Принципы объектного хранилища •  Доступ к объектам предоставляется по специализированным протоколам отличным от блочных или файловых (протоколы работающие поверх HTTP и основанные на REST: S3, Swift, Atmos) •  Ориентированность на хранение неструктурированной информации (image, video, audio, html, *ml, любые файлы являющиеся статическим контентом или динамическим контентом на стороне клиента) •  Каждый объект обладает уникальным адресом •  Пространство имен объектов является глобальным – любой объект доступен из любого сегмента инфраструктуры в любой момент
  • 12.
    12© Copyright 2015EMC Corporation. All rights reserved. ТЕКУЩИЙ РЫНОК ОБЪЕКТНОГО ХРАНЕНИЯ 7.8 8.4 Cloud Gateways 0.2 Self-built & Open Source1 Emerging Vendor SW & Appliances 0.1 External Storage Platforms 0.3 Total Market for Scale-Out Object SW & Appliances Source: EMC Market Intelligence estimates; Nadkarni, IDC, Jul 2013; IDC, Sep 2014; Turner et al., IDC, Apr 2013; Sheppard, Sep 2014 “The biggest contributors to [scale-out object market] are DIY deployments…” --IDC, Jul ‘13 5.0 EMC MARKET INTELLIGENCE
  • 13.
    13© Copyright 2015EMC Corporation. All rights reserved. «EVERYTHING SOFTWARE» ПОЧЕМУ НЕТ?
  • 14.
    14© Copyright 2015EMC Corporation. All rights reserved. ЗАМЕЧАЕТЕ ЧТО-НИБУДЬ?
  • 15.
    15© Copyright 2015EMC Corporation. All rights reserved. «EVERYTHING SOFTWARE» ПОЧЕМУ НЕТ? ПОТОМУ ЧТО НАДЕЖНОСТЬ ИМЕЕТ ЗНАЧЕНИЕ ДАЖЕ КОГДА ОЧЕНЬ ДЕШЕВО
  • 16.
    16© Copyright 2015EMC Corporation. All rights reserved. ELASTIC CLOUD STORAGE
  • 17.
    17© Copyright 2015EMC Corporation. All rights reserved. СИСТЕМА ХРАНЕНИЯ ИЗ КОММОДИТИ КОМПОНЕНТ ECS Software HDFS STORAGE OBJECT STORAGE Commodity Platforms
  • 18.
    18© Copyright 2015EMC Corporation. All rights reserved. Распределенная защита данных Высокая консистентность данных с поддержкой Active-Active read/write Отсутствие единой точки отказа Единая производительность и эффективность для любых объектов АРХИТЕКТУРА ECS SOFTWARE ECS Software HDFS STORAGE OBJECT STORAGE SITE 1 SITE 2 SITE 3
  • 19.
    19© Copyright 2015EMC Corporation. All rights reserved. Распределенная защита данных Защита от локальных и глобальных сбоев Site 1 Site 3 Site 2 •  Сбои оборудования и всего ЦОД –  Disk, Node, Rack, Data Center •  Ребилд без перегрузок на каналах связи •  Снижение нагрузки и затрат
  • 20.
    20© Copyright 2015EMC Corporation. All rights reserved. Потери емкости на защиту данных 1,33 2,67 2,00 1,77 1,67 1,60 1,55 1,52 0,00 0,50 1,00 1,50 2,00 2,50 3,00 1 2 3 4 5 6 7 8 Overhead # of Data Centers Оптимизация доступа, защиты и эффективности
  • 21.
    21© Copyright 2015EMC Corporation. All rights reserved. Архитектура Active-Active Read/Write Доступ к контенту без ограничений https://accesspoint.yourcompany.com •  Единое пространство имен •  Консистентность данных между всеми ЦОД •  Оптимизация передачи данных
  • 22.
    22© Copyright 2015EMC Corporation. All rights reserved. Единая платформа для всех типов доступа Совместимость с стандартными API Atmos •  Различные интерфейсы доступа делают ненужным ETL –  Object, HDFS , File (Future) •  HDFS совместимость с Cloudera, Hortonworks, Pivotal etc. •  Поддержка S3, Swift, Atmos и Centera CAS API •  Расширения API –  Byte-Range updates, Atomic appends, Rich ACLs etc. HDFS
  • 23.
    23© Copyright 2015EMC Corporation. All rights reserved. ECS Software Enterprise & SPs DIY with 3rd Party Commodity Hardware ECS Appliance Enterprise & SPs Hyperscale Cloud Storage Platform EMC Service and Support
  • 24.
    24© Copyright 2015EMC Corporation. All rights reserved. •  Платформа для хранения неструктурированного контента •  Платформа для хранения аналитических данных Области применения
  • 25.
    25© Copyright 2015EMC Corporation. All rights reserved. Примеры сервисов Провайдер налоговой отчётности Хранилище контента Крупнейшая торговая площадка Хранилище контента Крупнейшая энергетическая компания Платформа для распределенных вычислений
  • 26.
    26© Copyright 2015EMC Corporation. All rights reserved. Примеры сервисов