Документ описывает концепцию хранилищ данных, их организацию, принципы работы и дизайн, включая нормализованные и денормализованные схемы. Также обсуждаются облачные хранилища данных, преимущества и потенциальные проблемы, связанные с их использованием. В заключение представлены облачные шлюзы как решения для упрощения работы с данными в облаке.

1. Хранилище данных
Хранилище данных (англ. Data Warehouse) — предметно-
ориентированная информационная база данных, специально
разработанная и предназначенная для подготовки отчётов и
бизнес-анализа с целью поддержки принятия решений в
организации. Строится на базе систем управления базами
данных и систем поддержки принятия решений.

2. • Данные, поступающие в хранилище данных,
как правило, доступны только для чтения.
Данные из OLTP-системы копируются в
хранилище данных таким образом, чтобы
построение отчётов и OLAP-анализ не
использовал ресурсы транзакционной системы
и не нарушал её стабильность. Как правило,
данные загружаются в хранилище с
определённой периодичностью, поэтому
актуальность данных может несколько
отставать от OLTP-системы.

3. Компоненты для анализа в хранилище данных

4. Принципы организации хранилища
• Проблемно-предметная ориентация. Данные
объединяются в категории и хранятся в соответствии с
областями, которые они описывают, а не с
приложениями, которые они используют.
• Интегрированность. Данные объединены так, чтобы
они удовлетворяли всем требованиям предприятия в
целом, а не единственной функции бизнеса.
• Некорректируемость. Данные в хранилище данных не
создаются: т.е. поступают из внешних источников, не
корректируются и не удаляются.
• Зависимость от времени. Данные в хранилище точны
и корректны только в том случае, когда они привязаны к
некоторому промежутку или моменту времени.

5. Дизайн хранилищ данных
Нормализованные хранилища
данных
• В нормализованных хранилищах,
данные находятся в предметно
ориентированных таблицах третьей
нормальной формы. Нормализованные
хранилища характеризуются как
простые в создании и управлении,
недостатки нормализованных хранилищ
– большое количество таблиц как
следствие нормализации, из-за чего для
получения какой-либо информации
нужно делать выборку из многих таблиц
одновременно, что приводит к
ухудшению производительности
системы. Для решения этой проблемы
используются денормализованные
таблицы - витрины данных, на основе
которых уже выводятся отчетные
формы. При громадных объемах данных
могут использовать несколько уровней
«витрин»/«хранилищ».
Хранилища с измерениями
• Хранилища с измерениями используют схему
«звезда» или схему «снежинка». При этом в центре
«звезды» находятся данные (Таблица фактов),
а измерения образуют лучи звезды. Различные
таблицы фактов совместно используют таблицы
измерений, что значительно облегчает операции
объединения данных из нескольких предметных
таблиц фактов (Пример – факты продаж и поставок
товара). Таблицы данных и соответствующие
измерениями образуют архитектуру «шина».
Измерения часто создаются в третьей нормальной
форме, в том числе, для протоколирования изменения
в измерениях. Основным достоинством хранилищ с
измерениями является простота и понятность для
разработчиков и пользователей, также, благодаря
более эффективному хранению данных и
формализованным измерениям, облегчается и
ускоряется доступ к данным, особенно при сложных
анализах. Основным недостатком является более
сложные процедуры подготовки и загрузки данных, а
также управление и изменение измерений данных.
• При достаточно большом объеме данных схемы
«звезда» и «снежинка» также дают снижение
производительности при соединениях с измерениями.

6. Процессы работы с данными
Источниками данных могут быть:
• Традиционные системы регистрации операций
• Отдельные документы
• Наборы данных
Операции с данными:
• Извлечение – перемещение информации от источников данных в
отдельную БД, приведение их к единому формату.
• Преобразование – подготовка информации к хранению в
оптимальной форме для реализации запроса, необходимого для
принятия решений.
• Загрузка – помещение данных в хранилище, производится атомарно,
путем добавления новых фактов или корректировкой существующих.
• Анализ – OLAP, Data Mining, сводные отчёты.
• Представление результатов анализа.

7. Вся эта информация используется в словаре метаданных. В словарь
метаданных автоматически включаются словари источников данных. Здесь
же форматы данных для их последующего согласования, периодичность
пополнения данных, согласованность во времени.
Задача словаря метаданных состоит в том, чтобы освободить разработчика
от необходимости стандартизировать источники данных.
Создание хранилищ данных не должно противоречить действующим
системам сбора и обработки информации.
Специальные компоненты словарей должны обеспечивать своевременное
извлечение из словарей и обеспечить преобразование к единому формату
на основе словаря метаданных.
Логическая структура данных хранилища данных отличается от структуры
данных источников данных.

8. Для разработки эффективного процесса преобразования
необходима хорошо проработанная модель корпоративных
данных и модель технологии принятия решений.
Данные для пользователя удобно представлять в
многоразмерных БД, где в качестве измерения могут выступать
время, цена или географический регион.
Кроме извлечения данных из БД, принятия решений важен
процесс извлечения знаний, в соответствии с
информационными потребностями пользователя.
С точки зрения пользователя в процессе извлечения знаний из
БД должны решаться след. преобразования: данные →
информация → знания → полученные решения.

9. Облачное хранилище данных
• Облачное хранилище
данных (англ. cloud storage) — модель
онлайн-хранилища, в котором данные
хранятся на многочисленных
распределённых в сети серверах,
предоставляемых в пользование
клиентам, в основном, третьей
стороной. В отличие от модели
хранения данных на собственных
выделенных серверах, приобретаемых
или арендуемых специально для
подобных целей, количество или
какая-либо внутренняя структура
серверов клиенту, в общем случае, не
видна. Данные хранятся и
обрабатываются в так
называемом облаке, которое
представляет собой, с точки зрения
клиента, один большой виртуальный
сервер. Физически же такие серверы
могут располагаться удалённо друг от
друга географически, вплоть до
расположения на разных континентах.

10. Преимущества облачных хранилищ
• Клиент платит только за то место в хранилище, которое
фактически использует, но не за аренду сервера, все
ресурсы которого он может и не использовать.
• Клиенту нет необходимости заниматься
приобретением, поддержкой и обслуживанием
собственной инфраструктуры по хранению данных, что,
в конечном счёте, уменьшает общие издержки
производства.
• Все процедуры по резервированию и сохранению
целостности данных производятся провайдером
облачного центра, который не вовлекает в этот процесс
клиента.

11. Потенциальные вопросы
• Безопасность при хранении и пересылке данных является
одним из основных вопросов при работе с облаком, особенно в
отношении конфиденциальных, приватных данных.
• Общая производительность при работе с данными
в облаке может быть ниже таковой при работе с локальными
копиями данных.
• Надёжность и своевременность получения и доступности
данных в облаке очень сильно зависит от многих
промежуточных параметров, в основном таких, как каналы
передачи данных на пути от клиента к облаку,
вопрос последней мили, вопрос о надлежащем качестве
работы интернет-провайдера клиента, вопрос о доступности
самого облака в данный момент времени.

12. Облачные шлюзы
• Облачные шлюзы — технология, которая может
быть использована для более удобного
представления облака клиенту. К примеру, с
помощью соответствующего программного
обеспечения, хранилище в облаке может быть
представлено для клиента как локальный диск на
компьютере. Таким образом, работа с данными
в облаке для клиента становится абсолютно
прозрачной. И при наличии хорошей, быстрой связи
с облаком клиент может даже не замечать, что
работает не с локальными данными у себя на
компьютере, а с данными, хранящимися,
возможно, за много сотен километров от него.