SlideShare a Scribd company logo
Облачный сервис с потоковой
моделью анализа и обработки
данных

  Докладчик Пятков Владислав, АлтГУ


  vldpyatkov@gmail.com




                         2012, Томск
Кому нужен анализ данных?

   Управление производственным процессом
    (фармакология, пищевое производство,
    нефтехимическая промышленность и т.п.)
   Поведенье потребителя на рынке (маркетинг)
   Бизнес аналитика
   Естественно научные исследования
   Управление финансами



2
Возможности сервиса

Платформа для интеллектуального анализа
данных.
НО
Работающая в облакемодель анализа данных,
        Потоковая (на удалённой машине).
        НО
        С возможностью анализа “Больших данных”.

Запуск модулей фреймворков для
распределённого, анализа данных
НО
Из потоковой модели.
  3
Множество пользователей

   Сервис может поддерживать десятков
    пользователей одновременно.
   Возможность работы в группе.
                     DMSaaServices




                         DMSaaS
     Group Policy         View

4
Как пользоваться системой?

   Не нужен вычислительный ресурс.
   Не нужно специального программного
    обеспечения.
   Достаточно доступа в интернет.

                     Any System




5
Интеграция фреймворков для
распределённого анализа данных
                             Hadoop является
                             одним из самых
                             популярных решения
                             для анализа больших
                             данных


            DMSaaS Service
                                  DMSaaS
Scheduler
                                   View




 6
Пользовательские интерфейсы




7
Использование сторонних моделей

   Модель – это данные специального вида.
   Как любые данные модели можно разделять
    между пользователями.
           Model

                                         Workflow
                                          Node

                          Reader




                   User
                   Data
8
Расширение функциональности
   (пользовательские модули)
public class CustomNode extends TemplateLocal {                                         (ModuleMetaData.xml)
                                                               <root>
         @Override
                                                               <mainClass>
         public Properties makeProperties() {…}                       my.namespace.CustomNode
                                                               </mainClass>
         @Override                                             </root>

         public Ports makePorts() {…}

         @Override

         public TaskPropertyNotValidEx validateProperty(name, property) {…}

         @Override

         public TaskConnectionNotValidEx validateConnection(connection, workflow) {…}

         @Override

         public Status calculate(Properties properties,

                   Map<String, DataReadable> dataByProperty,
     9
Что происходит в облаке?

   Взаимодействие происходит через внешний API
    подсистем                       DM
                                      Sa
                                       aS
                                            Clo
                                                ud
      Web-Client         Core




                                            Calculation
                        Strorage
                                             Manager




                                      Calculation Server



10

More Related Content

Viewers also liked

mirror world of software development
mirror world of software developmentmirror world of software development
mirror world of software development
0xffAA
 
F# - функциональный язык «новой» волны
F# - функциональный  язык «новой» волныF# - функциональный  язык «новой» волны
F# - функциональный язык «новой» волны
Kiev ALT.NET
 
Функциональное программирование на F#
Функциональное программирование на F#Функциональное программирование на F#
Функциональное программирование на F#
akrakovetsky
 
Design by Contract
Design by ContractDesign by Contract
Design by Contract
Kiev ALT.NET
 
Micro-ORM Introduction - Don't overcomplicate
Micro-ORM Introduction - Don't overcomplicateMicro-ORM Introduction - Don't overcomplicate
Micro-ORM Introduction - Don't overcomplicateKiev ALT.NET
 
reactive dotNet
reactive dotNetreactive dotNet
reactive dotNet
0xffAA
 
Pragmatic Real-World Scala (short version)
Pragmatic Real-World Scala (short version)Pragmatic Real-World Scala (short version)
Pragmatic Real-World Scala (short version)
Jonas Bonér
 

Viewers also liked (9)

mirror world of software development
mirror world of software developmentmirror world of software development
mirror world of software development
 
F# - функциональный язык «новой» волны
F# - функциональный  язык «новой» волныF# - функциональный  язык «новой» волны
F# - функциональный язык «новой» волны
 
Async
AsyncAsync
Async
 
Функциональное программирование на F#
Функциональное программирование на F#Функциональное программирование на F#
Функциональное программирование на F#
 
CQRS EventStore
CQRS EventStoreCQRS EventStore
CQRS EventStore
 
Design by Contract
Design by ContractDesign by Contract
Design by Contract
 
Micro-ORM Introduction - Don't overcomplicate
Micro-ORM Introduction - Don't overcomplicateMicro-ORM Introduction - Don't overcomplicate
Micro-ORM Introduction - Don't overcomplicate
 
reactive dotNet
reactive dotNetreactive dotNet
reactive dotNet
 
Pragmatic Real-World Scala (short version)
Pragmatic Real-World Scala (short version)Pragmatic Real-World Scala (short version)
Pragmatic Real-World Scala (short version)
 

Similar to томск

Sql Server Data Services
Sql Server Data ServicesSql Server Data Services
Sql Server Data ServicesMedia Gorod
 
Презентация КлаудМастер
Презентация КлаудМастерПрезентация КлаудМастер
Презентация КлаудМастер
lilyerma
 
Druid - Interactive Analytics At Scale
Druid - Interactive Analytics At ScaleDruid - Interactive Analytics At Scale
Druid - Interactive Analytics At Scale
Lohika_Odessa_TechTalks
 
АрхиГраф.MDM: управление мастер-данными
АрхиГраф.MDM: управление мастер-даннымиАрхиГраф.MDM: управление мастер-данными
АрхиГраф.MDM: управление мастер-данными
Sergey Gorshkov
 
презентация8
презентация8презентация8
презентация8student_kai
 
Денис Емельяненко, De Novo: "Managed Services: новые возможности для IT"
Денис Емельяненко, De Novo: "Managed Services: новые возможности для IT"Денис Емельяненко, De Novo: "Managed Services: новые возможности для IT"
Денис Емельяненко, De Novo: "Managed Services: новые возможности для IT"
De Novo
 
Знакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данныхЗнакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данных
Denodo
 
Построение Data Mesh на основе Виртуальных Данных
Построение Data Mesh на основе Виртуальных ДанныхПостроение Data Mesh на основе Виртуальных Данных
Построение Data Mesh на основе Виртуальных Данных
Denodo
 
Знакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данныхЗнакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данных
Denodo
 
Windows Azure - BigData and Hadoop
Windows Azure - BigData and HadoopWindows Azure - BigData and Hadoop
Windows Azure - BigData and Hadoop
Alexey Bokov
 
Cloud. Business-model-innovation
Cloud. Business-model-innovationCloud. Business-model-innovation
Cloud. Business-model-innovationRuslanKorotaev
 
PMIufa 2011-03-24
PMIufa 2011-03-24PMIufa 2011-03-24
SQL Server Security Best Practices - Евгений Недашковский
SQL Server Security Best Practices - Евгений НедашковскийSQL Server Security Best Practices - Евгений Недашковский
SQL Server Security Best Practices - Евгений Недашковский
HackIT Ukraine
 
AZadonsky New Cloud Services
AZadonsky New Cloud ServicesAZadonsky New Cloud Services
AZadonsky New Cloud Services
Vasily Demin
 
Rus ibm cloud computing
Rus ibm cloud computingRus ibm cloud computing
Rus ibm cloud computingAlexey Ivlev
 
Windows azure общий обзор
Windows azure общий обзорWindows azure общий обзор
Windows azure общий обзор
Microsoft
 
Web deployment
Web deploymentWeb deployment
Web deployment
GetDev.NET
 
Предоставление баз данных в виде сервиса (DBaaS)
Предоставление баз данных в виде сервиса (DBaaS)Предоставление баз данных в виде сервиса (DBaaS)
Предоставление баз данных в виде сервиса (DBaaS)Andrey Akulov
 

Similar to томск (20)

Sql Server Data Services
Sql Server Data ServicesSql Server Data Services
Sql Server Data Services
 
апрель
апрельапрель
апрель
 
Презентация КлаудМастер
Презентация КлаудМастерПрезентация КлаудМастер
Презентация КлаудМастер
 
Druid - Interactive Analytics At Scale
Druid - Interactive Analytics At ScaleDruid - Interactive Analytics At Scale
Druid - Interactive Analytics At Scale
 
АрхиГраф.MDM: управление мастер-данными
АрхиГраф.MDM: управление мастер-даннымиАрхиГраф.MDM: управление мастер-данными
АрхиГраф.MDM: управление мастер-данными
 
презентация8
презентация8презентация8
презентация8
 
Денис Емельяненко, De Novo: "Managed Services: новые возможности для IT"
Денис Емельяненко, De Novo: "Managed Services: новые возможности для IT"Денис Емельяненко, De Novo: "Managed Services: новые возможности для IT"
Денис Емельяненко, De Novo: "Managed Services: новые возможности для IT"
 
Знакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данныхЗнакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данных
 
Построение Data Mesh на основе Виртуальных Данных
Построение Data Mesh на основе Виртуальных ДанныхПостроение Data Mesh на основе Виртуальных Данных
Построение Data Mesh на основе Виртуальных Данных
 
Знакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данныхЗнакомство с виртуализацией данных для профессионалов в области данных
Знакомство с виртуализацией данных для профессионалов в области данных
 
Windows Azure - BigData and Hadoop
Windows Azure - BigData and HadoopWindows Azure - BigData and Hadoop
Windows Azure - BigData and Hadoop
 
Cloud. Business-model-innovation
Cloud. Business-model-innovationCloud. Business-model-innovation
Cloud. Business-model-innovation
 
PMIufa 2011-03-24
PMIufa 2011-03-24PMIufa 2011-03-24
PMIufa 2011-03-24
 
SQL Server Security Best Practices - Евгений Недашковский
SQL Server Security Best Practices - Евгений НедашковскийSQL Server Security Best Practices - Евгений Недашковский
SQL Server Security Best Practices - Евгений Недашковский
 
AZadonsky New Cloud Services
AZadonsky New Cloud ServicesAZadonsky New Cloud Services
AZadonsky New Cloud Services
 
презентация8
презентация8презентация8
презентация8
 
Rus ibm cloud computing
Rus ibm cloud computingRus ibm cloud computing
Rus ibm cloud computing
 
Windows azure общий обзор
Windows azure общий обзорWindows azure общий обзор
Windows azure общий обзор
 
Web deployment
Web deploymentWeb deployment
Web deployment
 
Предоставление баз данных в виде сервиса (DBaaS)
Предоставление баз данных в виде сервиса (DBaaS)Предоставление баз данных в виде сервиса (DBaaS)
Предоставление баз данных в виде сервиса (DBaaS)
 

томск

  • 1. Облачный сервис с потоковой моделью анализа и обработки данных Докладчик Пятков Владислав, АлтГУ vldpyatkov@gmail.com 2012, Томск
  • 2. Кому нужен анализ данных?  Управление производственным процессом (фармакология, пищевое производство, нефтехимическая промышленность и т.п.)  Поведенье потребителя на рынке (маркетинг)  Бизнес аналитика  Естественно научные исследования  Управление финансами 2
  • 3. Возможности сервиса Платформа для интеллектуального анализа данных. НО Работающая в облакемодель анализа данных, Потоковая (на удалённой машине). НО С возможностью анализа “Больших данных”. Запуск модулей фреймворков для распределённого, анализа данных НО Из потоковой модели. 3
  • 4. Множество пользователей  Сервис может поддерживать десятков пользователей одновременно.  Возможность работы в группе. DMSaaServices DMSaaS Group Policy View 4
  • 5. Как пользоваться системой?  Не нужен вычислительный ресурс.  Не нужно специального программного обеспечения.  Достаточно доступа в интернет. Any System 5
  • 6. Интеграция фреймворков для распределённого анализа данных Hadoop является одним из самых популярных решения для анализа больших данных DMSaaS Service DMSaaS Scheduler View 6
  • 8. Использование сторонних моделей  Модель – это данные специального вида.  Как любые данные модели можно разделять между пользователями. Model Workflow Node Reader User Data 8
  • 9. Расширение функциональности (пользовательские модули) public class CustomNode extends TemplateLocal { (ModuleMetaData.xml) <root> @Override <mainClass> public Properties makeProperties() {…} my.namespace.CustomNode </mainClass> @Override </root> public Ports makePorts() {…} @Override public TaskPropertyNotValidEx validateProperty(name, property) {…} @Override public TaskConnectionNotValidEx validateConnection(connection, workflow) {…} @Override public Status calculate(Properties properties, Map<String, DataReadable> dataByProperty, 9
  • 10. Что происходит в облаке?  Взаимодействие происходит через внешний API подсистем DM Sa aS Clo ud Web-Client Core Calculation Strorage Manager Calculation Server 10