SlideShare a Scribd company logo
1 of 30
MACHINE LEARNING
& AZURE ML SERVICES
ОБО МНЕ
Александр КондуфоровData Science Group Leader,
Software Architect @ AltexSoft
В прошлом – .NET разработчик, Software Architect,
Project Lead
Kharkov AI club
СОДЕРЖАНИЕ
1. Что такое Machine Learning, зачем он нужен
2. Примеры применений ML
3. Типы обучения
4. Популярные ML-алгоритмы
5. Supervised Learning workflow
6. ML в .NET
7. Обзор Azure ML Services
8. Azure ML demo
MACHINE LEARNING
“Field of study that gives computers the ability
to learn without being explicitly programmed”
Arthur Samuel
Для некоторых задач невозможно написать алгоритм
КОГДА НЕ ОБОЙТИСЬ БЕЗ ML
• Человек не может объяснить свой опыт и создать алгоритм –
распознавание образов, голоса, координация движений и т.д.
• Человеческий опыт не существует как таковой – навигация на
Марсе
• Обстановка меняется со временем и нужно адаптироваться –
биометрия людей, биржевые индексы, цены на недвижимость
ТИПЫ ОБУЧЕНИЯ
• Supervised Learning
• Semi-supervised Learning
• Unsupervised Learning
• Hybrid (Supervised + Unsupervised)
• Reinforcement Learning
• Online Learning
SUPERVISED LEARNING
Данные – (input, correct output)
UNSUPERVISED LEARNING
Данные – (input, ???)
REINFORCEMENT LEARNING
• Роботы
• Игровой AI
ОСНОВНЫЕ ТИПЫ ЗАДАЧ
Supervised learning
• Классификация
• Регрессия
Unsupervised learning
• Кластеризация
• Определение выбросов
Гибридные
• Коллаборативная фильтрация (рекомендации)
ПОПУЛЯРНЫЕ АЛГОРИТМЫ
• Регрессия
• Деревья решений
• Искусственные нейронные сети
• k-means кластеризация
• Collaborative Filtering
РЕГРЕССИЯ
Y = b0+b1x1+b2x2+…+bkxk Y = b0+b1x+b2x2+b3x3
DECISION TREE / RANDOM FOREST
Создание дерева на основании данных и определение
условий в каждом узле дерева.
ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ
Построены на базе нейронов мозга
Множество видов:
• многослойный перцептрон
• сеть Хопфилда
• сеть Кохонена
• неокогнитрон
• спайковые сети
• сверточные сети
K-MEANS КЛАСТЕРИЗАЦИЯ
COLLABORATIVE FILTERING
User-based recommendation:
SUPERVISED LEARNING WORKFLOW
• Data analysis and preprocessing (cleaning, transformation)
• Feature engineering (new, correlated)
• Fit selected model (training data)
• Evaluate model (test data, choose error type)
• Change data, algorithm and model parameters until
satisfied
• Use model for predictions
GENERALIZATION VS. MEMORIZATION
Overfitting – features of the model that arise from relations that are in
the training data, but not representative of the general population.
BIAS-VARIANCE TRADEOFF
VALIDATION / CROSS-VALIDATION
Validation:
60%/40% 50%/50% 80%/20%
Cross-validation:
• K-fold CV
• Leave-one-out CV
CLASSIFICATION ERRORS
ML В .NET
• Infer.NET (MS Research)
• Accord.NET
• AForge
• Numl
• Math.NET Numerics
• Azure ML Services
AZURE ML SERVICES
Cloud-based predictive analytics from Microsoft
ОСНОВНЫЕ ВОЗМОЖНОСТИ
• ML Studio
• Built-in data preprocessing and ML algorithms
• Integration with Azure data storages and other services
• Plots for data analysis
• R support
• Fast conversion to web-service
ЦЕНЫ
РЫНОК АЛГОРИТМОВ И ДАННЫХ
TIME FOR SOME DEMO
ПОЛЕЗНЫЕ ССЫЛКИ
• http://azure.microsoft.com/en-us/services/machine-
learning/
• https://www.coursera.org/courses?orderby=upcoming&
cats=cs-ai
• http://bit.ly/1zTTKrF - Data Science Dojo tutorials!
• http://kaggle.com
СПАСИБО !
• Blog: http://merle-amber.blogspot.com
• Kharkiv AI Club: http://aikharkov.wordpress.com/
• Skype: alex_konduforov
• @konduforov

More Related Content

Similar to Machine Learning and Azure Machine Learning

AzovDevMeetup 2016 | Машинное обучение, параллельные и распределённые вычисле...
AzovDevMeetup 2016 | Машинное обучение, параллельные и распределённые вычисле...AzovDevMeetup 2016 | Машинное обучение, параллельные и распределённые вычисле...
AzovDevMeetup 2016 | Машинное обучение, параллельные и распределённые вычисле...JSC “Arcadia Inc”
 
20160323 Пример бизнес-приложения контроля качества в розничной торговле
20160323 Пример бизнес-приложения контроля качества в розничной торговле20160323 Пример бизнес-приложения контроля качества в розничной торговле
20160323 Пример бизнес-приложения контроля качества в розничной торговлеAndrew Sovtsov
 
разработка бизнес приложений (7)
разработка бизнес приложений (7)разработка бизнес приложений (7)
разработка бизнес приложений (7)Alexander Gornik
 
презентация (сухачев и аверьянова)
презентация (сухачев и аверьянова)презентация (сухачев и аверьянова)
презентация (сухачев и аверьянова)ISUIA
 
System Thinking basics
System Thinking basicsSystem Thinking basics
System Thinking basicsIvan Padabed
 
презентация
презентация презентация
презентация ISUIA
 
"Живой" корпоративный портал - возможности, разработки и опыт
"Живой" корпоративный портал - возможности, разработки и опыт"Живой" корпоративный портал - возможности, разработки и опыт
"Живой" корпоративный портал - возможности, разработки и опытMiroslav Botsula
 
Геймификация процесса обучения и обмена знаниями в Газпром нефть
Геймификация процесса обучения и обмена знаниями в Газпром нефтьГеймификация процесса обучения и обмена знаниями в Газпром нефть
Геймификация процесса обучения и обмена знаниями в Газпром нефтьHR&Trainings EXPO
 
TMPA-2013 Petrenko Pakulin: Technical Solutions and Non-Technical Challenges ...
TMPA-2013 Petrenko Pakulin: Technical Solutions and Non-Technical Challenges ...TMPA-2013 Petrenko Pakulin: Technical Solutions and Non-Technical Challenges ...
TMPA-2013 Petrenko Pakulin: Technical Solutions and Non-Technical Challenges ...Iosif Itkin
 
Сергей Маглюй о пользе Больших Данных
Сергей Маглюй о пользе Больших ДанныхСергей Маглюй о пользе Больших Данных
Сергей Маглюй о пользе Больших ДанныхTania Akinina
 
SCM video v2 no comm
SCM video v2 no commSCM video v2 no comm
SCM video v2 no commmikeshagiev
 
Machine Learning as a Service
Machine Learning as a ServiceMachine Learning as a Service
Machine Learning as a Serviceelpisglobal
 
Прошлое, настоящее и будущее автоматизации HR
Прошлое, настоящее и будущее автоматизации HRПрошлое, настоящее и будущее автоматизации HR
Прошлое, настоящее и будущее автоматизации HRMirapolis
 
моделир и формал
моделир и формалмоделир и формал
моделир и формалelenash584
 
Масштабирование от клиента к серверу. От РМД к хранилищам и от хранилищ к sem...
Масштабирование от клиента к серверу. От РМД к хранилищам и от хранилищ к sem...Масштабирование от клиента к серверу. От РМД к хранилищам и от хранилищ к sem...
Масштабирование от клиента к серверу. От РМД к хранилищам и от хранилищ к sem...Marcus Akoev
 
Data Mining - lecture 1 - 2014
Data Mining - lecture 1 - 2014Data Mining - lecture 1 - 2014
Data Mining - lecture 1 - 2014Andrii Gakhov
 
Концепция применения онтологических структур в ERP-системах
Концепция применения онтологических структур в ERP-системахКонцепция применения онтологических структур в ERP-системах
Концепция применения онтологических структур в ERP-системахAnatoly Simkin
 
А кем будете вы?
А кем будете вы?А кем будете вы?
А кем будете вы?Maria Makarova
 
Больше чем анализ
Больше чем анализБольше чем анализ
Больше чем анализSQALab
 
67 - Spring. Начальные знания
67 - Spring. Начальные знания67 - Spring. Начальные знания
67 - Spring. Начальные знанияRoman Brovko
 

Similar to Machine Learning and Azure Machine Learning (20)

AzovDevMeetup 2016 | Машинное обучение, параллельные и распределённые вычисле...
AzovDevMeetup 2016 | Машинное обучение, параллельные и распределённые вычисле...AzovDevMeetup 2016 | Машинное обучение, параллельные и распределённые вычисле...
AzovDevMeetup 2016 | Машинное обучение, параллельные и распределённые вычисле...
 
20160323 Пример бизнес-приложения контроля качества в розничной торговле
20160323 Пример бизнес-приложения контроля качества в розничной торговле20160323 Пример бизнес-приложения контроля качества в розничной торговле
20160323 Пример бизнес-приложения контроля качества в розничной торговле
 
разработка бизнес приложений (7)
разработка бизнес приложений (7)разработка бизнес приложений (7)
разработка бизнес приложений (7)
 
презентация (сухачев и аверьянова)
презентация (сухачев и аверьянова)презентация (сухачев и аверьянова)
презентация (сухачев и аверьянова)
 
System Thinking basics
System Thinking basicsSystem Thinking basics
System Thinking basics
 
презентация
презентация презентация
презентация
 
"Живой" корпоративный портал - возможности, разработки и опыт
"Живой" корпоративный портал - возможности, разработки и опыт"Живой" корпоративный портал - возможности, разработки и опыт
"Живой" корпоративный портал - возможности, разработки и опыт
 
Геймификация процесса обучения и обмена знаниями в Газпром нефть
Геймификация процесса обучения и обмена знаниями в Газпром нефтьГеймификация процесса обучения и обмена знаниями в Газпром нефть
Геймификация процесса обучения и обмена знаниями в Газпром нефть
 
TMPA-2013 Petrenko Pakulin: Technical Solutions and Non-Technical Challenges ...
TMPA-2013 Petrenko Pakulin: Technical Solutions and Non-Technical Challenges ...TMPA-2013 Petrenko Pakulin: Technical Solutions and Non-Technical Challenges ...
TMPA-2013 Petrenko Pakulin: Technical Solutions and Non-Technical Challenges ...
 
Сергей Маглюй о пользе Больших Данных
Сергей Маглюй о пользе Больших ДанныхСергей Маглюй о пользе Больших Данных
Сергей Маглюй о пользе Больших Данных
 
SCM video v2 no comm
SCM video v2 no commSCM video v2 no comm
SCM video v2 no comm
 
Machine Learning as a Service
Machine Learning as a ServiceMachine Learning as a Service
Machine Learning as a Service
 
Прошлое, настоящее и будущее автоматизации HR
Прошлое, настоящее и будущее автоматизации HRПрошлое, настоящее и будущее автоматизации HR
Прошлое, настоящее и будущее автоматизации HR
 
моделир и формал
моделир и формалмоделир и формал
моделир и формал
 
Масштабирование от клиента к серверу. От РМД к хранилищам и от хранилищ к sem...
Масштабирование от клиента к серверу. От РМД к хранилищам и от хранилищ к sem...Масштабирование от клиента к серверу. От РМД к хранилищам и от хранилищ к sem...
Масштабирование от клиента к серверу. От РМД к хранилищам и от хранилищ к sem...
 
Data Mining - lecture 1 - 2014
Data Mining - lecture 1 - 2014Data Mining - lecture 1 - 2014
Data Mining - lecture 1 - 2014
 
Концепция применения онтологических структур в ERP-системах
Концепция применения онтологических структур в ERP-системахКонцепция применения онтологических структур в ERP-системах
Концепция применения онтологических структур в ERP-системах
 
А кем будете вы?
А кем будете вы?А кем будете вы?
А кем будете вы?
 
Больше чем анализ
Больше чем анализБольше чем анализ
Больше чем анализ
 
67 - Spring. Начальные знания
67 - Spring. Начальные знания67 - Spring. Начальные знания
67 - Spring. Начальные знания
 

More from Alexander Konduforov

More from Alexander Konduforov (8)

Recommender systems for E-commerce
Recommender systems for E-commerceRecommender systems for E-commerce
Recommender systems for E-commerce
 
Fast data munging in R
Fast data munging in RFast data munging in R
Fast data munging in R
 
ИИ персонажей в онлайн шутере Survarium
ИИ персонажей в онлайн шутере SurvariumИИ персонажей в онлайн шутере Survarium
ИИ персонажей в онлайн шутере Survarium
 
Real-time ASP.NET with SignalR
Real-time ASP.NET with SignalRReal-time ASP.NET with SignalR
Real-time ASP.NET with SignalR
 
Design Principles
Design PrinciplesDesign Principles
Design Principles
 
New in Entity Framework 4.0
New in Entity Framework 4.0New in Entity Framework 4.0
New in Entity Framework 4.0
 
ASP.NET MVC: new era?
ASP.NET MVC: new era?ASP.NET MVC: new era?
ASP.NET MVC: new era?
 
Ling to SQL and Entity Framework performance analysis
Ling to SQL and Entity Framework performance analysisLing to SQL and Entity Framework performance analysis
Ling to SQL and Entity Framework performance analysis
 

Machine Learning and Azure Machine Learning

Editor's Notes

  1. Область исследования
  2. Обучаем машину на примерах (данные) Алгоритм сохраняет «знания» о примерах во внутренней математической модели Предсказываем новые данные, используя обученную модель