Мы постараемся показать, как любой технический специалист может использовать различные методы машинного обучения в своей повседневной работе. Продемонстрируем специализированные инструменты Classification Learner и Regression Learner для быстрого обучения классификаторов и сравнения точности распознавания. Особе внимание уделим созданию и обучению сверточных нейронных сетей (CNN)
2. 2
Применение машинного обучения
§ Распознавание образов
§ Распознавание речи
§ Предсказание цен
§ Медицинская диагностика
§ Анализ данных
§ Робототехника
§ и многое другое…
[TBD]
3. 3
§ Машинное обучение
– Что такое машинное обучение и зачем нам его использовать?
– Общие сложности при использовании машинного обучения
§ Пример1: Регрессионный анализ
– Прогнозирование прочности бетона
§ Пример2: Изучение активности человека на основе показаний
мобильных телефонов
– Обучение по сенсорным данным
§ Пример3: Классификация сцены
– Обучение по сенсорным данным
План
4. 4
Пример 1: Прогнозирование прочности
бетона
§ Предсказание прочности бетона на
сжатие для данного состава и возраста
Ash,...)Slag,FlyFurnaceBlast
r,Cement,f(Age,WateStrength =
5. 5
Деревья решений
§ Удобны для тех случаев,
когда вид модели
неизвестен.
§ Последовательность
операторов if-then, if-else,
завершающихся
предсказанием ответа
§ Может использоваться как
для классификации так и для
регрессии
1 if Age<21 then node 2 elseif Age>=21
then node 3 else 35.7928
2 if Cement<354.5 then node 4 elseif
Cement>=354.5 then node 5 else 23.3874
3 if Cement<355.95 then node 6 elseif
Cement>=355.95 then node 7 else 41.3278
4 fit = 18.3255
5 fit = 34.9657
6. 6
Машинное обучение
Машинное обучение использует данные и производит
программу для выполнения задачи
Стандартный подход Подход машинного обучения
модель= <
𝑴𝒂𝒄𝒉𝒊𝒏𝒆
𝑳𝒆𝒂𝒓𝒏𝒊𝒏𝒈
алгоритм
>(𝑠𝑒𝑛𝑠𝑜𝑟_𝑑𝑎𝑡𝑎, 𝑎𝑐𝑡𝑖𝑣𝑖𝑡𝑦)
Комп
прогр
Machine
Learnin
g
модель: Вход → Выход
Программа написанная
вручную
Формула или уравнение
If X_acc > 0.5
then “SITTING”
If Y_acc < 4 and Z_acc > 5
then “STANDING”
…
𝑌PQRSTSRU
= 𝛽W 𝑋PQQ + 𝛽Z 𝑌PQQ
+ 𝛽[ 𝑍PQQ +
…
Задача: Определение активности человека
7. 7
Пример 2: Определение активности
человека на основе данных мобильного
телефона
Machine
Learning
Данные:
Ø 3-х осевого
акселерометра
Ø 3-х осевого гироскопа
8. 8
MODEL
ПРЕДСКАЗАНИЯ
Рабочий процесс машинного обучения
Обучение: итеративный процесс, пока не
найдена лучшая модель
Предсказание: Интеграция обученных моделей в приложения
модельОбучение
с учителем
КЛАССИФИКАЦИЯ
РЕГРЕССИЯ
PREPROCESS
DATA
SUMMARY
STATISTICS
PCAFILTERS
CLUSTER
ANALYSIS
Загрузка
данных
Предобработка
SUMMARY
STATISTICS
PCAFILTERS
CLUSTER
ANALYSIS
НОВЫЕ
ДАННЫЕ
9. 9
Пример2: Изучение активности человека на
основе показаний мобильных телефонов
Цель: Обучение классификатора
Data:
Подход:
– Извлечение характеристик из сигналов
датчиков
– Обучение и сравнение классификаторов
– Результаты испытаний на новых данных
датчиков
Предикторы Данные 3-х осевого
акселерометра и гироскопа
Ответ Активность:
10. 10
ПРЕДСКАЗАНИЕМОДЕЛЬ
Рабочий процесс машинного обучения на
примере 1Обучение: итеративный процесс, пока не найдена лучшая модель
Предсказание: Интеграция обученных моделей в приложения
МОДЕЛЬОБУЧЕНИЕ
С УЧИТЕЛЕМ
CLASSIFICATION
REGRESSION
ПРЕДВАРИТЕЛЬНАЯ
ОБРАБОТКА
SUMMARY
STATISTICS
PCAFILTERS
CLUSTER
ANALYSIS
ЗАГРУЗКА
ДАННЫХ
ПРЕДВАРИТЕЛЬНАЯ
ОБРАБОТКА
SUMMARY
STATISTICS
PCAFILTERS
CLUSTER
ANALYSIS
ТЕСТОВЫЕ
ДАННЫЕ
1. Mean
2. Standard
deviation
3. PCA
КЛАССИФИКАЦИЯ
1. Mean
2. Standard
deviation
3. PCA
13. 13
Мешок визуальных слов
0,4
0,8
0,3
0,1
tree sand chair table
0,2
0,1
0,8
0,7
tree sand chair table
Beach Restaurant
Tree, Sand, Chair, Table
Частота слов на
рассматриваемо
м изображении
Определение слов
Количество
вхождений
17. 17
Рабочий процесс глубокого обучения
‘Кот’
Обучаемые данные
Извлечение характеристик
Тестовые данные
Модель классификации
18. 18
Рабочий процесс глубокого обучения
‘Кот’
Обучаемые данные Тестовые данные
Convolutional Neural Network
(CNN)
Feature Learning & Classification
19. 19
Подход в глубоком обучении
…
𝟗𝟓%
𝟑%
l
l
𝟐%
Truckû
Car ü
Bicycleû
l
l
Convolutional Neural Network (CNN)
характеристики
1. Обучить глубокую сеть с нуля
Большие
объемы
данных
New Task
Точная настройка весов сети
Печеньеû
Торт üПредварительно обученная
CNN
Средние
объемы данных
2. Тонкая настройка предварительно подготовленной модели (передача обучения)
20. 20
Подход к Deep Learning
Подход 1: Обучение с нуля
Данные От 1000 до миллиона размеченных изображений
Вычисления Расчеты интенсивные (требуется GPU)
Время обучения
От нескольких дней до нескольких недель для
реальных задач
Точность модели
Высокая (можно переобучиться на малом
наборе)
Рекомендовано в случаях:
…
𝟗𝟓%
𝟑%
l
l
𝟐%
Truckû
Car ü
Bicycleû
l
l
Сверточная сеть (CNN)
Характеристики
21. 21
Демо 4
Тонкая настройка предварительно обученной
модели(Transfer learning)
Пред обученная CNN
(AlexNet – 1000 классов)
Яичница
Сырная тарелка
Новая задача – 4 класса
для классификации
Яблочный пирог
Карпаччо