Демистификация нейронных сетей. Принципы работы и применение для бизнеса

1. Дмитрий
Гузенко
www.itea.ua
◆ Инструктор IT Education Academy
◆ Analyst at Luxoft
◆ Спикер IT Pro Network
КОНТАКТНЫЕ ДАННЫЕ
fb.com/dmitry.guzenko
d.guzenko@outlook.com

2. Neural Network
www.itea.ua

3. Го́тфрид Ви́льгельм
Ле́йбниц — саксонский
философ, логик, математик,
механик, физик, юрист,
историк, дипломат,
изобретатель и языковед
«Everything proceeds mathematically...if
someone could have a sufficient insight into the
inner parts of things, and in addition had
remembrance and intelligence enough to
consider all the circumstances and take them
into account, he would be a prophet and see the
future in the present as in a mirror»

4. www.itea.ua

6. Персоны сегодня
Томас Миколов — известный специалист по машинному обучению.
Сейчас он работает в исследовательской группе Facebook, которая
занимается искусственным интеллектом (Facebook AI Research).
Yoshua Bengio (born 1964 in France) is
a Canadian computer scientist, most noted for his work
on artificial neural networks and deep learning
www.itea.ua

7. Персоны сегодня
Ян Лекун (англ. Yann LeCun) — французский учёный в области информатики,
основные сферы деятельности — машинное обучение, компьютерное зрение,
мобильная робототехника и вычислительная нейробиология
В декабре 2013 года возглавил лабораторию искусственного
интеллекта Facebook в Нью-Йорке
Microsoft создаёт подразделение на 5 тысяч человек для работы с
искусственным интеллектом: Cortana, Bing, Ambient Computing и Robotics
Гарри Шум, глава Microsoft Research (Office, Xbox, HoloLens, Windows)
www.itea.ua

8. www.itea.ua
Human NN vs Artificial NN

9. Human NN vs Artificial NN
www.itea.ua

10. www.itea.ua
Модель математического
нейрона 1940 г.
Мак-Каллока-Питтса
Human NN vs Artificial NN

11. Human NN vs Artificial NN
www.itea.ua

12. Human NN vs Artificial NN
www.itea.ua
https://towardsdatascience.com/neural-network-architectures-156e5bad51ba

13. www.itea.ua
2
1
0
0
2
1
80
60
20
3
1
= 80*2 + 60*1 + 20*0 = 240
= 80*0 + 60*2 + 20*1 = 200
240
200
0,6
0,4
0,6
0,4

14. К
www.itea.ua
Линейно разделимые множества и линейно
неразделимые множества

15. 1 Neuron = Logistic Regression
www.itea.ua

16. www.itea.ua

17. Demo
https://playground.tensorflow.org
www.itea.ua

18. 1 Neuron = Logistic Regression
www.itea.ua

19. К
www.itea.ua

20. К
www.itea.ua

21. К
www.itea.ua

22. К
www.itea.ua

23. Problems
www.itea.ua
Nonlinear
Intervariable relationship
Universal approximation theorem
Kolmogorov-Gabor

24. К
www.itea.ua

25. К
www.itea.ua

26. К
www.itea.ua

27. Activation functions
www.itea.ua

28. К
www.itea.ua

29. К
www.itea.ua

30. www.itea.ua

31. К
www.itea.ua

32. База данных MNIST (сокращение от «Modified National
Institute of Standards and Technology») — объёмная
база данных образцов рукописного написания цифр.
База данных является стандартом,
предложенным Национальным институтом стандартов
и технологий США с целью калибрации и
сопоставления методов распознавания изображений с
помощью машинного обучения в первую очередь на
основе нейронных сетей
www.itea.ua

33. Perceptron
www.itea.ua

34. www.itea.ua

35. www.itea.ua

36. www.itea.ua
Vector 1
X001...X784
Vector 2
X001...X784
Weights
Result = F ( [x001 … x784] * [w001 … w784] )

37. www.itea.ua

38. КImage classification
www.itea.ua

39. КAnother good challenge
www.itea.ua

40. Deep Convolutional Neural Networks
www.itea.ua

41. www.itea.ua

42. www.itea.ua

43. www.itea.ua

44. www.itea.ua

45. Image classification
www.itea.ua

46. Image classification
www.itea.ua

47. GoogLeNet
www.itea.ua

48. Diagnosing Cancer with Deep Learning
www.itea.ua

49. www.itea.ua

50. www.itea.ua

51. www.itea.ua

52. E-Commerce
www.itea.ua

53. CNN ML
www.itea.ua

54. https://www.face2gene.com/
Detect Phenotypes & Reveal Relevant
Facial and Non-facial Features

55. IBM Watson
IBM Watson поможет лечить детей с редкими
заболеваниями

56. IBM Watson

57. IBM Watson: Пример визуализации данных пациента по сравнению с аналогичными пациентами.

58. Предсказание
https://www.theguardian.com/cities/2014/jun/25/predicting-crime-lapd-los-angeles-police-data-analysis-algorithm-minority-report
Los Angeles Police Department
 13 миллионов правонарушений
 80 лет наблюдений
 Точность построения карты опасных
участков составляла 150×150 метров.
Data Set
Evaluation

59. Предсказание
преступлений
https://www.theguardian.com/cities/2014/jun/25/predicting-crime-lapd-los-angeles-police-data-analysis-algorithm-minority-report
PREDPOL DOES:
 Increase Law Enforcement’s odds of stopping crime
 Predict WHERE and WHEN crime is most likely to
occur
 Work for both large and small agencies
 Help new officers on-board quicker
 Make it easy to access predictions anywhere and
anytime
PREDPOL DOES NOT:
o Map out past crimes or another ‘hotspot’ tool
o Predict WHO will commit crimes
o Use PII, eliminating civil liberties issues
o Replace law enforcement veterans or analyst’s’
intuition and experience
o Require additional hiring or new hardware in order
to use

60. Recurrent Neural Network

61. www.itea.ua

62. www.itea.ua

64. www.itea.ua

65. www.itea.ua

66. Word2Vec
www.itea.ua

67. Word2Vec
www.itea.ua

68. Перевод

69. Encoder Decoder Neural Network
www.itea.ua

70. www.itea.ua
Encoder Decoder Neural Network

71. www.itea.ua
Encoder Decoder Neural Network
Compact
Input
Features

72. www.itea.ua
https://becominghuman.ai/cheat-sheets-for-ai-neural-networks-machine-learning-deep-learning-big-data-678c51b4b463

73. www.itea.ua

74. https://www.datavizualization.datasciencecentral.com/blog/open-source-deep-learning-frameworks-and-visual-analytics
Open Source Deep Learning Frameworks

75. КUseful links
www.itea.ua
• https://www.analyticsvidhya.com/blog/2017/10/fundamentals-deep-learning-
activation-functions-when-to-use-them/ – activation basics
• https://dashee87.github.io/data%20science/deep%20learning/visualising-
activation-functions-in-neural-networks/ – activation visualization
• http://www.cs.ox.ac.uk/people/nando.defreitas/machinelearning/ – Oxford
Deep Learning Course
• https://youtu.be/e-PjrvruzxU - Modern Deep Learning Trends (my view)

76. Questions?
www.itea.ua

77. ITEA
ул. Смоленская, 31-33, корп.3
Киев
03005
+38 044 590 08 38
facebook.com/Itea
info@itea.ua
itea.ua
КОНТАКТНЫЕ
ДАННЫЕ