SlideShare a Scribd company logo
1 of 70
Download to read offline
Deep Learning zmieniający
branże przemysłu
Mateusz Opala & Andrzej Brożek
Agenda
Sustaining vs. Disruptive Technology
Deep Learning, co to i dlaczego ważne?
Deep Learning w modzie
Deep Learning w innych branżach
Deep Learning
Machine Learning
Przykład: SVM
Deep Learning
Przykład: MLP
Representation
Learning
Przykład: RBM
AI
Przykład: Systemy
ekspertowe
asd
System
regułowy
Input
asd
Hand
designed
program
asdOutput
asdInput
asd
Hand
designed
features
asd
Mapping
from
features
asdOutput
asdInput
asdFeatures
asd
Mapping
from
features
asdOutput
asdInput
asd
Simple
features
asd
More
abstract
features
asd
Mapping
from
features
asdOutput
Machine
Learning
Representation
Learning
Deep
Learning
◦ Dużo danych
◦ Bardzo elastyczne modele
◦ Priory pozwalające na zwalczenie
“curse of dimensionality”
Kluczowe składniki systemu ML
Curse of Dimensionality
Curse of dimensionality - przykład Breakout i Q-table
◦ Q(s, a) to najlepszy możliwy wynik na końcu gry po
wykonaniu akcji a w stanie s
◦ W procesie uczenia uzupełniamy Q-table
◦ Rozważmy grę w Breakout składającą się z 4 ekranów
◦ Ekrany są w skali szarości i mają wymiary 84 x 84
States
Network
Q-value 1 Q-value 2 Q-value 3
Deep Q-Network
Input Layer
84 x 84 x 4
Conv Layer
8 x 8 x 32
ReLU
Conv Layer
4 x 4 x 64
ReLU
Conv Layer
3 x 3 x 64
ReLU
Dense Layer
512
ReLU
Dense Layer
18
Softmax
Dlaczego zainteresować się Deep
Learningiem?
“
Last year, the cost of a top, world-class
deep learning expert was about the
same as a top NFL quarterback
prospect.
Peter Lee, Head of Microsoft Research, 2014
Deep Learning w modzie
Jak łączyć dostawców treści ze sklepami?
~ 6%
Hipoteza: reklamowanie podobnych
produktów do obecnych na zdjęciu
zwiększy conversion rate
~ 14%
Search
Engine
Content Based Image Retrieval
Zadania do rozwiązania
◦ Detekcja ubrania
◦ Wyszukanie podobnego ubrania
▫ Stworzenie deskryptora
▫ Przeszukiwanie bazy danych
Detekcja obiektu
DRESS HEELS
BAG
● Klasyfikacja i regresja
● Klasyfikacja
ConvNet
Final conv
feature maps
Classification
head
Regression
head
Region
proposals
Crop & warp
ConvNet
Final conv
feature maps
Classifier
Wyszukiwanie podobnych ubrań
Jak nauczyć się dobrego
deskryptora do wyszukiwania?
Deep Rank - Siamese Network
Deep Rank - Siamese Network
Deep Rank - oczekiwania
Deep Rank - problemy
Deep Rank - podsumowanie
◦ Wymaga dużej ilości danych
◦ W rzeczywistym przypadku użycia
nie jest wystarczająco dobry
◦ https://github.com/paucarre/tiefvi
sion
◦ Bardzo prosty do
zaimplementowania
Długość
Sylwetka
Rękawy
Symetryczność
Kolor
Uczenie atrybutów ubrań explicite
Klasyfikator atrybutu
ConvNet
0.1
0.2
0.7
mini
mini
mini
Ale wykrycie koloru wymaga
segmentacji
DRESS HEELS
BAG
Deconvolutional Neural Networks
Normal VGG “Upside down”
VGG
Wyszukiwanie
◦ Dla każdego atrybutu otrzymujemy rozkład
prawdopodobieństwa
◦ Deskryptor koloru liczymy tylko na pixelach
zawartych w masce z segmentacji
◦ Możemy przy pomocy konkatenacji
uzyskać jeden wektor
◦ Takie wektory możemy porównywać za
pomocą cosine similarity
Inne przykłady
Content Based Recommender Systems - cold start problem
Film Użytkownik 1 Użytkownik 2
Pearl Harbor 5 4
Titanic 4 5
Dunkierka ? ?
Dude, gdzie moja
bryka?
2 1
Matrix
Factorization
Manifold reprezentacji filmów Encoder
Przykład: MLP
Pearl Harbor
Dunkierka
Disruption
Rynek dysków twardych
Sustaining v. disruptive technology
Podtrzymujące v. przełomowe technologie
Sustaining - wykorzystanie
technologii do spełnienia oczekiwań
rynku ma z reguły sens (i nie da się
inaczej*)
*The External Control of Organizations: A Resource Dependence Perspective (Stanford Business Classics)
- Jeffrey Pfeffer
Survival bias
Większość obecnych zastosowań
deep learningu nie jest disruptive w
oryginalnym znaczeniu tego terminu
ale to nie znaczy, że nie czekają nas
przełomy
Potrzeby rynku v. możliwości
technologii
Sustaining v. disruptive
(Prawdopodobnie) niewykorzystany potencjał komercyjny
◦ Deep reinforcement learning
◦ Neural Turing Machines
◦ Generative Adversarial Networks
◦ i wiele innych
https://tryolabs.com/blog/2016/12/06/major-advancements-deep-learning-2016/
Deep learning jest *równocześnie
sustaining i disruptive
*W zależności od kontekstu
Czy bycie disruptive jest w ogóle
dobrym celem? - *niekoniecznie
ZZe
*Zero to One - Peter Thiel
Co począć?
Małe ryzyko
Mała nagroda
Duże ryzyko
Duża nagroda
Średnie ryzyko
Średnia nagroda
*Low risk
Small reward
High risk
*High reward
Medium risk
Medium reward
**Boring
*Nassim Nicholas Taleb **Andrew Brozek
Q&A

More Related Content

Similar to SFI 2017: Deep Learning zmieniający branże przemysłu

GET.NET - Osiołkowi w żłobie dano, czyli o tym jak hostować aplikacje na Mic...
GET.NET -  Osiołkowi w żłobie dano, czyli o tym jak hostować aplikacje na Mic...GET.NET -  Osiołkowi w żłobie dano, czyli o tym jak hostować aplikacje na Mic...
GET.NET - Osiołkowi w żłobie dano, czyli o tym jak hostować aplikacje na Mic...Michal Furmankiewicz
 
Testowanie bezpieczeństwa aplikacji mobilnych
Testowanie bezpieczeństwa aplikacji mobilnychTestowanie bezpieczeństwa aplikacji mobilnych
Testowanie bezpieczeństwa aplikacji mobilnychSlawomir Jasek
 
Czym jest złożoność ?
Czym jest złożoność ?Czym jest złożoność ?
Czym jest złożoność ?GOG.com dev team
 
Konrad Gadzina: Test-Driven Gamedev - testy automatyczne a tworzenie gier
Konrad Gadzina: Test-Driven Gamedev - testy automatyczne a tworzenie gierKonrad Gadzina: Test-Driven Gamedev - testy automatyczne a tworzenie gier
Konrad Gadzina: Test-Driven Gamedev - testy automatyczne a tworzenie gierGameDesire Academy
 
Shall we play a game? PL version
Shall we play a game? PL versionShall we play a game? PL version
Shall we play a game? PL versionMaciej Lasyk
 
Architektura serwera gier online
Architektura serwera gier onlineArchitektura serwera gier online
Architektura serwera gier onlineMaciej Mróz
 
Patterns for organic architecture
Patterns for organic architecturePatterns for organic architecture
Patterns for organic architectureJaroslaw Palka
 
Space Wars Hack - Class #1
Space Wars Hack - Class #1Space Wars Hack - Class #1
Space Wars Hack - Class #1Piotr Pawlak
 
Optymalizacja hostingu
Optymalizacja hostinguOptymalizacja hostingu
Optymalizacja hostinguDivante
 
C++ w programowaniu gier
C++ w programowaniu gierC++ w programowaniu gier
C++ w programowaniu gierAdam Sawicki
 
The story of GOG.com Cache - PHPers 2014 ( PL )
 The story of GOG.com Cache - PHPers 2014 ( PL ) The story of GOG.com Cache - PHPers 2014 ( PL )
The story of GOG.com Cache - PHPers 2014 ( PL )GOG.com dev team
 
Pułapki programowania obiektowego
Pułapki programowania obiektowego Pułapki programowania obiektowego
Pułapki programowania obiektowego Adam Sawicki
 
Girls in It - Front-end & Back-end. Jak zacząć
Girls in It - Front-end & Back-end. Jak zacząćGirls in It - Front-end & Back-end. Jak zacząć
Girls in It - Front-end & Back-end. Jak zacząćmonterail
 
Presentation about AVLRescue - Android application for detecting avlanches (i...
Presentation about AVLRescue - Android application for detecting avlanches (i...Presentation about AVLRescue - Android application for detecting avlanches (i...
Presentation about AVLRescue - Android application for detecting avlanches (i...wm36
 
Serverless w Chmurze. Azure Functions vs AWS Lambda. Porównanie dwóch najwięk...
Serverless w Chmurze. Azure Functions vs AWS Lambda. Porównanie dwóch najwięk...Serverless w Chmurze. Azure Functions vs AWS Lambda. Porównanie dwóch najwięk...
Serverless w Chmurze. Azure Functions vs AWS Lambda. Porównanie dwóch najwięk...Michal Furmankiewicz
 

Similar to SFI 2017: Deep Learning zmieniający branże przemysłu (20)

User Experience – wpływ internetu na aplikacje enterprise - Netcamp #14
User Experience – wpływ internetu na aplikacje enterprise - Netcamp #14User Experience – wpływ internetu na aplikacje enterprise - Netcamp #14
User Experience – wpływ internetu na aplikacje enterprise - Netcamp #14
 
GET.NET - Osiołkowi w żłobie dano, czyli o tym jak hostować aplikacje na Mic...
GET.NET -  Osiołkowi w żłobie dano, czyli o tym jak hostować aplikacje na Mic...GET.NET -  Osiołkowi w żłobie dano, czyli o tym jak hostować aplikacje na Mic...
GET.NET - Osiołkowi w żłobie dano, czyli o tym jak hostować aplikacje na Mic...
 
Testowanie bezpieczeństwa aplikacji mobilnych
Testowanie bezpieczeństwa aplikacji mobilnychTestowanie bezpieczeństwa aplikacji mobilnych
Testowanie bezpieczeństwa aplikacji mobilnych
 
Czym jest złożoność ?
Czym jest złożoność ?Czym jest złożoność ?
Czym jest złożoność ?
 
Konrad Gadzina: Test-Driven Gamedev - testy automatyczne a tworzenie gier
Konrad Gadzina: Test-Driven Gamedev - testy automatyczne a tworzenie gierKonrad Gadzina: Test-Driven Gamedev - testy automatyczne a tworzenie gier
Konrad Gadzina: Test-Driven Gamedev - testy automatyczne a tworzenie gier
 
Shall we play a game? PL version
Shall we play a game? PL versionShall we play a game? PL version
Shall we play a game? PL version
 
Architektura serwera gier online
Architektura serwera gier onlineArchitektura serwera gier online
Architektura serwera gier online
 
[JUG] JCuda
[JUG] JCuda[JUG] JCuda
[JUG] JCuda
 
Patterns for organic architecture
Patterns for organic architecturePatterns for organic architecture
Patterns for organic architecture
 
Space Wars Hack - Class #1
Space Wars Hack - Class #1Space Wars Hack - Class #1
Space Wars Hack - Class #1
 
Optymalizacja hostingu
Optymalizacja hostinguOptymalizacja hostingu
Optymalizacja hostingu
 
C++ w programowaniu gier
C++ w programowaniu gierC++ w programowaniu gier
C++ w programowaniu gier
 
The story of GOG.com Cache - PHPers 2014 ( PL )
 The story of GOG.com Cache - PHPers 2014 ( PL ) The story of GOG.com Cache - PHPers 2014 ( PL )
The story of GOG.com Cache - PHPers 2014 ( PL )
 
Pułapki programowania obiektowego
Pułapki programowania obiektowego Pułapki programowania obiektowego
Pułapki programowania obiektowego
 
Jak bardzo techniczny musi być tester?
Jak bardzo techniczny musi być tester?Jak bardzo techniczny musi być tester?
Jak bardzo techniczny musi być tester?
 
Praktyki techniczne
Praktyki technicznePraktyki techniczne
Praktyki techniczne
 
university day 1
university day 1university day 1
university day 1
 
Girls in It - Front-end & Back-end. Jak zacząć
Girls in It - Front-end & Back-end. Jak zacząćGirls in It - Front-end & Back-end. Jak zacząć
Girls in It - Front-end & Back-end. Jak zacząć
 
Presentation about AVLRescue - Android application for detecting avlanches (i...
Presentation about AVLRescue - Android application for detecting avlanches (i...Presentation about AVLRescue - Android application for detecting avlanches (i...
Presentation about AVLRescue - Android application for detecting avlanches (i...
 
Serverless w Chmurze. Azure Functions vs AWS Lambda. Porównanie dwóch najwięk...
Serverless w Chmurze. Azure Functions vs AWS Lambda. Porównanie dwóch najwięk...Serverless w Chmurze. Azure Functions vs AWS Lambda. Porównanie dwóch najwięk...
Serverless w Chmurze. Azure Functions vs AWS Lambda. Porównanie dwóch najwięk...
 

SFI 2017: Deep Learning zmieniający branże przemysłu