SlideShare a Scribd company logo

Metody Deep Learning - Wykład 2

•Download as PPTX, PDF•
•
Craftinity
Craftinity

Druga część wykładów na temat deep learning i uczenia maszynowego. Prowadzone były na AGH, przez firme Craftinity (Craftinity.com), razem z kołem naukowym BIT (http://knbit.edu.pl/pl/)

Data & Analytics
1 of 23
Metody Deep Learning Wykład 2 http://arxiv.org/pdf/1502.01852.pdf
Przypomnienie
Artificial neuron c.d ● Neuron pre-activation ● Neuron activation ● - wagi ● - bias ● - funkcja aktywacji (activation function)
Funkcje aktywacji
Binarna klasyfikacja
Klasyfikacja
Klasyfikacja
Multi-layered neural networks
Zaczynamy
Mathematical Optimization ● wiki: “[...] finding "best available" values of some objective function given [...] a set of constraints [...]”
Gradient Descent
Gradient Descent
Gradient Descent ● gwarancja zbieżności do minimum lokalnego ● łatwe do implementacji ● działa dobrze w praktyce
Gradient Descent
NN objective (cost) function Błąd średnio kwadratowy (mean square error) Entropia krzyżowa (cross entropy)
Wyprowadzenie Powtórka z analizy:
Wyprowadzenie Powtórka z analizy:
Feedforward
Backpropagation
Warianty gradient descent
Homework

Recommended

Metody Deep Learning - Wykład 6
Metody Deep Learning - Wykład 6Metody Deep Learning - Wykład 6
Metody Deep Learning - Wykład 6Craftinity
 
Metody Deep Learning - Wykład 1
Metody Deep Learning - Wykład 1Metody Deep Learning - Wykład 1
Metody Deep Learning - Wykład 1Craftinity
 
Metody Deep Learning - Wykład 7
Metody Deep Learning - Wykład 7Metody Deep Learning - Wykład 7
Metody Deep Learning - Wykład 7Craftinity
 
Metody Deep Learning - Wykład 5
Metody Deep Learning - Wykład 5Metody Deep Learning - Wykład 5
Metody Deep Learning - Wykład 5Craftinity
 
(Azure) Machine Learning 2015
(Azure) Machine Learning 2015(Azure) Machine Learning 2015
(Azure) Machine Learning 2015Tomasz Kopacz
 
Metody Deep Learning - Wykład 3
Metody Deep Learning - Wykład 3Metody Deep Learning - Wykład 3
Metody Deep Learning - Wykład 3Craftinity
 
Predicting the risk of suicide using clinical notes
Predicting the risk of suicide using clinical notesPredicting the risk of suicide using clinical notes
Predicting the risk of suicide using clinical notesŻaneta Michalak
 
Metody Deep Learning - Wykład 4
Metody Deep Learning - Wykład 4Metody Deep Learning - Wykład 4
Metody Deep Learning - Wykład 4Craftinity
 

Recommended

Metody Deep Learning - Wykład 6
Metody Deep Learning - Wykład 6Metody Deep Learning - Wykład 6
Metody Deep Learning - Wykład 6Craftinity
 
Metody Deep Learning - Wykład 1
Metody Deep Learning - Wykład 1Metody Deep Learning - Wykład 1
Metody Deep Learning - Wykład 1Craftinity
 
Metody Deep Learning - Wykład 7
Metody Deep Learning - Wykład 7Metody Deep Learning - Wykład 7
Metody Deep Learning - Wykład 7Craftinity
 
Metody Deep Learning - Wykład 5
Metody Deep Learning - Wykład 5Metody Deep Learning - Wykład 5
Metody Deep Learning - Wykład 5Craftinity
 
(Azure) Machine Learning 2015
(Azure) Machine Learning 2015(Azure) Machine Learning 2015
(Azure) Machine Learning 2015Tomasz Kopacz
 
Metody Deep Learning - Wykład 3
Metody Deep Learning - Wykład 3Metody Deep Learning - Wykład 3
Metody Deep Learning - Wykład 3Craftinity
 
Predicting the risk of suicide using clinical notes
Predicting the risk of suicide using clinical notesPredicting the risk of suicide using clinical notes
Predicting the risk of suicide using clinical notesŻaneta Michalak
 
Metody Deep Learning - Wykład 4
Metody Deep Learning - Wykład 4Metody Deep Learning - Wykład 4
Metody Deep Learning - Wykład 4Craftinity
 
To co powinniście wiedzieć o Machine Learning
To co powinniście wiedzieć o Machine LearningTo co powinniście wiedzieć o Machine Learning
To co powinniście wiedzieć o Machine Learning3camp
 
Machine learning - hot or not?
Machine learning - hot or not?Machine learning - hot or not?
Machine learning - hot or not?mjaskowski
 
Machine learning and Big Data (lecture in Polish)
Machine learning and Big Data (lecture in Polish)Machine learning and Big Data (lecture in Polish)
Machine learning and Big Data (lecture in Polish)Michal Iwanowski
 
Hacking Internet of Things
Hacking Internet of ThingsHacking Internet of Things
Hacking Internet of ThingsSecuRing
 
Wyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary Glijer
Wyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary GlijerWyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary Glijer
Wyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary GlijerCezary Glijer
 
Prezentacja z Big Data Tech 2016: Machine Learning vs Big Data
Prezentacja z Big Data Tech 2016: Machine Learning vs Big DataPrezentacja z Big Data Tech 2016: Machine Learning vs Big Data
Prezentacja z Big Data Tech 2016: Machine Learning vs Big DataBartlomiej Twardowski
 

More Related Content

Viewers also liked

To co powinniście wiedzieć o Machine Learning
To co powinniście wiedzieć o Machine LearningTo co powinniście wiedzieć o Machine Learning
To co powinniście wiedzieć o Machine Learning3camp
 
Machine learning - hot or not?
Machine learning - hot or not?Machine learning - hot or not?
Machine learning - hot or not?mjaskowski
 
Machine learning and Big Data (lecture in Polish)
Machine learning and Big Data (lecture in Polish)Machine learning and Big Data (lecture in Polish)
Machine learning and Big Data (lecture in Polish)Michal Iwanowski
 
Hacking Internet of Things
Hacking Internet of ThingsHacking Internet of Things
Hacking Internet of ThingsSecuRing
 
Wyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary Glijer
Wyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary GlijerWyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary Glijer
Wyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary GlijerCezary Glijer
 
Prezentacja z Big Data Tech 2016: Machine Learning vs Big Data
Prezentacja z Big Data Tech 2016: Machine Learning vs Big DataPrezentacja z Big Data Tech 2016: Machine Learning vs Big Data
Prezentacja z Big Data Tech 2016: Machine Learning vs Big DataBartlomiej Twardowski
 

Viewers also liked (6)

To co powinniście wiedzieć o Machine Learning
To co powinniście wiedzieć o Machine LearningTo co powinniście wiedzieć o Machine Learning
To co powinniście wiedzieć o Machine Learning
 
Machine learning - hot or not?
Machine learning - hot or not?Machine learning - hot or not?
Machine learning - hot or not?
 
Machine learning and Big Data (lecture in Polish)
Machine learning and Big Data (lecture in Polish)Machine learning and Big Data (lecture in Polish)
Machine learning and Big Data (lecture in Polish)
 
Hacking Internet of Things
Hacking Internet of ThingsHacking Internet of Things
Hacking Internet of Things
 
Wyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary Glijer
Wyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary GlijerWyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary Glijer
Wyniki wyszukiwania Google w 2016 - XIX Semcamp Cezary Glijer
 
Prezentacja z Big Data Tech 2016: Machine Learning vs Big Data
Prezentacja z Big Data Tech 2016: Machine Learning vs Big DataPrezentacja z Big Data Tech 2016: Machine Learning vs Big Data
Prezentacja z Big Data Tech 2016: Machine Learning vs Big Data
 

Metody Deep Learning - Wykład 2

Editor's Notes

  1. obliczanie wyjścia w dwóch fazach
  2. zbiór punktów dwuwymiarowych należących do dwóch klas, np. {0,1} rozpatrzenie jednego neuronu z sigmoidą jako funkcją aktywacji wyjście z sigmoidy można traktować jako prawdopodobieństwo, że punkt przynależy do klasy - np.1 zastanowić się, gdzie przebiega granica pomiędzy klasami - jest to linia prosta wniosek: jeden sztuczny neuron działa jako klasyfikator binarny liniowo separując klasy
  3. odchodzimy od sztucznego neuronu inne proste problemy liniowo separowalne
  4. na tablicy oblicz minimum (wyjdzie -3/2)
  5. obliczyć tutaj gradient tej funkcji na tablicy pokazać że niezależnie od pierwszego strzału zabawa ze styczną da dobre wyniki (narysować wykres tan x)