SlideShare a Scribd company logo
1 of 35
Deeplearning4j - Twój krok w stronę głębokiego
uczenia w Javie
Rzeszów, 24.04.2019
Kim jestem?
Dariusz Zbyrad
Java, Groovy Developer
Agenda
• Czym jest Machine Learning i Deep Learning
• Podstawy sieci neuronowych i uczenia głębokiego
• DeepLearning4j
• Q & A
• Automatyczne wyostrzanie obrazów (https://github.com/alexjc/neural-enhance)
• Automatyczne powiększanie obrazów (https://github.com/nagadomi/waifu2x)
• Generowanie mowy imitującej głos dowolnej osoby (https://deepmind.com/blog/wavenet-
generative-model-raw-audio)
• Rekonstrukcja głosu do niemego filmu (http://www.vision.huji.ac.il/vid2speech)
• Wypełnianie brakujących fragmentów obrazów (https://bamos.github.io/2016/08/09/deep-
completion)
• Przekształcanie odręcznych bazgrołów na stylizowane dzieła sztuki
(https://github.com/alexjc/neural-doodle)
Przykłady wykorzystania Deep Learningu
Zacznijmy od początku…
Artificial Intelligence
Machine Learning
Deep learning
Uczenie maszynowe – jak to działa?
ModelTrening
wejście wyjście
ModelPredykcja
wejście wyjście
Uczenie maszynowe - proces
1. Pobieranie
danych
3. Trenowanie
modelu
2. Czyszczenie
i przygotowa-
nie danych
4. Testowanie
modelu
5. Ulepszanie
Sztuczne sieci neuronowe - neuron
Źródło: https://cs231n.github.io/neural-networks-1/
Sztuczne sieci neuronowe - funkcje aktywacji
Sztuczne sieci neuronowe – funkcja straty
Sztuczne sieci neuronowe – przykładowa architektura
Warstwa
ukryta
Warstwa
ukryta
Warstwa
wejściowa
Warstwa
wyjściowa
Deep Learning
Filtry
Filtry
Konwolucyjne sieci neuronowe (CNN) – operacja
konwolucji
Źródło: https://towardsdatascience.com/applied-deep-learning-part-4-convolutional-neural-networks-584bc134c1e2
Konwolucyjne sieci neuronowe (CNN)
Źródło: https://www.mathworks.com/videos/introduction-to-deep-learning-what-are-convolutional-neural-networks--1489512765771.html
Hiperparametry
• Wielkość warstwy
• Ranga (impet, szybkość uczenia)
• Regularyzacja (Dropout, L1, L2)
• Aktywacja
• Strategia inicjalizacji wag
• Funkcja straty
• Wielkość minipaczki
• Schemat normalizacji danych wejściowych
Deeplearning4j
• nd4j (+libnd4j)
• datavec
• deeplearning4j
• arbiter
• pydatavec
• pydl4j
• rl4j
• scalnet
Deeplearning4j – co piszczy w trawie?
Live Coding
Deeplearning4j – CUDA & cuDNN
• ETL
• Uczenie (i predykcja) współbieżne
• Nd4j <-> mlib
Deeplearning4j – SPARK
Deeplearning4j – KERAS
Deeplearning4j – Serwer UI
Deep Learning – lek na wszystko?
• Prostsze modele (np. regresja) nie pozwalają uzyskać żądanego poziomu
dokładności w danej sytuacji
• Do przetwarzania obrazów, języka naturalnego
• Dane mają miele wymiarów
• Szeregi czasowe
Deep Learning – kiedy stosować?
• Dane są wysokiej jakości i mają mało wymiarów
• Nie jest wymagane wyszukiwanie skomplikowanych wzorców w obrazach
Deep Learning – kiedy NIE stosowć?
Przegląd rozwiązań chmurowych dla ML - AWS
Źródło: https://aws.amazon.com/blogs/machine-learning/announcing-the-artificial-intelligence-ai-hackathon-build-intelligent-applications-using-
machine-learning-apis-and-serverless/
• BOOK: Deep Learning: A Practitioner's
Approach
• CS231n Convolutional Neural Networks for
Visual Recognition
(https://cs231n.github.io/)
Pytania
Dziękuje za uwagę
Dariusz Zbyrad
Java Software Developer
dariusz.zbyrad@gmail.com

More Related Content

Featured

How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024Albert Qian
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsKurio // The Social Media Age(ncy)
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Search Engine Journal
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summarySpeakerHub
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next Tessa Mero
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentLily Ray
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best PracticesVit Horky
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project managementMindGenius
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...RachelPearson36
 
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...Applitools
 
12 Ways to Increase Your Influence at Work
12 Ways to Increase Your Influence at Work12 Ways to Increase Your Influence at Work
12 Ways to Increase Your Influence at WorkGetSmarter
 
Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...
Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...
Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...DevGAMM Conference
 
Barbie - Brand Strategy Presentation
Barbie - Brand Strategy PresentationBarbie - Brand Strategy Presentation
Barbie - Brand Strategy PresentationErica Santiago
 
Good Stuff Happens in 1:1 Meetings: Why you need them and how to do them well
Good Stuff Happens in 1:1 Meetings: Why you need them and how to do them wellGood Stuff Happens in 1:1 Meetings: Why you need them and how to do them well
Good Stuff Happens in 1:1 Meetings: Why you need them and how to do them wellSaba Software
 
Introduction to C Programming Language
Introduction to C Programming LanguageIntroduction to C Programming Language
Introduction to C Programming LanguageSimplilearn
 

Featured (20)

How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
 
How to have difficult conversations
How to have difficult conversations How to have difficult conversations
How to have difficult conversations
 
Introduction to Data Science
Introduction to Data ScienceIntroduction to Data Science
Introduction to Data Science
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best Practices
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project management
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
 
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
Unlocking the Power of ChatGPT and AI in Testing - A Real-World Look, present...
 
12 Ways to Increase Your Influence at Work
12 Ways to Increase Your Influence at Work12 Ways to Increase Your Influence at Work
12 Ways to Increase Your Influence at Work
 
ChatGPT webinar slides
ChatGPT webinar slidesChatGPT webinar slides
ChatGPT webinar slides
 
More than Just Lines on a Map: Best Practices for U.S Bike Routes
More than Just Lines on a Map: Best Practices for U.S Bike RoutesMore than Just Lines on a Map: Best Practices for U.S Bike Routes
More than Just Lines on a Map: Best Practices for U.S Bike Routes
 
Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...
Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...
Ride the Storm: Navigating Through Unstable Periods / Katerina Rudko (Belka G...
 
Barbie - Brand Strategy Presentation
Barbie - Brand Strategy PresentationBarbie - Brand Strategy Presentation
Barbie - Brand Strategy Presentation
 
Good Stuff Happens in 1:1 Meetings: Why you need them and how to do them well
Good Stuff Happens in 1:1 Meetings: Why you need them and how to do them wellGood Stuff Happens in 1:1 Meetings: Why you need them and how to do them well
Good Stuff Happens in 1:1 Meetings: Why you need them and how to do them well
 
Introduction to C Programming Language
Introduction to C Programming LanguageIntroduction to C Programming Language
Introduction to C Programming Language
 

DeepLearning4j - your step into the world of deep learning in Java

  • 1.
  • 2. Deeplearning4j - Twój krok w stronę głębokiego uczenia w Javie Rzeszów, 24.04.2019
  • 4. Agenda • Czym jest Machine Learning i Deep Learning • Podstawy sieci neuronowych i uczenia głębokiego • DeepLearning4j • Q & A
  • 5. • Automatyczne wyostrzanie obrazów (https://github.com/alexjc/neural-enhance) • Automatyczne powiększanie obrazów (https://github.com/nagadomi/waifu2x) • Generowanie mowy imitującej głos dowolnej osoby (https://deepmind.com/blog/wavenet- generative-model-raw-audio) • Rekonstrukcja głosu do niemego filmu (http://www.vision.huji.ac.il/vid2speech) • Wypełnianie brakujących fragmentów obrazów (https://bamos.github.io/2016/08/09/deep- completion) • Przekształcanie odręcznych bazgrołów na stylizowane dzieła sztuki (https://github.com/alexjc/neural-doodle) Przykłady wykorzystania Deep Learningu
  • 6. Zacznijmy od początku… Artificial Intelligence Machine Learning Deep learning
  • 7. Uczenie maszynowe – jak to działa? ModelTrening wejście wyjście ModelPredykcja wejście wyjście
  • 8. Uczenie maszynowe - proces 1. Pobieranie danych 3. Trenowanie modelu 2. Czyszczenie i przygotowa- nie danych 4. Testowanie modelu 5. Ulepszanie
  • 9. Sztuczne sieci neuronowe - neuron Źródło: https://cs231n.github.io/neural-networks-1/
  • 10. Sztuczne sieci neuronowe - funkcje aktywacji
  • 11. Sztuczne sieci neuronowe – funkcja straty
  • 12. Sztuczne sieci neuronowe – przykładowa architektura Warstwa ukryta Warstwa ukryta Warstwa wejściowa Warstwa wyjściowa
  • 13.
  • 17. Konwolucyjne sieci neuronowe (CNN) – operacja konwolucji Źródło: https://towardsdatascience.com/applied-deep-learning-part-4-convolutional-neural-networks-584bc134c1e2
  • 18. Konwolucyjne sieci neuronowe (CNN) Źródło: https://www.mathworks.com/videos/introduction-to-deep-learning-what-are-convolutional-neural-networks--1489512765771.html
  • 19. Hiperparametry • Wielkość warstwy • Ranga (impet, szybkość uczenia) • Regularyzacja (Dropout, L1, L2) • Aktywacja • Strategia inicjalizacji wag • Funkcja straty • Wielkość minipaczki • Schemat normalizacji danych wejściowych
  • 20.
  • 22. • nd4j (+libnd4j) • datavec • deeplearning4j • arbiter • pydatavec • pydl4j • rl4j • scalnet Deeplearning4j – co piszczy w trawie?
  • 25. • ETL • Uczenie (i predykcja) współbieżne • Nd4j <-> mlib Deeplearning4j – SPARK
  • 28. Deep Learning – lek na wszystko?
  • 29. • Prostsze modele (np. regresja) nie pozwalają uzyskać żądanego poziomu dokładności w danej sytuacji • Do przetwarzania obrazów, języka naturalnego • Dane mają miele wymiarów • Szeregi czasowe Deep Learning – kiedy stosować?
  • 30. • Dane są wysokiej jakości i mają mało wymiarów • Nie jest wymagane wyszukiwanie skomplikowanych wzorców w obrazach Deep Learning – kiedy NIE stosowć?
  • 31. Przegląd rozwiązań chmurowych dla ML - AWS Źródło: https://aws.amazon.com/blogs/machine-learning/announcing-the-artificial-intelligence-ai-hackathon-build-intelligent-applications-using- machine-learning-apis-and-serverless/
  • 32.
  • 33. • BOOK: Deep Learning: A Practitioner's Approach • CS231n Convolutional Neural Networks for Visual Recognition (https://cs231n.github.io/)
  • 35. Dziękuje za uwagę Dariusz Zbyrad Java Software Developer dariusz.zbyrad@gmail.com

Editor's Notes

  1. Roger Penrose stwierdził
  2. Dwa wzory matematyczne. Roger Penrose stwierdził
  3. Z czym Wam się kojarzy DL?
  4. Jak jest różnica między DL, ML, AI? AI – jakiekolwiek techniki, które pomagają komputerowi myśleć jak człowiek `50 ML – zdolność komputerów to uczenia bez bezpośredniego pogramowania `80 DL – 2010
  5. Uczenie nadzorowane, powiedzieć o pozostałych
  6. 2. ETL - extract, transform, load 3. Podział na testowy i treningowy
  7. Przykład z wagą + wzrostem -> otyły 1/0
  8. Uczenie głębokie: Wiele warstw Dostępna większa moc obliczeniowa Większe zbiory uczenia
  9. Ogólnie o bibliotece, kiedy powstała i kto ją stworzył
  10. MNIST + UI ETL ZOO
  11. Apply patch do MNIST
  12. Przykładowe układy prezentacji tekstu z wykresem DaxPro-Regular 24