supervised learning reinforcement learning unsupervised learning deep learning

1. ‫לומדות‬ ‫מערכות‬
Igor Kleiner
Lecture 2/ Part 1
‫למידה‬ ‫סוגי‬
2017

2. Types of Learning
•‫מהנתונים‬ ‫למידה‬ ‫היא‬ ‫למידה‬ ‫של‬ ‫העיקרית‬ ‫המטרה‬

3. Types of Learning
•‫מהנתונים‬ ‫למידה‬ ‫היא‬ ‫למידה‬ ‫של‬ ‫העיקרית‬ ‫המטרה‬
•‫אספקטים‬ ‫המון‬ ‫בתוכו‬ ‫ומכיל‬ ‫מורכב‬ ‫די‬ ‫התחום‬

4. Types of Learning
•‫מהנתונים‬ ‫למידה‬ ‫היא‬ ‫למידה‬ ‫של‬ ‫העיקרית‬ ‫המטרה‬
•‫אספקטים‬ ‫המון‬ ‫בתוכו‬ ‫ומכיל‬ ‫מורכב‬ ‫די‬ ‫התחום‬
•‫למידה‬ ‫בעיות‬ ‫לפתרון‬ ‫שונות‬ ‫גישות‬ ‫מספר‬ ‫קיים‬

5. Types of Learning
•‫מהנתונים‬ ‫למידה‬ ‫היא‬ ‫למידה‬ ‫של‬ ‫העיקרית‬ ‫המטרה‬
•‫אספקטים‬ ‫המון‬ ‫בתוכו‬ ‫ומכיל‬ ‫מורכב‬ ‫די‬ ‫התחום‬
•‫למידה‬ ‫בעיות‬ ‫לפתרון‬ ‫שונות‬ ‫גישות‬ ‫מספר‬ ‫קיים‬
Reinforcement Learning
Unsupervised LearningSupervised Learning

6. Supervised Learning
‫מורה‬ ‫עם‬ ‫למידה‬
•‫ל‬ ‫בנוסף‬ ‫כאשר‬-X‫תגיות‬ ‫גם‬ ‫נתונים‬ ‫קלט‬ ‫נתוני‬Y

7. ‫תזכורת‬

8. Supervised Learning
‫מורה‬ ‫עם‬ ‫למידה‬
•‫ל‬ ‫בנוסף‬ ‫כאשר‬-X‫תגיות‬ ‫גם‬ ‫נתונים‬ ‫קלט‬ ‫נתוני‬Y
•‫למשל‬:‫ספרות‬ ‫זיהוי‬ ‫בעיית‬

9. Supervised Learning
‫מורה‬ ‫עם‬ ‫למידה‬
•‫ל‬ ‫בנוסף‬ ‫כאשר‬-X‫תגיות‬ ‫גם‬ ‫נתונים‬ ‫קלט‬ ‫נתוני‬Y
•‫למשל‬:‫ספרות‬ ‫זיהוי‬ ‫בעיית‬
0 1 2 3 4 5 6 7 8 9

10. Supervised Learning
‫מורה‬ ‫עם‬ ‫למידה‬
•‫ל‬ ‫בנוסף‬ ‫כאשר‬-X‫תגיות‬ ‫גם‬ ‫נתונים‬ ‫קלט‬ ‫נתוני‬Y
•‫למשל‬:‫לימוד‬ ‫שנות‬ ‫כמות‬ ‫סמך‬ ‫על‬ ‫המשכורת‬ ‫חיזוי‬ ‫בעיית‬

11. Supervised Learning
‫מורה‬ ‫עם‬ ‫למידה‬
•‫ל‬ ‫בנוסף‬ ‫כאשר‬-X‫תגיות‬ ‫גם‬ ‫נתונים‬ ‫קלט‬ ‫נתוני‬Y
•‫למשל‬:‫לימוד‬ ‫שנות‬ ‫כמות‬ ‫סמך‬ ‫על‬ ‫המשכורת‬ ‫חיזוי‬ ‫בעיית‬

12. Supervised Learning
‫מורה‬ ‫עם‬ ‫למידה‬
•‫ל‬ ‫בנוסף‬ ‫כאשר‬-X‫תגיות‬ ‫גם‬ ‫נתונים‬ ‫קלט‬ ‫נתוני‬Y
•‫למשל‬:‫לימוד‬ ‫שנות‬ ‫כמות‬ ‫סמך‬ ‫על‬ ‫המשכורת‬ ‫חיזוי‬ ‫בעיית‬

13. Supervised Learning
‫מורה‬ ‫עם‬ ‫למידה‬
•‫ל‬ ‫בנוסף‬ ‫כאשר‬-X‫תגיות‬ ‫גם‬ ‫נתונים‬ ‫קלט‬ ‫נתוני‬Y
•‫למשל‬:‫לימוד‬ ‫שנות‬ ‫כמות‬ ‫סמך‬ ‫על‬ ‫המשכורת‬ ‫חיזוי‬ ‫בעיית‬

14. Supervised Learning
‫מורה‬ ‫עם‬ ‫למידה‬
•‫ל‬ ‫בנוסף‬ ‫כאשר‬-X‫תגיות‬ ‫גם‬ ‫נתונים‬ ‫קלט‬ ‫נתוני‬Y
•‫למשל‬:‫לימוד‬ ‫שנות‬ ‫כמות‬ ‫סמך‬ ‫על‬ ‫המשכורת‬ ‫חיזוי‬ ‫בעיית‬
f‫פונקציה‬ ‫לא‬

15. Supervised Learning
‫מורה‬ ‫עם‬ ‫למידה‬
•‫המון‬ ‫יש‬ ‫ולכן‬ ‫מהנפוצים‬ ‫אחד‬ ‫הוא‬ ‫למידה‬ ‫של‬ ‫זה‬ ‫סוג‬
‫בו‬ ‫מחקר‬ ‫עבודות‬
•‫מהקורס‬ ‫ניכר‬ ‫חלק‬ ‫לו‬ ‫נקדיש‬ ‫אנו‬

16. Supervised Learning
Active Learning
•‫פעילה‬ ‫למידה‬:
•‫קלט‬ ‫בוחרים‬ ‫אנו‬x‫של‬ ‫ערך‬ ‫מהו‬ ‫ושאלים‬ ‫מעניין‬y‫מתאים‬
•‫שאפשר‬ ‫כמה‬ ‫פעמים‬ ‫מספר‬ ‫התהליך‬ ‫על‬ ‫חוזרים‬ ‫אנו‬ ‫ואז‬‫צריך‬
‫כדי‬‫טוב‬ ‫ללמוד‬‫פונקציה‬f
•‫למידה‬ ‫למטרת‬ ‫בנוסף‬ ‫כאן‬,‫דרך‬ ‫מהי‬ ‫שאלה‬ ‫לשאול‬ ‫גם‬ ‫אפשר‬
‫את‬ ‫לבוחר‬ ‫אופטימלית‬x‫שאלות‬ ‫כמות‬ ‫למזער‬ ‫כדי‬ ‫ים‬

18. Y‫פריט‬ ‫כל‬ ‫של‬ ‫צבע‬

19. Online Learning
•‫אמת‬ ‫בזמן‬ ‫מגיעים‬ ‫הנתונים‬(‫רציף‬ ‫באופן‬)‫והאלגוריתם‬
‫הנתונים‬ ‫כל‬ ‫סמך‬ ‫על‬ ‫הזמן‬ ‫כל‬ ‫ללמוד‬ ‫ממשיך‬ ‫למידה‬
‫עכשיו‬ ‫עד‬ ‫צבר‬ ‫שהוא‬

20. Unsupervised Learning
‫מורה‬ ‫בלי‬ ‫למידה‬
•‫קלט‬ ‫רק‬ ‫נתון‬X‫תיוגים‬ ‫ללא‬Y

21. Unsupervised Learning
‫מורה‬ ‫בלי‬ ‫למידה‬
•‫קלט‬ ‫רק‬ ‫נתון‬X‫תיוגים‬ ‫ללא‬Y

22. Unsupervised Learning
‫מורה‬ ‫בלי‬ ‫למידה‬
•‫קלט‬ ‫רק‬ ‫נתון‬X‫תיוגים‬ ‫ללא‬Y

23. Unsupervised Learning
‫מורה‬ ‫בלי‬ ‫למידה‬
•‫קלט‬ ‫רק‬ ‫נתון‬X‫תיוגים‬ ‫ללא‬Y
•‫תיוג‬ ‫ללא‬ ‫הנתונים‬ ‫על‬ ‫יעיל‬ ‫משהו‬ ‫ללמוד‬ ‫ניתן‬ ‫בכלל‬ ‫האם‬?

24. Unsupervised Learning
‫מורה‬ ‫בלי‬ ‫למידה‬
•‫קלט‬ ‫רק‬ ‫נתון‬X‫תיוגים‬ ‫ללא‬Y
•‫תיוג‬ ‫ללא‬ ‫הנתונים‬ ‫על‬ ‫יעיל‬ ‫משהו‬ ‫ללמוד‬ ‫ניתן‬ ‫בכלל‬ ‫האם‬?
•‫אשכולות‬ ‫יש‬ ‫האם‬ ‫ללמוד‬ ‫אפשר‬ ‫למשל‬(clusters)‫בנתונים‬?

25. Unsupervised Learning
‫מורה‬ ‫בלי‬ ‫למידה‬
•‫קלט‬ ‫רק‬ ‫נתון‬X‫תיוגים‬ ‫ללא‬Y
•‫תיוג‬ ‫ללא‬ ‫הנתונים‬ ‫על‬ ‫יעיל‬ ‫משהו‬ ‫ללמוד‬ ‫ניתן‬ ‫בכלל‬ ‫האם‬?
•‫אשכולות‬ ‫יש‬ ‫האם‬ ‫ללמוד‬ ‫אפשר‬ ‫למשל‬(clusters)‫בנתונים‬?
‫ילדים‬ ‫נשים‬
‫גברים‬

26. Reinforcement Learning
‫חיזוקים‬ ‫עם‬ ‫למידה‬
•‫דטה‬ ‫של‬ ‫תיוגים‬ ‫ברשותנו‬ ‫אין‬ ‫לפעמים‬
•‫מסוימת‬ ‫במדיניות‬ ‫לנקות‬ ‫יכולים‬ ‫אנו‬ ‫מסוים‬ ‫קלט‬ ‫בהינתן‬ ‫אבל‬
‫לא‬ ‫או‬ ‫טובה‬ ‫התוצאה‬ ‫האם‬ ‫ולהסתכל‬,‫את‬ ‫להחליש‬ ‫או‬ ‫לחזק‬ ‫וכך‬
‫ההתנהגות‬
(input, output, some grade for output)
•‫כאשר‬ ‫חמים‬ ‫בדברים‬ ‫לגעת‬ ‫כשאי‬ ‫שלא‬ ‫להבין‬ ‫למדנו‬ ‫דומה‬ ‫באופן‬
‫קטנים‬ ‫הינו‬

27. Reinforcement Learning
‫חיזוקים‬ ‫עם‬ ‫למידה‬
•‫נוח‬ ‫מאוד‬ ‫חיזוקים‬ ‫עם‬ ‫למידה‬,‫למשל‬,‫למחשב‬ ‫לתת‬ ‫רוצים‬ ‫כאשר‬
‫משחק‬ ‫ללמוד‬
•‫פעמים‬ ‫הרבה‬ ‫עצמו‬ ‫נגד‬ ‫לשחק‬ ‫יכול‬ ‫המחשב‬,‫לשחק‬ ‫איך‬ ‫וללמוד‬
‫טוב‬

28. Reinforcement Learning
‫חיזוקים‬ ‫עם‬ ‫למידה‬
•‫נוספים‬ ‫שימושים‬:
•‫רובוטיקה‬
•‫מחשב‬ ‫משחקי‬
•‫אמת‬ ‫בזמן‬ ‫מורכבות‬ ‫מערכות‬ ‫תפעול‬
•‫למידה‬ ‫אופן‬:‫ושיפור‬ ‫התנסות‬
‫לחשמל‬ ‫בפקולטה‬ ‫בטכניון‬ ‫קורס‬

29. Deep Learning
‫עמוקה‬ ‫למידה‬
•‫המודל‬:‫פרמטרים‬ ‫של‬ ‫רב‬ ‫מספר‬ ‫עם‬ ‫שכבתית‬ ‫רב‬ ‫עצבית‬ ‫רשת‬
‫נלמדים‬

30. ‫לסיכום‬

31. ‫כיתה‬ ‫תרגיל‬
‫הבאות‬ ‫בעיות‬ ‫מה‬ ‫אחד‬ ‫כל‬ ‫את‬ ‫סווג‬:
•‫פסנתר‬ ‫על‬ ‫לשחק‬ ‫רובוט‬ ‫למידה‬

32. ‫כיתה‬ ‫תרגיל‬
‫הבאות‬ ‫בעיות‬ ‫מה‬ ‫אחד‬ ‫כל‬ ‫את‬ ‫סווג‬:
•‫לא‬ ‫או‬ ‫הלוואה‬ ‫לא‬ ‫לתת‬ ‫האם‬ ‫לקוח‬ ‫נתוני‬ ‫סמך‬ ‫על‬ ‫להחליט‬

33. ‫כיתה‬ ‫תרגיל‬
‫הבאות‬ ‫בעיות‬ ‫מה‬ ‫אחד‬ ‫כל‬ ‫את‬ ‫סווג‬:
•‫לשחק‬ ‫מחשב‬ ‫ללמד‬GO

34. ‫כיתה‬ ‫תרגיל‬
‫הבאות‬ ‫בעיות‬ ‫מה‬ ‫אחד‬ ‫כל‬ ‫את‬ ‫סווג‬:
•‫סוגים‬ ‫לפי‬ ‫סרטים‬ ‫לסווג‬ ‫מחשב‬ ‫ללמד‬

35. Links
• Course videos: https://goo.gl/osnGa7
• Course slides:
https://www.slideshare.net/igorkleiner5
• Course Facebook group: https://goo.gl/7WzpTU
• email: igkleiner@gmail.com