SlideShare a Scribd company logo
‫לומדות‬ ‫מערכות‬
Igor Kleiner
Lecture 1/ Part 3
‫ממוחשבת‬ ‫למידה‬ ‫מהי‬?‫מדוגמאות‬ ‫למידה‬
2017
‫תזכורת‬
‫למידה‬ ‫מהי‬?
• Skinner pigeon: classical condition example
• https://www.youtube.com/watch?v=TtfQlkGwE2U
‫למידה‬ ‫מהי‬?
• Skinner pigeon: pin pong
• https://www.youtube.com/watch?v=vGazyH6fQQ4
‫למידה‬ ‫מהי‬?
• Skinner pigeon: superstition
• https://www.youtube.com/watch?v=8uPmeWiFTIw
‫למידה‬ ‫מהי‬?
• Skinner pigeon: superstition
• https://www.youtube.com/watch?v=8uPmeWiFTIw
•‫קרא‬ ‫מה‬?
‫למידה‬ ‫מהי‬?
• Skinner pigeon: superstition
• https://www.youtube.com/watch?v=8uPmeWiFTIw
•‫קרא‬ ‫מה‬?
•‫קיים‬ ‫שלא‬ ‫משהו‬ ‫למדה‬ ‫היונה‬,‫רעש‬ ‫למדה‬!
‫למידה‬ ‫מהי‬?
• Skinner pigeon: superstition
• https://www.youtube.com/watch?v=8uPmeWiFTIw
•‫קרא‬ ‫מה‬?
•‫היונה‬‫קיים‬ ‫שלא‬ ‫משהו‬ ‫למדה‬,‫רעש‬ ‫למדה‬!‫יתר‬ ‫למידת‬-overfitting
‫מדוגמאות‬ ‫למידה‬
•‫כלב‬ ‫מהו‬?
‫מדוגמאות‬ ‫למידה‬
•‫כלב‬ ‫מהו‬?
•‫אחר‬ ‫ודבר‬ ‫כלב‬ ‫בין‬ ‫להבדיל‬ ‫יודעים‬ ‫כולנו‬
‫מדוגמאות‬ ‫למידה‬
•‫כלב‬ ‫מהו‬?
•‫אחר‬ ‫ודבר‬ ‫כלב‬ ‫בין‬ ‫להבדיל‬ ‫יודעים‬ ‫כולנו‬
•‫בן‬ ‫לילד‬ ‫נראה‬ ‫אם‬3‫תמונה‬ ‫שנים‬,‫מקרים‬ ‫ברוב‬ ‫להגיד‬ ‫תוכל‬ ‫הוא‬,‫על‬ ‫האם‬
‫לא‬ ‫או‬ ‫כלב‬ ‫יש‬ ‫התמונה‬
‫מדוגמאות‬ ‫למידה‬
•‫כלב‬ ‫מהו‬?
•‫אחר‬ ‫ודבר‬ ‫כלב‬ ‫בין‬ ‫להבדיל‬ ‫יודעים‬ ‫כולנו‬
•‫בן‬ ‫לתינוק‬ ‫נראה‬ ‫אם‬3‫תמונה‬,‫מקרים‬ ‫ברוב‬ ‫להגיד‬ ‫תוכל‬ ‫הוא‬,‫יש‬ ‫התמונה‬ ‫על‬ ‫האם‬
‫לא‬ ‫או‬ ‫כלב‬
•‫הגדרה‬ ‫נקבל‬ ‫לא‬ ‫המקרים‬ ‫ברוב‬ ‫כלב‬ ‫של‬ ‫הגדרה‬ ‫לתת‬ ‫בוגר‬ ‫אדם‬ ‫מבן‬ ‫נבקש‬ ‫אם‬
‫מדויקת‬
‫מדוגמאות‬ ‫למידה‬
•‫שראינו‬ ‫מדוגמאות‬ ‫אלה‬ ‫מדויקות‬ ‫מהגדרות‬ ‫לא‬ ‫כלב‬ ‫מהו‬ ‫למדנו‬ ‫אנו‬
‫מדוגמאות‬ ‫למידה‬
•‫מדוגמאות‬ ‫למידה‬(‫ממוחשבת‬ ‫למידה‬)‫בקורס‬ ‫הרבה‬ ‫נתקל‬ ‫אנו‬ ‫שבו‬ ‫המצב‬ ‫זה‬:
•‫בעיה‬ ‫לנו‬ ‫יש‬,
•‫נתונים‬ ‫יש‬
•‫אנליטי‬ ‫פתרון‬ ‫קיים‬ ‫ולא‬(‫ידוע‬ ‫לא‬ ‫אך‬ ‫קיים‬ ‫או‬)
•‫נתונים‬ ‫בעזרת‬ ‫טוב‬ ‫פתרון‬ ‫למצוא‬ ‫נצטרך‬ ‫אנו‬(‫דוגמאות‬)‫ברשותנו‬ ‫שיש‬
‫מדוגמאות‬ ‫למידה‬
•‫מדוגמאות‬ ‫למידה‬(‫ממוחשבת‬ ‫למידה‬)‫בקורס‬ ‫הרבה‬ ‫נתקל‬ ‫אנו‬ ‫שבו‬ ‫המצב‬ ‫זה‬:
•‫בעיה‬ ‫לנו‬ ‫יש‬,
•‫נתונים‬ ‫יש‬
•‫אנליטי‬ ‫פתרון‬ ‫קיים‬ ‫ולא‬(‫ידוע‬ ‫לא‬ ‫אך‬ ‫קיים‬ ‫או‬)
•‫למצוא‬ ‫נצטרך‬ ‫אנו‬‫טוב‬ ‫פתרון‬‫נתונים‬ ‫בעזרת‬(‫דוגמאות‬)‫ברשותנו‬ ‫שיש‬
‫הלוואה‬ ‫בעיית‬
•‫למידה‬ ‫בעיית‬ ‫מפורמליזציה‬ ‫נתחיל‬
•‫פשוטה‬ ‫יחסית‬ ‫בבעיה‬ ‫נסתכל‬ ‫כך‬ ‫לשם‬:‫הלוואה‬ ‫בעיית‬
‫הלוואה‬ ‫בעיית‬
•‫לבנק‬ ‫מגיעים‬ ‫שונים‬ ‫אנשים‬
•‫מסוים‬ ‫ללקוח‬ ‫הלוואה‬ ‫לתת‬ ‫האם‬ ‫להחליט‬ ‫צריך‬ ‫הבנק‬
•‫שלו‬ ‫נתונים‬ ‫יש‬ ‫לקוח‬ ‫לכל‬:‫גיל‬,‫משכורת‬,‫בנקאית‬ ‫היסטוריה‬,‫וכו‬ ‫השכלה‬’
•‫לקוחות‬ ‫של‬ ‫הנתונים‬ ‫את‬ ‫יודע‬ ‫הבנק‬
•‫בעבר‬ ‫הלוואה‬ ‫שקיבלו‬ ‫קודמות‬ ‫לקוחות‬ ‫של‬ ‫ההיסטוריה‬ ‫את‬ ‫יודע‬ ‫גם‬ ‫הבנק‬
‫הלוואה‬ ‫בעיית‬
•‫ב‬ ‫נסמן‬ ‫לקוח‬ ‫של‬ ‫הנתונים‬-x
•‫ב‬ ‫נסמן‬ ‫בנקאי‬ ‫של‬ ‫ההחלטה‬-y(1‫או‬0‫ההלוואה‬ ‫לתת‬ ‫לא‬ ‫או‬ ‫לתת‬)
•‫ידוע‬ ‫לא‬ ‫מטרה‬ ‫פונקצית‬f: X -> Y
‫הלוואה‬ ‫בעיית‬
•‫ב‬ ‫נסמן‬ ‫לקוח‬ ‫של‬ ‫הנתונים‬-x(input):
•‫ב‬ ‫נסמן‬ ‫בנקאי‬ ‫של‬ ‫ההחלטה‬-y(1‫או‬0‫ההלוואה‬ ‫את‬ ‫לא‬ ‫או‬ ‫לתת‬( )output)
•‫ידוע‬ ‫לא‬ ‫מטרה‬ ‫פונקצית‬f: X -> Y
•X–‫הקלטיים‬ ‫מרחב‬(‫לקוחות‬ ‫נתוני‬)
•Y–‫הפלט‬ ‫מרחב‬(‫בנקאי‬ ‫של‬ ‫החלטה‬01)
•D–‫הבעיה‬ ‫נתוני‬ ‫כל‬ ‫אוסף‬:(x1,y1),(x2,y2),….,(xN,yN)‫כאשר‬yi=f(xi)
‫הלוואה‬ ‫בעיית‬
•‫ב‬ ‫נסמן‬ ‫לקוח‬ ‫של‬ ‫הנתונים‬-x(input):features, independent variables
•‫ב‬ ‫נסמן‬ ‫בנקאי‬ ‫של‬ ‫ההחלטה‬-y(0‫או‬1‫ההלוואה‬ ‫את‬ ‫לא‬ ‫או‬ ‫לתת‬( )output)
•‫ידוע‬ ‫לא‬ ‫מטרה‬ ‫פונקצית‬f: X -> Y
•X–‫הקלטיים‬ ‫מרחב‬(‫לקוחות‬ ‫נתוני‬)
•Y–‫הפלט‬ ‫מרחב‬(‫בנקאי‬ ‫של‬ ‫החלטה‬01)
•D–‫הבעיה‬ ‫נתוני‬ ‫כל‬ ‫אוסף‬:(x1,y1),(x2,y2),….,(xN,yN)‫כאשר‬yi=f(xi)
‫הלוואה‬ ‫בעיית‬
•‫ב‬ ‫נסמן‬ ‫לקוח‬ ‫של‬ ‫הנתונים‬-x(input):features, independent variables
•‫ב‬ ‫נסמן‬ ‫בנקאי‬ ‫של‬ ‫ההחלטה‬-y(1‫או‬0‫ההלוואה‬ ‫את‬ ‫לא‬ ‫או‬ ‫לתת‬( )output)
•‫ידוע‬ ‫לא‬ ‫מטרה‬ ‫פונקצית‬f: X -> Y
•X–‫הקלטיים‬ ‫מרחב‬(‫לקוחות‬ ‫נתוני‬)
•Y–‫הפלט‬ ‫מרחב‬(‫בנקאי‬ ‫של‬ ‫החלטה‬01)
•D–‫הבעיה‬ ‫נתוני‬ ‫כל‬ ‫אוסף‬:(x1,y1),(x2,y2),….,(xN,yN)‫כאשר‬yi=f(xi)
data points
‫הלוואה‬ ‫בעיית‬
•‫האלגוריתם‬‫נוסחה‬ ‫לבחור‬ ‫כדי‬ ‫הבעיה‬ ‫בנתוני‬ ‫משתמש‬ ‫למידה‬g:
•g: X -> Y
•‫ש‬ ‫כך‬-g‫תהי‬‫טוב‬ ‫קירוב‬‫ל‬-f
•‫האלגוריתם‬‫בוחר‬g‫נוסחאות‬ ‫של‬ ‫מאוסף‬H(‫השערות‬ ‫של‬ ‫אוסף‬)
•H‫אחד‬ ‫נוסחה‬ ‫רק‬ ‫להכיל‬ ‫יכול‬
•H‫לינאריות‬ ‫נוסחאות‬ ‫כל‬ ‫להכיל‬ ‫יכול‬
‫הלוואה‬ ‫בעיית‬
•‫האלגוריתם‬‫נוסחה‬ ‫לבחור‬ ‫כדי‬ ‫בעיה‬ ‫בנתוני‬ ‫משתמש‬ ‫למידה‬g:
•g: X -> Y
•‫ש‬ ‫כך‬-g‫תהי‬‫טוב‬ ‫קירוב‬‫ל‬-f
•‫האלגוריתם‬‫בוחר‬g‫נוסחאות‬ ‫של‬ ‫מאוסף‬H(‫השערות‬ ‫של‬ ‫אוסף‬)
•H‫אחד‬ ‫נוסחה‬ ‫רק‬ ‫להכיל‬ ‫יכול‬
•H‫לינאריות‬ ‫נוסחאות‬ ‫כל‬ ‫להכיל‬ ‫יכול‬
•‫חדש‬ ‫לקוח‬ ‫מגיע‬ ‫כאשר‬,‫ב‬ ‫ומשמש‬ ‫לקוח‬ ‫בנתוני‬ ‫מסתכל‬ ‫הבנק‬-?‫האם‬ ‫להחליט‬ ‫כדי‬
‫לא‬ ‫או‬ ‫הלוואה‬ ‫ללקוח‬ ‫לתת‬
‫הלוואה‬ ‫בעיית‬
•‫האלגוריתם‬‫נוסחה‬ ‫לבחור‬ ‫כדי‬ ‫בעיה‬ ‫בנתוני‬ ‫משתמש‬ ‫למידה‬g:
•g: X -> Y
•‫ש‬ ‫כך‬-g‫תהי‬‫טוב‬ ‫קירוב‬‫ל‬-f
•‫האלגוריתם‬‫בוחר‬g‫נוסחאות‬ ‫של‬ ‫מאוסף‬H(‫השערות‬ ‫של‬ ‫אוסף‬)
•H‫אחד‬ ‫נוסחה‬ ‫רק‬ ‫להכיל‬ ‫יכול‬
•H‫לינאריות‬ ‫נוסחאות‬ ‫כל‬ ‫להכיל‬ ‫יכול‬
•‫חדש‬ ‫לקוח‬ ‫מגיע‬ ‫כאשר‬,‫ב‬ ‫ומשמש‬ ‫לקוח‬ ‫בנתוני‬ ‫מסתכל‬ ‫הבנק‬-g‫לתת‬ ‫האם‬ ‫להחליט‬ ‫כדי‬
‫לא‬ ‫או‬ ‫הלוואה‬ ‫ללקוח‬
‫הלוואה‬ ‫בעיית‬
•‫האלגוריתם‬‫נוסחה‬ ‫לבחור‬ ‫כדי‬ ‫בעיה‬ ‫בנתוני‬ ‫משתמש‬ ‫למידה‬g:
•g: X -> Y
•‫ש‬ ‫כך‬-g‫תהי‬‫טוב‬ ‫קירוב‬‫ל‬-f
•‫האלגוריתם‬‫בוחר‬g‫נוסחאות‬ ‫של‬ ‫מאוסף‬H(‫השערות‬ ‫של‬ ‫אוסף‬)
•H‫אחד‬ ‫נוסחה‬ ‫רק‬ ‫להכיל‬ ‫יכול‬
•H‫לינאריות‬ ‫נוסחאות‬ ‫כל‬ ‫להכיל‬ ‫יכול‬
•‫ש‬ ‫נרצה‬ ‫אנו‬-g‫יהי‬‫טוב‬ ‫קירוב‬‫ל‬-f
‫פורמלית‬ ‫בצורה‬ ‫למידה‬ ‫בעיית‬ ‫נגדיר‬ ‫כעת‬
‫פורמלית‬ ‫בצורה‬ ‫למידה‬ ‫בעיית‬ ‫נגדיר‬ ‫כעת‬
• Spoiler
‫פורמלית‬ ‫בצורה‬ ‫למידה‬ ‫בעיית‬ ‫נגדיר‬ ‫כעת‬
• Spoiler
‫פורמלית‬ ‫בצורה‬ ‫למידה‬ ‫בעיית‬ ‫נגדיר‬ ‫כעת‬
• Spoiler
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫נוסחה‬(‫השערה‬)
‫סופית‬g
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫נוסחה‬(‫השערה‬)
‫סופית‬g
‫ולא‬ ‫קיים‬
‫שלנו‬ ‫בשליטה‬
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫נוסחה‬(‫השערה‬)
‫סופית‬g
‫ולא‬ ‫קיים‬
‫שלנו‬ ‫בשליטה‬
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫נוסחה‬(‫השערה‬)
‫סופית‬g
‫ולא‬ ‫קיים‬
‫שלנו‬ ‫בשליטה‬
‫בוחרים‬ ‫אנו‬
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫נוסחה‬(‫השערה‬)
‫סופית‬g
‫ולא‬ ‫קיים‬
‫שלנו‬ ‫בשליטה‬
‫בוחרים‬ ‫אנו‬
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫נוסחה‬(‫השערה‬)
‫סופית‬g
‫ולא‬ ‫קיים‬
‫שלנו‬ ‫בשליטה‬
‫בוחרים‬ ‫אנו‬
‫תוצאה‬
‫סופית‬
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫נוסחה‬(‫השערה‬)
‫סופית‬g
‫ולא‬ ‫קיים‬
‫שלנו‬ ‫בשליטה‬
‫בוחרים‬ ‫אנו‬
‫תוצאה‬
‫סופית‬
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫נוסחה‬(‫השערה‬)
‫סופית‬g
‫ולא‬ ‫קיים‬
‫שלנו‬ ‫בשליטה‬
‫בוחרים‬ ‫אנו‬
‫תוצאה‬
‫סופית‬
‫ש‬ ‫מקווים‬-
‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬
‫מטרה‬ ‫פונקציה‬f:X->Y
‫ידוע‬ ‫לא‬ ‫הפונקציה‬
‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬
(x1,y1),(x2,y2),….,(xN,yN)
‫אלגוריתם‬
‫למידה‬A
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫נוסחה‬(‫השערה‬)
‫סופית‬g
‫ולא‬ ‫קיים‬
‫שלנו‬ ‫בשליטה‬
‫בוחרים‬ ‫אנו‬
‫תוצאה‬
‫סופית‬
‫מקווים‬:
f~g
‫הערות‬
•‫יותר‬ ‫מאוחר‬ ‫אותו‬ ‫להשלים‬ ‫ונצטרך‬ ‫מדויק‬ ‫לא‬ ‫הוא‬ ‫שהגדרנו‬ ‫המודל‬
•‫ומרכיביו‬ ‫המודל‬ ‫את‬ ‫להבין‬ ‫חשוב‬
•‫הצורך‬ ‫בעת‬ ‫בו‬ ‫ולהשתמש‬ ‫הציור‬ ‫את‬ ‫להדפיס‬ ‫אפשר‬
• Convex functions
• Linear functions
• Rectangles
• Cubic Splines
• Finite set of given functions
‫נוסחאות‬ ‫אוסף‬(‫השערות‬)
H
‫דוגמא‬
•‫אימיילים‬ ‫של‬ ‫אוסף‬ ‫נתון‬
•‫מכתבי‬ ‫להבדיל‬ ‫שתוכל‬ ‫לומדת‬ ‫מערכת‬ ‫לפתח‬ ‫היא‬ ‫המטרה‬spam‫ממכתבים‬
‫אחרים‬
•‫קבעו‬‫מהו‬:X,Y,f:X->Y
‫דוגמא‬
•‫השכלה‬ ‫שנות‬ ‫כמות‬ ‫סמך‬ ‫על‬ ‫אדם‬ ‫בן‬ ‫של‬ ‫משכורת‬ ‫חיזוי‬
•‫קבעו‬‫מהו‬:X,Y,f:X->Y
‫סיכום‬
‫למידה‬ ‫בעיה‬ ‫להגדרת‬ ‫בסיסים‬ ‫מושגים‬ ‫הגדרנו‬:
‫למידה‬ ‫לבעיה‬ ‫ראשונית‬ ‫מודל‬ ‫הגדרנו‬
Links
Course videos:
https://goo.gl/osnGa7
1
Course slides:
https://www.slideshare.net/igorkl
einer5
2
Course Facebook group:
https://goo.gl/7WzpTU
3
email: igkleiner@gmail.com
4

More Related Content

More from Igor Kleiner

פתרון תרגיל 3
פתרון תרגיל 3פתרון תרגיל 3
פתרון תרגיל 3
Igor Kleiner
 
מבוא לתכנות מדעי: פייתון הרצאה 13
מבוא לתכנות מדעי: פייתון הרצאה 13מבוא לתכנות מדעי: פייתון הרצאה 13
מבוא לתכנות מדעי: פייתון הרצאה 13
Igor Kleiner
 
תכנות מדעי פייתון: הרצאה 12: סיבוכיות
תכנות מדעי פייתון: הרצאה 12: סיבוכיותתכנות מדעי פייתון: הרצאה 12: סיבוכיות
תכנות מדעי פייתון: הרצאה 12: סיבוכיות
Igor Kleiner
 
מבוא לתכנות מדעי: פייתון: הרצאה 11: דבגינג + תכנות דינמי
מבוא לתכנות מדעי: פייתון: הרצאה 11: דבגינג + תכנות דינמימבוא לתכנות מדעי: פייתון: הרצאה 11: דבגינג + תכנות דינמי
מבוא לתכנות מדעי: פייתון: הרצאה 11: דבגינג + תכנות דינמי
Igor Kleiner
 
תכנות מדעי: פייתון: הרצאה 10: : תחום הכרעה
תכנות מדעי: פייתון: הרצאה 10: : תחום הכרעהתכנות מדעי: פייתון: הרצאה 10: : תחום הכרעה
תכנות מדעי: פייתון: הרצאה 10: : תחום הכרעה
Igor Kleiner
 
מבוא לתכנות מדעי: פייתון: הרצאה 9: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 9: 2017מבוא לתכנות מדעי: פייתון: הרצאה 9: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 9: 2017
Igor Kleiner
 
תכנות מדעי: פייתון: הרצאה 8: 2017
תכנות מדעי: פייתון: הרצאה 8:  2017תכנות מדעי: פייתון: הרצאה 8:  2017
תכנות מדעי: פייתון: הרצאה 8: 2017
Igor Kleiner
 
תכנות מדעי: פייתון : הרצאה 7: 2017
תכנות מדעי: פייתון : הרצאה 7: 2017תכנות מדעי: פייתון : הרצאה 7: 2017
תכנות מדעי: פייתון : הרצאה 7: 2017
Igor Kleiner
 
תכנות מדעי: פייתון: הרצאה 6: קבצים, רשימות
תכנות מדעי: פייתון: הרצאה 6: קבצים, רשימותתכנות מדעי: פייתון: הרצאה 6: קבצים, רשימות
תכנות מדעי: פייתון: הרצאה 6: קבצים, רשימות
Igor Kleiner
 
מבוא לתכנות מדעי: פייתון: הרצאה 5: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 5: 2017מבוא לתכנות מדעי: פייתון: הרצאה 5: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 5: 2017
Igor Kleiner
 
מבוא לתכנות מדעי: פייתון: הרצאה 4: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 4: 2017מבוא לתכנות מדעי: פייתון: הרצאה 4: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 4: 2017
Igor Kleiner
 
מבוא לתכנות מדעי: פייתון: הרצאה 3: לולאות
מבוא לתכנות מדעי: פייתון: הרצאה 3: לולאותמבוא לתכנות מדעי: פייתון: הרצאה 3: לולאות
מבוא לתכנות מדעי: פייתון: הרצאה 3: לולאות
Igor Kleiner
 
מבוא לתכנות מדעי: פייתון: הרצאה 2: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 2: 2017מבוא לתכנות מדעי: פייתון: הרצאה 2: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 2: 2017
Igor Kleiner
 
פייתון: הרצאה 1
פייתון: הרצאה 1פייתון: הרצאה 1
פייתון: הרצאה 1
Igor Kleiner
 
למידה ממוכנת פגישה 8
למידה ממוכנת פגישה 8 למידה ממוכנת פגישה 8
למידה ממוכנת פגישה 8
Igor Kleiner
 
מערכות לומדות פגישה 7-1 יער אקראי
מערכות לומדות פגישה 7-1 יער אקראימערכות לומדות פגישה 7-1 יער אקראי
מערכות לומדות פגישה 7-1 יער אקראי
Igor Kleiner
 
מערכות לומדות תרגול 3 עצים
מערכות לומדות תרגול 3 עציםמערכות לומדות תרגול 3 עצים
מערכות לומדות תרגול 3 עצים
Igor Kleiner
 
מערכות לומדות פגישה 6
מערכות לומדות פגישה 6מערכות לומדות פגישה 6
מערכות לומדות פגישה 6
Igor Kleiner
 
מערכות לומדות: תרגילי כיתה 4 ו-5
מערכות לומדות: תרגילי כיתה 4 ו-5מערכות לומדות: תרגילי כיתה 4 ו-5
מערכות לומדות: תרגילי כיתה 4 ו-5
Igor Kleiner
 
מערכות לומדות: תרגיל בית 2
מערכות לומדות: תרגיל בית 2מערכות לומדות: תרגיל בית 2
מערכות לומדות: תרגיל בית 2
Igor Kleiner
 

More from Igor Kleiner (20)

פתרון תרגיל 3
פתרון תרגיל 3פתרון תרגיל 3
פתרון תרגיל 3
 
מבוא לתכנות מדעי: פייתון הרצאה 13
מבוא לתכנות מדעי: פייתון הרצאה 13מבוא לתכנות מדעי: פייתון הרצאה 13
מבוא לתכנות מדעי: פייתון הרצאה 13
 
תכנות מדעי פייתון: הרצאה 12: סיבוכיות
תכנות מדעי פייתון: הרצאה 12: סיבוכיותתכנות מדעי פייתון: הרצאה 12: סיבוכיות
תכנות מדעי פייתון: הרצאה 12: סיבוכיות
 
מבוא לתכנות מדעי: פייתון: הרצאה 11: דבגינג + תכנות דינמי
מבוא לתכנות מדעי: פייתון: הרצאה 11: דבגינג + תכנות דינמימבוא לתכנות מדעי: פייתון: הרצאה 11: דבגינג + תכנות דינמי
מבוא לתכנות מדעי: פייתון: הרצאה 11: דבגינג + תכנות דינמי
 
תכנות מדעי: פייתון: הרצאה 10: : תחום הכרעה
תכנות מדעי: פייתון: הרצאה 10: : תחום הכרעהתכנות מדעי: פייתון: הרצאה 10: : תחום הכרעה
תכנות מדעי: פייתון: הרצאה 10: : תחום הכרעה
 
מבוא לתכנות מדעי: פייתון: הרצאה 9: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 9: 2017מבוא לתכנות מדעי: פייתון: הרצאה 9: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 9: 2017
 
תכנות מדעי: פייתון: הרצאה 8: 2017
תכנות מדעי: פייתון: הרצאה 8:  2017תכנות מדעי: פייתון: הרצאה 8:  2017
תכנות מדעי: פייתון: הרצאה 8: 2017
 
תכנות מדעי: פייתון : הרצאה 7: 2017
תכנות מדעי: פייתון : הרצאה 7: 2017תכנות מדעי: פייתון : הרצאה 7: 2017
תכנות מדעי: פייתון : הרצאה 7: 2017
 
תכנות מדעי: פייתון: הרצאה 6: קבצים, רשימות
תכנות מדעי: פייתון: הרצאה 6: קבצים, רשימותתכנות מדעי: פייתון: הרצאה 6: קבצים, רשימות
תכנות מדעי: פייתון: הרצאה 6: קבצים, רשימות
 
מבוא לתכנות מדעי: פייתון: הרצאה 5: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 5: 2017מבוא לתכנות מדעי: פייתון: הרצאה 5: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 5: 2017
 
מבוא לתכנות מדעי: פייתון: הרצאה 4: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 4: 2017מבוא לתכנות מדעי: פייתון: הרצאה 4: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 4: 2017
 
מבוא לתכנות מדעי: פייתון: הרצאה 3: לולאות
מבוא לתכנות מדעי: פייתון: הרצאה 3: לולאותמבוא לתכנות מדעי: פייתון: הרצאה 3: לולאות
מבוא לתכנות מדעי: פייתון: הרצאה 3: לולאות
 
מבוא לתכנות מדעי: פייתון: הרצאה 2: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 2: 2017מבוא לתכנות מדעי: פייתון: הרצאה 2: 2017
מבוא לתכנות מדעי: פייתון: הרצאה 2: 2017
 
פייתון: הרצאה 1
פייתון: הרצאה 1פייתון: הרצאה 1
פייתון: הרצאה 1
 
למידה ממוכנת פגישה 8
למידה ממוכנת פגישה 8 למידה ממוכנת פגישה 8
למידה ממוכנת פגישה 8
 
מערכות לומדות פגישה 7-1 יער אקראי
מערכות לומדות פגישה 7-1 יער אקראימערכות לומדות פגישה 7-1 יער אקראי
מערכות לומדות פגישה 7-1 יער אקראי
 
מערכות לומדות תרגול 3 עצים
מערכות לומדות תרגול 3 עציםמערכות לומדות תרגול 3 עצים
מערכות לומדות תרגול 3 עצים
 
מערכות לומדות פגישה 6
מערכות לומדות פגישה 6מערכות לומדות פגישה 6
מערכות לומדות פגישה 6
 
מערכות לומדות: תרגילי כיתה 4 ו-5
מערכות לומדות: תרגילי כיתה 4 ו-5מערכות לומדות: תרגילי כיתה 4 ו-5
מערכות לומדות: תרגילי כיתה 4 ו-5
 
מערכות לומדות: תרגיל בית 2
מערכות לומדות: תרגיל בית 2מערכות לומדות: תרגיל בית 2
מערכות לומדות: תרגיל בית 2
 

מערכות לומדות פגישה 1 חלק 3 מהי למידה

  • 1. ‫לומדות‬ ‫מערכות‬ Igor Kleiner Lecture 1/ Part 3 ‫ממוחשבת‬ ‫למידה‬ ‫מהי‬?‫מדוגמאות‬ ‫למידה‬ 2017
  • 3. ‫למידה‬ ‫מהי‬? • Skinner pigeon: classical condition example • https://www.youtube.com/watch?v=TtfQlkGwE2U
  • 4. ‫למידה‬ ‫מהי‬? • Skinner pigeon: pin pong • https://www.youtube.com/watch?v=vGazyH6fQQ4
  • 5. ‫למידה‬ ‫מהי‬? • Skinner pigeon: superstition • https://www.youtube.com/watch?v=8uPmeWiFTIw
  • 6. ‫למידה‬ ‫מהי‬? • Skinner pigeon: superstition • https://www.youtube.com/watch?v=8uPmeWiFTIw •‫קרא‬ ‫מה‬?
  • 7. ‫למידה‬ ‫מהי‬? • Skinner pigeon: superstition • https://www.youtube.com/watch?v=8uPmeWiFTIw •‫קרא‬ ‫מה‬? •‫קיים‬ ‫שלא‬ ‫משהו‬ ‫למדה‬ ‫היונה‬,‫רעש‬ ‫למדה‬!
  • 8. ‫למידה‬ ‫מהי‬? • Skinner pigeon: superstition • https://www.youtube.com/watch?v=8uPmeWiFTIw •‫קרא‬ ‫מה‬? •‫היונה‬‫קיים‬ ‫שלא‬ ‫משהו‬ ‫למדה‬,‫רעש‬ ‫למדה‬!‫יתר‬ ‫למידת‬-overfitting
  • 10. ‫מדוגמאות‬ ‫למידה‬ •‫כלב‬ ‫מהו‬? •‫אחר‬ ‫ודבר‬ ‫כלב‬ ‫בין‬ ‫להבדיל‬ ‫יודעים‬ ‫כולנו‬
  • 11. ‫מדוגמאות‬ ‫למידה‬ •‫כלב‬ ‫מהו‬? •‫אחר‬ ‫ודבר‬ ‫כלב‬ ‫בין‬ ‫להבדיל‬ ‫יודעים‬ ‫כולנו‬ •‫בן‬ ‫לילד‬ ‫נראה‬ ‫אם‬3‫תמונה‬ ‫שנים‬,‫מקרים‬ ‫ברוב‬ ‫להגיד‬ ‫תוכל‬ ‫הוא‬,‫על‬ ‫האם‬ ‫לא‬ ‫או‬ ‫כלב‬ ‫יש‬ ‫התמונה‬
  • 12. ‫מדוגמאות‬ ‫למידה‬ •‫כלב‬ ‫מהו‬? •‫אחר‬ ‫ודבר‬ ‫כלב‬ ‫בין‬ ‫להבדיל‬ ‫יודעים‬ ‫כולנו‬ •‫בן‬ ‫לתינוק‬ ‫נראה‬ ‫אם‬3‫תמונה‬,‫מקרים‬ ‫ברוב‬ ‫להגיד‬ ‫תוכל‬ ‫הוא‬,‫יש‬ ‫התמונה‬ ‫על‬ ‫האם‬ ‫לא‬ ‫או‬ ‫כלב‬ •‫הגדרה‬ ‫נקבל‬ ‫לא‬ ‫המקרים‬ ‫ברוב‬ ‫כלב‬ ‫של‬ ‫הגדרה‬ ‫לתת‬ ‫בוגר‬ ‫אדם‬ ‫מבן‬ ‫נבקש‬ ‫אם‬ ‫מדויקת‬
  • 13. ‫מדוגמאות‬ ‫למידה‬ •‫שראינו‬ ‫מדוגמאות‬ ‫אלה‬ ‫מדויקות‬ ‫מהגדרות‬ ‫לא‬ ‫כלב‬ ‫מהו‬ ‫למדנו‬ ‫אנו‬
  • 14. ‫מדוגמאות‬ ‫למידה‬ •‫מדוגמאות‬ ‫למידה‬(‫ממוחשבת‬ ‫למידה‬)‫בקורס‬ ‫הרבה‬ ‫נתקל‬ ‫אנו‬ ‫שבו‬ ‫המצב‬ ‫זה‬: •‫בעיה‬ ‫לנו‬ ‫יש‬, •‫נתונים‬ ‫יש‬ •‫אנליטי‬ ‫פתרון‬ ‫קיים‬ ‫ולא‬(‫ידוע‬ ‫לא‬ ‫אך‬ ‫קיים‬ ‫או‬) •‫נתונים‬ ‫בעזרת‬ ‫טוב‬ ‫פתרון‬ ‫למצוא‬ ‫נצטרך‬ ‫אנו‬(‫דוגמאות‬)‫ברשותנו‬ ‫שיש‬
  • 15. ‫מדוגמאות‬ ‫למידה‬ •‫מדוגמאות‬ ‫למידה‬(‫ממוחשבת‬ ‫למידה‬)‫בקורס‬ ‫הרבה‬ ‫נתקל‬ ‫אנו‬ ‫שבו‬ ‫המצב‬ ‫זה‬: •‫בעיה‬ ‫לנו‬ ‫יש‬, •‫נתונים‬ ‫יש‬ •‫אנליטי‬ ‫פתרון‬ ‫קיים‬ ‫ולא‬(‫ידוע‬ ‫לא‬ ‫אך‬ ‫קיים‬ ‫או‬) •‫למצוא‬ ‫נצטרך‬ ‫אנו‬‫טוב‬ ‫פתרון‬‫נתונים‬ ‫בעזרת‬(‫דוגמאות‬)‫ברשותנו‬ ‫שיש‬
  • 16. ‫הלוואה‬ ‫בעיית‬ •‫למידה‬ ‫בעיית‬ ‫מפורמליזציה‬ ‫נתחיל‬ •‫פשוטה‬ ‫יחסית‬ ‫בבעיה‬ ‫נסתכל‬ ‫כך‬ ‫לשם‬:‫הלוואה‬ ‫בעיית‬
  • 17. ‫הלוואה‬ ‫בעיית‬ •‫לבנק‬ ‫מגיעים‬ ‫שונים‬ ‫אנשים‬ •‫מסוים‬ ‫ללקוח‬ ‫הלוואה‬ ‫לתת‬ ‫האם‬ ‫להחליט‬ ‫צריך‬ ‫הבנק‬ •‫שלו‬ ‫נתונים‬ ‫יש‬ ‫לקוח‬ ‫לכל‬:‫גיל‬,‫משכורת‬,‫בנקאית‬ ‫היסטוריה‬,‫וכו‬ ‫השכלה‬’ •‫לקוחות‬ ‫של‬ ‫הנתונים‬ ‫את‬ ‫יודע‬ ‫הבנק‬ •‫בעבר‬ ‫הלוואה‬ ‫שקיבלו‬ ‫קודמות‬ ‫לקוחות‬ ‫של‬ ‫ההיסטוריה‬ ‫את‬ ‫יודע‬ ‫גם‬ ‫הבנק‬
  • 18. ‫הלוואה‬ ‫בעיית‬ •‫ב‬ ‫נסמן‬ ‫לקוח‬ ‫של‬ ‫הנתונים‬-x •‫ב‬ ‫נסמן‬ ‫בנקאי‬ ‫של‬ ‫ההחלטה‬-y(1‫או‬0‫ההלוואה‬ ‫לתת‬ ‫לא‬ ‫או‬ ‫לתת‬) •‫ידוע‬ ‫לא‬ ‫מטרה‬ ‫פונקצית‬f: X -> Y
  • 19. ‫הלוואה‬ ‫בעיית‬ •‫ב‬ ‫נסמן‬ ‫לקוח‬ ‫של‬ ‫הנתונים‬-x(input): •‫ב‬ ‫נסמן‬ ‫בנקאי‬ ‫של‬ ‫ההחלטה‬-y(1‫או‬0‫ההלוואה‬ ‫את‬ ‫לא‬ ‫או‬ ‫לתת‬( )output) •‫ידוע‬ ‫לא‬ ‫מטרה‬ ‫פונקצית‬f: X -> Y •X–‫הקלטיים‬ ‫מרחב‬(‫לקוחות‬ ‫נתוני‬) •Y–‫הפלט‬ ‫מרחב‬(‫בנקאי‬ ‫של‬ ‫החלטה‬01) •D–‫הבעיה‬ ‫נתוני‬ ‫כל‬ ‫אוסף‬:(x1,y1),(x2,y2),….,(xN,yN)‫כאשר‬yi=f(xi)
  • 20. ‫הלוואה‬ ‫בעיית‬ •‫ב‬ ‫נסמן‬ ‫לקוח‬ ‫של‬ ‫הנתונים‬-x(input):features, independent variables •‫ב‬ ‫נסמן‬ ‫בנקאי‬ ‫של‬ ‫ההחלטה‬-y(0‫או‬1‫ההלוואה‬ ‫את‬ ‫לא‬ ‫או‬ ‫לתת‬( )output) •‫ידוע‬ ‫לא‬ ‫מטרה‬ ‫פונקצית‬f: X -> Y •X–‫הקלטיים‬ ‫מרחב‬(‫לקוחות‬ ‫נתוני‬) •Y–‫הפלט‬ ‫מרחב‬(‫בנקאי‬ ‫של‬ ‫החלטה‬01) •D–‫הבעיה‬ ‫נתוני‬ ‫כל‬ ‫אוסף‬:(x1,y1),(x2,y2),….,(xN,yN)‫כאשר‬yi=f(xi)
  • 21. ‫הלוואה‬ ‫בעיית‬ •‫ב‬ ‫נסמן‬ ‫לקוח‬ ‫של‬ ‫הנתונים‬-x(input):features, independent variables •‫ב‬ ‫נסמן‬ ‫בנקאי‬ ‫של‬ ‫ההחלטה‬-y(1‫או‬0‫ההלוואה‬ ‫את‬ ‫לא‬ ‫או‬ ‫לתת‬( )output) •‫ידוע‬ ‫לא‬ ‫מטרה‬ ‫פונקצית‬f: X -> Y •X–‫הקלטיים‬ ‫מרחב‬(‫לקוחות‬ ‫נתוני‬) •Y–‫הפלט‬ ‫מרחב‬(‫בנקאי‬ ‫של‬ ‫החלטה‬01) •D–‫הבעיה‬ ‫נתוני‬ ‫כל‬ ‫אוסף‬:(x1,y1),(x2,y2),….,(xN,yN)‫כאשר‬yi=f(xi) data points
  • 22. ‫הלוואה‬ ‫בעיית‬ •‫האלגוריתם‬‫נוסחה‬ ‫לבחור‬ ‫כדי‬ ‫הבעיה‬ ‫בנתוני‬ ‫משתמש‬ ‫למידה‬g: •g: X -> Y •‫ש‬ ‫כך‬-g‫תהי‬‫טוב‬ ‫קירוב‬‫ל‬-f •‫האלגוריתם‬‫בוחר‬g‫נוסחאות‬ ‫של‬ ‫מאוסף‬H(‫השערות‬ ‫של‬ ‫אוסף‬) •H‫אחד‬ ‫נוסחה‬ ‫רק‬ ‫להכיל‬ ‫יכול‬ •H‫לינאריות‬ ‫נוסחאות‬ ‫כל‬ ‫להכיל‬ ‫יכול‬
  • 23. ‫הלוואה‬ ‫בעיית‬ •‫האלגוריתם‬‫נוסחה‬ ‫לבחור‬ ‫כדי‬ ‫בעיה‬ ‫בנתוני‬ ‫משתמש‬ ‫למידה‬g: •g: X -> Y •‫ש‬ ‫כך‬-g‫תהי‬‫טוב‬ ‫קירוב‬‫ל‬-f •‫האלגוריתם‬‫בוחר‬g‫נוסחאות‬ ‫של‬ ‫מאוסף‬H(‫השערות‬ ‫של‬ ‫אוסף‬) •H‫אחד‬ ‫נוסחה‬ ‫רק‬ ‫להכיל‬ ‫יכול‬ •H‫לינאריות‬ ‫נוסחאות‬ ‫כל‬ ‫להכיל‬ ‫יכול‬ •‫חדש‬ ‫לקוח‬ ‫מגיע‬ ‫כאשר‬,‫ב‬ ‫ומשמש‬ ‫לקוח‬ ‫בנתוני‬ ‫מסתכל‬ ‫הבנק‬-?‫האם‬ ‫להחליט‬ ‫כדי‬ ‫לא‬ ‫או‬ ‫הלוואה‬ ‫ללקוח‬ ‫לתת‬
  • 24. ‫הלוואה‬ ‫בעיית‬ •‫האלגוריתם‬‫נוסחה‬ ‫לבחור‬ ‫כדי‬ ‫בעיה‬ ‫בנתוני‬ ‫משתמש‬ ‫למידה‬g: •g: X -> Y •‫ש‬ ‫כך‬-g‫תהי‬‫טוב‬ ‫קירוב‬‫ל‬-f •‫האלגוריתם‬‫בוחר‬g‫נוסחאות‬ ‫של‬ ‫מאוסף‬H(‫השערות‬ ‫של‬ ‫אוסף‬) •H‫אחד‬ ‫נוסחה‬ ‫רק‬ ‫להכיל‬ ‫יכול‬ •H‫לינאריות‬ ‫נוסחאות‬ ‫כל‬ ‫להכיל‬ ‫יכול‬ •‫חדש‬ ‫לקוח‬ ‫מגיע‬ ‫כאשר‬,‫ב‬ ‫ומשמש‬ ‫לקוח‬ ‫בנתוני‬ ‫מסתכל‬ ‫הבנק‬-g‫לתת‬ ‫האם‬ ‫להחליט‬ ‫כדי‬ ‫לא‬ ‫או‬ ‫הלוואה‬ ‫ללקוח‬
  • 25. ‫הלוואה‬ ‫בעיית‬ •‫האלגוריתם‬‫נוסחה‬ ‫לבחור‬ ‫כדי‬ ‫בעיה‬ ‫בנתוני‬ ‫משתמש‬ ‫למידה‬g: •g: X -> Y •‫ש‬ ‫כך‬-g‫תהי‬‫טוב‬ ‫קירוב‬‫ל‬-f •‫האלגוריתם‬‫בוחר‬g‫נוסחאות‬ ‫של‬ ‫מאוסף‬H(‫השערות‬ ‫של‬ ‫אוסף‬) •H‫אחד‬ ‫נוסחה‬ ‫רק‬ ‫להכיל‬ ‫יכול‬ •H‫לינאריות‬ ‫נוסחאות‬ ‫כל‬ ‫להכיל‬ ‫יכול‬ •‫ש‬ ‫נרצה‬ ‫אנו‬-g‫יהי‬‫טוב‬ ‫קירוב‬‫ל‬-f
  • 26. ‫פורמלית‬ ‫בצורה‬ ‫למידה‬ ‫בעיית‬ ‫נגדיר‬ ‫כעת‬
  • 27. ‫פורמלית‬ ‫בצורה‬ ‫למידה‬ ‫בעיית‬ ‫נגדיר‬ ‫כעת‬ • Spoiler
  • 28. ‫פורמלית‬ ‫בצורה‬ ‫למידה‬ ‫בעיית‬ ‫נגדיר‬ ‫כעת‬ • Spoiler
  • 29. ‫פורמלית‬ ‫בצורה‬ ‫למידה‬ ‫בעיית‬ ‫נגדיר‬ ‫כעת‬ • Spoiler
  • 30. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y
  • 31. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬
  • 32. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN)
  • 33. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A
  • 34. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H
  • 35. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H ‫נוסחה‬(‫השערה‬) ‫סופית‬g
  • 36. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H ‫נוסחה‬(‫השערה‬) ‫סופית‬g ‫ולא‬ ‫קיים‬ ‫שלנו‬ ‫בשליטה‬
  • 37. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H ‫נוסחה‬(‫השערה‬) ‫סופית‬g ‫ולא‬ ‫קיים‬ ‫שלנו‬ ‫בשליטה‬
  • 38. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H ‫נוסחה‬(‫השערה‬) ‫סופית‬g ‫ולא‬ ‫קיים‬ ‫שלנו‬ ‫בשליטה‬ ‫בוחרים‬ ‫אנו‬
  • 39. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H ‫נוסחה‬(‫השערה‬) ‫סופית‬g ‫ולא‬ ‫קיים‬ ‫שלנו‬ ‫בשליטה‬ ‫בוחרים‬ ‫אנו‬
  • 40. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H ‫נוסחה‬(‫השערה‬) ‫סופית‬g ‫ולא‬ ‫קיים‬ ‫שלנו‬ ‫בשליטה‬ ‫בוחרים‬ ‫אנו‬ ‫תוצאה‬ ‫סופית‬
  • 41. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H ‫נוסחה‬(‫השערה‬) ‫סופית‬g ‫ולא‬ ‫קיים‬ ‫שלנו‬ ‫בשליטה‬ ‫בוחרים‬ ‫אנו‬ ‫תוצאה‬ ‫סופית‬
  • 42. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H ‫נוסחה‬(‫השערה‬) ‫סופית‬g ‫ולא‬ ‫קיים‬ ‫שלנו‬ ‫בשליטה‬ ‫בוחרים‬ ‫אנו‬ ‫תוצאה‬ ‫סופית‬ ‫ש‬ ‫מקווים‬-
  • 43. ‫למידה‬ ‫בעיית‬ ‫של‬ ‫ראשונית‬ ‫הגדרה‬ ‫מטרה‬ ‫פונקציה‬f:X->Y ‫ידוע‬ ‫לא‬ ‫הפונקציה‬ ‫דטה‬–‫שאלה‬ ‫של‬ ‫נתונים‬ (x1,y1),(x2,y2),….,(xN,yN) ‫אלגוריתם‬ ‫למידה‬A ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H ‫נוסחה‬(‫השערה‬) ‫סופית‬g ‫ולא‬ ‫קיים‬ ‫שלנו‬ ‫בשליטה‬ ‫בוחרים‬ ‫אנו‬ ‫תוצאה‬ ‫סופית‬ ‫מקווים‬: f~g
  • 44. ‫הערות‬ •‫יותר‬ ‫מאוחר‬ ‫אותו‬ ‫להשלים‬ ‫ונצטרך‬ ‫מדויק‬ ‫לא‬ ‫הוא‬ ‫שהגדרנו‬ ‫המודל‬ •‫ומרכיביו‬ ‫המודל‬ ‫את‬ ‫להבין‬ ‫חשוב‬ •‫הצורך‬ ‫בעת‬ ‫בו‬ ‫ולהשתמש‬ ‫הציור‬ ‫את‬ ‫להדפיס‬ ‫אפשר‬
  • 45. • Convex functions • Linear functions • Rectangles • Cubic Splines • Finite set of given functions ‫נוסחאות‬ ‫אוסף‬(‫השערות‬) H
  • 46. ‫דוגמא‬ •‫אימיילים‬ ‫של‬ ‫אוסף‬ ‫נתון‬ •‫מכתבי‬ ‫להבדיל‬ ‫שתוכל‬ ‫לומדת‬ ‫מערכת‬ ‫לפתח‬ ‫היא‬ ‫המטרה‬spam‫ממכתבים‬ ‫אחרים‬ •‫קבעו‬‫מהו‬:X,Y,f:X->Y
  • 47. ‫דוגמא‬ •‫השכלה‬ ‫שנות‬ ‫כמות‬ ‫סמך‬ ‫על‬ ‫אדם‬ ‫בן‬ ‫של‬ ‫משכורת‬ ‫חיזוי‬ •‫קבעו‬‫מהו‬:X,Y,f:X->Y
  • 48. ‫סיכום‬ ‫למידה‬ ‫בעיה‬ ‫להגדרת‬ ‫בסיסים‬ ‫מושגים‬ ‫הגדרנו‬: ‫למידה‬ ‫לבעיה‬ ‫ראשונית‬ ‫מודל‬ ‫הגדרנו‬