SlideShare a Scribd company logo
1 of 102
Download to read offline
‫کال‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬‫داده‬‫ن‬(2)
‫تهران‬ ،‫شریف‬ ‫صنعتی‬ ‫دانشگاه‬
‫محمد‬‫خالوئی‬‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫کالن‬2
‫تلگرام‬:@dataset
‫ایـمـیـل‬:mkhalooei@gmail.com
‫خالوئی‬ ‫محمد‬
7‫دی‬1395
‫ارائه‬ ‫از‬ ‫دیدکلی‬
•‫گذشته‬ ‫جلسه‬ ‫یادآوری‬
•‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫خصوص‬ ‫در‬ ‫ذهنی‬ ‫سازی‬‫آماده‬ ‫مقدمات‬
•‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫طراحی‬ ‫در‬ ‫استفاده‬ ‫مورد‬ ‫پرکاربرد‬ ‫و‬ ‫مختلف‬ ‫های‬‫بخش‬ ‫بیان‬
•‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫از‬ ‫استفاده‬ ‫برای‬ ‫پیشرو‬ ‫های‬‫چالش‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬3
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
4
‫یادآوری‬...
http://www.tekshow.com/posts/820
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
5
‫یادآوری‬...
1992:100GB‫روز‬ ‫در‬
1997:100GB‫ساعت‬ ‫در‬
2002:100GB‫ثانیه‬ ‫در‬
2018:50000GB‫ثانیه‬ ‫در‬
http://www.gereports.com/post/110073426843/big-data-infographic/
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
6
‫یادآوری‬...
‫ای‬‫داده‬ ‫منابع‬
•‫ها‬‫فعالیت‬
•‫گفتگوها‬
•‫کلمات‬
•‫صوت‬
•‫اجتماعی‬ ‫شبکه‬
•‫الگ‬
•‫تصاویر‬
•‫ویدیو‬
•‫سنسور‬
•‫و‬...
‫حجم‬
‫صحت‬
‫تنوع‬
‫سرعت‬
‫داده‬‫کالن‬ ‫تحلیل‬
‫کاوی‬ ‫متن‬
‫معنایی‬ ‫تحلیل‬
‫ویدیو‬ ‫تحلیل‬
‫چهره‬ ‫تشخیص‬
‫صوت‬ ‫تحلیل‬
‫رفتار‬ ‫و‬ ‫حرکات‬ ‫تحلیل‬
‫و‬...
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
7
‫یادآوری‬...
https://opensignal.com
‫اپراتوره‬ ‫دهی‬‫پوشش‬‫ا‬
‫فضای‬ ‫محدوده‬ ‫در‬
‫دانشگاه‬ ‫اطراف‬
‫های‬ ‫داده‬ ‫تحلیل‬ ‫از‬ ‫ای‬ ‫نمونه‬Twitter •‫مخابرات‬
•‫نقل‬ ‫و‬ ‫حمل‬
•‫ترافیک‬ ‫کنترل‬
•‫هوا‬ ‫و‬ ‫آب‬ ‫وضعیت‬
•‫تقلب‬ ‫کشف‬
•‫مالی‬ ‫موسسات‬ ‫و‬ ‫بانک‬
•‫مشتریان‬ ‫اعتبارسنجی‬
•‫شبکه‬‫اجتماعی‬
•….
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
8
‫یادآوری‬...
https://flink.apache.org/http://hadoop.apache.org/ http://spark.apache.org/
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
9
‫یادآوری‬...
• Tableau
• Qlik
• kibana
• ChartJs
• Raw
• Dygraphs
• …
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
10
‫یادگیری‬‫ژرف‬
‫بخش‬‫اول‬
‫ذهنی‬ ‫سازی‬ ‫آماده‬...
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬11
http://weknowyourdreams.com/image.php?pic=/images/eagle/eagle-08.jpg
https://commons.wikimedia.org/wiki/File:Raptor-ElmendorfAFB-2009.JPG
‫ذهنی‬ ‫سازی‬ ‫آماده‬...
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬12
‫عصبی‬ ‫نرون‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬13
‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬14
‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬15
‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬16
‫های‬‫نرون‬ ‫از‬ ‫هایی‬‫ترسیم‬ ‫اولین‬‫عصبی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬17
Public domain
Dendrites (‫دندریت‬)
Soma (‫هسته‬)
Axon (‫آکسون‬)
‫عصبی‬ ‫نرون‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬18
•‫میکند‬ ‫منتقل‬ ‫آکسون‬ ‫به‬ ‫را‬ ‫ها‬‫دندریت‬ ‫های‬‫فعالیت‬ ‫مقادیر‬ ‫هسته‬
‫شده‬ ‫ساده‬ ‫مدل‬‫عصبی‬ ‫نرون‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬19
+
•‫میکند‬ ‫منتقل‬ ‫آکسون‬ ‫به‬ ‫را‬ ‫ها‬‫دندریت‬ ‫های‬‫فعالیت‬ ‫مقادیر‬ ‫هسته‬
•‫باشند‬ ‫داشته‬ ‫فعالیت‬ ‫مقدار‬ ‫بیشتری‬ ‫های‬‫دندریت‬ ‫هرچه‬
‫بود‬ ‫خواهد‬ ‫بیشتر‬ ‫هم‬ ‫آکسون‬ ‫فعالیت‬ ‫مقدار‬.
‫عصبی‬ ‫نرون‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬20
+
‫سیناپس‬(Synapse)
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬21
•‫نرون‬ ‫یک‬ ‫های‬‫آکسون‬ ‫اتصال‬ ‫برای‬
‫های‬‫دندریت‬ ‫به‬‫نرون‬‫دیگر‬
•‫دیگر‬ ‫نرون‬ ‫های‬‫دندریت‬ ‫به‬ ‫نرون‬ ‫یک‬ ‫های‬‫آکسون‬ ‫اتصال‬ ‫مختلف‬ ‫انواع‬
‫قوی‬(Stronger)
‫ضعیف‬(Weaker)
‫متوسط‬(between of them)
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬22
•‫متوسط‬ ‫اتصال‬ ‫مثال‬(‫معادل‬‫مقدار‬0.6)
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬23
•‫قوی‬ ‫اتصال‬ ‫مثال‬(‫مقدار‬ ‫معادل‬1)
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬24
•‫ضعیف‬ ‫اتصال‬ ‫مثال‬(‫معادل‬‫مقدار‬0.2)
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬25
•‫اتصال‬ ‫وجود‬ ‫عدم‬(‫صفر‬ ‫معادل‬)
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬26
•‫هرتعداد‬‫دیگر‬ ‫های‬‫نرون‬ ‫آکسون‬
‫به‬‫نرون‬ ‫یک‬ ‫های‬‫دندریت‬‫شود‬ ‫متصل‬ ‫تواند‬‫می‬
•‫دارد‬ ‫اختصاصی‬ ‫ّت‬‫و‬‫ق‬ ‫میزان‬ ‫دارای‬ ‫هرکدام‬
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬27
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬28
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬29
.8 .9.2.3.5
‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬30
‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬31
‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬32
ACE
A B C D E
‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬33
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
34
‫ژرف‬ ‫یادگیری‬
‫بخش‬‫دوم‬
‫ذهنی‬ ‫سازی‬ ‫آماده‬
•‫ورودی‬ ‫عکس‬ ‫روی‬ ‫از‬ ‫است‬ ‫قرار‬ ‫سیستم‬ ‫واقع‬ ‫در‬(‫ها‬‫پیکسل‬ ‫از‬ ‫ای‬‫آرایه‬)
•‫مربوطه‬ ‫عکس‬ ‫که‬ ‫دهد‬ ‫تشخیص‬X‫یا‬O‫است‬!
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬35
X ‫یا‬ OCNN
‫بعدی‬ ‫دو‬ ‫ماتریس‬
‫ها‬‫پیکسل‬ ‫از‬
‫تشخیص‬ ‫مثال‬X‫یا‬O‫با‬CNN
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬36
CNN X
CNN O
‫تشخیص‬ ‫مثال‬X‫یا‬O‫با‬CNN–‫تعمیم‬ ‫قابلیت‬ ‫با‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬37
CNN X
CNN O
‫جابجایی‬
translation
‫تغییراندازه‬
scaling
‫ضخامت‬(‫وزن‬)
weight
‫چرخش‬
rotation
‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬38
?
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫میبیند؟‬ ‫چه‬ ‫کامپیوتر‬ ‫درواقع‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬39
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 1 -1 -1 -1
-1 -1 1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 1 -1 -1
-1 -1 -1 1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
?-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 X -1 -1 -1 -1 X X -1
-1 X X -1 -1 X X -1 -1
-1 -1 X 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 X -1 -1
-1 -1 X X -1 -1 X X -1
-1 X X -1 -1 -1 -1 X -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫میبیند؟‬ ‫چه‬ ‫کامپیوتر‬ ‫درواقع‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬40
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 X -1 -1 -1 -1 X X -1
-1 X X -1 -1 X X -1 -1
-1 -1 X 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 X -1 -1
-1 -1 X X -1 -1 X X -1
-1 X X -1 -1 -1 -1 X -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫هستند‬ ‫ریزبین‬ ‫ها‬‫کامپیوتر‬ ‫درواقع‬!!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬41
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 1 -1 -1 -1
-1 -1 1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 1 -1 -1
-1 -1 -1 1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
x
‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬42
(2,2,2,2)
‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬43
(2,2,2,3)
‫پس‬ConvNet‫دارد؟‬ ‫ای‬‫ایده‬ ‫چه‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬44
=
=
=
‫آمده‬ ‫بدست‬ ‫مناسب‬ ‫های‬‫ویژگی‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬45
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
‫ایده‬ConvNet
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬46
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
‫ایده‬ConvNet
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬47
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
‫ایده‬ConvNet
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬48
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
‫ایده‬ConvNet
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬49
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
‫ایده‬ConvNet
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬50
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
.1‫ویژگی‬ ‫ماتریس‬‫تصویر‬ ‫های‬‫تکه‬ ‫و‬(patch)‫کنیم‬ ‫آماده‬ ‫را‬
.2‫پیکسل‬ ‫هر‬ ‫ای‬‫نقطه‬ ‫ضرب‬‫ویژگی‬ ‫ماتریس‬‫عکس‬‫تکه‬ ‫از‬ ‫پیکسل‬ ‫هر‬ ‫در‬
.3‫آمده‬ ‫بدست‬ ‫ماتریس‬ ‫مقادیر‬ ‫همه‬ ‫جمع‬
.4‫پیکسل‬ ‫تعداد‬ ‫بر‬ ‫تقسیم‬ ‫جواب‬‫ویژگی‬ ‫ماتریس‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬51
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬52
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬53
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬54
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬55
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬56
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
1 1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬57
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
1 1 1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬58
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
1 1 1
1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬59
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
1 1 1
1 1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬60
1
1 1 1
1 1 1
1 1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 -1 -1
-1 1 -1
-1 -1 1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬61
1
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬62
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 -1
1 1 1
-1 1 1
‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬63
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1
55
1 1 -1
1 1 1
-1 1 1
‫کانولوشن‬:‫کند‬‫می‬ ‫بررسی‬ ‫را‬ ‫داشتن‬ ‫تطبیق‬ ‫ممکن‬ ‫حاالت‬ ‫همه‬ ‫درواقع‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬64
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫کانولوشن‬:‫کند‬‫می‬ ‫بررسی‬ ‫را‬ ‫داشتن‬ ‫تطبیق‬ ‫ممکن‬ ‫حاالت‬ ‫همه‬ ‫درواقع‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬65
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
=
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
66
‫کانولوش‬ ‫الیه‬‫ن‬
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
=
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
=
=
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫کانولوشن‬ ‫الیه‬:‫کند‬‫می‬ ‫تبدیل‬ ‫شده‬‫فیلتر‬ ‫های‬‫عکس‬ ‫از‬ ‫ای‬‫مجموعه‬ ‫به‬ ‫عکس‬ ‫هر‬ ‫درواقع‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬67
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫کانولوشن‬ ‫الیه‬:‫کند‬‫می‬ ‫تبدیل‬ ‫شده‬‫فیلتر‬ ‫های‬‫عکس‬ ‫از‬ ‫ای‬‫مجموعه‬ ‫به‬ ‫عکس‬ ‫هر‬ ‫درواقع‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬68
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬69
http://ufldl.stanford.edu/tutorial/supervised/Pooling/
.1‫پنجره‬ ‫اندازه‬ ‫انتخاب‬
.2‫انتخاب‬‫حرکت‬ ‫گام‬
.3‫شده‬‫فیلتر‬ ‫تصاویر‬ ‫روی‬ ‫پنجره‬ ‫دادن‬ ‫حرکت‬
.4‫آخر؛‬ ‫گام‬ ‫در‬‫مقدار‬ ‫بیشترین‬‫کنیم‬‫می‬ ‫انتخاب‬ ‫را‬ ‫پنجره‬ ‫هر‬
‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬70
1.00
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
‫مقدار‬ ‫بیشترین‬
Maximum
‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬71
‫مقدار‬ ‫بیشترین‬
Maximum
1.00 0.33
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬72
‫مقدار‬ ‫بیشترین‬
Maximum
1.00 0.33 0.55
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬73
‫مقدار‬ ‫بیشترین‬
Maximum
1.00 0.33 0.55 0.33
0.33
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬74
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
75
‫ادغام‬ ‫الیه‬
(‫پولینگ؛‬
Pooling)
‫ادغام‬ ‫الیه‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬76
‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬77
https://en.wikipedia.org/wiki/File:Rectifier_and_softplus_functions.svg#/media/File:Rectifier_and_softplus_functions.svg
https://papers.nips.cc/paper/4824-imagenet-classification-
with-deep-convolutional-neural-networks.pdf
‫تابع‬ ‫مقایسه‬Relue‫با‬tanh
‫همگرایی‬ ‫برابری‬ ‫شش‬ ‫بهبود‬ ‫نمایش‬ ‫برای‬‫با‬ReLU(‫خط‬‫ساده‬)
‫همگرایی‬ ‫برابر‬ ‫در‬‫با‬Tanh(‫چین‬ ‫خط‬)
‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬78
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
0.77
‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬79
0.77 00.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬80
0.77 0 0.11 0.33 0.55 0 0.330.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬81
0.77 0 0.11 0.33 0.55 0 0.33
0 1.00 0 0.33 0 0.11 0
0.11 0 1.00 0 0.11 0 0.55
0.33 0.33 0 0.55 0 0.33 0.33
0.55 0 0.11 0 1.00 0 0.11
0 0.11 0 0.33 0 1.00 0
0.33 0 0.55 0.33 0.11 0 0.77
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
82
‫الیه‬Relu
‫شده‬ ‫فراگیری‬ ‫موارد‬ ‫از‬ ‫الیه‬ ‫چندین‬ ‫مثال‬ ‫طراحی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬83
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫فراگیری‬ ‫موارد‬ ‫از‬ ‫الیه‬ ‫چندین‬ ‫مثال‬ ‫طراحی‬‫شده؛‬(Deep stacking)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬84
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1.00 0.55
0.55 1.00
0.55 1.00
1.00 0.55
1.00 0.55
0.55 0.55
‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬85
1.00 0.55
0.55 1.00
0.55 1.00
1.00 0.55
1.00 0.55
0.55 0.55
1.00
0.55
0.55
1.00
1.00
0.55
0.55
0.55
0.55
1.00
1.00
0.55
‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
•‫گیری‬‫رأی‬ ‫بحث‬(voting...)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬86
X
O
1.00
0.55
0.55
1.00
1.00
0.55
0.55
0.55
0.55
1.00
1.00
0.55
‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬87
X
O
‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬88
X
O
0.9
0.65
0.45
0.87
0.96
0.73
0.23
0.63
0.44
0.89
0.94
0.53
‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬89
X
O
0.9
0.65
0.45
0.87
0.96
0.73
0.23
0.63
0.44
0.89
0.94
0.53
‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬90
X
O
0.9
0.65
0.45
0.87
0.96
0.73
0.23
0.63
0.44
0.89
0.94
0.53
‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬91
X
O
0.9
0.65
0.45
0.87
0.96
0.73
0.23
0.63
0.44
0.89
0.94
0.53
‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬92
X
O
0.9
0.65
0.45
0.87
0.96
0.73
0.23
0.63
0.44
0.89
0.94
0.53
‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬93
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
X
O
‫عقب‬ ‫به‬ ‫رو‬ ‫انتشار‬(Back Propagation)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬94
Error = right answer – actual answer
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
X
O
‫گرادیان‬ ‫کاهش‬(Gradient descent)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬95
error
‫گرادیان‬ ‫کاهش‬(Gradient descent)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬96
error
‫پیشرو‬ ‫های‬‫چالش‬ ‫از‬ ‫برخی‬...
•‫مسئله‬ ‫ی‬‫پارامترها‬
•‫شبکه‬ ‫معماری‬ ‫و‬ ‫چینش‬ ‫نوع‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬97
‫باال‬‫سطح‬ ‫های‬‫پارامتر‬(Hyperparameters)
• Convolution
 Number of features
 Size of features
• Pooling
 Window size
 Window stride
• Fully Connected
 Number of neurons
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬98
‫شبکه‬ ‫معماری‬ ‫چالش‬
•‫باشیم؟‬ ‫داشته‬ ‫الیه‬ ‫چند‬!
•‫شوند؟‬ ‫چینش‬ ‫ترتیبی‬ ‫چه‬ ‫به‬ ‫ها‬‫الیه‬!
•...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬99
‫میخورد؟‬ ‫تصاویر‬ ‫پردازش‬ ‫بدرد‬ ‫فقط‬ ‫آیا‬!
•‫باشد‬ ‫بعدی‬ ‫سه‬ ‫یا‬ ‫دو‬ ‫که‬ ‫ای‬‫داده‬ ‫نوع‬ ‫هر‬ ‫درواقع‬...
‫تصویر‬ ‫صوت‬ ‫متن‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬100
‫ها‬‫محدودیت‬...
•،‫دارد‬ ‫وجود‬ ‫که‬ ‫مهمی‬ ‫نکته‬ConvNet‫های‬‫الگو‬ ‫فقط‬ ‫و‬ ‫فقط‬‫مکانی‬(Spatial)‫را‬
‫کند‬‫می‬ ‫استخراج‬.
•‫تصویر‬ ‫یک‬ ‫شکل‬ ‫به‬ ‫تقریبا‬ ‫شما‬ ‫داده‬ ‫اگر‬(‫شکل‬ ‫ماتریس‬)،‫نباشد‬ConvNet‫مفید‬ ‫کمتر‬
‫است‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬101
‫ارائه‬ ‫منابع‬
•‫خالصه‬ ‫طور‬ ‫به‬ ‫اما‬ ‫شده‬ ‫درج‬ ‫ها‬‫اسالید‬ ‫در‬ ‫منابع‬ ‫اکثر‬ ،‫است‬ ‫بوده‬ ‫مختلفی‬ ‫منابع‬:::
‫آقای‬ ‫های‬‫ارائه‬Brandon Rohrer
‫اختصاصی‬ ‫مطالب‬UFDL‫استفنورد‬ ‫سایت‬ ‫در‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬102
@_brohrer_ on Twitter
#HowItWorks #ConvNet
brohrer@microsoft.com
http://ufldl.stanford.edu
‫کال‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬‫داده‬‫ن‬(2)
‫دانشگاه‬‫صنعتی‬،‫شریف‬‫تهران‬
‫محمد‬‫خالوئی‬‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫کالن‬103
‫تلگرام‬:@dataset
‫ایـمـیـل‬:mkhalooei@gmail.com
‫خالوئی‬ ‫محمد‬
‫دی‬1395
‫توجهتان‬ ‫از‬ ‫باتشکر‬
‫شنید‬ ‫نخواهی‬ ‫را‬ ‫آب‬ ‫دلنشین‬ ‫صدای‬ ‫هیچگاه‬ ‫نباشد‬ ‫پیشرو‬ ‫سنگی‬ ‫اگر‬|«‫ا‬ً‫ر‬ْ‫س‬ُ‫ي‬ ِ‫ر‬ْ‫س‬ُ‫ع‬ْ‫ال‬ َ‫ع‬َ‫م‬ َّ‫ن‬ِ‫إ‬َ‫ف‬(5)‫ا‬ً‫ر‬ْ‫س‬ُ‫ي‬ ِ‫ر‬ْ‫س‬ُ‫ع‬ْ‫ال‬ َ‫ع‬َ‫م‬ َّ‫ن‬ِ ‫إ‬(6)‫انشراح‬ ‫سوره‬»

More Related Content

What's hot

Battlelog - Building scalable web sites with tight game integration
Battlelog - Building scalable web sites with tight game integrationBattlelog - Building scalable web sites with tight game integration
Battlelog - Building scalable web sites with tight game integrationElectronic Arts / DICE
 
Intellectual property in vlsi
Intellectual property in vlsiIntellectual property in vlsi
Intellectual property in vlsiSaransh Choudhary
 
Signature verification Using SIFT Features
Signature verification Using SIFT FeaturesSignature verification Using SIFT Features
Signature verification Using SIFT FeaturesAshikur Rahman
 
Image Based Steganpgraphy
Image Based SteganpgraphyImage Based Steganpgraphy
Image Based SteganpgraphyOmkar Rane
 
Optimizing Large Scenes in Unity
Optimizing Large Scenes in UnityOptimizing Large Scenes in Unity
Optimizing Large Scenes in UnityNoam Gat
 
1. digital image processing
1. digital image processing1. digital image processing
1. digital image processingvilasini rvr
 
Implementation and comparison of Low pass filters in Frequency domain
Implementation and comparison of Low pass filters in Frequency domainImplementation and comparison of Low pass filters in Frequency domain
Implementation and comparison of Low pass filters in Frequency domainZara Tariq
 
DTAM: Dense Tracking and Mapping in Real-Time, Robot vision Group
DTAM: Dense Tracking and Mapping in Real-Time, Robot vision GroupDTAM: Dense Tracking and Mapping in Real-Time, Robot vision Group
DTAM: Dense Tracking and Mapping in Real-Time, Robot vision GroupLihang Li
 
Low Power VLSI Design Presentation_final
Low Power VLSI Design Presentation_finalLow Power VLSI Design Presentation_final
Low Power VLSI Design Presentation_finalJITENDER -
 
Ic technology- diffusion and ion implantation
Ic technology- diffusion and ion implantationIc technology- diffusion and ion implantation
Ic technology- diffusion and ion implantationkriticka sharma
 
Solving Visibility and Streaming in the The Witcher 3: Wild Hunt with Umbra 3
Solving Visibility and Streaming in the The Witcher 3: Wild Hunt with Umbra 3Solving Visibility and Streaming in the The Witcher 3: Wild Hunt with Umbra 3
Solving Visibility and Streaming in the The Witcher 3: Wild Hunt with Umbra 3Umbra
 
Report on Digital Watermarking Technology
Report on Digital Watermarking Technology Report on Digital Watermarking Technology
Report on Digital Watermarking Technology vijay rastogi
 
Raster animation
Raster animationRaster animation
Raster animationabhijit754
 
Intel® Open Image Denoise in Unity*
Intel® Open Image Denoise in Unity*Intel® Open Image Denoise in Unity*
Intel® Open Image Denoise in Unity*Intel® Software
 

What's hot (20)

Battlelog - Building scalable web sites with tight game integration
Battlelog - Building scalable web sites with tight game integrationBattlelog - Building scalable web sites with tight game integration
Battlelog - Building scalable web sites with tight game integration
 
Intellectual property in vlsi
Intellectual property in vlsiIntellectual property in vlsi
Intellectual property in vlsi
 
Lecture 11
Lecture 11Lecture 11
Lecture 11
 
Signature verification Using SIFT Features
Signature verification Using SIFT FeaturesSignature verification Using SIFT Features
Signature verification Using SIFT Features
 
Image Based Steganpgraphy
Image Based SteganpgraphyImage Based Steganpgraphy
Image Based Steganpgraphy
 
Vlsi power estimation
Vlsi power estimationVlsi power estimation
Vlsi power estimation
 
Optimizing Large Scenes in Unity
Optimizing Large Scenes in UnityOptimizing Large Scenes in Unity
Optimizing Large Scenes in Unity
 
1. digital image processing
1. digital image processing1. digital image processing
1. digital image processing
 
Implementation and comparison of Low pass filters in Frequency domain
Implementation and comparison of Low pass filters in Frequency domainImplementation and comparison of Low pass filters in Frequency domain
Implementation and comparison of Low pass filters in Frequency domain
 
Report on VLSI
Report on VLSIReport on VLSI
Report on VLSI
 
Histogram Equalization
Histogram EqualizationHistogram Equalization
Histogram Equalization
 
DTAM: Dense Tracking and Mapping in Real-Time, Robot vision Group
DTAM: Dense Tracking and Mapping in Real-Time, Robot vision GroupDTAM: Dense Tracking and Mapping in Real-Time, Robot vision Group
DTAM: Dense Tracking and Mapping in Real-Time, Robot vision Group
 
Low Power VLSI Design Presentation_final
Low Power VLSI Design Presentation_finalLow Power VLSI Design Presentation_final
Low Power VLSI Design Presentation_final
 
Ic technology- diffusion and ion implantation
Ic technology- diffusion and ion implantationIc technology- diffusion and ion implantation
Ic technology- diffusion and ion implantation
 
Clock Gating
Clock GatingClock Gating
Clock Gating
 
Inputs of physical design
Inputs of physical designInputs of physical design
Inputs of physical design
 
Solving Visibility and Streaming in the The Witcher 3: Wild Hunt with Umbra 3
Solving Visibility and Streaming in the The Witcher 3: Wild Hunt with Umbra 3Solving Visibility and Streaming in the The Witcher 3: Wild Hunt with Umbra 3
Solving Visibility and Streaming in the The Witcher 3: Wild Hunt with Umbra 3
 
Report on Digital Watermarking Technology
Report on Digital Watermarking Technology Report on Digital Watermarking Technology
Report on Digital Watermarking Technology
 
Raster animation
Raster animationRaster animation
Raster animation
 
Intel® Open Image Denoise in Unity*
Intel® Open Image Denoise in Unity*Intel® Open Image Denoise in Unity*
Intel® Open Image Denoise in Unity*
 

Viewers also liked

تحلیل احساسات در شبکه های اجتماعی
تحلیل احساسات در شبکه های اجتماعیتحلیل احساسات در شبکه های اجتماعی
تحلیل احساسات در شبکه های اجتماعیHamed Azizi
 
Big Data and Machine Learning Workshop - Day 7 @ UTACM
Big Data and Machine Learning Workshop - Day 7 @ UTACM Big Data and Machine Learning Workshop - Day 7 @ UTACM
Big Data and Machine Learning Workshop - Day 7 @ UTACM Amir Sedighi
 
Big Data Processing in Cloud Computing Environments
Big Data Processing in Cloud Computing EnvironmentsBig Data Processing in Cloud Computing Environments
Big Data Processing in Cloud Computing EnvironmentsFarzad Nozarian
 
آشنایی با داده‌های بزرگ و تکنیک‌های برنامه‌سازی برای پردازش داده‌های بزرگ
آشنایی با داده‌های بزرگ و تکنیک‌های برنامه‌سازی برای پردازش داده‌های بزرگآشنایی با داده‌های بزرگ و تکنیک‌های برنامه‌سازی برای پردازش داده‌های بزرگ
آشنایی با داده‌های بزرگ و تکنیک‌های برنامه‌سازی برای پردازش داده‌های بزرگAmir Sedighi
 
تحلیل احساسات شبکه اجتماعی متن کاوی نظرکاوی حامد عزیزی تهران جنوب
تحلیل احساسات شبکه اجتماعی متن کاوی نظرکاوی حامد عزیزی تهران جنوبتحلیل احساسات شبکه اجتماعی متن کاوی نظرکاوی حامد عزیزی تهران جنوب
تحلیل احساسات شبکه اجتماعی متن کاوی نظرکاوی حامد عزیزی تهران جنوبHamed Azizi
 

Viewers also liked (6)

تحلیل احساسات در شبکه های اجتماعی
تحلیل احساسات در شبکه های اجتماعیتحلیل احساسات در شبکه های اجتماعی
تحلیل احساسات در شبکه های اجتماعی
 
Big Data and Machine Learning Workshop - Day 7 @ UTACM
Big Data and Machine Learning Workshop - Day 7 @ UTACM Big Data and Machine Learning Workshop - Day 7 @ UTACM
Big Data and Machine Learning Workshop - Day 7 @ UTACM
 
Dark data
Dark dataDark data
Dark data
 
Big Data Processing in Cloud Computing Environments
Big Data Processing in Cloud Computing EnvironmentsBig Data Processing in Cloud Computing Environments
Big Data Processing in Cloud Computing Environments
 
آشنایی با داده‌های بزرگ و تکنیک‌های برنامه‌سازی برای پردازش داده‌های بزرگ
آشنایی با داده‌های بزرگ و تکنیک‌های برنامه‌سازی برای پردازش داده‌های بزرگآشنایی با داده‌های بزرگ و تکنیک‌های برنامه‌سازی برای پردازش داده‌های بزرگ
آشنایی با داده‌های بزرگ و تکنیک‌های برنامه‌سازی برای پردازش داده‌های بزرگ
 
تحلیل احساسات شبکه اجتماعی متن کاوی نظرکاوی حامد عزیزی تهران جنوب
تحلیل احساسات شبکه اجتماعی متن کاوی نظرکاوی حامد عزیزی تهران جنوبتحلیل احساسات شبکه اجتماعی متن کاوی نظرکاوی حامد عزیزی تهران جنوب
تحلیل احساسات شبکه اجتماعی متن کاوی نظرکاوی حامد عزیزی تهران جنوب
 

More from khalooei

Robustness of Deep Neural Networks
Robustness of Deep Neural NetworksRobustness of Deep Neural Networks
Robustness of Deep Neural Networkskhalooei
 
Robustness of Deep Neural Networks | Adversarial attacks and defenses
Robustness of Deep Neural Networks | Adversarial attacks and defensesRobustness of Deep Neural Networks | Adversarial attacks and defenses
Robustness of Deep Neural Networks | Adversarial attacks and defenseskhalooei
 
Life of Points (Machine learning with Orange flavor)
Life of Points (Machine learning with Orange flavor) Life of Points (Machine learning with Orange flavor)
Life of Points (Machine learning with Orange flavor) khalooei
 
Generative Adversarial Network
Generative Adversarial NetworkGenerative Adversarial Network
Generative Adversarial Networkkhalooei
 
Generative Adversarial Networks - (Applications)
Generative Adversarial Networks - (Applications)Generative Adversarial Networks - (Applications)
Generative Adversarial Networks - (Applications)khalooei
 
Generative Adversarial Networks - (Introduction)
Generative Adversarial Networks  - (Introduction)Generative Adversarial Networks  - (Introduction)
Generative Adversarial Networks - (Introduction)khalooei
 
تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌داده
تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌دادهتحلیل با رویکرد یادگیری ژرف بر بستر کلان‌داده
تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌دادهkhalooei
 

More from khalooei (7)

Robustness of Deep Neural Networks
Robustness of Deep Neural NetworksRobustness of Deep Neural Networks
Robustness of Deep Neural Networks
 
Robustness of Deep Neural Networks | Adversarial attacks and defenses
Robustness of Deep Neural Networks | Adversarial attacks and defensesRobustness of Deep Neural Networks | Adversarial attacks and defenses
Robustness of Deep Neural Networks | Adversarial attacks and defenses
 
Life of Points (Machine learning with Orange flavor)
Life of Points (Machine learning with Orange flavor) Life of Points (Machine learning with Orange flavor)
Life of Points (Machine learning with Orange flavor)
 
Generative Adversarial Network
Generative Adversarial NetworkGenerative Adversarial Network
Generative Adversarial Network
 
Generative Adversarial Networks - (Applications)
Generative Adversarial Networks - (Applications)Generative Adversarial Networks - (Applications)
Generative Adversarial Networks - (Applications)
 
Generative Adversarial Networks - (Introduction)
Generative Adversarial Networks  - (Introduction)Generative Adversarial Networks  - (Introduction)
Generative Adversarial Networks - (Introduction)
 
تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌داده
تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌دادهتحلیل با رویکرد یادگیری ژرف بر بستر کلان‌داده
تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌داده
 

تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌داده (2)

  • 1. ‫کال‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬‫داده‬‫ن‬(2) ‫تهران‬ ،‫شریف‬ ‫صنعتی‬ ‫دانشگاه‬ ‫محمد‬‫خالوئی‬‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫کالن‬2 ‫تلگرام‬:@dataset ‫ایـمـیـل‬:mkhalooei@gmail.com ‫خالوئی‬ ‫محمد‬ 7‫دی‬1395
  • 2. ‫ارائه‬ ‫از‬ ‫دیدکلی‬ •‫گذشته‬ ‫جلسه‬ ‫یادآوری‬ •‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫خصوص‬ ‫در‬ ‫ذهنی‬ ‫سازی‬‫آماده‬ ‫مقدمات‬ •‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫طراحی‬ ‫در‬ ‫استفاده‬ ‫مورد‬ ‫پرکاربرد‬ ‫و‬ ‫مختلف‬ ‫های‬‫بخش‬ ‫بیان‬ •‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫از‬ ‫استفاده‬ ‫برای‬ ‫پیشرو‬ ‫های‬‫چالش‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬3
  • 3. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 4 ‫یادآوری‬... http://www.tekshow.com/posts/820
  • 4. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 5 ‫یادآوری‬... 1992:100GB‫روز‬ ‫در‬ 1997:100GB‫ساعت‬ ‫در‬ 2002:100GB‫ثانیه‬ ‫در‬ 2018:50000GB‫ثانیه‬ ‫در‬ http://www.gereports.com/post/110073426843/big-data-infographic/
  • 5. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 6 ‫یادآوری‬... ‫ای‬‫داده‬ ‫منابع‬ •‫ها‬‫فعالیت‬ •‫گفتگوها‬ •‫کلمات‬ •‫صوت‬ •‫اجتماعی‬ ‫شبکه‬ •‫الگ‬ •‫تصاویر‬ •‫ویدیو‬ •‫سنسور‬ •‫و‬... ‫حجم‬ ‫صحت‬ ‫تنوع‬ ‫سرعت‬ ‫داده‬‫کالن‬ ‫تحلیل‬ ‫کاوی‬ ‫متن‬ ‫معنایی‬ ‫تحلیل‬ ‫ویدیو‬ ‫تحلیل‬ ‫چهره‬ ‫تشخیص‬ ‫صوت‬ ‫تحلیل‬ ‫رفتار‬ ‫و‬ ‫حرکات‬ ‫تحلیل‬ ‫و‬...
  • 6. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 7 ‫یادآوری‬... https://opensignal.com ‫اپراتوره‬ ‫دهی‬‫پوشش‬‫ا‬ ‫فضای‬ ‫محدوده‬ ‫در‬ ‫دانشگاه‬ ‫اطراف‬ ‫های‬ ‫داده‬ ‫تحلیل‬ ‫از‬ ‫ای‬ ‫نمونه‬Twitter •‫مخابرات‬ •‫نقل‬ ‫و‬ ‫حمل‬ •‫ترافیک‬ ‫کنترل‬ •‫هوا‬ ‫و‬ ‫آب‬ ‫وضعیت‬ •‫تقلب‬ ‫کشف‬ •‫مالی‬ ‫موسسات‬ ‫و‬ ‫بانک‬ •‫مشتریان‬ ‫اعتبارسنجی‬ •‫شبکه‬‫اجتماعی‬ •….
  • 7. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 8 ‫یادآوری‬... https://flink.apache.org/http://hadoop.apache.org/ http://spark.apache.org/
  • 8. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 9 ‫یادآوری‬... • Tableau • Qlik • kibana • ChartJs • Raw • Dygraphs • …
  • 9. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 10 ‫یادگیری‬‫ژرف‬ ‫بخش‬‫اول‬
  • 10. ‫ذهنی‬ ‫سازی‬ ‫آماده‬... ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬11 http://weknowyourdreams.com/image.php?pic=/images/eagle/eagle-08.jpg https://commons.wikimedia.org/wiki/File:Raptor-ElmendorfAFB-2009.JPG
  • 11. ‫ذهنی‬ ‫سازی‬ ‫آماده‬... ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬12
  • 12. ‫عصبی‬ ‫نرون‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬13
  • 13. ‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬14
  • 14. ‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬15
  • 15. ‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬16
  • 16. ‫های‬‫نرون‬ ‫از‬ ‫هایی‬‫ترسیم‬ ‫اولین‬‫عصبی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬17 Public domain Dendrites (‫دندریت‬) Soma (‫هسته‬) Axon (‫آکسون‬)
  • 17. ‫عصبی‬ ‫نرون‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬18
  • 18. •‫میکند‬ ‫منتقل‬ ‫آکسون‬ ‫به‬ ‫را‬ ‫ها‬‫دندریت‬ ‫های‬‫فعالیت‬ ‫مقادیر‬ ‫هسته‬ ‫شده‬ ‫ساده‬ ‫مدل‬‫عصبی‬ ‫نرون‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬19 +
  • 19. •‫میکند‬ ‫منتقل‬ ‫آکسون‬ ‫به‬ ‫را‬ ‫ها‬‫دندریت‬ ‫های‬‫فعالیت‬ ‫مقادیر‬ ‫هسته‬ •‫باشند‬ ‫داشته‬ ‫فعالیت‬ ‫مقدار‬ ‫بیشتری‬ ‫های‬‫دندریت‬ ‫هرچه‬ ‫بود‬ ‫خواهد‬ ‫بیشتر‬ ‫هم‬ ‫آکسون‬ ‫فعالیت‬ ‫مقدار‬. ‫عصبی‬ ‫نرون‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬20 +
  • 20. ‫سیناپس‬(Synapse) ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬21 •‫نرون‬ ‫یک‬ ‫های‬‫آکسون‬ ‫اتصال‬ ‫برای‬ ‫های‬‫دندریت‬ ‫به‬‫نرون‬‫دیگر‬
  • 21. •‫دیگر‬ ‫نرون‬ ‫های‬‫دندریت‬ ‫به‬ ‫نرون‬ ‫یک‬ ‫های‬‫آکسون‬ ‫اتصال‬ ‫مختلف‬ ‫انواع‬ ‫قوی‬(Stronger) ‫ضعیف‬(Weaker) ‫متوسط‬(between of them) ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬22
  • 22. •‫متوسط‬ ‫اتصال‬ ‫مثال‬(‫معادل‬‫مقدار‬0.6) ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬23
  • 23. •‫قوی‬ ‫اتصال‬ ‫مثال‬(‫مقدار‬ ‫معادل‬1) ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬24
  • 24. •‫ضعیف‬ ‫اتصال‬ ‫مثال‬(‫معادل‬‫مقدار‬0.2) ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬25
  • 25. •‫اتصال‬ ‫وجود‬ ‫عدم‬(‫صفر‬ ‫معادل‬) ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬26
  • 26. •‫هرتعداد‬‫دیگر‬ ‫های‬‫نرون‬ ‫آکسون‬ ‫به‬‫نرون‬ ‫یک‬ ‫های‬‫دندریت‬‫شود‬ ‫متصل‬ ‫تواند‬‫می‬ •‫دارد‬ ‫اختصاصی‬ ‫ّت‬‫و‬‫ق‬ ‫میزان‬ ‫دارای‬ ‫هرکدام‬ ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬27
  • 27. ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬28
  • 28. ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬29 .8 .9.2.3.5
  • 29. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬30
  • 30. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬31
  • 31. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬32 ACE A B C D E
  • 32. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬33
  • 33. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 34 ‫ژرف‬ ‫یادگیری‬ ‫بخش‬‫دوم‬
  • 34. ‫ذهنی‬ ‫سازی‬ ‫آماده‬ •‫ورودی‬ ‫عکس‬ ‫روی‬ ‫از‬ ‫است‬ ‫قرار‬ ‫سیستم‬ ‫واقع‬ ‫در‬(‫ها‬‫پیکسل‬ ‫از‬ ‫ای‬‫آرایه‬) •‫مربوطه‬ ‫عکس‬ ‫که‬ ‫دهد‬ ‫تشخیص‬X‫یا‬O‫است‬! ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬35 X ‫یا‬ OCNN ‫بعدی‬ ‫دو‬ ‫ماتریس‬ ‫ها‬‫پیکسل‬ ‫از‬
  • 35. ‫تشخیص‬ ‫مثال‬X‫یا‬O‫با‬CNN ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬36 CNN X CNN O
  • 36. ‫تشخیص‬ ‫مثال‬X‫یا‬O‫با‬CNN–‫تعمیم‬ ‫قابلیت‬ ‫با‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬37 CNN X CNN O ‫جابجایی‬ translation ‫تغییراندازه‬ scaling ‫ضخامت‬(‫وزن‬) weight ‫چرخش‬ rotation
  • 37. ‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬38 ?
  • 38. -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 ‫میبیند؟‬ ‫چه‬ ‫کامپیوتر‬ ‫درواقع‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬39 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 ?-1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 X -1 -1 -1 -1 X X -1 -1 X X -1 -1 X X -1 -1 -1 -1 X 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 X -1 -1 -1 -1 X X -1 -1 X X -1 -1 X X -1 -1 -1 -1 X -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  • 39. ‫میبیند؟‬ ‫چه‬ ‫کامپیوتر‬ ‫درواقع‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬40 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 X -1 -1 -1 -1 X X -1 -1 X X -1 -1 X X -1 -1 -1 -1 X 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 X -1 -1 -1 -1 X X -1 -1 X X -1 -1 X X -1 -1 -1 -1 X -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  • 40. ‫هستند‬ ‫ریزبین‬ ‫ها‬‫کامپیوتر‬ ‫درواقع‬!! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬41 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 x
  • 41. ‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬42 (2,2,2,2)
  • 42. ‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬43 (2,2,2,3)
  • 43. ‫پس‬ConvNet‫دارد؟‬ ‫ای‬‫ایده‬ ‫چه‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬44 = = =
  • 44. ‫آمده‬ ‫بدست‬ ‫مناسب‬ ‫های‬‫ویژگی‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬45 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  • 45. ‫ایده‬ConvNet ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬46 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  • 46. ‫ایده‬ConvNet ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬47 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  • 47. ‫ایده‬ConvNet ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬48 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  • 48. ‫ایده‬ConvNet ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬49 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  • 49. ‫ایده‬ConvNet ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬50 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  • 50. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... .1‫ویژگی‬ ‫ماتریس‬‫تصویر‬ ‫های‬‫تکه‬ ‫و‬(patch)‫کنیم‬ ‫آماده‬ ‫را‬ .2‫پیکسل‬ ‫هر‬ ‫ای‬‫نقطه‬ ‫ضرب‬‫ویژگی‬ ‫ماتریس‬‫عکس‬‫تکه‬ ‫از‬ ‫پیکسل‬ ‫هر‬ ‫در‬ .3‫آمده‬ ‫بدست‬ ‫ماتریس‬ ‫مقادیر‬ ‫همه‬ ‫جمع‬ .4‫پیکسل‬ ‫تعداد‬ ‫بر‬ ‫تقسیم‬ ‫جواب‬‫ویژگی‬ ‫ماتریس‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬51 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  • 51. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬52 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1
  • 52. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬53 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1
  • 53. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬54 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1
  • 54. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬55 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1
  • 55. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬56 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1
  • 56. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬57 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1
  • 57. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬58 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 1
  • 58. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬59 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 1 1
  • 59. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬60 1 1 1 1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1
  • 60. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬61 1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  • 61. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬62 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 1 1 1 -1 1 1
  • 62. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬63 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 55 1 1 -1 1 1 1 -1 1 1
  • 63. ‫کانولوشن‬:‫کند‬‫می‬ ‫بررسی‬ ‫را‬ ‫داشتن‬ ‫تطبیق‬ ‫ممکن‬ ‫حاالت‬ ‫همه‬ ‫درواقع‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬64 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  • 64. ‫کانولوشن‬:‫کند‬‫می‬ ‫بررسی‬ ‫را‬ ‫داشتن‬ ‫تطبیق‬ ‫ممکن‬ ‫حاالت‬ ‫همه‬ ‫درواقع‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬65 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 =
  • 65. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 66 ‫کانولوش‬ ‫الیه‬‫ن‬ 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 = -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 = = -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  • 66. ‫کانولوشن‬ ‫الیه‬:‫کند‬‫می‬ ‫تبدیل‬ ‫شده‬‫فیلتر‬ ‫های‬‫عکس‬ ‫از‬ ‫ای‬‫مجموعه‬ ‫به‬ ‫عکس‬ ‫هر‬ ‫درواقع‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬67 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  • 67. ‫کانولوشن‬ ‫الیه‬:‫کند‬‫می‬ ‫تبدیل‬ ‫شده‬‫فیلتر‬ ‫های‬‫عکس‬ ‫از‬ ‫ای‬‫مجموعه‬ ‫به‬ ‫عکس‬ ‫هر‬ ‫درواقع‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬68 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  • 68. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬69 http://ufldl.stanford.edu/tutorial/supervised/Pooling/ .1‫پنجره‬ ‫اندازه‬ ‫انتخاب‬ .2‫انتخاب‬‫حرکت‬ ‫گام‬ .3‫شده‬‫فیلتر‬ ‫تصاویر‬ ‫روی‬ ‫پنجره‬ ‫دادن‬ ‫حرکت‬ .4‫آخر؛‬ ‫گام‬ ‫در‬‫مقدار‬ ‫بیشترین‬‫کنیم‬‫می‬ ‫انتخاب‬ ‫را‬ ‫پنجره‬ ‫هر‬
  • 69. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬70 1.00 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77 ‫مقدار‬ ‫بیشترین‬ Maximum
  • 70. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬71 ‫مقدار‬ ‫بیشترین‬ Maximum 1.00 0.33 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  • 71. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬72 ‫مقدار‬ ‫بیشترین‬ Maximum 1.00 0.33 0.55 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  • 72. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬73 ‫مقدار‬ ‫بیشترین‬ Maximum 1.00 0.33 0.55 0.33 0.33 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  • 73. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬74
  • 74. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 75 ‫ادغام‬ ‫الیه‬ (‫پولینگ؛‬ Pooling)
  • 75. ‫ادغام‬ ‫الیه‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬76
  • 76. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬77 https://en.wikipedia.org/wiki/File:Rectifier_and_softplus_functions.svg#/media/File:Rectifier_and_softplus_functions.svg https://papers.nips.cc/paper/4824-imagenet-classification- with-deep-convolutional-neural-networks.pdf ‫تابع‬ ‫مقایسه‬Relue‫با‬tanh ‫همگرایی‬ ‫برابری‬ ‫شش‬ ‫بهبود‬ ‫نمایش‬ ‫برای‬‫با‬ReLU(‫خط‬‫ساده‬) ‫همگرایی‬ ‫برابر‬ ‫در‬‫با‬Tanh(‫چین‬ ‫خط‬)
  • 77. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬78 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77 0.77
  • 78. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬79 0.77 00.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  • 79. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬80 0.77 0 0.11 0.33 0.55 0 0.330.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  • 80. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬81 0.77 0 0.11 0.33 0.55 0 0.33 0 1.00 0 0.33 0 0.11 0 0.11 0 1.00 0 0.11 0 0.55 0.33 0.33 0 0.55 0 0.33 0.33 0.55 0 0.11 0 1.00 0 0.11 0 0.11 0 0.33 0 1.00 0 0.33 0 0.55 0.33 0.11 0 0.77 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  • 81. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 82 ‫الیه‬Relu
  • 82. ‫شده‬ ‫فراگیری‬ ‫موارد‬ ‫از‬ ‫الیه‬ ‫چندین‬ ‫مثال‬ ‫طراحی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬83 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  • 83. ‫فراگیری‬ ‫موارد‬ ‫از‬ ‫الیه‬ ‫چندین‬ ‫مثال‬ ‫طراحی‬‫شده؛‬(Deep stacking) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬84 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1.00 0.55 0.55 1.00 0.55 1.00 1.00 0.55 1.00 0.55 0.55 0.55
  • 84. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬85 1.00 0.55 0.55 1.00 0.55 1.00 1.00 0.55 1.00 0.55 0.55 0.55 1.00 0.55 0.55 1.00 1.00 0.55 0.55 0.55 0.55 1.00 1.00 0.55
  • 85. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) •‫گیری‬‫رأی‬ ‫بحث‬(voting...) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬86 X O 1.00 0.55 0.55 1.00 1.00 0.55 0.55 0.55 0.55 1.00 1.00 0.55
  • 86. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬87 X O
  • 87. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬88 X O 0.9 0.65 0.45 0.87 0.96 0.73 0.23 0.63 0.44 0.89 0.94 0.53
  • 88. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬89 X O 0.9 0.65 0.45 0.87 0.96 0.73 0.23 0.63 0.44 0.89 0.94 0.53
  • 89. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬90 X O 0.9 0.65 0.45 0.87 0.96 0.73 0.23 0.63 0.44 0.89 0.94 0.53
  • 90. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬91 X O 0.9 0.65 0.45 0.87 0.96 0.73 0.23 0.63 0.44 0.89 0.94 0.53
  • 91. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬92 X O 0.9 0.65 0.45 0.87 0.96 0.73 0.23 0.63 0.44 0.89 0.94 0.53
  • 92. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬93 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 X O
  • 93. ‫عقب‬ ‫به‬ ‫رو‬ ‫انتشار‬(Back Propagation) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬94 Error = right answer – actual answer -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 X O
  • 94. ‫گرادیان‬ ‫کاهش‬(Gradient descent) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬95 error
  • 95. ‫گرادیان‬ ‫کاهش‬(Gradient descent) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬96 error
  • 96. ‫پیشرو‬ ‫های‬‫چالش‬ ‫از‬ ‫برخی‬... •‫مسئله‬ ‫ی‬‫پارامترها‬ •‫شبکه‬ ‫معماری‬ ‫و‬ ‫چینش‬ ‫نوع‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬97
  • 97. ‫باال‬‫سطح‬ ‫های‬‫پارامتر‬(Hyperparameters) • Convolution  Number of features  Size of features • Pooling  Window size  Window stride • Fully Connected  Number of neurons ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬98
  • 98. ‫شبکه‬ ‫معماری‬ ‫چالش‬ •‫باشیم؟‬ ‫داشته‬ ‫الیه‬ ‫چند‬! •‫شوند؟‬ ‫چینش‬ ‫ترتیبی‬ ‫چه‬ ‫به‬ ‫ها‬‫الیه‬! •... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬99
  • 99. ‫میخورد؟‬ ‫تصاویر‬ ‫پردازش‬ ‫بدرد‬ ‫فقط‬ ‫آیا‬! •‫باشد‬ ‫بعدی‬ ‫سه‬ ‫یا‬ ‫دو‬ ‫که‬ ‫ای‬‫داده‬ ‫نوع‬ ‫هر‬ ‫درواقع‬... ‫تصویر‬ ‫صوت‬ ‫متن‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬100
  • 100. ‫ها‬‫محدودیت‬... •،‫دارد‬ ‫وجود‬ ‫که‬ ‫مهمی‬ ‫نکته‬ConvNet‫های‬‫الگو‬ ‫فقط‬ ‫و‬ ‫فقط‬‫مکانی‬(Spatial)‫را‬ ‫کند‬‫می‬ ‫استخراج‬. •‫تصویر‬ ‫یک‬ ‫شکل‬ ‫به‬ ‫تقریبا‬ ‫شما‬ ‫داده‬ ‫اگر‬(‫شکل‬ ‫ماتریس‬)،‫نباشد‬ConvNet‫مفید‬ ‫کمتر‬ ‫است‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬101
  • 101. ‫ارائه‬ ‫منابع‬ •‫خالصه‬ ‫طور‬ ‫به‬ ‫اما‬ ‫شده‬ ‫درج‬ ‫ها‬‫اسالید‬ ‫در‬ ‫منابع‬ ‫اکثر‬ ،‫است‬ ‫بوده‬ ‫مختلفی‬ ‫منابع‬::: ‫آقای‬ ‫های‬‫ارائه‬Brandon Rohrer ‫اختصاصی‬ ‫مطالب‬UFDL‫استفنورد‬ ‫سایت‬ ‫در‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬102 @_brohrer_ on Twitter #HowItWorks #ConvNet brohrer@microsoft.com http://ufldl.stanford.edu
  • 102. ‫کال‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬‫داده‬‫ن‬(2) ‫دانشگاه‬‫صنعتی‬،‫شریف‬‫تهران‬ ‫محمد‬‫خالوئی‬‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫کالن‬103 ‫تلگرام‬:@dataset ‫ایـمـیـل‬:mkhalooei@gmail.com ‫خالوئی‬ ‫محمد‬ ‫دی‬1395 ‫توجهتان‬ ‫از‬ ‫باتشکر‬ ‫شنید‬ ‫نخواهی‬ ‫را‬ ‫آب‬ ‫دلنشین‬ ‫صدای‬ ‫هیچگاه‬ ‫نباشد‬ ‫پیشرو‬ ‫سنگی‬ ‫اگر‬|«‫ا‬ً‫ر‬ْ‫س‬ُ‫ي‬ ِ‫ر‬ْ‫س‬ُ‫ع‬ْ‫ال‬ َ‫ع‬َ‫م‬ َّ‫ن‬ِ‫إ‬َ‫ف‬(5)‫ا‬ً‫ر‬ْ‫س‬ُ‫ي‬ ِ‫ر‬ْ‫س‬ُ‫ع‬ْ‫ال‬ َ‫ع‬َ‫م‬ َّ‫ن‬ِ ‫إ‬(6)‫انشراح‬ ‫سوره‬»