اسلایدهای ارائه جلسه دوم "تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌داده" 7دی1395 در کارگروه داده‌های عظیم دانشگاه صنعتی شریف محمد خالوئی mkhalooei@gmail.com --------------------------------- Analysis of big data, with deep learning approach presentation slides that presented by Mohammad khalooei at Sharif University big data committee on 27 Dec 2016.

1. ‫کال‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬‫داده‬‫ن‬(2)
‫تهران‬ ،‫شریف‬ ‫صنعتی‬ ‫دانشگاه‬
‫محمد‬‫خالوئی‬‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫کالن‬2
‫تلگرام‬:@dataset
‫ایـمـیـل‬:mkhalooei@gmail.com
‫خالوئی‬ ‫محمد‬
7‫دی‬1395

2. ‫ارائه‬ ‫از‬ ‫دیدکلی‬
•‫گذشته‬ ‫جلسه‬ ‫یادآوری‬
•‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫خصوص‬ ‫در‬ ‫ذهنی‬ ‫سازی‬‫آماده‬ ‫مقدمات‬
•‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫طراحی‬ ‫در‬ ‫استفاده‬ ‫مورد‬ ‫پرکاربرد‬ ‫و‬ ‫مختلف‬ ‫های‬‫بخش‬ ‫بیان‬
•‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫از‬ ‫استفاده‬ ‫برای‬ ‫پیشرو‬ ‫های‬‫چالش‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬3

3. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
4
‫یادآوری‬...
http://www.tekshow.com/posts/820

4. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
5
‫یادآوری‬...
1992:100GB‫روز‬ ‫در‬
1997:100GB‫ساعت‬ ‫در‬
2002:100GB‫ثانیه‬ ‫در‬
2018:50000GB‫ثانیه‬ ‫در‬
http://www.gereports.com/post/110073426843/big-data-infographic/

5. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
6
‫یادآوری‬...
‫ای‬‫داده‬ ‫منابع‬
•‫ها‬‫فعالیت‬
•‫گفتگوها‬
•‫کلمات‬
•‫صوت‬
•‫اجتماعی‬ ‫شبکه‬
•‫الگ‬
•‫تصاویر‬
•‫ویدیو‬
•‫سنسور‬
•‫و‬...
‫حجم‬
‫صحت‬
‫تنوع‬
‫سرعت‬
‫داده‬‫کالن‬ ‫تحلیل‬
‫کاوی‬ ‫متن‬
‫معنایی‬ ‫تحلیل‬
‫ویدیو‬ ‫تحلیل‬
‫چهره‬ ‫تشخیص‬
‫صوت‬ ‫تحلیل‬
‫رفتار‬ ‫و‬ ‫حرکات‬ ‫تحلیل‬
‫و‬...

6. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
7
‫یادآوری‬...
https://opensignal.com
‫اپراتوره‬ ‫دهی‬‫پوشش‬‫ا‬
‫فضای‬ ‫محدوده‬ ‫در‬
‫دانشگاه‬ ‫اطراف‬
‫های‬ ‫داده‬ ‫تحلیل‬ ‫از‬ ‫ای‬ ‫نمونه‬Twitter •‫مخابرات‬
•‫نقل‬ ‫و‬ ‫حمل‬
•‫ترافیک‬ ‫کنترل‬
•‫هوا‬ ‫و‬ ‫آب‬ ‫وضعیت‬
•‫تقلب‬ ‫کشف‬
•‫مالی‬ ‫موسسات‬ ‫و‬ ‫بانک‬
•‫مشتریان‬ ‫اعتبارسنجی‬
•‫شبکه‬‫اجتماعی‬
•….

7. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
8
‫یادآوری‬...
https://flink.apache.org/http://hadoop.apache.org/ http://spark.apache.org/

8. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
9
‫یادآوری‬...
• Tableau
• Qlik
• kibana
• ChartJs
• Raw
• Dygraphs
• …

9. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
10
‫یادگیری‬‫ژرف‬
‫بخش‬‫اول‬

10. ‫ذهنی‬ ‫سازی‬ ‫آماده‬...
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬11
http://weknowyourdreams.com/image.php?pic=/images/eagle/eagle-08.jpg
https://commons.wikimedia.org/wiki/File:Raptor-ElmendorfAFB-2009.JPG

11. ‫ذهنی‬ ‫سازی‬ ‫آماده‬...
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬12

12. ‫عصبی‬ ‫نرون‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬13

13. ‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬14

14. ‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬15

15. ‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬16

16. ‫های‬‫نرون‬ ‫از‬ ‫هایی‬‫ترسیم‬ ‫اولین‬‫عصبی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬17
Public domain
Dendrites (‫دندریت‬)
Soma (‫هسته‬)
Axon (‫آکسون‬)

17. ‫عصبی‬ ‫نرون‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬18

18. •‫میکند‬ ‫منتقل‬ ‫آکسون‬ ‫به‬ ‫را‬ ‫ها‬‫دندریت‬ ‫های‬‫فعالیت‬ ‫مقادیر‬ ‫هسته‬
‫شده‬ ‫ساده‬ ‫مدل‬‫عصبی‬ ‫نرون‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬19
+

19. •‫میکند‬ ‫منتقل‬ ‫آکسون‬ ‫به‬ ‫را‬ ‫ها‬‫دندریت‬ ‫های‬‫فعالیت‬ ‫مقادیر‬ ‫هسته‬
•‫باشند‬ ‫داشته‬ ‫فعالیت‬ ‫مقدار‬ ‫بیشتری‬ ‫های‬‫دندریت‬ ‫هرچه‬
‫بود‬ ‫خواهد‬ ‫بیشتر‬ ‫هم‬ ‫آکسون‬ ‫فعالیت‬ ‫مقدار‬.
‫عصبی‬ ‫نرون‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬20
+

20. ‫سیناپس‬(Synapse)
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬21
•‫نرون‬ ‫یک‬ ‫های‬‫آکسون‬ ‫اتصال‬ ‫برای‬
‫های‬‫دندریت‬ ‫به‬‫نرون‬‫دیگر‬

21. •‫دیگر‬ ‫نرون‬ ‫های‬‫دندریت‬ ‫به‬ ‫نرون‬ ‫یک‬ ‫های‬‫آکسون‬ ‫اتصال‬ ‫مختلف‬ ‫انواع‬
‫قوی‬(Stronger)
‫ضعیف‬(Weaker)
‫متوسط‬(between of them)
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬22

22. •‫متوسط‬ ‫اتصال‬ ‫مثال‬(‫معادل‬‫مقدار‬0.6)
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬23

23. •‫قوی‬ ‫اتصال‬ ‫مثال‬(‫مقدار‬ ‫معادل‬1)
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬24

24. •‫ضعیف‬ ‫اتصال‬ ‫مثال‬(‫معادل‬‫مقدار‬0.2)
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬25

25. •‫اتصال‬ ‫وجود‬ ‫عدم‬(‫صفر‬ ‫معادل‬)
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬26

26. •‫هرتعداد‬‫دیگر‬ ‫های‬‫نرون‬ ‫آکسون‬
‫به‬‫نرون‬ ‫یک‬ ‫های‬‫دندریت‬‫شود‬ ‫متصل‬ ‫تواند‬‫می‬
•‫دارد‬ ‫اختصاصی‬ ‫ّت‬‫و‬‫ق‬ ‫میزان‬ ‫دارای‬ ‫هرکدام‬
‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬27

27. ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬28

28. ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬ ‫مدل‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬29
.8 .9.2.3.5

29. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬30

30. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬31

31. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬32
ACE
A B C D E

32. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬33

33. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
34
‫ژرف‬ ‫یادگیری‬
‫بخش‬‫دوم‬

34. ‫ذهنی‬ ‫سازی‬ ‫آماده‬
•‫ورودی‬ ‫عکس‬ ‫روی‬ ‫از‬ ‫است‬ ‫قرار‬ ‫سیستم‬ ‫واقع‬ ‫در‬(‫ها‬‫پیکسل‬ ‫از‬ ‫ای‬‫آرایه‬)
•‫مربوطه‬ ‫عکس‬ ‫که‬ ‫دهد‬ ‫تشخیص‬X‫یا‬O‫است‬!
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬35
X ‫یا‬ OCNN
‫بعدی‬ ‫دو‬ ‫ماتریس‬
‫ها‬‫پیکسل‬ ‫از‬

35. ‫تشخیص‬ ‫مثال‬X‫یا‬O‫با‬CNN
‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬36
CNN X
CNN O

36. ‫تشخیص‬ ‫مثال‬X‫یا‬O‫با‬CNN–‫تعمیم‬ ‫قابلیت‬ ‫با‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬37
CNN X
CNN O
‫جابجایی‬
translation
‫تغییراندازه‬
scaling
‫ضخامت‬(‫وزن‬)
weight
‫چرخش‬
rotation

37. ‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬38
?

38. -1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
‫میبیند؟‬ ‫چه‬ ‫کامپیوتر‬ ‫درواقع‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬39
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 1 -1 -1 -1
-1 -1 1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 1 -1 -1
-1 -1 -1 1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
?-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 X -1 -1 -1 -1 X X -1
-1 X X -1 -1 X X -1 -1
-1 -1 X 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 X -1 -1
-1 -1 X X -1 -1 X X -1
-1 X X -1 -1 -1 -1 X -1
-1 -1 -1 -1 -1 -1 -1 -1 -1

39. ‫میبیند؟‬ ‫چه‬ ‫کامپیوتر‬ ‫درواقع‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬40
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 X -1 -1 -1 -1 X X -1
-1 X X -1 -1 X X -1 -1
-1 -1 X 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 X -1 -1
-1 -1 X X -1 -1 X X -1
-1 X X -1 -1 -1 -1 X -1
-1 -1 -1 -1 -1 -1 -1 -1 -1

40. ‫هستند‬ ‫ریزبین‬ ‫ها‬‫کامپیوتر‬ ‫درواقع‬!!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬41
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 1 -1 -1 -1
-1 -1 1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 1 -1 -1
-1 -1 -1 1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
x

41. ‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬42
(2,2,2,2)

42. ‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬43
(2,2,2,3)

43. ‫پس‬ConvNet‫دارد؟‬ ‫ای‬‫ایده‬ ‫چه‬!
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬44
=
=
=

44. ‫آمده‬ ‫بدست‬ ‫مناسب‬ ‫های‬‫ویژگی‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬45
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1

45. ‫ایده‬ConvNet
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬46
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1

46. ‫ایده‬ConvNet
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬47
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1

47. ‫ایده‬ConvNet
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬48
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1

48. ‫ایده‬ConvNet
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬49
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1

49. ‫ایده‬ConvNet
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬50
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1

50. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
.1‫ویژگی‬ ‫ماتریس‬‫تصویر‬ ‫های‬‫تکه‬ ‫و‬(patch)‫کنیم‬ ‫آماده‬ ‫را‬
.2‫پیکسل‬ ‫هر‬ ‫ای‬‫نقطه‬ ‫ضرب‬‫ویژگی‬ ‫ماتریس‬‫عکس‬‫تکه‬ ‫از‬ ‫پیکسل‬ ‫هر‬ ‫در‬
.3‫آمده‬ ‫بدست‬ ‫ماتریس‬ ‫مقادیر‬ ‫همه‬ ‫جمع‬
.4‫پیکسل‬ ‫تعداد‬ ‫بر‬ ‫تقسیم‬ ‫جواب‬‫ویژگی‬ ‫ماتریس‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬51
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1

51. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬52
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1

52. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬53
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1

53. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬54
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1

54. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬55
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
1

55. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬56
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
1 1

56. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬57
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
1 1 1

57. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬58
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
1 1 1
1

58. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬59
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 1
1 1 1
1 1

59. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬60
1
1 1 1
1 1 1
1 1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 -1 -1
-1 1 -1
-1 -1 1

60. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬61
1
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1

61. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬62
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1 1 -1
1 1 1
-1 1 1

62. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬63
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1
55
1 1 -1
1 1 1
-1 1 1

63. ‫کانولوشن‬:‫کند‬‫می‬ ‫بررسی‬ ‫را‬ ‫داشتن‬ ‫تطبیق‬ ‫ممکن‬ ‫حاالت‬ ‫همه‬ ‫درواقع‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬64
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1

64. ‫کانولوشن‬:‫کند‬‫می‬ ‫بررسی‬ ‫را‬ ‫داشتن‬ ‫تطبیق‬ ‫ممکن‬ ‫حاالت‬ ‫همه‬ ‫درواقع‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬65
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
=

65. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
66
‫کانولوش‬ ‫الیه‬‫ن‬
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
=
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
=
=
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1

66. ‫کانولوشن‬ ‫الیه‬:‫کند‬‫می‬ ‫تبدیل‬ ‫شده‬‫فیلتر‬ ‫های‬‫عکس‬ ‫از‬ ‫ای‬‫مجموعه‬ ‫به‬ ‫عکس‬ ‫هر‬ ‫درواقع‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬67
1 -1 -1
-1 1 -1
-1 -1 1
-1 -1 1
-1 1 -1
1 -1 -1
1 -1 1
-1 1 -1
1 -1 1
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1

67. ‫کانولوشن‬ ‫الیه‬:‫کند‬‫می‬ ‫تبدیل‬ ‫شده‬‫فیلتر‬ ‫های‬‫عکس‬ ‫از‬ ‫ای‬‫مجموعه‬ ‫به‬ ‫عکس‬ ‫هر‬ ‫درواقع‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬68
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1

68. ‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬69
http://ufldl.stanford.edu/tutorial/supervised/Pooling/
.1‫پنجره‬ ‫اندازه‬ ‫انتخاب‬
.2‫انتخاب‬‫حرکت‬ ‫گام‬
.3‫شده‬‫فیلتر‬ ‫تصاویر‬ ‫روی‬ ‫پنجره‬ ‫دادن‬ ‫حرکت‬
.4‫آخر؛‬ ‫گام‬ ‫در‬‫مقدار‬ ‫بیشترین‬‫کنیم‬‫می‬ ‫انتخاب‬ ‫را‬ ‫پنجره‬ ‫هر‬

69. ‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬70
1.00
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
‫مقدار‬ ‫بیشترین‬
Maximum

70. ‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬71
‫مقدار‬ ‫بیشترین‬
Maximum
1.00 0.33
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

71. ‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬72
‫مقدار‬ ‫بیشترین‬
Maximum
1.00 0.33 0.55
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

72. ‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬73
‫مقدار‬ ‫بیشترین‬
Maximum
1.00 0.33 0.55 0.33
0.33
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

73. ‫ادغام‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬74

74. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
75
‫ادغام‬ ‫الیه‬
(‫پولینگ؛‬
Pooling)

75. ‫ادغام‬ ‫الیه‬(‫پولینگ؛‬Pooling)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬76

76. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬77
https://en.wikipedia.org/wiki/File:Rectifier_and_softplus_functions.svg#/media/File:Rectifier_and_softplus_functions.svg
https://papers.nips.cc/paper/4824-imagenet-classification-
with-deep-convolutional-neural-networks.pdf
‫تابع‬ ‫مقایسه‬Relue‫با‬tanh
‫همگرایی‬ ‫برابری‬ ‫شش‬ ‫بهبود‬ ‫نمایش‬ ‫برای‬‫با‬ReLU(‫خط‬‫ساده‬)
‫همگرایی‬ ‫برابر‬ ‫در‬‫با‬Tanh(‫چین‬ ‫خط‬)

77. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬78
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
0.77

78. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬79
0.77 00.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

79. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬80
0.77 0 0.11 0.33 0.55 0 0.330.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

80. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬81
0.77 0 0.11 0.33 0.55 0 0.33
0 1.00 0 0.33 0 0.11 0
0.11 0 1.00 0 0.11 0 0.55
0.33 0.33 0 0.55 0 0.33 0.33
0.55 0 0.11 0 1.00 0 0.11
0 0.11 0 0.33 0 1.00 0
0.33 0 0.55 0.33 0.11 0 0.77
0.77 -0.11 0.11 0.33 0.55 -0.11 0.33
-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11
0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55
0.33 0.33 -0.33 0.55 -0.33 0.33 0.33
0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11
-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11
0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

81. ‫محمد‬‫خالوئی‬
‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬
‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬
82
‫الیه‬Relu

82. ‫شده‬ ‫فراگیری‬ ‫موارد‬ ‫از‬ ‫الیه‬ ‫چندین‬ ‫مثال‬ ‫طراحی‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬83
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1

83. ‫فراگیری‬ ‫موارد‬ ‫از‬ ‫الیه‬ ‫چندین‬ ‫مثال‬ ‫طراحی‬‫شده؛‬(Deep stacking)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬84
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
1.00 0.55
0.55 1.00
0.55 1.00
1.00 0.55
1.00 0.55
0.55 0.55

84. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬85
1.00 0.55
0.55 1.00
0.55 1.00
1.00 0.55
1.00 0.55
0.55 0.55
1.00
0.55
0.55
1.00
1.00
0.55
0.55
0.55
0.55
1.00
1.00
0.55

85. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
•‫گیری‬‫رأی‬ ‫بحث‬(voting...)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬86
X
O
1.00
0.55
0.55
1.00
1.00
0.55
0.55
0.55
0.55
1.00
1.00
0.55

86. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬87
X
O

87. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬88
X
O
0.9
0.65
0.45
0.87
0.96
0.73
0.23
0.63
0.44
0.89
0.94
0.53

88. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬89
X
O
0.9
0.65
0.45
0.87
0.96
0.73
0.23
0.63
0.44
0.89
0.94
0.53

89. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬90
X
O
0.9
0.65
0.45
0.87
0.96
0.73
0.23
0.63
0.44
0.89
0.94
0.53

90. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬91
X
O
0.9
0.65
0.45
0.87
0.96
0.73
0.23
0.63
0.44
0.89
0.94
0.53

91. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬92
X
O
0.9
0.65
0.45
0.87
0.96
0.73
0.23
0.63
0.44
0.89
0.94
0.53

92. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬93
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
X
O

93. ‫عقب‬ ‫به‬ ‫رو‬ ‫انتشار‬(Back Propagation)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬94
Error = right answer – actual answer
-1 -1 -1 -1 -1 -1 -1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 -1 -1 1 -1 -1 -1 -1
-1 -1 -1 1 -1 1 -1 -1 -1
-1 -1 1 -1 -1 -1 1 -1 -1
-1 1 -1 -1 -1 -1 -1 1 -1
-1 -1 -1 -1 -1 -1 -1 -1 -1
X
O

94. ‫گرادیان‬ ‫کاهش‬(Gradient descent)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬95
error

95. ‫گرادیان‬ ‫کاهش‬(Gradient descent)
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬96
error

96. ‫پیشرو‬ ‫های‬‫چالش‬ ‫از‬ ‫برخی‬...
•‫مسئله‬ ‫ی‬‫پارامترها‬
•‫شبکه‬ ‫معماری‬ ‫و‬ ‫چینش‬ ‫نوع‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬97

97. ‫باال‬‫سطح‬ ‫های‬‫پارامتر‬(Hyperparameters)
• Convolution
 Number of features
 Size of features
• Pooling
 Window size
 Window stride
• Fully Connected
 Number of neurons
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬98

98. ‫شبکه‬ ‫معماری‬ ‫چالش‬
•‫باشیم؟‬ ‫داشته‬ ‫الیه‬ ‫چند‬!
•‫شوند؟‬ ‫چینش‬ ‫ترتیبی‬ ‫چه‬ ‫به‬ ‫ها‬‫الیه‬!
•...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬99

99. ‫میخورد؟‬ ‫تصاویر‬ ‫پردازش‬ ‫بدرد‬ ‫فقط‬ ‫آیا‬!
•‫باشد‬ ‫بعدی‬ ‫سه‬ ‫یا‬ ‫دو‬ ‫که‬ ‫ای‬‫داده‬ ‫نوع‬ ‫هر‬ ‫درواقع‬...
‫تصویر‬ ‫صوت‬ ‫متن‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬100

100. ‫ها‬‫محدودیت‬...
•،‫دارد‬ ‫وجود‬ ‫که‬ ‫مهمی‬ ‫نکته‬ConvNet‫های‬‫الگو‬ ‫فقط‬ ‫و‬ ‫فقط‬‫مکانی‬(Spatial)‫را‬
‫کند‬‫می‬ ‫استخراج‬.
•‫تصویر‬ ‫یک‬ ‫شکل‬ ‫به‬ ‫تقریبا‬ ‫شما‬ ‫داده‬ ‫اگر‬(‫شکل‬ ‫ماتریس‬)،‫نباشد‬ConvNet‫مفید‬ ‫کمتر‬
‫است‬...
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬101

101. ‫ارائه‬ ‫منابع‬
•‫خالصه‬ ‫طور‬ ‫به‬ ‫اما‬ ‫شده‬ ‫درج‬ ‫ها‬‫اسالید‬ ‫در‬ ‫منابع‬ ‫اکثر‬ ،‫است‬ ‫بوده‬ ‫مختلفی‬ ‫منابع‬:::
‫آقای‬ ‫های‬‫ارائه‬Brandon Rohrer
‫اختصاصی‬ ‫مطالب‬UFDL‫استفنورد‬ ‫سایت‬ ‫در‬
‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬102
@_brohrer_ on Twitter
#HowItWorks #ConvNet
brohrer@microsoft.com
http://ufldl.stanford.edu

102. ‫کال‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬‫داده‬‫ن‬(2)
‫دانشگاه‬‫صنعتی‬،‫شریف‬‫تهران‬
‫محمد‬‫خالوئی‬‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫کالن‬103
‫تلگرام‬:@dataset
‫ایـمـیـل‬:mkhalooei@gmail.com
‫خالوئی‬ ‫محمد‬
‫دی‬1395
‫توجهتان‬ ‫از‬ ‫باتشکر‬
‫شنید‬ ‫نخواهی‬ ‫را‬ ‫آب‬ ‫دلنشین‬ ‫صدای‬ ‫هیچگاه‬ ‫نباشد‬ ‫پیشرو‬ ‫سنگی‬ ‫اگر‬|«‫ا‬ً‫ر‬ْ‫س‬ُ‫ي‬ ِ‫ر‬ْ‫س‬ُ‫ع‬ْ‫ال‬ َ‫ع‬َ‫م‬ َّ‫ن‬ِ‫إ‬َ‫ف‬(5)‫ا‬ً‫ر‬ْ‫س‬ُ‫ي‬ ِ‫ر‬ْ‫س‬ُ‫ع‬ْ‫ال‬ َ‫ع‬َ‫م‬ َّ‫ن‬ِ ‫إ‬(6)‫انشراح‬ ‫سوره‬»