تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌داده

880 views

Published on


اسلایدهای ارائه جلسه دوم "تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌داده" 7دی1395 در کارگروه داده‌های عظیم دانشگاه صنعتی شریف
---------------------------------

Analysis of big data, with deep learning approach presentation slides that presented by Mohammad khalooei at Sharif University big data committee on 27 Dec 2016.

Published in: Data & Analytics
0 Comments
7 Likes
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total views
880
On SlideShare
0
From Embeds
0
Number of Embeds
213
Actions
Shares
0
Downloads
91
Comments
0
Likes
7
Embeds 0
No embeds

No notes for slide

تحلیل با رویکرد یادگیری ژرف بر بستر کلان‌داده

  1. 1. ‫کال‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬‫داده‬‫ن‬(2) ‫تهران‬ ،‫شریف‬ ‫صنعتی‬ ‫دانشگاه‬ ‫محمد‬‫خالوئی‬‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫کالن‬2 ‫تلگرام‬:@dataset ‫ایـمـیـل‬:mkhalooei@gmail.com ‫خالوئی‬ ‫محمد‬ 7‫دی‬1395
  2. 2. ‫ارائه‬ ‫از‬ ‫دیدکلی‬ •‫گذشته‬ ‫جلسه‬ ‫یادآوری‬ •‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫خصوص‬ ‫در‬ ‫ذهنی‬ ‫سازی‬‫آماده‬ ‫مقدمات‬ •‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫طراحی‬ ‫در‬ ‫استفاده‬ ‫مورد‬ ‫پرکاربرد‬ ‫و‬ ‫مختلف‬ ‫های‬‫بخش‬ ‫بیان‬ •‫ژرف‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫از‬ ‫استفاده‬ ‫برای‬ ‫پیشرو‬ ‫های‬‫چالش‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬3
  3. 3. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 4 ‫یادآوری‬... http://www.tekshow.com/posts/820
  4. 4. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 5 ‫یادآوری‬... 1992:100GB‫روز‬ ‫در‬ 1997:100GB‫ساعت‬ ‫در‬ 2002:100GB‫ثانیه‬ ‫در‬ 2018:50000GB‫ثانیه‬ ‫در‬ http://www.gereports.com/post/110073426843/big-data-infographic/
  5. 5. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 6 ‫یادآوری‬... ‫ای‬‫داده‬ ‫منابع‬ •‫ها‬‫فعالیت‬ •‫گفتگوها‬ •‫کلمات‬ •‫صوت‬ •‫اجتماعی‬ ‫شبکه‬ •‫الگ‬ •‫تصاویر‬ •‫ویدیو‬ •‫سنسور‬ •‫و‬... ‫حجم‬ ‫صحت‬ ‫تنوع‬ ‫سرعت‬ ‫داده‬‫کالن‬ ‫تحلیل‬ ‫کاوی‬ ‫متن‬ ‫معنایی‬ ‫تحلیل‬ ‫ویدیو‬ ‫تحلیل‬ ‫چهره‬ ‫تشخیص‬ ‫صوت‬ ‫تحلیل‬ ‫رفتار‬ ‫و‬ ‫حرکات‬ ‫تحلیل‬ ‫و‬...
  6. 6. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 7 ‫یادآوری‬... https://opensignal.com ‫اپراتوره‬ ‫دهی‬‫پوشش‬‫ا‬ ‫فضای‬ ‫محدوده‬ ‫در‬ ‫دانشگاه‬ ‫اطراف‬ ‫های‬ ‫داده‬ ‫تحلیل‬ ‫از‬ ‫ای‬ ‫نمونه‬Twitter •‫مخابرات‬ •‫نقل‬ ‫و‬ ‫حمل‬ •‫ترافیک‬ ‫کنترل‬ •‫هوا‬ ‫و‬ ‫آب‬ ‫وضعیت‬ •‫تقلب‬ ‫کشف‬ •‫مالی‬ ‫موسسات‬ ‫و‬ ‫بانک‬ •‫مشتریان‬ ‫اعتبارسنجی‬ •‫شبکه‬‫اجتماعی‬ •….
  7. 7. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 8 ‫یادآوری‬... https://flink.apache.org/http://hadoop.apache.org/ http://spark.apache.org/
  8. 8. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 9 ‫یادآوری‬... • Tableau • Qlik • kibana • ChartJs • Raw • Dygraphs • …
  9. 9. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 10 ‫یادگیری‬‫ژرف‬ ‫بخش‬‫اول‬
  10. 10. ‫ذهنی‬ ‫سازی‬ ‫آماده‬... ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬11 http://weknowyourdreams.com/image.php?pic=/images/eagle/eagle-08.jpg https://commons.wikimedia.org/wiki/File:Raptor-ElmendorfAFB-2009.JPG
  11. 11. ‫ذهنی‬ ‫سازی‬ ‫آماده‬... ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬12
  12. 12. ‫عصبی‬ ‫نرون‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬13
  13. 13. ‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬14
  14. 14. ‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬15
  15. 15. ‫عصبی‬ ‫های‬‫نرون‬ ‫از‬ ‫ای‬‫شبکه‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬16
  16. 16. ‫های‬‫نرون‬ ‫از‬ ‫هایی‬‫ترسیم‬ ‫اولین‬‫عصبی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬17 Public domain Dendrites (‫دندریت‬) Soma (‫هسته‬) Axon (‫آکسون‬)
  17. 17. ‫عصبی‬ ‫نرون‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬18
  18. 18. •‫میکند‬ ‫منتقل‬ ‫آکسون‬ ‫به‬ ‫را‬ ‫ها‬‫دندریت‬ ‫های‬‫فعالیت‬ ‫مقادیر‬ ‫هسته‬ ‫شده‬ ‫ساده‬ ‫مدل‬‫عصبی‬ ‫نرون‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬19 +
  19. 19. •‫میکند‬ ‫منتقل‬ ‫آکسون‬ ‫به‬ ‫را‬ ‫ها‬‫دندریت‬ ‫های‬‫فعالیت‬ ‫مقادیر‬ ‫هسته‬ •‫باشند‬ ‫داشته‬ ‫فعالیت‬ ‫مقدار‬ ‫بیشتری‬ ‫های‬‫دندریت‬ ‫هرچه‬ ‫بود‬ ‫خواهد‬ ‫بیشتر‬ ‫هم‬ ‫آکسون‬ ‫فعالیت‬ ‫مقدار‬. ‫عصبی‬ ‫نرون‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬20 +
  20. 20. ‫سیناپس‬(Synapse) ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬21 •‫نرون‬ ‫یک‬ ‫های‬‫آکسون‬ ‫اتصال‬ ‫برای‬ ‫های‬‫دندریت‬ ‫به‬‫نرون‬‫دیگر‬
  21. 21. •‫دیگر‬ ‫نرون‬ ‫های‬‫دندریت‬ ‫به‬ ‫نرون‬ ‫یک‬ ‫های‬‫آکسون‬ ‫اتصال‬ ‫مختلف‬ ‫انواع‬ ‫قوی‬(Stronger) ‫ضعیف‬(Weaker) ‫متوسط‬(between of them) ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬22
  22. 22. •‫متوسط‬ ‫اتصال‬ ‫مثال‬(‫معادل‬‫مقدار‬0.6) ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬23
  23. 23. •‫قوی‬ ‫اتصال‬ ‫مثال‬(‫مقدار‬ ‫معادل‬1) ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬24
  24. 24. •‫ضعیف‬ ‫اتصال‬ ‫مثال‬(‫معادل‬‫مقدار‬0.2) ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬25
  25. 25. •‫اتصال‬ ‫وجود‬ ‫عدم‬(‫صفر‬ ‫معادل‬) ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬26
  26. 26. •‫هرتعداد‬‫دیگر‬ ‫های‬‫نرون‬ ‫آکسون‬ ‫به‬‫نرون‬ ‫یک‬ ‫های‬‫دندریت‬‫شود‬ ‫متصل‬ ‫تواند‬‫می‬ •‫دارد‬ ‫اختصاصی‬ ‫ّت‬‫و‬‫ق‬ ‫میزان‬ ‫دارای‬ ‫هرکدام‬ ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬27
  27. 27. ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫ساده‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬28
  28. 28. ‫عصبی‬ ‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬ ‫مدل‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬29 .8 .9.2.3.5
  29. 29. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬30
  30. 30. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬31
  31. 31. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬32 ACE A B C D E
  32. 32. ‫مدل‬‫شبکه‬ ‫شده‬ ‫سازی‬ ‫شبیه‬‫عصبی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬33
  33. 33. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 34 ‫ژرف‬ ‫یادگیری‬ ‫بخش‬‫دوم‬
  34. 34. ‫ذهنی‬ ‫سازی‬ ‫آماده‬ •‫ورودی‬ ‫عکس‬ ‫روی‬ ‫از‬ ‫است‬ ‫قرار‬ ‫سیستم‬ ‫واقع‬ ‫در‬(‫ها‬‫پیکسل‬ ‫از‬ ‫ای‬‫آرایه‬) •‫مربوطه‬ ‫عکس‬ ‫که‬ ‫دهد‬ ‫تشخیص‬X‫یا‬O‫است‬! ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬35 X ‫یا‬ OCNN ‫بعدی‬ ‫دو‬ ‫ماتریس‬ ‫ها‬‫پیکسل‬ ‫از‬
  35. 35. ‫تشخیص‬ ‫مثال‬X‫یا‬O‫با‬CNN ‫محمد‬‫خالوئی‬‫داد‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫ه‬36 CNN X CNN O
  36. 36. ‫تشخیص‬ ‫مثال‬X‫یا‬O‫با‬CNN–‫تعمیم‬ ‫قابلیت‬ ‫با‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬37 CNN X CNN O ‫جابجایی‬ translation ‫تغییراندازه‬ scaling ‫ضخامت‬(‫وزن‬) weight ‫چرخش‬ rotation
  37. 37. ‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬38 ?
  38. 38. -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 ‫میبیند؟‬ ‫چه‬ ‫کامپیوتر‬ ‫درواقع‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬39 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 ?-1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 X -1 -1 -1 -1 X X -1 -1 X X -1 -1 X X -1 -1 -1 -1 X 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 X -1 -1 -1 -1 X X -1 -1 X X -1 -1 X X -1 -1 -1 -1 X -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  39. 39. ‫میبیند؟‬ ‫چه‬ ‫کامپیوتر‬ ‫درواقع‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬40 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 X -1 -1 -1 -1 X X -1 -1 X X -1 -1 X X -1 -1 -1 -1 X 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 X -1 -1 -1 -1 X X -1 -1 X X -1 -1 X X -1 -1 -1 -1 X -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  40. 40. ‫هستند‬ ‫ریزبین‬ ‫ها‬‫کامپیوتر‬ ‫درواقع‬!! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬41 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 x
  41. 41. ‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬42 (2,2,2,2)
  42. 42. ‫چیست؟‬ ‫تشخیص‬ ‫راه‬ ‫واقعا‬ ‫اما‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬43 (2,2,2,3)
  43. 43. ‫پس‬ConvNet‫دارد؟‬ ‫ای‬‫ایده‬ ‫چه‬! ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬44 = = =
  44. 44. ‫آمده‬ ‫بدست‬ ‫مناسب‬ ‫های‬‫ویژگی‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬45 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  45. 45. ‫ایده‬ConvNet ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬46 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  46. 46. ‫ایده‬ConvNet ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬47 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  47. 47. ‫ایده‬ConvNet ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬48 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  48. 48. ‫ایده‬ConvNet ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬49 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  49. 49. ‫ایده‬ConvNet ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬50 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1
  50. 50. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... .1‫ویژگی‬ ‫ماتریس‬‫تصویر‬ ‫های‬‫تکه‬ ‫و‬(patch)‫کنیم‬ ‫آماده‬ ‫را‬ .2‫پیکسل‬ ‫هر‬ ‫ای‬‫نقطه‬ ‫ضرب‬‫ویژگی‬ ‫ماتریس‬‫عکس‬‫تکه‬ ‫از‬ ‫پیکسل‬ ‫هر‬ ‫در‬ .3‫آمده‬ ‫بدست‬ ‫ماتریس‬ ‫مقادیر‬ ‫همه‬ ‫جمع‬ .4‫پیکسل‬ ‫تعداد‬ ‫بر‬ ‫تقسیم‬ ‫جواب‬‫ویژگی‬ ‫ماتریس‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬51 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  51. 51. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬52 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1
  52. 52. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬53 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1
  53. 53. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬54 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1
  54. 54. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬55 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1
  55. 55. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬56 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1
  56. 56. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬57 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1
  57. 57. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬58 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 1
  58. 58. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬59 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 1 1
  59. 59. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬60 1 1 1 1 1 1 1 1 1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1
  60. 60. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬61 1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  61. 61. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬62 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 1 -1 1 1 1 -1 1 1
  62. 62. ‫فیلترینگ‬:‫هست‬ ‫قضیه‬ ‫پشت‬ ‫ریاضی‬ ‫رابطه‬ ‫سری‬ ‫یک‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬63 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 55 1 1 -1 1 1 1 -1 1 1
  63. 63. ‫کانولوشن‬:‫کند‬‫می‬ ‫بررسی‬ ‫را‬ ‫داشتن‬ ‫تطبیق‬ ‫ممکن‬ ‫حاالت‬ ‫همه‬ ‫درواقع‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬64 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  64. 64. ‫کانولوشن‬:‫کند‬‫می‬ ‫بررسی‬ ‫را‬ ‫داشتن‬ ‫تطبیق‬ ‫ممکن‬ ‫حاالت‬ ‫همه‬ ‫درواقع‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬65 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 =
  65. 65. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 66 ‫کانولوش‬ ‫الیه‬‫ن‬ 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 = -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 = = -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  66. 66. ‫کانولوشن‬ ‫الیه‬:‫کند‬‫می‬ ‫تبدیل‬ ‫شده‬‫فیلتر‬ ‫های‬‫عکس‬ ‫از‬ ‫ای‬‫مجموعه‬ ‫به‬ ‫عکس‬ ‫هر‬ ‫درواقع‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬67 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 1 -1 1 -1 1 -1 -1 1 -1 1 -1 1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  67. 67. ‫کانولوشن‬ ‫الیه‬:‫کند‬‫می‬ ‫تبدیل‬ ‫شده‬‫فیلتر‬ ‫های‬‫عکس‬ ‫از‬ ‫ای‬‫مجموعه‬ ‫به‬ ‫عکس‬ ‫هر‬ ‫درواقع‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬68 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  68. 68. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬69 http://ufldl.stanford.edu/tutorial/supervised/Pooling/ .1‫پنجره‬ ‫اندازه‬ ‫انتخاب‬ .2‫انتخاب‬‫حرکت‬ ‫گام‬ .3‫شده‬‫فیلتر‬ ‫تصاویر‬ ‫روی‬ ‫پنجره‬ ‫دادن‬ ‫حرکت‬ .4‫آخر؛‬ ‫گام‬ ‫در‬‫مقدار‬ ‫بیشترین‬‫کنیم‬‫می‬ ‫انتخاب‬ ‫را‬ ‫پنجره‬ ‫هر‬
  69. 69. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬70 1.00 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77 ‫مقدار‬ ‫بیشترین‬ Maximum
  70. 70. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬71 ‫مقدار‬ ‫بیشترین‬ Maximum 1.00 0.33 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  71. 71. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬72 ‫مقدار‬ ‫بیشترین‬ Maximum 1.00 0.33 0.55 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  72. 72. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬73 ‫مقدار‬ ‫بیشترین‬ Maximum 1.00 0.33 0.55 0.33 0.33 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  73. 73. ‫ادغام‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬74
  74. 74. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 75 ‫ادغام‬ ‫الیه‬ (‫پولینگ؛‬ Pooling)
  75. 75. ‫ادغام‬ ‫الیه‬(‫پولینگ؛‬Pooling) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬76
  76. 76. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬77 https://en.wikipedia.org/wiki/File:Rectifier_and_softplus_functions.svg#/media/File:Rectifier_and_softplus_functions.svg https://papers.nips.cc/paper/4824-imagenet-classification- with-deep-convolutional-neural-networks.pdf ‫تابع‬ ‫مقایسه‬Relue‫با‬tanh ‫همگرایی‬ ‫برابری‬ ‫شش‬ ‫بهبود‬ ‫نمایش‬ ‫برای‬‫با‬ReLU(‫خط‬‫ساده‬) ‫همگرایی‬ ‫برابر‬ ‫در‬‫با‬Tanh(‫چین‬ ‫خط‬)
  77. 77. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬78 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77 0.77
  78. 78. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬79 0.77 00.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  79. 79. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬80 0.77 0 0.11 0.33 0.55 0 0.330.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  80. 80. ‫هنجارسازی‬(‫سازی؛‬‫نرمال‬Normalization):Rectified Linear Units (ReLUs) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬81 0.77 0 0.11 0.33 0.55 0 0.33 0 1.00 0 0.33 0 0.11 0 0.11 0 1.00 0 0.11 0 0.55 0.33 0.33 0 0.55 0 0.33 0.33 0.55 0 0.11 0 1.00 0 0.11 0 0.11 0 0.33 0 1.00 0 0.33 0 0.55 0.33 0.11 0 0.77 0.77 -0.11 0.11 0.33 0.55 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11 0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55 0.33 0.33 -0.33 0.55 -0.33 0.33 0.33 0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11 -0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11 0.33 -0.11 0.55 0.33 0.11 -0.11 0.77
  81. 81. ‫محمد‬‫خالوئی‬ ‫روی‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫کرد‬ ‫داده‬‫کالن‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ 82 ‫الیه‬Relu
  82. 82. ‫شده‬ ‫فراگیری‬ ‫موارد‬ ‫از‬ ‫الیه‬ ‫چندین‬ ‫مثال‬ ‫طراحی‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬83 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1
  83. 83. ‫فراگیری‬ ‫موارد‬ ‫از‬ ‫الیه‬ ‫چندین‬ ‫مثال‬ ‫طراحی‬‫شده؛‬(Deep stacking) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬84 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1.00 0.55 0.55 1.00 0.55 1.00 1.00 0.55 1.00 0.55 0.55 0.55
  84. 84. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬85 1.00 0.55 0.55 1.00 0.55 1.00 1.00 0.55 1.00 0.55 0.55 0.55 1.00 0.55 0.55 1.00 1.00 0.55 0.55 0.55 0.55 1.00 1.00 0.55
  85. 85. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) •‫گیری‬‫رأی‬ ‫بحث‬(voting...) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬86 X O 1.00 0.55 0.55 1.00 1.00 0.55 0.55 0.55 0.55 1.00 1.00 0.55
  86. 86. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬87 X O
  87. 87. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬88 X O 0.9 0.65 0.45 0.87 0.96 0.73 0.23 0.63 0.44 0.89 0.94 0.53
  88. 88. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬89 X O 0.9 0.65 0.45 0.87 0.96 0.73 0.23 0.63 0.44 0.89 0.94 0.53
  89. 89. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬90 X O 0.9 0.65 0.45 0.87 0.96 0.73 0.23 0.63 0.44 0.89 0.94 0.53
  90. 90. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬91 X O 0.9 0.65 0.45 0.87 0.96 0.73 0.23 0.63 0.44 0.89 0.94 0.53
  91. 91. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬92 X O 0.9 0.65 0.45 0.87 0.96 0.73 0.23 0.63 0.44 0.89 0.94 0.53
  92. 92. ‫متصل‬ ‫تمام‬ ‫الیه‬(Fully connected layer) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬93 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 X O
  93. 93. ‫عقب‬ ‫به‬ ‫رو‬ ‫انتشار‬(Back Propagation) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬94 Error = right answer – actual answer -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 1 -1 -1 -1 -1 -1 1 -1 -1 -1 -1 -1 -1 -1 -1 -1 -1 X O
  94. 94. ‫گرادیان‬ ‫کاهش‬(Gradient descent) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬95 error
  95. 95. ‫گرادیان‬ ‫کاهش‬(Gradient descent) ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬96 error
  96. 96. ‫پیشرو‬ ‫های‬‫چالش‬ ‫از‬ ‫برخی‬... •‫مسئله‬ ‫ی‬‫پارامترها‬ •‫شبکه‬ ‫معماری‬ ‫و‬ ‫چینش‬ ‫نوع‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬97
  97. 97. ‫باال‬‫سطح‬ ‫های‬‫پارامتر‬(Hyperparameters) • Convolution  Number of features  Size of features • Pooling  Window size  Window stride • Fully Connected  Number of neurons ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬98
  98. 98. ‫شبکه‬ ‫معماری‬ ‫چالش‬ •‫باشیم؟‬ ‫داشته‬ ‫الیه‬ ‫چند‬! •‫شوند؟‬ ‫چینش‬ ‫ترتیبی‬ ‫چه‬ ‫به‬ ‫ها‬‫الیه‬! •... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬99
  99. 99. ‫میخورد؟‬ ‫تصاویر‬ ‫پردازش‬ ‫بدرد‬ ‫فقط‬ ‫آیا‬! •‫باشد‬ ‫بعدی‬ ‫سه‬ ‫یا‬ ‫دو‬ ‫که‬ ‫ای‬‫داده‬ ‫نوع‬ ‫هر‬ ‫درواقع‬... ‫تصویر‬ ‫صوت‬ ‫متن‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬100
  100. 100. ‫ها‬‫محدودیت‬... •،‫دارد‬ ‫وجود‬ ‫که‬ ‫مهمی‬ ‫نکته‬ConvNet‫های‬‫الگو‬ ‫فقط‬ ‫و‬ ‫فقط‬‫مکانی‬(Spatial)‫را‬ ‫کند‬‫می‬ ‫استخراج‬. •‫تصویر‬ ‫یک‬ ‫شکل‬ ‫به‬ ‫تقریبا‬ ‫شما‬ ‫داده‬ ‫اگر‬(‫شکل‬ ‫ماتریس‬)،‫نباشد‬ConvNet‫مفید‬ ‫کمتر‬ ‫است‬... ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬101
  101. 101. ‫ارائه‬ ‫منابع‬ •‫خالصه‬ ‫طور‬ ‫به‬ ‫اما‬ ‫شده‬ ‫درج‬ ‫ها‬‫اسالید‬ ‫در‬ ‫منابع‬ ‫اکثر‬ ،‫است‬ ‫بوده‬ ‫مختلفی‬ ‫منابع‬::: ‫آقای‬ ‫های‬‫ارائه‬Brandon Rohrer ‫اختصاصی‬ ‫مطالب‬UFDL‫استفنورد‬ ‫سایت‬ ‫در‬ ‫محمد‬‫خالوئی‬‫ک‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫الن‬102 @_brohrer_ on Twitter #HowItWorks #ConvNet brohrer@microsoft.com http://ufldl.stanford.edu
  102. 102. ‫کال‬ ‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬‫داده‬‫ن‬(2) ‫دانشگاه‬‫صنعتی‬،‫شریف‬‫تهران‬ ‫محمد‬‫خالوئی‬‫بستر‬ ‫بر‬ ‫ژرف‬‫یادگیری‬ ‫رویکرد‬ ‫با‬ ‫تحلیل‬ ‫علمی‬ ‫ارائه‬ ‫دوم‬ ‫جلسه‬‫داده‬‫کالن‬103 ‫تلگرام‬:@dataset ‫ایـمـیـل‬:mkhalooei@gmail.com ‫خالوئی‬ ‫محمد‬ ‫دی‬1395 ‫توجهتان‬ ‫از‬ ‫باتشکر‬ ‫شنید‬ ‫نخواهی‬ ‫را‬ ‫آب‬ ‫دلنشین‬ ‫صدای‬ ‫هیچگاه‬ ‫نباشد‬ ‫پیشرو‬ ‫سنگی‬ ‫اگر‬|«‫ا‬ً‫ر‬ْ‫س‬ُ‫ي‬ ِ‫ر‬ْ‫س‬ُ‫ع‬ْ‫ال‬ َ‫ع‬َ‫م‬ َّ‫ن‬ِ‫إ‬َ‫ف‬(5)‫ا‬ً‫ر‬ْ‫س‬ُ‫ي‬ ِ‫ر‬ْ‫س‬ُ‫ع‬ْ‫ال‬ َ‫ع‬َ‫م‬ َّ‫ن‬ِ ‫إ‬(6)‫انشراح‬ ‫سوره‬»

×