‫دانشجو‬:‫حسنی‬ ‫شیخ‬ ‫پوریا‬
‫استاد‬:‫نیا‬ ‫رضایی‬ ‫دکتر‬
‫پائیز‬1394
‫مصن‬ ‫عصبی‬ ‫های‬ ‫شبکه‬‫وعی‬
‫مباحث‬:
‫مصنوعی‬ ‫و‬ ‫زیستی‬ ‫عصبی‬ ‫شبکه‬ ‫با‬ ‫آشنایی‬
‫مصنوعی‬ ‫عصبی‬ ‫شبکه‬ ‫کار‬ ‫نحوه‬
‫عصبی‬ ‫های‬ ‫شبکه‬ ‫انواع‬
‫پرسپترون‬
‫عصبی‬ ‫شبکه‬ ‫آموزش‬
‫پرسپترون‬ ‫و‬ ‫بولی‬ ‫توابع‬
‫پرسپترون‬ ‫آموزش‬
‫مثال‬
‫عصبی‬ ‫شبکه‬‫زیستی‬
‫هماهنگ‬ ‫صورت‬ ‫به‬ ‫که‬ ‫هسنتد‬ ‫نرون‬ ‫نام‬ ‫به‬ ‫موازی‬ ‫های‬ ‫پردازشگر‬ ‫از‬ ‫عظیم‬ ‫بسیار‬ ‫ای‬ ‫مجموعه‬‫برای‬
‫میکنند‬ ‫عمل‬ ‫مسئله‬ ‫حل‬.
‫دارند‬ ‫اصلی‬ ‫عضو‬ ‫چهار‬
‫دندریت‬
‫سوما‬
‫آکسون‬
‫سیناپس‬
‫المسه‬ ‫حس‬ ‫عصبی‬ ‫سلول‬ ‫مثال‬
‫عصبی‬ ‫شبکه‬‫مصنوعی‬
‫بیول‬ ‫عصبی‬ ‫های‬ ‫شبکه‬ ‫از‬ ‫تقلید‬ ‫با‬ ‫که‬ ‫باشد‬ ‫می‬ ‫اطالعات‬ ‫پردازش‬ ‫برای‬ ‫الگویی‬‫انسان‬ ‫مغز‬ ‫وژیک‬
‫اند‬ ‫شده‬ ‫ساخته‬
‫ها‬ ‫نود‬ ‫طراحی‬
‫نودها‬ ‫حالت‬
‫ها‬ ‫یال‬
‫خ‬ ‫غیر‬ ‫یادگیر‬ ‫ریاضی‬ ‫های‬ ‫سیستم‬ ‫کلی‬ ‫طور‬ ‫به‬ ‫عصبی‬ ‫های‬ ‫شبکه‬‫هستند‬ ‫طی‬.
‫صری‬ ‫کامال‬ ‫دستورات‬ ‫نیازمند‬ ‫معمول‬ ‫نویسی‬ ‫برنامه‬ ‫های‬ ‫زبان‬ ‫برخالف‬‫و‬ ‫ح‬
‫تع‬ ‫وسیله‬ ‫به‬ ‫یادگیری‬ ‫قابلیت‬ ‫انسان‬ ‫مانند‬ ‫بلکه‬ ‫نیست‬ ‫مشخص‬‫را‬ ‫مثال‬ ‫دادی‬
‫دارد‬.
‫بی‬ ‫ریاضی‬ ‫دقیق‬ ‫روابط‬ ‫که‬ ‫مسائلی‬ ‫حل‬ ‫در‬ ‫میتوان‬ ‫را‬ ‫عصبی‬ ‫شبکه‬‫و‬ ‫ها‬ ‫ورودی‬ ‫ن‬
‫برد‬ ‫بکار‬ ‫نیست‬ ‫برقرار‬ ‫آن‬ ‫های‬ ‫خروجی‬.
‫های‬ ‫وزن‬ ‫تنظیم‬ ‫جز‬ ‫به‬ ‫چیزی‬ ‫واقع‬ ‫در‬ ‫عصبی‬ ‫های‬ ‫شبکه‬ ‫دیدن‬ ‫آموزش‬
‫خروجی‬ ‫تا‬ ‫نیست‬ ‫مختلف‬ ‫مثالهای‬ ‫دریافت‬ ‫ازای‬ ‫به‬ ‫ها‬ ‫نرون‬ ‫این‬ ‫ارتباطی‬‫شبکه‬
‫شود‬ ‫همگرا‬ ‫مطلوب‬ ‫خروجی‬ ‫سمت‬ ‫به‬.
‫افراد‬ ‫چهره‬ ‫تشخیص‬ ‫مثال‬
‫شامل‬ ‫سلول‬ ‫هر‬ ‫ی‬ ‫بدنه‬2‫است‬ ‫بخش‬:
‫ترکیب‬ ‫تابع‬ ‫اول‬ ‫بخش‬
‫تحریک‬ ‫تابع‬ ‫دوم‬ ‫بخش‬
‫تحریک‬ ‫تابع‬ ‫انواع‬:
‫خطی‬
‫ای‬ ‫آستانه‬
‫سیگموئید‬
‫هایپربولیک‬ ‫تانژانت‬
‫ای‬ ‫آستانه‬ ‫تابع‬ ‫خروجی‬1‫است‬
‫برعکس‬ ‫و‬ ‫مثبت‬ ‫ورودی‬ ‫وقتی‬
‫تابع‬ ‫خروجی‬
‫هایپر‬ ‫تانژانت‬
‫بولیک‬
‫برابر‬ ‫سگموئید‬ ‫تابع‬ ‫خروجی‬
‫م‬ ‫بندی‬ ‫دسته‬ ‫عصبی‬ ‫های‬ ‫شبکه‬ ‫زیر‬ ‫خصوصیات‬ ‫بوسیله‬‫یشوند‬:
•‫نوع‬‫اتصال‬
‫ایستا‬- Static (Feed Forward)
‫ا‬ ‫پویا‬- Dynamic (Feedback)
•
‫عصبی‬ ‫های‬ ‫شبکه‬ ‫انواع‬
‫عصب‬ ‫های‬ ‫شبکه‬ ‫انواع‬‫ی‬
•‫توپولوژی‬
‫الیه‬ ‫تک‬- Single layer
‫الیه‬ ‫چند‬- Multilayer
‫بازگشتی‬- Recurrent
‫عصبی‬ ‫های‬ ‫شبکه‬ ‫انواع‬
•‫روش‬‫یادگیری‬
‫ناظر‬ ‫با‬- Supervised
‫ناظر‬ ‫بدون‬- Unsupervisd
‫رقابتی‬- Reinforcement
Pi‫ورودی‬ti‫مطلوب‬ ‫خروجی‬ai‫بدست‬ ‫خروجی‬
‫وبا‬ ‫آمده‬‫مقایسه‬‫شود‬ ‫می‬ ‫محاسبه‬ ‫خطا‬ ‫دو‬ ‫این‬.‫و‬
‫شود‬ ‫می‬ ‫استفاده‬ ‫پارامتر‬ ‫تنظیم‬ ‫جهت‬.
‫نزدیک‬ ‫هم‬ ‫به‬ ‫دو‬ ‫این‬ ‫دوم‬ ‫بار‬ ‫برای‬‫ترند‬.
‫سی‬ ‫پاسخ‬ ‫توسط‬ ‫تنها‬ ‫عصبی‬ ‫شبکه‬ ‫های‬ ‫پارامتر‬‫اصالح‬ ‫ستم‬
‫ا‬ ‫قرار‬ ‫که‬ ‫تابعی‬ ‫از‬ ‫ای‬ ‫نمونه‬ ‫هیچ‬ ‫و‬ ‫میشود‬ ‫تنظیم‬ ‫و‬‫یاد‬ ‫ست‬
‫نمیشود‬ ‫داده‬ ‫بگیرد‬.
‫صور‬ ‫به‬ ‫سامانه‬ ‫عملکرد‬ ‫کیفیت‬ ‫رقابتی‬ ‫در‬‫به‬ ‫گام‬ ‫ت‬
‫آ‬ ‫الگوی‬ ‫یابد‬ ‫می‬ ‫بهبود‬ ‫زمان‬ ‫به‬ ‫نسبت‬ ‫گام‬‫موزشی‬
‫و‬ ‫سعی‬ ‫پروسه‬ ‫یک‬ ‫طریق‬ ‫از‬ ‫کار‬ ‫این‬ ‫ندارد‬ ‫وجود‬
‫ش‬ ‫عملکرد‬ ‫نشانگر‬ ‫که‬ ‫عددی‬ ‫شبکه‬ ‫به‬ ‫خطا‬‫بکه‬
‫میشود‬ ‫ارائه‬ ‫است‬.
‫نوعی‬‫از‬‫شبکه‬‫عصبی‬‫برمبنای‬‫یک‬‫واحد‬‫محاسباتی‬‫به‬‫نام‬‫پرسپترون‬‫ساخته‬‫میشود‬.‫یک‬
‫پرسپترون‬‫برداری‬‫از‬‫ورودیهای‬‫با‬‫مقادیر‬‫حقیقی‬‫را‬‫گرفته‬‫و‬‫یک‬‫ترکیب‬‫خطی‬‫از‬‫این‬
‫ورودیها‬‫را‬‫محاسبه‬‫میکند‬.‫اگر‬‫حاصل‬‫از‬‫یک‬‫مقدار‬‫آستانه‬‫بیشتر‬‫بود‬‫خروجی‬‫پرسپترون‬
‫برابر‬‫با‬1‫و‬‫در‬‫غیر‬‫اینصورت‬‫معادل‬-1‫خواهد‬‫بود‬.
‫پرسپتر‬‫ون‬
‫بایاس‬
‫و‬ ‫است‬ ‫ثابت‬ ‫مقدار‬ ‫یک‬ ‫دارای‬ ‫ساختاری‬ ‫های‬ ‫واحد‬ ‫از‬ ‫یک‬ ‫هر‬
‫مقدار‬ ‫دارای‬ ‫همیشه‬1‫ب‬ ‫ترکیب‬ ‫تابع‬ ‫در‬ ‫و‬ ‫است‬ ‫وزن‬ ‫دارای‬ ‫و‬ ‫است‬‫ه‬
‫ب‬ ‫و‬ ‫میکند‬ ‫عمل‬ ‫کننده‬ ‫متعادل‬ ‫وزنه‬ ‫یک‬ ‫مانند‬ ‫آید‬ ‫می‬ ‫حساب‬‫فهم‬ ‫ه‬
‫میکند‬ ‫کمک‬ ‫شبکه‬ ‫توسط‬ ‫الگو‬ ‫بهتر‬
‫توابع‬‫بولی‬‫و‬
‫پرسپترون‬𝑤1𝑥1 + 𝑤2𝑥2 + 𝑐 = 0
𝑤1𝑥1 + 𝑤2𝑥2 + 𝑐 > 0
𝑤1𝑥1 + 𝑤2𝑥2 + 𝑐 < 0
𝑥1 + 𝑥2 = 1/5
𝑥1 + 𝑥2 = 0/5
‫عصبی‬ ‫شبکه‬ ‫های‬ ‫قابلیت‬
‫یادگیری‬:‫شبک‬ ‫و‬ ‫میکند‬ ‫تغییر‬ ‫شبکه‬ ‫محیط‬ ‫که‬ ‫هنگامی‬ ‫شبکه‬ ‫های‬ ‫پارامتر‬ ‫تنظیم‬ ‫توانایی‬‫تجربه‬ ‫را‬ ‫جدید‬ ‫شرایط‬ ‫ه‬
‫میشود‬ ‫ذخیره‬ ‫ها‬ ‫سیناپس‬ ‫در‬ ‫اطالعات‬ ‫این‬ ‫میکند‬
‫تعمیم‬‫دهی‬:‫یک‬ ‫مقابل‬ ‫در‬ ‫میتواند‬ ‫شبکه‬ ‫شد‬ ‫داده‬ ‫آموزش‬ ‫شبکه‬ ‫به‬ ‫اولیه‬ ‫های‬ ‫مثال‬ ‫اینکه‬ ‫از‬ ‫پس‬‫ورودی‬
‫دهد‬ ‫ارائه‬ ‫مناسب‬ ‫خروجی‬ ‫و‬ ‫گیرد‬ ‫قرار‬ ‫نشده‬ ‫داده‬ ‫آموزش‬
‫مقاوم‬‫بودن‬‫ر‬ ‫برآیند‬ ‫شبکه‬ ‫کلی‬ ‫رفتار‬ ‫و‬ ‫میکند‬ ‫عمل‬ ‫مستقل‬ ‫طور‬ ‫به‬ ‫سلول‬ ‫هر‬ ‫عصبی‬ ‫شبکه‬ ‫در‬‫محلی‬ ‫های‬ ‫فتار‬
‫بماند‬ ‫دور‬ ‫خروجی‬ ‫چشم‬ ‫از‬ ‫محلی‬ ‫خطاهای‬ ‫تا‬ ‫میشود‬ ‫باعث‬ ‫ویژگی‬ ‫این‬ ‫است‬ ‫متعدد‬ ‫های‬ ‫سلول‬.‫تح‬ ‫ویژگی‬ ‫این‬‫مل‬
‫میبرد‬ ‫باال‬ ‫را‬ ‫خطا‬ ‫پذیری‬.
‫الگوریتم‬‫یادگیری‬‫پرسپترون‬
.‫مقادیری‬ 1‫تصادفی‬‫به‬‫وزنها‬‫نسبت‬‫میدهیم‬
.‫پرسپترون‬ 2‫را‬‫به‬‫تک‬‫تک‬‫مثالهای‬‫آموزشی‬‫اعمال‬‫میکنیم‬.‫اگر‬‫مثال‬‫غلط‬‫ارزیابی‬‫شود‬‫مقادیر‬
‫وزنهای‬‫پرسپترون‬‫را‬‫تصحیح‬‫میکنیم‬.
.‫آیا‬ 3‫تمامی‬‫مثالهای‬‫آموزشی‬‫درست‬‫ارزیابی‬‫میشوند‬:
‫بله‬‫پایان‬‫الگوریتم‬
‫خیر‬‫به‬‫مرحله‬2‫برمیگردیم‬
‫آموزش‬‫پرسپترون‬
‫عقب‬ ‫به‬ ‫رو‬ ‫انتشار‬ ‫شبكه‬:
‫این‬‫شبکه‬‫از‬‫خروجی‬ ‫و‬ ‫ورودی‬ ‫های‬ ‫الیه‬ ‫بر‬ ‫عالوه‬ ‫و‬ ‫است‬ ‫شده‬ ‫تشکیل‬ ‫الیه‬ ‫چند‬
‫کار‬ ‫نظارتی‬ ‫صورت‬ ‫به‬ ‫شبکه‬ ‫این‬ ‫است‬ ‫پنهان‬ ‫الیه‬ ‫به‬ ‫موسوم‬ ‫ای‬ ‫الیه‬ ‫شامل‬‫و‬ ‫میکند‬
‫نیست‬ ‫خودسازمانده‬‫یکی‬ ‫و‬‫شبک‬ ‫سایر‬ ‫از‬ ‫را‬ ‫ان‬ ‫که‬ ‫ای‬ ‫برجسته‬ ‫خصوصیات‬ ‫از‬‫جدا‬ ‫ها‬ ‫ه‬
‫است‬ ‫این‬ ‫میکند‬‫مقادیر‬ ‫که‬‫و‬ ‫است‬ ‫پیوسته‬ ‫ورودی‬ ‫های‬ ‫نرون‬‫این‬‫معنی‬ ‫بدان‬‫که‬ ‫است‬
‫داد‬ ‫شبکه‬ ‫به‬ ‫ورودی‬ ‫عنوان‬ ‫رابه‬ ‫باینری‬ ‫غیر‬ ‫مقادیر‬ ‫میتوان‬.‫یک‬ ‫شبکه‬ ‫این‬‫از‬ ‫ی‬
‫ن‬ ‫و‬ ‫خطی‬ ‫غیر‬ ‫شدت‬ ‫به‬ ‫مسایل‬ ‫میتواند‬ ‫که‬ ‫چرا‬ ‫هاست‬ ‫شبکه‬ ‫پرکاربردترین‬‫حل‬ ‫را‬ ‫ظارتی‬
‫کند‬.
‫کوهن‬ ‫مدل‬ ‫سازمانده‬ ‫خود‬ ‫عصبی‬ ‫شبكه‬‫ن‬:
‫میدانند‬ ‫الیه‬ ‫تک‬ ‫های‬ ‫شبکه‬ ‫ترین‬ ‫سخت‬ ‫از‬ ‫یکی‬ ‫را‬ ‫شبکه‬ ‫این‬ ‫پژوهان‬ ‫دانش‬ ‫معموال‬.‫طراحی‬ ‫ای‬ ‫شبکه‬ ‫کوهنن‬‫تنها‬ ‫که‬ ‫کرد‬
‫ک‬ ‫هستند‬ ‫مجهولی‬ ‫پارامترهای‬ ‫عنوان‬ ‫به‬ ‫خروجی‬ ‫های‬ ‫نرون‬ ‫و‬ ‫وزنها‬ ‫که‬ ‫حالی‬ ‫در‬ ‫است‬ ‫ورودی‬ ‫های‬ ‫نرون‬ ‫آن‬ ‫معلوم‬ ‫پارامتر‬‫ه‬
‫شوند‬ ‫پیدا‬ ‫باید‬.‫است‬ ‫آن‬ ‫بودن‬ ‫ده‬ ‫خودسازمان‬ ‫شبکه‬ ‫این‬ ‫خصوصیت‬ ‫مهمترین‬.‫صورت‬ ‫این‬ ‫به‬ ‫کوهنن‬ ‫کار‬ ‫روش‬‫که‬ ‫است‬
‫آورد‬ ‫می‬ ‫بدست‬ ‫را‬ ‫الگو‬ ‫هندسی‬ ‫فاصله‬ ‫ساده‬ ‫منطق‬ ‫یک‬ ‫از‬ ‫و‬ ‫میکند‬ ‫انتخاب‬ ‫را‬ ‫عددی‬ ‫خروجی‬ ‫های‬ ‫نرون‬ ‫تعداد‬ ‫برای‬.‫نرون‬
‫میشوند‬ ‫دهی‬ ‫مقدار‬ ‫باینری‬ ‫مقادیر‬ ‫با‬ ‫خروجی‬ ‫و‬ ‫ورودی‬ ‫های‬.‫کار‬ ‫اساس‬
‫ور‬ ‫الگوهای‬ ‫از‬ ‫خود‬ ‫فاصله‬ ‫کردن‬ ‫کم‬ ‫مبنای‬ ‫بر‬ ‫شبکه‬‫ودی‬
‫است‬.‫ب‬ ‫شبکه‬ ‫و‬ ‫آید‬ ‫می‬ ‫بدست‬ ‫تکرار‬ ‫با‬ ‫ها‬ ‫وزن‬ ‫مقدار‬‫ه‬
‫میکند‬ ‫عمل‬ ‫خطی‬ ‫غیر‬ ‫صورت‬.‫مدل‬ ‫یک‬ ‫کوهنن‬ ‫مدل‬
‫است‬ ‫ناظر‬ ‫بدون‬.‫ک‬ ‫عصبی‬ ‫سلول‬ ‫تعدادی‬ ‫مدل‬ ‫این‬ ‫در‬‫ه‬
‫چیده‬ ‫یکدیگر‬ ‫کنار‬ ‫مسطح‬ ‫توپولوژی‬ ‫یک‬ ‫در‬ ً‫ال‬‫معمو‬‫می‬
‫شبک‬ ‫وظیفه‬ ‫یکدیگر‬ ‫روی‬ ‫متقابل‬ ‫رفتار‬ ‫با‬ ، ‫شوند‬‫خود‬ ‫ه‬
‫کنند‬ ‫می‬ ‫ایفا‬ ‫را‬ ‫سازمانده‬.‫ت‬ ‫یک‬ ‫تخمین‬ ‫وظیفه‬ ‫این‬‫ابع‬
‫است‬ ‫توضیع‬.
‫همينگ‬ ‫عصبی‬ ‫شبكه‬:
‫باینری‬ ‫های‬ ‫الگو‬ ‫شناسایی‬ ‫مسئله‬ ‫حل‬ ‫جهت‬ ً‫ا‬‫اساس‬ ‫شبکه‬ ‫این‬(‫مق‬ ‫دو‬ ‫فقط‬ ‫عنصرشان‬ ‫که‬ ‫برداری‬ ‫های‬ ‫الگو‬‫دار‬1‫یا‬1-‫را‬
‫قبول‬‫کند‬ ‫می‬) .‫است‬ ‫شده‬ ‫طراحی‬.‫س‬ ‫یک‬ ‫از‬ ‫چون‬ ، ‫گیرد‬ ‫می‬ ‫قرار‬ ‫عصبی‬ ‫های‬ ‫شبکه‬ ‫چوب‬ ‫چار‬ ‫در‬ ‫هم‬ ‫شبکه‬ ‫این‬‫ری‬
‫است‬ ‫یافته‬ ‫تشکیل‬ ‫ها‬ ‫گره‬ ‫بین‬ ‫طی‬ ‫ارتبا‬ ‫ی‬ ‫ها‬ ‫وزنه‬ ‫سری‬ ‫یک‬ ‫و‬ ‫ها‬ ‫گره‬ ‫مثابه‬ ‫به‬ ‫ها‬ ‫نرون‬.
‫سازد‬ ‫می‬ ‫را‬ ‫نرون‬ ‫خروجی‬ ‫که‬ ‫دارد‬ ‫فعال‬ ‫سطح‬ ‫یک‬ ‫گره‬ ‫هر‬.‫تش‬ ‫وپسخور‬ ‫پیشخور‬ ‫ساختار‬ ‫دو‬ ‫هر‬ ‫از‬ ‫همینگ‬ ‫شبکه‬‫می‬ ‫کیل‬
‫شود‬.‫الگ‬ ‫به‬ ‫را‬ ‫نزدیکی‬ ‫بیشترین‬ ‫مرجع‬ ‫الگوی‬ ‫کدام‬ ‫تشخیص‬ ‫که‬ ‫است‬ ‫این‬ ‫همینگ‬ ‫شبکه‬ ‫در‬ ‫اصلی‬ ‫هدف‬‫و‬ ‫دارد‬ ‫ورودی‬ ‫وی‬
‫کند‬ ‫می‬ ‫ظاهر‬ ‫شبکه‬ ‫خروجی‬ ‫در‬ ‫را‬ ‫آن‬ ‫سپس‬.
‫هاپفي‬ ‫عصبی‬ ‫شبكه‬‫لد‬:
‫کرده‬ ‫جدا‬ ‫ها‬ ‫سایرشبکه‬ ‫از‬ ‫را‬ ‫آن‬ ‫که‬ ‫است‬ ‫خاصی‬ ‫معماری‬ ‫دارای‬ ‫هاپفیلد‬ ‫شبکه‬‫است‬.‫اصوال‬‫دار‬ ‫ها‬ ‫شبکه‬ ‫نوع‬ ‫این‬‫الیه‬ ‫یک‬ ‫ای‬
‫خروجی‬ ‫نرونهای‬ ‫همان‬ ‫ورودی‬ ‫های‬ ‫نرون‬ ‫گفت‬ ‫میتوان‬ ‫نوعی‬ ‫به‬ ‫و‬ ‫است‬ ‫ورودی‬ ‫نرونهای‬ ‫به‬ ‫ورودی‬ ‫های‬ ‫نرون‬ ‫از‬‫هستند‬.
‫با‬ ‫بلکه‬ ‫کند‬ ‫نمی‬ ‫معین‬ ‫تکرار‬ ‫با‬ ‫را‬ ‫خود‬ ‫های‬ ‫وزن‬ ‫تربیت‬ ‫الگوریتم‬ ‫در‬ ‫شبکه‬ ‫این‬ ‫ها‬ ‫شبکه‬ ‫سایر‬ ‫خالف‬ ‫بر‬‫این‬ ‫خاصی‬ ‫فرمول‬
‫با‬ ‫شناسایی،ورودی‬ ‫الگوریتم‬ ‫در‬ ‫و‬ ‫میدهد‬ ‫انجام‬ ‫را‬ ‫کار‬‫به‬ ‫تکرار،تغییر‬‫رسد‬ ‫می‬ ‫معین‬ ‫شکل‬ ‫یک‬.‫شبک‬ ‫این‬ ‫در‬‫زمان‬ ‫هر‬ ‫در‬ ‫ها‬ ‫ه‬
‫ب‬ ‫میگیرد‬ ‫ورودی‬ ‫ها‬ ‫نرون‬ ‫سایر‬ ‫از‬ ‫نرون‬ ‫یک‬ ‫چون‬ ‫عبارتی‬ ‫به‬ ‫است‬ ‫فعال‬ ‫غیر‬ ‫ها‬ ‫نرون‬ ‫سایر‬ ‫و‬ ‫فعال‬ ‫نرون‬ ‫یک‬ ‫فقط‬‫همین‬ ‫ه‬
‫هستند‬ ‫ثابت‬ ‫ها‬ ‫نرون‬ ‫دیگر‬ ‫و‬ ‫تغییر‬ ‫حال‬ ‫در‬ ‫نرون‬ ‫آن‬ ‫دلیل‬.‫از‬ ‫نویز‬ ‫کردن‬ ‫برطرف‬ ‫در‬ ‫معموال‬ ‫ها‬ ‫شبکه‬ ‫نوع‬ ‫این‬ ‫از‬‫و‬ ‫تصویر‬‫یا‬
‫هر‬‫شود‬ ‫می‬ ‫استفاده‬ ‫دیگر‬ ‫الگوی‬.
‫مثال‬:‫ارقام‬ ‫تشخیص‬
‫د‬ ‫شبکه‬ ‫یک‬ ‫از‬ ‫استفاده‬ ‫با‬ ‫بخواهیم‬ ‫کنید‬ ‫فرض‬‫الیه‬ ‫و‬
‫دهیم‬ ‫تشخیص‬ ‫را‬ ‫دستنویس‬ ‫ارقام‬.
‫ت‬ ‫را‬ ‫پیکسلها‬ ‫روشنائی‬ ‫شدت‬ ‫اول‬ ‫الیه‬ ‫نرونهای‬‫قریب‬
‫میزنندو‬
‫میکنند‬ ‫تعیین‬ ‫را‬ ‫ارقام‬ ‫شکل‬ ‫آخر‬ ‫الیه‬ ‫نرونهای‬.
8 90 1 2 3 4 5 6 7
‫میشوند‬ ‫گرفته‬ ‫یاد‬ ‫وزنها‬ ‫که‬ ‫روشی‬:
‫میشوند‬ ‫اضافه‬ ‫بتدریج‬ ‫فعال‬ ‫پیکسلهای‬ ‫وزنهای‬ ‫و‬ ‫شده‬ ‫ارائه‬ ‫شبکه‬ ‫به‬ ‫تصویر‬.‫غی‬ ‫پیکسلهای‬ ‫وزن‬‫نیز‬ ‫موثر‬ ‫ر‬
‫میابد‬ ‫کاهش‬ ‫بتدریج‬.
‫ورودی‬ ‫تصویر‬
1 2 3 4 5 6 7 8 9
0
‫وزنها‬ ‫گیری‬ ‫شکل‬:
1 2 3 4 5 6 7 8 9
0
‫ورودی‬ ‫تصویر‬
1 2 3 4 5 6 7 8 9
0
‫ورودی‬ ‫تصویر‬
1 2 3 4 5 6 7 8 9
0
‫ورودی‬ ‫تصویر‬
1 2 3 4 5 6 7 8 9
0
‫ورودی‬ ‫تصویر‬
1 2 3 4 5 6 7 8 9
0
‫ورودی‬ ‫تصویر‬
‫یادگیری‬‫وزن‬‫ها‬
1 2 3 4 5 6 7 8 9
0
‫ورودی‬ ‫تصویر‬
‫میگیرد؟‬ ‫یاد‬ ‫را‬ ‫چیزی‬ ‫چه‬ ‫شبکه‬
‫سری‬ ‫یک‬ ‫از‬ ‫استفاده‬ ‫با‬ ‫معادل‬ ‫الیه‬ ‫دو‬ ‫با‬ ‫شبکه‬ ‫یک‬ ‫مثال‬ ‫این‬ ‫در‬‫قالب‬‫شبک‬ ‫که‬ ‫است‬‫که‬ ‫را‬ ‫قالبی‬ ‫ه‬
‫میگزیند‬ ‫بر‬ ‫باشد‬ ‫داشته‬ ‫را‬ ‫ورودی‬ ‫با‬ ‫تطبیق‬ ‫بهترین‬!
‫س‬ ‫قالب‬ ‫یک‬ ‫لذا‬ ‫هستند‬ ‫متنوع‬ ‫بسیار‬ ‫ورودی‬ ‫شکلهای‬ ‫دستنویس‬ ‫ارقام‬ ‫مسئله‬ ‫برای‬ ‫اما‬‫همه‬ ‫با‬ ‫که‬ ‫اده‬
‫ندارد‬ ‫وجود‬ ‫باشد‬ ‫سازگار‬ ‫ورودیها‬.‫د‬ ‫مسئله‬ ‫حل‬ ‫راه‬ ‫نمیتواند‬ ‫هم‬ ‫ای‬ ‫شبکه‬ ‫چنین‬ ‫نتیجه‬ ‫در‬‫حالت‬ ‫ر‬
‫باشد‬ ‫کلی‬!
‫ای‬ ‫مجموعه‬ ‫به‬ ‫ورودی‬ ‫های‬ ‫بایدشکل‬ ‫نمود‬ ‫حل‬ ‫کلی‬ ‫حالت‬ ‫در‬ ‫را‬ ‫مسئله‬ ‫بتوان‬ ‫اینکه‬ ‫برای‬‫ویژگی‬ ‫از‬
‫داد‬ ‫آموزش‬ ‫ها‬ ‫ویژگی‬ ‫اساس‬ ‫بر‬ ‫را‬ ‫شبکه‬ ‫و‬ ‫شده‬ ‫تبدیل‬ ‫ها‬.
‫مثالی‬‫از‬‫تنوع‬‫ارقام‬‫دستنویس‬
‫نادانم‬ ‫که‬ ‫همي‬ ‫بدانم‬ ‫که‬ ،‫من‬ ‫دانش‬ ‫رسيد‬ ‫بدانجا‬ ‫تا‬
‫شما‬ ‫توجه‬ ‫از‬ ‫تشكر‬ ‫با‬

Introduction to Neural Network

  • 1.
    ‫دانشجو‬:‫حسنی‬ ‫شیخ‬ ‫پوریا‬ ‫استاد‬:‫نیا‬‫رضایی‬ ‫دکتر‬ ‫پائیز‬1394 ‫مصن‬ ‫عصبی‬ ‫های‬ ‫شبکه‬‫وعی‬
  • 2.
    ‫مباحث‬: ‫مصنوعی‬ ‫و‬ ‫زیستی‬‫عصبی‬ ‫شبکه‬ ‫با‬ ‫آشنایی‬ ‫مصنوعی‬ ‫عصبی‬ ‫شبکه‬ ‫کار‬ ‫نحوه‬ ‫عصبی‬ ‫های‬ ‫شبکه‬ ‫انواع‬ ‫پرسپترون‬ ‫عصبی‬ ‫شبکه‬ ‫آموزش‬ ‫پرسپترون‬ ‫و‬ ‫بولی‬ ‫توابع‬ ‫پرسپترون‬ ‫آموزش‬ ‫مثال‬
  • 3.
    ‫عصبی‬ ‫شبکه‬‫زیستی‬ ‫هماهنگ‬ ‫صورت‬‫به‬ ‫که‬ ‫هسنتد‬ ‫نرون‬ ‫نام‬ ‫به‬ ‫موازی‬ ‫های‬ ‫پردازشگر‬ ‫از‬ ‫عظیم‬ ‫بسیار‬ ‫ای‬ ‫مجموعه‬‫برای‬ ‫میکنند‬ ‫عمل‬ ‫مسئله‬ ‫حل‬. ‫دارند‬ ‫اصلی‬ ‫عضو‬ ‫چهار‬ ‫دندریت‬ ‫سوما‬ ‫آکسون‬ ‫سیناپس‬ ‫المسه‬ ‫حس‬ ‫عصبی‬ ‫سلول‬ ‫مثال‬
  • 4.
    ‫عصبی‬ ‫شبکه‬‫مصنوعی‬ ‫بیول‬ ‫عصبی‬‫های‬ ‫شبکه‬ ‫از‬ ‫تقلید‬ ‫با‬ ‫که‬ ‫باشد‬ ‫می‬ ‫اطالعات‬ ‫پردازش‬ ‫برای‬ ‫الگویی‬‫انسان‬ ‫مغز‬ ‫وژیک‬ ‫اند‬ ‫شده‬ ‫ساخته‬ ‫ها‬ ‫نود‬ ‫طراحی‬ ‫نودها‬ ‫حالت‬ ‫ها‬ ‫یال‬
  • 5.
    ‫خ‬ ‫غیر‬ ‫یادگیر‬‫ریاضی‬ ‫های‬ ‫سیستم‬ ‫کلی‬ ‫طور‬ ‫به‬ ‫عصبی‬ ‫های‬ ‫شبکه‬‫هستند‬ ‫طی‬. ‫صری‬ ‫کامال‬ ‫دستورات‬ ‫نیازمند‬ ‫معمول‬ ‫نویسی‬ ‫برنامه‬ ‫های‬ ‫زبان‬ ‫برخالف‬‫و‬ ‫ح‬ ‫تع‬ ‫وسیله‬ ‫به‬ ‫یادگیری‬ ‫قابلیت‬ ‫انسان‬ ‫مانند‬ ‫بلکه‬ ‫نیست‬ ‫مشخص‬‫را‬ ‫مثال‬ ‫دادی‬ ‫دارد‬. ‫بی‬ ‫ریاضی‬ ‫دقیق‬ ‫روابط‬ ‫که‬ ‫مسائلی‬ ‫حل‬ ‫در‬ ‫میتوان‬ ‫را‬ ‫عصبی‬ ‫شبکه‬‫و‬ ‫ها‬ ‫ورودی‬ ‫ن‬ ‫برد‬ ‫بکار‬ ‫نیست‬ ‫برقرار‬ ‫آن‬ ‫های‬ ‫خروجی‬. ‫های‬ ‫وزن‬ ‫تنظیم‬ ‫جز‬ ‫به‬ ‫چیزی‬ ‫واقع‬ ‫در‬ ‫عصبی‬ ‫های‬ ‫شبکه‬ ‫دیدن‬ ‫آموزش‬ ‫خروجی‬ ‫تا‬ ‫نیست‬ ‫مختلف‬ ‫مثالهای‬ ‫دریافت‬ ‫ازای‬ ‫به‬ ‫ها‬ ‫نرون‬ ‫این‬ ‫ارتباطی‬‫شبکه‬ ‫شود‬ ‫همگرا‬ ‫مطلوب‬ ‫خروجی‬ ‫سمت‬ ‫به‬. ‫افراد‬ ‫چهره‬ ‫تشخیص‬ ‫مثال‬
  • 6.
    ‫شامل‬ ‫سلول‬ ‫هر‬‫ی‬ ‫بدنه‬2‫است‬ ‫بخش‬: ‫ترکیب‬ ‫تابع‬ ‫اول‬ ‫بخش‬ ‫تحریک‬ ‫تابع‬ ‫دوم‬ ‫بخش‬ ‫تحریک‬ ‫تابع‬ ‫انواع‬: ‫خطی‬ ‫ای‬ ‫آستانه‬ ‫سیگموئید‬ ‫هایپربولیک‬ ‫تانژانت‬ ‫ای‬ ‫آستانه‬ ‫تابع‬ ‫خروجی‬1‫است‬ ‫برعکس‬ ‫و‬ ‫مثبت‬ ‫ورودی‬ ‫وقتی‬ ‫تابع‬ ‫خروجی‬ ‫هایپر‬ ‫تانژانت‬ ‫بولیک‬ ‫برابر‬ ‫سگموئید‬ ‫تابع‬ ‫خروجی‬
  • 7.
    ‫م‬ ‫بندی‬ ‫دسته‬‫عصبی‬ ‫های‬ ‫شبکه‬ ‫زیر‬ ‫خصوصیات‬ ‫بوسیله‬‫یشوند‬: •‫نوع‬‫اتصال‬ ‫ایستا‬- Static (Feed Forward) ‫ا‬ ‫پویا‬- Dynamic (Feedback) • ‫عصبی‬ ‫های‬ ‫شبکه‬ ‫انواع‬
  • 8.
    ‫عصب‬ ‫های‬ ‫شبکه‬‫انواع‬‫ی‬ •‫توپولوژی‬ ‫الیه‬ ‫تک‬- Single layer ‫الیه‬ ‫چند‬- Multilayer ‫بازگشتی‬- Recurrent
  • 9.
    ‫عصبی‬ ‫های‬ ‫شبکه‬‫انواع‬ •‫روش‬‫یادگیری‬ ‫ناظر‬ ‫با‬- Supervised ‫ناظر‬ ‫بدون‬- Unsupervisd ‫رقابتی‬- Reinforcement Pi‫ورودی‬ti‫مطلوب‬ ‫خروجی‬ai‫بدست‬ ‫خروجی‬ ‫وبا‬ ‫آمده‬‫مقایسه‬‫شود‬ ‫می‬ ‫محاسبه‬ ‫خطا‬ ‫دو‬ ‫این‬.‫و‬ ‫شود‬ ‫می‬ ‫استفاده‬ ‫پارامتر‬ ‫تنظیم‬ ‫جهت‬. ‫نزدیک‬ ‫هم‬ ‫به‬ ‫دو‬ ‫این‬ ‫دوم‬ ‫بار‬ ‫برای‬‫ترند‬. ‫سی‬ ‫پاسخ‬ ‫توسط‬ ‫تنها‬ ‫عصبی‬ ‫شبکه‬ ‫های‬ ‫پارامتر‬‫اصالح‬ ‫ستم‬ ‫ا‬ ‫قرار‬ ‫که‬ ‫تابعی‬ ‫از‬ ‫ای‬ ‫نمونه‬ ‫هیچ‬ ‫و‬ ‫میشود‬ ‫تنظیم‬ ‫و‬‫یاد‬ ‫ست‬ ‫نمیشود‬ ‫داده‬ ‫بگیرد‬. ‫صور‬ ‫به‬ ‫سامانه‬ ‫عملکرد‬ ‫کیفیت‬ ‫رقابتی‬ ‫در‬‫به‬ ‫گام‬ ‫ت‬ ‫آ‬ ‫الگوی‬ ‫یابد‬ ‫می‬ ‫بهبود‬ ‫زمان‬ ‫به‬ ‫نسبت‬ ‫گام‬‫موزشی‬ ‫و‬ ‫سعی‬ ‫پروسه‬ ‫یک‬ ‫طریق‬ ‫از‬ ‫کار‬ ‫این‬ ‫ندارد‬ ‫وجود‬ ‫ش‬ ‫عملکرد‬ ‫نشانگر‬ ‫که‬ ‫عددی‬ ‫شبکه‬ ‫به‬ ‫خطا‬‫بکه‬ ‫میشود‬ ‫ارائه‬ ‫است‬.
  • 10.
    ‫نوعی‬‫از‬‫شبکه‬‫عصبی‬‫برمبنای‬‫یک‬‫واحد‬‫محاسباتی‬‫به‬‫نام‬‫پرسپترون‬‫ساخته‬‫میشود‬.‫یک‬ ‫پرسپترون‬‫برداری‬‫از‬‫ورودیهای‬‫با‬‫مقادیر‬‫حقیقی‬‫را‬‫گرفته‬‫و‬‫یک‬‫ترکیب‬‫خطی‬‫از‬‫این‬ ‫ورودیها‬‫را‬‫محاسبه‬‫میکند‬.‫اگر‬‫حاصل‬‫از‬‫یک‬‫مقدار‬‫آستانه‬‫بیشتر‬‫بود‬‫خروجی‬‫پرسپترون‬ ‫برابر‬‫با‬1‫و‬‫در‬‫غیر‬‫اینصورت‬‫معادل‬-1‫خواهد‬‫بود‬. ‫پرسپتر‬‫ون‬ ‫بایاس‬ ‫و‬ ‫است‬ ‫ثابت‬‫مقدار‬ ‫یک‬ ‫دارای‬ ‫ساختاری‬ ‫های‬ ‫واحد‬ ‫از‬ ‫یک‬ ‫هر‬ ‫مقدار‬ ‫دارای‬ ‫همیشه‬1‫ب‬ ‫ترکیب‬ ‫تابع‬ ‫در‬ ‫و‬ ‫است‬ ‫وزن‬ ‫دارای‬ ‫و‬ ‫است‬‫ه‬ ‫ب‬ ‫و‬ ‫میکند‬ ‫عمل‬ ‫کننده‬ ‫متعادل‬ ‫وزنه‬ ‫یک‬ ‫مانند‬ ‫آید‬ ‫می‬ ‫حساب‬‫فهم‬ ‫ه‬ ‫میکند‬ ‫کمک‬ ‫شبکه‬ ‫توسط‬ ‫الگو‬ ‫بهتر‬
  • 11.
    ‫توابع‬‫بولی‬‫و‬ ‫پرسپترون‬𝑤1𝑥1 + 𝑤2𝑥2+ 𝑐 = 0 𝑤1𝑥1 + 𝑤2𝑥2 + 𝑐 > 0 𝑤1𝑥1 + 𝑤2𝑥2 + 𝑐 < 0
  • 12.
    𝑥1 + 𝑥2= 1/5 𝑥1 + 𝑥2 = 0/5
  • 14.
    ‫عصبی‬ ‫شبکه‬ ‫های‬‫قابلیت‬ ‫یادگیری‬:‫شبک‬ ‫و‬ ‫میکند‬ ‫تغییر‬ ‫شبکه‬ ‫محیط‬ ‫که‬ ‫هنگامی‬ ‫شبکه‬ ‫های‬ ‫پارامتر‬ ‫تنظیم‬ ‫توانایی‬‫تجربه‬ ‫را‬ ‫جدید‬ ‫شرایط‬ ‫ه‬ ‫میشود‬ ‫ذخیره‬ ‫ها‬ ‫سیناپس‬ ‫در‬ ‫اطالعات‬ ‫این‬ ‫میکند‬ ‫تعمیم‬‫دهی‬:‫یک‬ ‫مقابل‬ ‫در‬ ‫میتواند‬ ‫شبکه‬ ‫شد‬ ‫داده‬ ‫آموزش‬ ‫شبکه‬ ‫به‬ ‫اولیه‬ ‫های‬ ‫مثال‬ ‫اینکه‬ ‫از‬ ‫پس‬‫ورودی‬ ‫دهد‬ ‫ارائه‬ ‫مناسب‬ ‫خروجی‬ ‫و‬ ‫گیرد‬ ‫قرار‬ ‫نشده‬ ‫داده‬ ‫آموزش‬ ‫مقاوم‬‫بودن‬‫ر‬ ‫برآیند‬ ‫شبکه‬ ‫کلی‬ ‫رفتار‬ ‫و‬ ‫میکند‬ ‫عمل‬ ‫مستقل‬ ‫طور‬ ‫به‬ ‫سلول‬ ‫هر‬ ‫عصبی‬ ‫شبکه‬ ‫در‬‫محلی‬ ‫های‬ ‫فتار‬ ‫بماند‬ ‫دور‬ ‫خروجی‬ ‫چشم‬ ‫از‬ ‫محلی‬ ‫خطاهای‬ ‫تا‬ ‫میشود‬ ‫باعث‬ ‫ویژگی‬ ‫این‬ ‫است‬ ‫متعدد‬ ‫های‬ ‫سلول‬.‫تح‬ ‫ویژگی‬ ‫این‬‫مل‬ ‫میبرد‬ ‫باال‬ ‫را‬ ‫خطا‬ ‫پذیری‬.
  • 15.
  • 16.
    ‫عقب‬ ‫به‬ ‫رو‬‫انتشار‬ ‫شبكه‬: ‫این‬‫شبکه‬‫از‬‫خروجی‬ ‫و‬ ‫ورودی‬ ‫های‬ ‫الیه‬ ‫بر‬ ‫عالوه‬ ‫و‬ ‫است‬ ‫شده‬ ‫تشکیل‬ ‫الیه‬ ‫چند‬ ‫کار‬ ‫نظارتی‬ ‫صورت‬ ‫به‬ ‫شبکه‬ ‫این‬ ‫است‬ ‫پنهان‬ ‫الیه‬ ‫به‬ ‫موسوم‬ ‫ای‬ ‫الیه‬ ‫شامل‬‫و‬ ‫میکند‬ ‫نیست‬ ‫خودسازمانده‬‫یکی‬ ‫و‬‫شبک‬ ‫سایر‬ ‫از‬ ‫را‬ ‫ان‬ ‫که‬ ‫ای‬ ‫برجسته‬ ‫خصوصیات‬ ‫از‬‫جدا‬ ‫ها‬ ‫ه‬ ‫است‬ ‫این‬ ‫میکند‬‫مقادیر‬ ‫که‬‫و‬ ‫است‬ ‫پیوسته‬ ‫ورودی‬ ‫های‬ ‫نرون‬‫این‬‫معنی‬ ‫بدان‬‫که‬ ‫است‬ ‫داد‬ ‫شبکه‬ ‫به‬ ‫ورودی‬ ‫عنوان‬ ‫رابه‬ ‫باینری‬ ‫غیر‬ ‫مقادیر‬ ‫میتوان‬.‫یک‬ ‫شبکه‬ ‫این‬‫از‬ ‫ی‬ ‫ن‬ ‫و‬ ‫خطی‬ ‫غیر‬ ‫شدت‬ ‫به‬ ‫مسایل‬ ‫میتواند‬ ‫که‬ ‫چرا‬ ‫هاست‬ ‫شبکه‬ ‫پرکاربردترین‬‫حل‬ ‫را‬ ‫ظارتی‬ ‫کند‬.
  • 17.
    ‫کوهن‬ ‫مدل‬ ‫سازمانده‬‫خود‬ ‫عصبی‬ ‫شبكه‬‫ن‬: ‫میدانند‬ ‫الیه‬ ‫تک‬ ‫های‬ ‫شبکه‬ ‫ترین‬ ‫سخت‬ ‫از‬ ‫یکی‬ ‫را‬ ‫شبکه‬ ‫این‬ ‫پژوهان‬ ‫دانش‬ ‫معموال‬.‫طراحی‬ ‫ای‬ ‫شبکه‬ ‫کوهنن‬‫تنها‬ ‫که‬ ‫کرد‬ ‫ک‬ ‫هستند‬ ‫مجهولی‬ ‫پارامترهای‬ ‫عنوان‬ ‫به‬ ‫خروجی‬ ‫های‬ ‫نرون‬ ‫و‬ ‫وزنها‬ ‫که‬ ‫حالی‬ ‫در‬ ‫است‬ ‫ورودی‬ ‫های‬ ‫نرون‬ ‫آن‬ ‫معلوم‬ ‫پارامتر‬‫ه‬ ‫شوند‬ ‫پیدا‬ ‫باید‬.‫است‬ ‫آن‬ ‫بودن‬ ‫ده‬ ‫خودسازمان‬ ‫شبکه‬ ‫این‬ ‫خصوصیت‬ ‫مهمترین‬.‫صورت‬ ‫این‬ ‫به‬ ‫کوهنن‬ ‫کار‬ ‫روش‬‫که‬ ‫است‬ ‫آورد‬ ‫می‬ ‫بدست‬ ‫را‬ ‫الگو‬ ‫هندسی‬ ‫فاصله‬ ‫ساده‬ ‫منطق‬ ‫یک‬ ‫از‬ ‫و‬ ‫میکند‬ ‫انتخاب‬ ‫را‬ ‫عددی‬ ‫خروجی‬ ‫های‬ ‫نرون‬ ‫تعداد‬ ‫برای‬.‫نرون‬ ‫میشوند‬ ‫دهی‬ ‫مقدار‬ ‫باینری‬ ‫مقادیر‬ ‫با‬ ‫خروجی‬ ‫و‬ ‫ورودی‬ ‫های‬.‫کار‬ ‫اساس‬ ‫ور‬ ‫الگوهای‬ ‫از‬ ‫خود‬ ‫فاصله‬ ‫کردن‬ ‫کم‬ ‫مبنای‬ ‫بر‬ ‫شبکه‬‫ودی‬ ‫است‬.‫ب‬ ‫شبکه‬ ‫و‬ ‫آید‬ ‫می‬ ‫بدست‬ ‫تکرار‬ ‫با‬ ‫ها‬ ‫وزن‬ ‫مقدار‬‫ه‬ ‫میکند‬ ‫عمل‬ ‫خطی‬ ‫غیر‬ ‫صورت‬.‫مدل‬ ‫یک‬ ‫کوهنن‬ ‫مدل‬ ‫است‬ ‫ناظر‬ ‫بدون‬.‫ک‬ ‫عصبی‬ ‫سلول‬ ‫تعدادی‬ ‫مدل‬ ‫این‬ ‫در‬‫ه‬ ‫چیده‬ ‫یکدیگر‬ ‫کنار‬ ‫مسطح‬ ‫توپولوژی‬ ‫یک‬ ‫در‬ ً‫ال‬‫معمو‬‫می‬ ‫شبک‬ ‫وظیفه‬ ‫یکدیگر‬ ‫روی‬ ‫متقابل‬ ‫رفتار‬ ‫با‬ ، ‫شوند‬‫خود‬ ‫ه‬ ‫کنند‬ ‫می‬ ‫ایفا‬ ‫را‬ ‫سازمانده‬.‫ت‬ ‫یک‬ ‫تخمین‬ ‫وظیفه‬ ‫این‬‫ابع‬ ‫است‬ ‫توضیع‬.
  • 18.
    ‫همينگ‬ ‫عصبی‬ ‫شبكه‬: ‫باینری‬‫های‬ ‫الگو‬ ‫شناسایی‬ ‫مسئله‬ ‫حل‬ ‫جهت‬ ً‫ا‬‫اساس‬ ‫شبکه‬ ‫این‬(‫مق‬ ‫دو‬ ‫فقط‬ ‫عنصرشان‬ ‫که‬ ‫برداری‬ ‫های‬ ‫الگو‬‫دار‬1‫یا‬1-‫را‬ ‫قبول‬‫کند‬ ‫می‬) .‫است‬ ‫شده‬ ‫طراحی‬.‫س‬ ‫یک‬ ‫از‬ ‫چون‬ ، ‫گیرد‬ ‫می‬ ‫قرار‬ ‫عصبی‬ ‫های‬ ‫شبکه‬ ‫چوب‬ ‫چار‬ ‫در‬ ‫هم‬ ‫شبکه‬ ‫این‬‫ری‬ ‫است‬ ‫یافته‬ ‫تشکیل‬ ‫ها‬ ‫گره‬ ‫بین‬ ‫طی‬ ‫ارتبا‬ ‫ی‬ ‫ها‬ ‫وزنه‬ ‫سری‬ ‫یک‬ ‫و‬ ‫ها‬ ‫گره‬ ‫مثابه‬ ‫به‬ ‫ها‬ ‫نرون‬. ‫سازد‬ ‫می‬ ‫را‬ ‫نرون‬ ‫خروجی‬ ‫که‬ ‫دارد‬ ‫فعال‬ ‫سطح‬ ‫یک‬ ‫گره‬ ‫هر‬.‫تش‬ ‫وپسخور‬ ‫پیشخور‬ ‫ساختار‬ ‫دو‬ ‫هر‬ ‫از‬ ‫همینگ‬ ‫شبکه‬‫می‬ ‫کیل‬ ‫شود‬.‫الگ‬ ‫به‬ ‫را‬ ‫نزدیکی‬ ‫بیشترین‬ ‫مرجع‬ ‫الگوی‬ ‫کدام‬ ‫تشخیص‬ ‫که‬ ‫است‬ ‫این‬ ‫همینگ‬ ‫شبکه‬ ‫در‬ ‫اصلی‬ ‫هدف‬‫و‬ ‫دارد‬ ‫ورودی‬ ‫وی‬ ‫کند‬ ‫می‬ ‫ظاهر‬ ‫شبکه‬ ‫خروجی‬ ‫در‬ ‫را‬ ‫آن‬ ‫سپس‬.
  • 19.
    ‫هاپفي‬ ‫عصبی‬ ‫شبكه‬‫لد‬: ‫کرده‬‫جدا‬ ‫ها‬ ‫سایرشبکه‬ ‫از‬ ‫را‬ ‫آن‬ ‫که‬ ‫است‬ ‫خاصی‬ ‫معماری‬ ‫دارای‬ ‫هاپفیلد‬ ‫شبکه‬‫است‬.‫اصوال‬‫دار‬ ‫ها‬ ‫شبکه‬ ‫نوع‬ ‫این‬‫الیه‬ ‫یک‬ ‫ای‬ ‫خروجی‬ ‫نرونهای‬ ‫همان‬ ‫ورودی‬ ‫های‬ ‫نرون‬ ‫گفت‬ ‫میتوان‬ ‫نوعی‬ ‫به‬ ‫و‬ ‫است‬ ‫ورودی‬ ‫نرونهای‬ ‫به‬ ‫ورودی‬ ‫های‬ ‫نرون‬ ‫از‬‫هستند‬. ‫با‬ ‫بلکه‬ ‫کند‬ ‫نمی‬ ‫معین‬ ‫تکرار‬ ‫با‬ ‫را‬ ‫خود‬ ‫های‬ ‫وزن‬ ‫تربیت‬ ‫الگوریتم‬ ‫در‬ ‫شبکه‬ ‫این‬ ‫ها‬ ‫شبکه‬ ‫سایر‬ ‫خالف‬ ‫بر‬‫این‬ ‫خاصی‬ ‫فرمول‬ ‫با‬ ‫شناسایی،ورودی‬ ‫الگوریتم‬ ‫در‬ ‫و‬ ‫میدهد‬ ‫انجام‬ ‫را‬ ‫کار‬‫به‬ ‫تکرار،تغییر‬‫رسد‬ ‫می‬ ‫معین‬ ‫شکل‬ ‫یک‬.‫شبک‬ ‫این‬ ‫در‬‫زمان‬ ‫هر‬ ‫در‬ ‫ها‬ ‫ه‬ ‫ب‬ ‫میگیرد‬ ‫ورودی‬ ‫ها‬ ‫نرون‬ ‫سایر‬ ‫از‬ ‫نرون‬ ‫یک‬ ‫چون‬ ‫عبارتی‬ ‫به‬ ‫است‬ ‫فعال‬ ‫غیر‬ ‫ها‬ ‫نرون‬ ‫سایر‬ ‫و‬ ‫فعال‬ ‫نرون‬ ‫یک‬ ‫فقط‬‫همین‬ ‫ه‬ ‫هستند‬ ‫ثابت‬ ‫ها‬ ‫نرون‬ ‫دیگر‬ ‫و‬ ‫تغییر‬ ‫حال‬ ‫در‬ ‫نرون‬ ‫آن‬ ‫دلیل‬.‫از‬ ‫نویز‬ ‫کردن‬ ‫برطرف‬ ‫در‬ ‫معموال‬ ‫ها‬ ‫شبکه‬ ‫نوع‬ ‫این‬ ‫از‬‫و‬ ‫تصویر‬‫یا‬ ‫هر‬‫شود‬ ‫می‬ ‫استفاده‬ ‫دیگر‬ ‫الگوی‬.
  • 20.
    ‫مثال‬:‫ارقام‬ ‫تشخیص‬ ‫د‬ ‫شبکه‬‫یک‬ ‫از‬ ‫استفاده‬ ‫با‬ ‫بخواهیم‬ ‫کنید‬ ‫فرض‬‫الیه‬ ‫و‬ ‫دهیم‬ ‫تشخیص‬ ‫را‬ ‫دستنویس‬ ‫ارقام‬. ‫ت‬ ‫را‬ ‫پیکسلها‬ ‫روشنائی‬ ‫شدت‬ ‫اول‬ ‫الیه‬ ‫نرونهای‬‫قریب‬ ‫میزنندو‬ ‫میکنند‬ ‫تعیین‬ ‫را‬ ‫ارقام‬ ‫شکل‬ ‫آخر‬ ‫الیه‬ ‫نرونهای‬. 8 90 1 2 3 4 5 6 7
  • 21.
    ‫میشوند‬ ‫گرفته‬ ‫یاد‬‫وزنها‬ ‫که‬ ‫روشی‬: ‫میشوند‬ ‫اضافه‬ ‫بتدریج‬ ‫فعال‬ ‫پیکسلهای‬ ‫وزنهای‬ ‫و‬ ‫شده‬ ‫ارائه‬ ‫شبکه‬ ‫به‬ ‫تصویر‬.‫غی‬ ‫پیکسلهای‬ ‫وزن‬‫نیز‬ ‫موثر‬ ‫ر‬ ‫میابد‬ ‫کاهش‬ ‫بتدریج‬. ‫ورودی‬ ‫تصویر‬ 1 2 3 4 5 6 7 8 9 0
  • 22.
    ‫وزنها‬ ‫گیری‬ ‫شکل‬: 12 3 4 5 6 7 8 9 0 ‫ورودی‬ ‫تصویر‬
  • 23.
    1 2 34 5 6 7 8 9 0 ‫ورودی‬ ‫تصویر‬
  • 24.
    1 2 34 5 6 7 8 9 0 ‫ورودی‬ ‫تصویر‬
  • 25.
    1 2 34 5 6 7 8 9 0 ‫ورودی‬ ‫تصویر‬
  • 26.
    1 2 34 5 6 7 8 9 0 ‫ورودی‬ ‫تصویر‬
  • 27.
    ‫یادگیری‬‫وزن‬‫ها‬ 1 2 34 5 6 7 8 9 0 ‫ورودی‬ ‫تصویر‬
  • 28.
    ‫میگیرد؟‬ ‫یاد‬ ‫را‬‫چیزی‬ ‫چه‬ ‫شبکه‬ ‫سری‬ ‫یک‬ ‫از‬ ‫استفاده‬ ‫با‬ ‫معادل‬ ‫الیه‬ ‫دو‬ ‫با‬ ‫شبکه‬ ‫یک‬ ‫مثال‬ ‫این‬ ‫در‬‫قالب‬‫شبک‬ ‫که‬ ‫است‬‫که‬ ‫را‬ ‫قالبی‬ ‫ه‬ ‫میگزیند‬ ‫بر‬ ‫باشد‬ ‫داشته‬ ‫را‬ ‫ورودی‬ ‫با‬ ‫تطبیق‬ ‫بهترین‬! ‫س‬ ‫قالب‬ ‫یک‬ ‫لذا‬ ‫هستند‬ ‫متنوع‬ ‫بسیار‬ ‫ورودی‬ ‫شکلهای‬ ‫دستنویس‬ ‫ارقام‬ ‫مسئله‬ ‫برای‬ ‫اما‬‫همه‬ ‫با‬ ‫که‬ ‫اده‬ ‫ندارد‬ ‫وجود‬ ‫باشد‬ ‫سازگار‬ ‫ورودیها‬.‫د‬ ‫مسئله‬ ‫حل‬ ‫راه‬ ‫نمیتواند‬ ‫هم‬ ‫ای‬ ‫شبکه‬ ‫چنین‬ ‫نتیجه‬ ‫در‬‫حالت‬ ‫ر‬ ‫باشد‬ ‫کلی‬! ‫ای‬ ‫مجموعه‬ ‫به‬ ‫ورودی‬ ‫های‬ ‫بایدشکل‬ ‫نمود‬ ‫حل‬ ‫کلی‬ ‫حالت‬ ‫در‬ ‫را‬ ‫مسئله‬ ‫بتوان‬ ‫اینکه‬ ‫برای‬‫ویژگی‬ ‫از‬ ‫داد‬ ‫آموزش‬ ‫ها‬ ‫ویژگی‬ ‫اساس‬ ‫بر‬ ‫را‬ ‫شبکه‬ ‫و‬ ‫شده‬ ‫تبدیل‬ ‫ها‬.
  • 29.
  • 30.
    ‫نادانم‬ ‫که‬ ‫همي‬‫بدانم‬ ‫که‬ ،‫من‬ ‫دانش‬ ‫رسيد‬ ‫بدانجا‬ ‫تا‬ ‫شما‬ ‫توجه‬ ‫از‬ ‫تشكر‬ ‫با‬