More Related Content
Featured
Featured (20)
Breast cancer
- 1. :عنوان Breast cancer :مربوطه استاد المدرسی دکتر :نگارش ابوفاضلی زهرا :مربوطه درس عصبی شبکه
- 2. :مقدمه بهطورطبیعی،سلولهادربدنانسانرشدمیکنندوبهروشکنترلشدهبرایتولیدسلولهایبیشتریبرایحفظ سالمتیتقسیممیشوند.هنگامیکهسلولهایغیرطبیعیبدونکنترلتقسیممیشوند،سرطان‌بر‌بدن‌انسان‌تااییر میگذاردوقادربهحملهبهبافتهایدیگرمیشود.ماده‌ژنتیکی(DNA)لاینسالویهااسسایممابینادیااتیییار میکندکهبررشدوتقسیمسلولیطبیعیتاییرمیگذارد. تشخیصاولیهاهمیتقابلتوجهیازمهارتهایپزشکاستکهبراساسدانشوتجربهسنیهااانجاامماشاوداماا ممکن‌است‌خطایی‌رخ‌دهد.تعدادیازدرمانهاتوسطمحققانارائهشدهاست.استفادهازروشهاوش های‌مختلا مصنوعیبرایتشخیصبیماریهابهتازگیگستردهشدهاست.اینسیستمهایهوشمندبهپزشکانبعناواندساتیار یتشاخیصکماکما،مانناد کناد.در‌حاال‌حا،ار،شابکه‌عصابی‌مصانوعی‌مختلاDecision Tree،Rough Set، Bayesian Networkبرایاینمنظوربسیارمشهورشدهاست. سرطانپستانشایعترینسرطاندرزناناست.هر‌ساال‌یاک‌میلیاون‌ماورد‌جدیاد‌از‌ایان‌بیمااری‌تشاخیص‌داده میشود.علیرغمپیشرفتهایچشمگیردردرمان،حدود52%بیماران‌مبتال‌به‌سرطان‌پستان‌سااننه‌جاان‌خاود‌را بهعلتاینبیماریازدستمیدهند.شیوعومیزانمرگوتمیرسرطانپستاندرنژادهاوموقعیاهاایجیرافیاایی متفاوت‌است‌و‌مکانیسم مختلرهاایمختلفایدرشاروعوپیشابردسننقاشدارناد.فاکتو،هاای‌محیطای‌متعادد تیییراتسوماتیکمانندموتاسیوندرسنکوژنها،ژنهایسرکوبکنندهتوموروپلیمورفیسمهایژنتیکیازعواملباه وجودسورندهسنمیباشند.در‌حال‌حا،ر‌شانس‌بروز‌سرطان‌پستان‌در‌زنان‌سمریکایی‌یک‌نفر‌از‌هر8تا9نفر‌اسات و‌ساننه‌باعث‌مرگ‌حدود00444زنمبتالمیشود.اینبیماریشایعترینعلتمرگومیرناشیازسرطاندرزناان ایرانی‌است.اگرچه‌شیوع‌این‌بیماری‌در‌سنین‌قبل‌از52تا04سالگی‌نادر‌است‌اماا‌باروز‌ایان‌سارطان‌در‌سانین کمترنیزگزارششدهاست. تومورهایپستانبهدودستهخوشخیموبدخیمتقسیممی.شوندتومورهایخوشگخیمبهنادرتمارسورهساتند ولیتعدادیازتومورهایخوشخیمپستاننیزمیتوانندخطرابتالبهسارطانپساتانراافازایشدهناد.تومورهاای بدخیمجدیتربودهوسرطانمحسوبمیشوند.محققانمیزانبانیمرگومیرزنانبرایرسرطانپساتانراناشای ازتشخیصدیرهنگاماینبیماریمیدانند.باتشخیصزودهنگامسرطانپستانوپیشرفتههاایبادساتسمادهدر ر درمان،میزان‌بقای‌بیماران‌مبتال‌به‌این‌بیماری‌در‌حال‌افزایش‌است.تشخیص‌به‌موقع‌سرطان‌پساتان‌ححاداک2 سال‌پس‌از‌اولین‌تقسیم‌سلول‌سرطانی)شانس‌زنده‌بودن‌بیمار‌سرطانی‌را‌از25%به85%افزایشمیدهد. بنابراینوجودیکسیستمدقیقومطمئنبرایتشخیصبهموقعوخوشخیمیابدخیمبودنتودهسرطان،اروری بهنظرمیرسد.اگرچهشایعترینوقطعیترینروشتشخیصسرطانپستان،بیوپسی‌ساینه‌و‌تشاخیص،اایعه‌باا روشهایمعمولسسیمشناسیبافتیاست،اماازسنجاکه84-04درصدبیوپسیههایجراحیمربوطبهتاودهاای خوشخیمپستاناست،انجاماینگونهروشجراحیعالوهبراتالفهزینه،سبم‌ایجاد‌ا،طراب،اساترس‌و‌تشاویش دربیمارمیشود. سزمایشسسپیراسیونسوزنیحFNA)،روشیکمهزینهسسان،سریع،دارایدقتبانوتقریباابادونعاوارججاانبی استتوبهصورتسارپاییقابالانجااماسا.در‌روشFNA،ماایع‌اساتخراش‌شاده‌از‌بافات‌پساتان‌بارای‌بررسای
- 3. خصوصیاتسیتولوژیموردسزمایشقرارمیگیرد.بعدازاستخراشخصوصیاتسیتولوژیبیماربایدبتوانخوشخایم یابدخیمبودنتودهراتشخیصداد.درمواردیکهباقاطعیتنتوانخوشخیمیابدخیمباودنبیمااریراتشاخیص داد،استفادهازالگوریتمهایکامپیوتریوتکنیکیهاییاادگیریماشادنراهنماایخاوبیبارایپزشاکهساتن.باا استفادهازخصوصیاتاستخراششدهازسزمایشسسپیراسیونسوزنیوباکمکتکنیکهاییادگیریماشینمیتاوان سیستمیکارسمدرابرایتشخیصسرطانپستانطراحینمودکهبادقتبانییسرطانپستانراتشخیصدهد.در زیربهتعدادیازسوابقکارهایانجامشدهدراینزمینهمیپردازیم: 1-فالحتیوجعفری]1[در‌سال5411سیستمخبرهایبرایتشخیصسرطانپستانبااستفادهازدادههای پیش‌پردازش‌و‌شبکه‌بیزین‌طراحی‌نمودند‌که‌توانسات‌باا‌دقات98%دادهههاایپایگااWBCDرا‌باه درستی‌تشخیص‌دهد. 5-Arunaو‌همکاران]5[بهبررسیومقایسهدستهبندیکنندههااییاادگیریباانظاارتنظیارروشبیازین ،سادهRBF-SVM،شبکه‌عصبیRBF،درخت‌تصمیمJ48وCARTهباررویمجموعادادهههاایپایگاا WBCDپرداختندتابهتریندستهبندیکنندهرابررویایندادههاپیدانمایند.نتایجسزمایشاتسنهانشان داد‌کهRBF-SVMبا‌دقت80/95%نسبتبهدستهبندیکنندههایدیگردقتبیشتریدارد. 0-Medjahedو‌همکاران]0[بااستفادهازروشدستهبندینزدیکفاصاله ترین‌همسایه‌و‌معیارهاای‌مختلا بهدستهبندیدادههایپایگاهWBCDپرداختند.سنهاباااساتفادهازفاصالهاقلیدسایوK=1باه‌دقات 0/98%دست‌یافتند. شناسایییالگوعبارتاستازفرسیندسموزشیکشابکهعصابیتااورودهاارانظارباهاهادافشابکهباهدرساتی طبقه.بندی‌نماید :برای‌سموزش‌یک‌شبکه‌عصبی،پنج‌مرحله‌برای‌انجام‌این‌کار‌وجود‌دارد 1.دادههارانرمالسازیکنی.د 5.ورودیهاراتنظیمکنی.د 0.اهدافشبکهعصبیراتعینکنی.د 0.یک‌شبکه‌عصبی‌ایجاد‌کنید. 2.شبکه‌را‌سموزش‌دهید. 5.شبکهراتستکنیدتااطمینانحاصلکنیدکهبهدرستیسموزشدیده.است براینرمالسازیدادههاازفرمولزیراستفادهمی.شود ( ) ( ) B،مقدار‌استاندارد‌شدهAمقدار‌داده،استDوCمحدودهایاستکهماتعیینمی،آل کنیم.مD = 0وC = 1. مجموعهدادههایزیرمیتواندبرایطراحییکشبکهعصبیبکاررودکهسرطانرابعنوانشخاومخایحBenign)ایا بدخیمحMalignant)،بستهبهویژگیهایسزمایشمیکروسکوپی،نمونهبرداریبافتسرطانها،طبقهیبندیمانمایان.د اکنونمراحلانجامکاررامرحلهبهمرحلهوباشکلنشاندادهمی.شود ابتدا‌درcommand windowدستورnnstartرامیهنویسیمپنجارلشاک1یباازما:شاود‌کاه‌شاامل‌چهاار‌قسامت 1-،تقریم‌توابع5-،شناسایی‌الگو0-کالسترینگیاخوشهیابیو0-یسریزماانیما.باشادایانپاروژهدرماورد شناساییالگوقسمتسرطانپستانمیباشد.درشناساییالگوهدفطبقهبنادیهدرساتدادهاایما.باشادغیاراز
- 4. مرحله‌ذکر‌شده‌برای‌ورود‌بهPattern Recognition،یماتاوانباادساتورnprtoolنیاز‌واردPattern Recognition .شد شکل1 شبکهعصبیکهاینجامشاهدهمیکنیمیکشبکهعصبیFeedforwardهستهمانطورکهمیهدانایمشابکهاای عصبیرامیتوانبهدودستهایستاوپویاتقسیمبندینمود.شبکههایایستاحFeedforward)فاقد‌اجارای‌فیادبک‌و تاخیرمیباشندوخروجیسنیهامستقیماازطریقاتصانتروبهجلوتعیاینماهشاود.درشابکهاایپویااخروجای شبکه‌عالوه‌بر‌ورودی‌فعلی‌سن،بهورودیهاوخروجیهایقبلوحالتشبکهنیزبستگیدارد.شبکههایپویاباهدو دستهکلیتقسیمبندیمیشوندکهفقطدارایاتصانتروبهجلوهستندوشبکههااییکاهدارایاتصاانتیفیادبک میباشند.ازنوعدومتحتعنوانشبکههایrecurrentیاد‌می.شودنتواباعانتقاالنیاهپنهااTan-sigmoidو‌تاابع انتقال‌نیه‌خروجیsoft maxاستکههمدر.نیه‌پنهان‌و‌هم‌نیه‌خروجی‌بایاس‌به‌سن‌متصل‌است ∑ ( ) ( ) ( ) ∑ ( ( )) ∑ ( ) ∑ ( ) ( ) ( ) ( ( ))
- 6. شکل0 الگوریتمسموزشحtraining)دراینقسمتتبهصاورجپایشفارScaled conjugate gradient backpropagation )ادهاااسشااواممقیااانتاایگرادیااابعسموزشاحتایام.اداباشاوریتماالگادااودداردماننااموجااریهاایدیگااایسموزشاه Levenberg-Marqardtبعنوانتابعسموزشیاستفادهمیشودوهنگامیکهنیازداریامرونادسماوزشسارعتباانیی داشته‌باشد‌از‌این‌الگوریتم‌سموزشی‌استفاده‌می.کنیمامااشکالعمدهاینروشایناستکهنیازبهحافظاهزیاادی .داردیکیدیگرازالگوریتمهایسموزشیBaysian Regularizationمیباشدکهوقتیدادههاینویزیداشاتهباشایم .اینالگوریتمسموزشیبهترینالگوریتماستاکنونچونماازsupervised learningاستفادهمیکنیمعالوهبراینکاه یکسریدادههایinputداریمیکسریدادههایtargetحفهاد)مهامداریامکاهبرچساهاایهاردادهinputرا مشخصمیکندومی.گویدهردادهمتعلقبهکدامکاالسهساتنهمااطاورکاهقابالگفتاهشادیشناساایاالگو حPattern Recognition)عبارتاستازدستهبندیوتفکیکالگوهایخاصبراساسویژگی هاای‌از‌پایش‌تعریا شدهازمجموعههاییازدادههایدردسترسمیباشدوفرسیندیبرایسموزشیکشبکهعصبیاستتاسکاالیهاا صحیحهدفرابهمجموعهایازالگوهایورودیاختصاصدهد.پساز،سموزششبکهرامینتاوایباراهطبقایبناد الگوهاییکهقبلازسندیدهنمیشدهمورداستفادهرقاراداد.در‌شاکل0و0نحاوهloadکاردنهمجموعادادهاهای مربوطبهسرطانپستانگفتهشدکهمیتوانسنهارابرایطراحییکشبکهعصبیبکاربردکهباااساتفادهازایان دادههاسرطانرابعنوانخوشخیمیابدخیمطبقهبندیمی،کندکهاینطبقهبندیبستهبهویژگینمونه،هاطراحی شده‌است.کهاینمجموعهدادهها9ویژگیبرایسرطانپستاندرنظرگرفتهاستکهدرزیراین9ویژگی‌ناام‌بارده شده.است :بردارهای‌ویژگی 1-،خامتتودهحClump thickness): سلولهایخوشخیمتمایلبهقرارگرفتندریکنیهرادارندولیسلولهایسرطانیتمایلبهقرارگرفتندرچناد نیه‌را‌دارند.
- 7. 5-یکنواختیاندازهسلولحUniformity of cell size): سلولهایسرطانیاندازهمتفاوتیدارند،درحالیکهسلولهایخوشخیماین.گونه‌نیستند 0-یکنواختیشکلسلولحUniformity of cell shape): سلولهایسرطانیشکلمتفاوتیدارند،درحالیکهسلولهایخوشخیماین.گونه‌نیستند 0-چسبندگیحاشیهایحMarginal Adhesion): سلولهایخوشخیمتمایلدارندکهبهیکدیگرمتصلباشندولیسلولهایسرطانیتمایلدارندکهایناتصالرااز دست‌بدهند. 2-اندازهسلولهایاپیتلیالحSingle epithelial cell size): سلولهایاپیتلیالکهبهطورقابلتوجهیبزرگباشند،ممکن.است‌یک‌سلول‌بدخیم‌باشند 5-هستهداخلیحBare nuclei): Bare nucleiواژهایاستکهبرایهستههاییکهتوسطسیتوپالسماحاطهنشدهاندیبهکارمارود.سنهاامعماوندر سلولهایخوشخیمدیدهمیشوند. 0-ویژگیبافتحBland chromatin): درسلولهایخوشخیم،هسته‌حکروماتین)بهشکلبافتیکدستویکنواختاستولیدرسالولسارطانیچناین نیست. 8-هستهعادیحNormal nucleoli): Normal nucleoliساختارهایکوچکیهستندکهدرهستهسلولهادیدهمیشوند.درسلولشهاایخاوخایمایان هستههاخیلیکوچکهستندحاگرقابلدیدنباشند)ولیدرسلولههایسارطانی،ایانهساتهاابازرگومشاخص هستند. 9-تقسیممیتوزحMitoses): میتوز،تقسیمهستهسلولوایجاددوسلولدختراس.تپاتولوژیستهاگریادسارطانراباهوسایلهشامارشتعاداد تقسیممیتوزمحاسبهمیکنند.
- 8. شکل2 بر‌اساس‌این9ویژگیقراراستپیشبینیکنیمکهاینسرطانپستانیمتعلاقباهکاالسمادنظرمااماباشادیاا نمیباشد.ورودی‌و‌هدف‌ما‌در‌قسمتsummaryمشخص‌شده‌که‌از‌چه‌چیزی‌ساخته‌شده:است ورودیهایشبکه: ورودیهایشبکهعصبیتشخیصسلولیهاایسارطانحCancer Inputs)شااملکیامااتریس5999هاساتکا نشاندهندهداده.های‌استاتیک‌است599نمونهداریمکههرنمونه9ویژگیرابهشبکهعصبیواردمیدکناحیعنای 9ورودی‌و599.)نمونه اهداف‌شبکه: اهدافشبکهعصبیتشخیصسلولهایسرطانیCancer Targets))شااملکیاسمااتری5995تاساکاههار ستوننشاندهندهیکیازویژگیهایزیرمی.باشد 1-خوشخیمبودنسلولسرطانی 5-بدخیمبودنسلولسرطانی nextرامیزنیموواردمرحلهبعدمیشویم.دراینقسمتبهچگونگیمتقسایبنادیدادهههااپرداختا.اساتناکناو دادههایمااینجا599میباشدومیخواهیم04%سنرابهدادههایسموزشیو12ه%سنراباهدادیهااvalidation و12%باقیماندهرابهدادههایتستاختصاصدهیم.همانطورکهمیدانیمدادههاایtrainوvalidationدر‌حاین سموزشبهدردمامیخورندودادههایتستهمیشهجداقرارداردودرروندسموزشیهیچتاییریناداردودرپایاان برایارزیابیشبکهعصبیبکارمیرود. داده‌هایvalidation: ایندادههابرایایناستکهبینیمسموزششبکهیبهخوبیعملماالاگارشابکهعصابیمااروی کناد‌یاا‌ناهث‌ما دادههایسموزشیoverfitشودوفقطبرایدادهههایسموزشیبهخوبیعملکنادوعملکاردخاوبیبارایدادهاای تستماننداشتهباشددراینصورتمیهگوییمباااساتفادهازدادهاایvalidationیرونادسموزشاماانراباهپایاان
- 10. انن9تعدادورودیهاحویژگیها)و5تعدادخروجیهاحبرچسمهابهصورتخوشخیموبدخیمی)ماباشادوتعاداد نورونهاینیهپنهان14وتعدادنورونهااینیاهخروجای5تاسااویاسات.هریاک‌از زیارا‌باردار‌هادف‌دو‌ع نورونهایخروجیمعرفیککالسمیباشند. درمرحلهیبعدیکسریplotهارابررسیمیهکنیمتاارزیاابیبهتاریازشابکهماانداشاتبباشایموهتاربفهمایم عملکردشبکهچگونهاستوبادقتبیشتریعملکردشبکهرابررساییمامکنایک.باازدندماهtrainدر‌شاکل8 یکسریاعدادسمتراستوهمچینشکل9را‌به‌ما‌می.دهد شکل8 اکنون%Eخطایدرصدنشاندهندهکسریازنمونههاییاستکهطبقهبندینشدهاند.مقدار‌صفر‌باه‌معناای‌عادم طبقه،بندی‌اشتباه‌است144نشانرطبقه دهنده‌حداک.بندی‌اشتباه‌استCEیعنیCross-Entropyکه‌به‌حاداقل رساندنسنباعثمیشودطبقهبندیخوبانجامشودوهرچهمقدارپایین.تر‌باشد‌بهتر‌است فرق‌بینMSEوCross entropy:MSEوCross entropyمناسم‌استفاده‌می برای‌مقاصد‌مختل.شاوندMSEیاا میانگینمربعاتخطابرایرگرسیونمناسماستکههدفسنباهحاداقلرسااندنخطاایمتوساطمربعااتباین .مجموعه‌سموزشی‌و‌منحنی،مناسم‌استCross entropyبرایطبقهبندیمناسماستکهتعدادنمونههایسماوزش طبقهبندیشدهغلطرابااعمالیکسریعملیاتدرستطبقه.بندی‌نماید ،از‌دیدگاه‌احتمانتیCross entropyبا‌توابعSigmoidوsoftmaxاستفادهمیشودومیخواهیماحتمالدرست طبقهبندیدادهربرسانیدیعنیطبقه هایورودیرابهحداکبندی.هادرستصورتگیرداگرفرجکنیدکهاهداف دارایدادههایپیوستهاستحنهگسسته)وبهطورنرمالتوزیعشدهاستواحتمالطبقهبندیدرستدادههارابه ر‌برسانیم،به‌این‌فرج‌می حداکتوانیمازMES.استفادهکنیمپسبرایطبقهبندیداده،هاentropy-crossنسبت بهMSEمناسمتراستچوناهدافشبکهدارایدادههایگسستهمیباشد.اگرفرجشودکهدادههایخروجییا اهدافشبکهدارایدادههایپیوستهباشد،بااینفرجمیتوانازMSE.استفاده‌کرد شکل9
- 11. دراینجااز599نمونهایکهداریم089نمونهسنمربوطبهدادههایسموزش،ی142هنموناهسنمرباوطباهدادیهاا validationو142نمونهباقیماندهمربوطبهدادههایتستمیباشدودرصدخطادرهرکدامرامشخصکرده.است Plot Confusionمخصوصطبقهبندیهستوبرایتحلیلعکسیالعمالشابکهاساتفادهمادشاو.باه‌ایان‌ترتیام یدرماوردشابکهنهاایینماایشدادهما ماتریس‌پراکندگی‌حماتریس‌درهم‌ریختگی)و‌خطاهای‌مختل.شاودایان ااتریساماکلادرش14و11و15و10ادهاااندادهشانشاتااساکدادهااهتفکیاوباوزشوااایسماهانجیااعتبارساتاوتس پرداختهاست.شکل14مربوطبهدادههایسموزش،شکل11ماتریسدرهمریختگیدادههاای،اعتبارسانجیشاکل15 ماتریسدرهمریختگیدادههایتستوشکل10ماتریسدرهمریختگیover allمی.باشد اینشکلماتریسدرهمریختگیدادهالدرقسامتی هایسموزشاستکاهماشکاهباافلاقرمازرناگنشاانداده شدهاستنشانمیدهدکه010نمونه‌را‌درست‌تشخیص‌داده.استفلشسبیرنگدرصدکلطبقهبنادیدرساترا بهرنگسبزودرصدکلطبقهبندینادرسترابهرنگقرمزنمایشمیدهددرصدبهرنگسبزدراینماتریسبایاد همیشهدرصدسنبانباشدتاکاراییشبکهبانبرودزیراوقتییکشبکهداریمکهتعدادنورونهامناسماساتبایاد باتنظیموزنهابرایدادههایسموزشیایندرصدبانبرودودرستطبقه.بندیشوددرفلشزردرنگبارایtarget دوبودهوبهغلطکالسیکتشخیصدادهوطبقه.بندیکردهاستاکنونکالس1راسرطانخوشخیموکالس5را کرده بدخیمتعریایم.target classیعنی‌وقتی‌کالس‌واقعا‌هست‌وoutput classیعنیچیزیکهطبقهبندیکننده گفتهاست.اننtarget1یعنیسرطانخوشخیموچنددرصدشبکهعصبیبهدرستیگفتهخوشخیموچنددرصاد به‌غلط‌گفته‌بدخیم‌و‌برایtarget2.همبههمینترتیمپسدرکلعناصرقطریدرهرجدولنشاندهنادهتعاداد مواردیهستندکهبهدرستیطبقهبندیشدههاند.عناصرغیرقطاریعناصاریهساتندکاهباهدرساتیطبقابنادی نشده.اند
- 14. بههمینترتیم: اگردادههارابهشکلسطریجمعنماییمتعداددادههایخاکستریرنگکهدردساتراساتقارارداردباهدسات مییایدواگردادههارابهشکلستونیجمعنمایمدادههایخاکستریرنگپائینبهدستمی.یاید اگردادههارابهشکلقطریجمعنمایم،مجموعهدادههایدرستهرسهکالسبدستمیسیدودرخانهسبینوشات شده.است -دادههایکهدرخانههایخاکستریرنگنوشتهشدهاست،اعدادبهرنگسبزسننشاندهندهدادههاای درستودادههایبهرنگقرمزسننشاندهندهدادههاینادرستطبقهبندیمی.باشد -اگربخواهیمدادههایشکلراتحلیلنماییم.چوناز599نمونه‌به‌تعداد142نمونه‌را‌به اختصاصدادیمبنآبراینبایدکلدادههایرا142،درنظر‌گرفته‌و‌به‌شکل‌قطری داده ستونی و سطریمی محاسبه و تحلیل را هانمایینشان سبز رنگ که مداده دهندهدرست های طبقهبندیشدهسنگروهمیباشدودادههایرنگقرمزنشاندهندهدادهاینادرستطبقهبندیشدهرادر سن‌گروه‌نشان‌می.دهد نمودارReseiver operating characteristic) ROC:) نخطوطرنگیدرنمودارهانشاادهنادهمنحنایROCهمرباوطباههریاکازدساتیهاایایانمسائلهماباشاددر منحنیهایROCبت‌نادرستی‌رسم‌می بت‌درستی‌ححساسیت)در‌مقابل‌درصد‌م درصد‌م.شوددرچنیننموداری قسمتتستبرایمامهماستونکتهیایکهدرایننمودارمهماستایناستکهساطحزیارنماودارمنحناهاای کالس1و‌کالس5.هرچهبیشترباشدیعنیعملکردشبکهوکاراییاشبانتراستهمانطورکهایننمودارهاانشاان میدهندنتایجبهدستسمدهدرشکل10نسبتا‌مطلوب.هستند
- 16. شکل15 ال مData Divisionیرابهصورترندمزدهیعنیهمانقسامتیکاهماهسمادیمودادهااراباهصاورترنادمباین دادههایتستویاعتبارسانجوتستتقسیممیکردیم.الگوریتم‌سموزشی‌ما‌به‌صاورتscaled conjugate gradientو performanceهمتوسطکراسسنتروپیاندازهگیریمی.شود
- 17. شکل15 در‌قسمتprogressبرای‌ما‌مشخص‌کرده‌که‌با55تاEpoch)حتکراربهنتیجهرسیدهیعنیدر55تکارار‌الگاوریتم سموزشدیدهوزمانوکاراییوGradientرامشخصکردهومهمترینقسمتیکاهمشاخصکاردهدرایانقسامت validation checkاستکهمیتوانیممشخصکنیمکهبا5بار‌زیاد‌شدن‌حد‌خطایvalidationیروندسموزشاماان بهپایانمیرسد.یعنیاگرنمودارکاراییحplot performance)را‌بزنیم‌شکل18را‌به‌ما‌می.دهد شکل10 ایننموداردرقسمتعمودیخطاراینشانمادهادوقسامتافقایEpochهاای‌اجارای‌برناماهtrainingرا‌نشاان می.دهد بعد‌از‌یک‌بار‌اجرایtrainingوتنظیموزنهاوچندبارانجامسن،میبینیمکههمینیطورخطاکاهشپیداما.کناد نمودارسبزرنگمربوطبهدادههایvalidationیمانباشادکاهنقاشسهااایاناساتکاههرکجااoverfitingروی دادههایسموزشاتفاقمیافتدبیایدوروندسموزشراخاتمهدهد.اکنوندرقسمتیکهدایرهکشیدهشدهاستسماده وبعدازسنخطایvalidationهزیادشدهیعنیاینقسمتکمکمباهدادشهاایسماوزماانfitنیماشاود.همیشاه دادههایسموزشماحرنگسبی)داردکاهشپیدامیکندولیدادههایvalidationداردزیادمیشاودوافازایشپیادا میکندپسدیگرgeneralنیست‌و‌خاصیتgenelizationراداردازدستمی.دهد با‌کلیک‌روی‌کلمهperformanceدر‌پنجره‌سموزش،نمودار‌مرباوط‌باه‌خطاای‌سموزشای،ارزیاابی‌و‌سزمایشای‌رسام میشودکهایننموداردرشکل18نمایش‌داده‌شده.استروالسموزشیدرصورتیکهخطایمجموعهیارزیاابیدر5 می تکرار‌متوالی‌افزایش‌یابد،متوقشود،اینتوقدرتکرارحEpoch)15هاتفااقافتاادتاساوبهتارینکااراییدر همینتکراراستو5تای‌بعدی‌را‌هم‌بررسی‌کرده‌است‌و‌گفته5تکراربعدیهمهدارنبدترازاینحالتمیشاوند پسمیمی سید‌و‌روند‌سموزشی‌را‌متوق.کندبابررسیایننمودار،نتایجحاصلبهدنیلزیرمطلوبمیب:اشند -خطایمجموعهاعتبارسنجی.با‌خطای‌مجموعه‌ارزیابی‌دارای‌رفتار‌و‌خصوصیات‌مشابهی‌است -تا‌تکرار15حکهبهترینکاراییدرموردمجموعهارزیابیبهوقوعمیپیوندد)هیچبیشبرازشیرخنداده.است
- 18. شکل11 Training state: شکل19 روالسموزشدرصورتیکهخطایارزیابیطی5می تکرارمتوالیافزایشیابدمتوقشوددراینجادرتکرار15 شده متوق.است
- 19. Error Histogrom: یکیدیگرازنمودارهاییکهبرایمامهممیباشدینمودارخطاایهیساتوگرامماباشاد.کاه‌محاور‌عماودی‌تعاداد نمونههایمان)حفراوانی.ومحورافقیخطاهایماناستاننبهتریننموداروقتیاستکهحولصفربیشترینفراوانای راداشتهباشدونقطهصفربرایمانقطهبهینهمیباشد.درنمودارخطایهیستوگرامیالباهمااما مگویادکاهچاه مقدارازدادههایمانخطایشان5/4استثکهدرجوابمیتوانگفاتبرفارج14یفراواناسنهاادارایخطاای5/4 میباشد.ازرویایننمودارمیتوانفهمیدکهبیشترینخطاچال قدر‌است‌و‌چه‌تعداد‌نمونه‌را‌در‌بر‌گرفته‌است.ما دراینجابیشترینخطا9/4استوحدودیکالیدونمونهراشاملمیشودولیمیتوانفهمیدکهاینیاکنموناه میتواندout layerما‌باشد.یعنیبابقیهدادههایمانهمخونینداردکهممکناستایانیاکدوناهباهدلیالناویز ایجاد‌شده‌باشد.پسنیازداریمبرویمودادههایسموزشیمانرابررسیکنیمواگراینبهدونهنویزبودسنراحاذف کنیمولیاگردادهایبودکهبهدرستیبهدستسمدهبودبرویمونمونهایشبیهسنراپیداکنیمتاشبکهعصبیماان .برای‌سن‌قسمت‌هم‌عملکرد‌خوبی‌داشته‌باشد شکل20 اگرازعملگرشبکهعصبییمانرا،ینبودیمیعنینمودارهارانگاهکردیمودیدیمشبکهعصابماانمشاکالتیدارد میسئیموچندکارانجاممیدهیمیکیازسنهاایناستکهدوبارهtrainکنیم.یعنی‌دوباره‌شبکه‌را‌سموزش‌دهیم چرا‌وقتی‌دوبارهtrainکنیمنتیجهعوجمیشودث چونوزنهایاولیهتیییرمیکندودرعینحالاوندرصددادههایتستوtrainیمانعوجماشاودوایانباعاث میشودعملکردشبکهمانمتفاوتشود.کاردیگرایناستکهتعدادنورونهاینیهمیانیراافزایشدهیم.یااینکاه اگرباتماماینمسائلمشکلماحلنشدممکناستالگوریتمسموزشیمانمشکلداشتهباشادکاهدرایانقسامت نمیتوانتیییردادوبایدcommandتیییردهیمواگرسنجانیزدرستنشدمیفهمیممشکلازدادههااستوبایاد درواقعمجموعهدادهایراتعیینبکنیمکههمتعدادنمونههایشبیشترباشدوهمدرواقعدادههایمانیکمحدوده وسیعدتریازجامعهسماریماراپوشاشدهاهوازمجموعاهدادهاایسموزشایبزرگتاریاساتفادهکنایمیااتعاداد
- 20. .بردارهایسموزشیراافزایشدهیمدرصورتیکهازعملکردشبکهرا،ی‌هستید‌بر‌رویNextکلیک‌کنید.دراینجا میتوانیدازگزینههایموجوددرپنجرهزیربرایذخیرهسازینتایجاستفادهکنید.باا‌اساتفاده‌از‌مقاادیر‌نشاان‌داده شده‌شبکه‌به‌نامnet1ای‌کاری‌ذخیره‌می درفشودومیهتوانیدازشبکهذخیرهشادهبارایشابیساازیدرماورد دادههایجدیداستفادهنمای.یددرصورتیکهبررویGenerate M-Fileکلیک‌کنیدM-Fileحااوی‌دساتورات‌ماورد نیازبرایایجادوسموزششبکهتولیدمیشود.شما‌از‌اینM-Fileمیتوانیدبرایتولیادمجاددوسماوزششابکهبار .رویخطفرماناستفادهکنیدپسازذخیرهنتایجرویfinish.کلیک‌کنید شکل51 :عصبی شبکه یک طراحی نحوه همهمواردیکهتاکنونگفتهشدرامیتوانبادستورزیر.نیزبهطراحیاینشبکهعصابیپرداخاتندرایاجاایاک شبکهعصبیرابرایتشخیصسلولهایسرطانیباویژگیهایذکرشدهودادههایمذکورطراحیمینمایی.م [x,t] = cancer_dataset; net = patternnet(10); net = train(net,x,t); view(net) y = net(x); plotconfusion(t,y) نمونهایازورودی:های‌شبکه
- 21. نمونها:ی‌از‌اهداف‌شبکه نمونهیازخروجی:های‌شبکه دراینقسمتدوکلیدSimple scriptوadvanced scriptوجود‌دارد. Simple script: :روش‌ایجاد‌یک‌شبکه‌عصبی‌برای‌تشخیص‌سلول‌های‌سرطانی ایناسکریپتفرجمیکنداینمتییرهاشده تعری:است :ورودیهایشبکه :اهداف‌شبکه % Solve a Pattern Recognition Problem with a Neural Network % Script generated by Neural Pattern Recognition app % Created 02-Dec-2017 20:27:41 % % This script assumes these variables are defined: % % cancerInputs - input data. % cancerTargets - target data. x = cancerInputs; t = cancerTargets; % Choose a Training Function % For a list of all training functions type: help nntrain % 'trainlm' is usually fastest. % 'trainbr' takes longer but may be better for challenging problems. % 'trainscg' uses less memory. Suitable in low memory situations.
- 22. trainFcn = 'trainscg'; % Scaled conjugate gradient backpropagation. حالالگوریتمسموزشیشبکهعصبیراانتخابمیکنیم.تابع‌حtrainscg)رابرایسموزششبکهانتخابمیکنیم.ایان تابعدرشبکههایپسانتشاربرایبروزرسانیوزنهاوبایاسهابهروشمقیاسگرادیانتکارمی.کند % Create a Pattern Recognition Network hiddenLayer Size = 10; دراینجاتعدادنوروننیهپنهانرامشخصکردهکه14استومیتوانتیییرش.داد‌و‌هر‌مقداری‌گذاشت درهمینقسمتاگربخواهیمبیشترازیکنیهپنهانداشتهباشیمبایدبهجایاینکهیکمقادارsingular :قرار‌دهیم‌باید‌یک‌بردار‌قرار‌دهیم‌مانند hiddenLayer Size =[5 3]; یعنی‌دو‌تا‌نیه‌پنهان‌داشته‌باشیم‌که‌نیه‌اول2نورون‌و‌نیه‌دوم0اتاناورونداشاتهباشادوباهصاورت .پیش‌فرج‌برای‌همه‌بایاس‌در‌نظر‌می‌گیرد net = patternnet(hiddenLayerSize); با‌دستورpatternnetساختارشبکهعصبیمانرامیسازیموایجادمی.کنیمساختارشبکهعصابیکاههناوز وزنهایشtrainنشدهاستواصالدادهایبهشدادهنشدهاستوفقطساختارراخواساتهچاونبااورودیو .هدف‌هم‌مشخص‌کردیم‌چند‌تا‌نورون‌ورودی‌و‌چند‌تا‌نورون‌خروجی‌داشته‌باشیم % Setup Division of Data for Training, Validation, Testing net.divideParam.trainRatio = 70/100; net.divideParam.valRatio = 15/100; net.divideParam.testRatio = 15/100; دراینجامشخصمیکنددرصددادههایسموزشوvalidationو‌تست‌چگونه‌باشد % Train the Network [net,tr] = train(net,x,t); توسطfunctionسموزشمیسئیمواونشبکهایکهتاحانساختیمدادههایورودیوهدفرابهسنمیدهایم وtrainingانجاممیدهیموسموزشمیدهیم.یعنیاینجاشبکهمنسموزشدیدهشدهووزنهاایشتنظایم شدهاستحانشبکهایدارمکهازشمی.توانماستفادهبکنمیکسریtrداریمکهاینهایکسریindexاناد کهکاراییسنهارادرscriptadvancedاستفاده‌می.کنیم % Test the Network y = net(x); برایسنجیدنعملکردشبکهماندادههایورودیرابهشبکهعصبیمانمیدهیموخروجیرامیگیریم
- 23. Output= net(input) e = gsubtract(t,y); حانخروجیهاراباقسمتهدفازهمکممیکنیمتاخطابهدستسید،و‌بر‌اساس‌خطاperformanceرا می.سنجیم errors = gsubtract(targets,outputs); performance = perform(net,t,y) یعنیerrorوperformanceسنجیده جداگانه را performance = perform(net,target,output) tind = vec2ind(t); yind = vec2ind(y); percentErrors = sum(tind ~= yind)/numel(tind); % View the Network view(net) با‌این‌دستور‌ساختار‌شبکه‌مان‌را‌می‌بینیم. % Plots % Uncomment these lines to enable various plots. %figure, plotperform(tr) %figure, plottrainstate(tr) %figure, ploterrhist(e) %figure, plotconfusion(t,y) %figure, plotroc(t,y) در‌این‌قسمت‌همplotرا‌به‌ما‌می های‌مختل.دهد Advanced script: % Solve a Pattern Recognition Problem with a Neural Network % Script generated by Neural Pattern Recognition app % Created 02-Dec-2017 20:29:53 % % This script assumes these variables are defined: % % cancerInputs - input data.
- 24. % cancerTargets - target data. x = cancerInputs; t = cancerTargets; % Choose a Training Function % For a list of all training functions type: help nntrain % 'trainlm' is usually fastest. % 'trainbr' takes longer but may be better for challenging problems. % 'trainscg' uses less memory. Suitable in low memory situations. trainFcn = 'trainscg'; % Scaled conjugate gradient backpropagation. حالیکالگوریتمسموزششبکهعصبیراانتخابمیکنیم.تابع‌حtrainscg)را‌برای‌سموزش‌شبکه‌انتخاب‌می.کنیم % Create a Pattern Recognition Network hiddenLayerSize = 10; net = patternnet(hiddenLayerSize); % Choose Input and Output Pre/Post-Processing Functions توابعبازخوردقبل/بعد‌حPre/Post)پردازشراانتخابمیکنیم.نهرکدامازناورورهاایوویدیوخروجامااناجارا می.شود % For a list of all processing functions type: help nnprocess net.input.processFcns = {'removeconstantrows','mapminmax'}; net.output.processFcns = {'removeconstantrows','mapminmax'}; برایاینکهیکطراحیخوبدرشبکهعصبیهمانداشتهباشیمبایداینرارعایتکنایمکاهدادهااییکاه اایورودیااهنودهادارنبایااانواردماماتورااورازدساانمنظاارایایااندبااالیزهباشااهنرماادهمیشااوندبایاش mapminmaxاستفادهمیکنیمminوmaxیکسریاعدادپیوستهوگسستههستندکهباهصاورتصافرو یکقرارمیدهیمmaxرا‌یک‌وminراصفرمیگذاریموبقیهرابیندومقدارقرارمی.دهیم % Setup Division of Data for Training, Validation, Testing % For a list of all data division functions type: help nndivide دادههارابرایسموزش،اعتبارسنجی‌و‌تست‌تنظیم‌نماید.برای‌دریافت‌این‌توابع‌از‌حnndivide)استفاده‌می.کنیم
- 25. net.divideFcn = 'dividerand'; % Divide data randomly تابع‌حdividerand)دادههارابهطورتصادفیتقسیممیکند.برای‌دریافت‌این‌توابع‌از‌حnndivide)استفاده‌می.کنیم net.divideMode = 'sample'; % Divide up every sample net.divideParam.trainRatio = 70/100; net.divideParam.valRatio = 15/100; net.divideParam.testRatio = 15/100; دراینقسمتبرایاینکهدرصددادههایتستوvalidationوسموزشنرامشخصکنیمبهصورترندمایا کارراکردهودیتاهاراانتخابمیکنیمونمونهنمونهاینکارراانجاممیدهیم.درواقعتابعنمونههااراتقسایم میکند. % Choose a Performance Function % For a list of all performance functions type: help nnperformance net.performFcn = 'crossentropy'; % Cross-Entropy برایperformanceمی همیکتابعیتعریکنیم.حال‌تابع‌عملکردحcrossentropy)شبکه‌را‌انتخاب‌می.کنیم با‌استفاده‌از‌حnonperformance)میتوانلیست.توابععملکردرادریافتنمودتوابعرسمنمودارراانتخابمی.کنیم برایلیستازتوابعرسمنمودارمیتوانازحnnplot.)استفاده‌کرد % Choose Plot Functions % For a list of all plot functions type: help nnplot net.plotFcns = {'plotperform','plottrainstate','ploterrhist', ... 'plotconfusion', 'plotroc'}; انناینجارسمنمودارهارامیگویدومیگویدچهنمودارهاییا،افهشودوبعدازسنمیسیدوسموزشرا برای‌شبکه‌عصبی‌انجام‌می.دهد % Train the Network [net,tr] = train(net,x,t); .شبکه‌را‌سموزش‌می‌دهیم % Test the Network .شبکه‌را‌تست‌می‌کنیم y = net(x); e = gsubtract(t,y); performance = perform(net,t,y)
- 26. tind = vec2ind(t); yind = vec2ind(y); percentErrors = sum(tind ~= yind)/numel(tind); % Recalculate Training, Validation and Test Performance وقتیسموزشراانجاممیدهیمیکسریindexیاینجاداریامکاهمشاخصماهکنادچاهدادهااییازداده سموزشوچهدادهایازدادهvalidationو‌چه‌داده.هاییازدادهتستهستندسموزشمجادد،اعتباار‌سانجی‌و تستعملکردشبکهرادرزیر.انجام‌می‌دهیم trainTargets = t .* tr.trainMask{1}; valTargets = t .* tr.valMask{1}; testTargets = t .* tr.testMask{1}; اکنونمیخواهیمperformanceراجداجدابرایدادههایتستوvalidationو‌سموزش‌بسنجیم‌برای‌هماین داده‌هایtargetرا‌به‌تفکیک‌جدا‌می.کنیم میگویمدادههایtargetام‌کدام‌متعلق‌به‌سموزش‌و‌کدوم‌متعلق‌باه‌تسات‌و‌کادوم‌متعلاق‌باهvalidation است‌و‌بر‌اساس‌این0تامیسئیموperformanceراجدامیکنیم trainPerformance = perform(net,trainTargets,y) valPerformance = perform(net,valTargets,y) testPerformance = perform(net,testTargets,y) در‌این‌مرحله‌عمل‌کرد‌شبکه‌را‌ترین،ارزشدهیوتستمی.نمایم % View the Network view(net) .شبکه‌را‌می‌بینیم % Plots % Uncomment these lines to enable various plots. %figure, plotperform(tr) %figure, plottrainstate(tr) %figure, ploterrhist(e) %figure, plotconfusion(t,y) %figure, plotroc(t,y) جدا‌جداplotها‌را‌نمایش‌داده‌و‌یک‌سری‌از‌عملکرد‌شبکه‌را‌به‌نحوی‌سنجدیم % Deployment % Change the (false) values to (true) to enable the following code blocks.
- 27. % See the help for each generation function for more information. if (false) % Generate MATLAB function for neural network for application % deployment in MATLAB scripts or with MATLAB Compiler and Builder % tools, or simply to examine the calculations your trained neural % network performs. genFunction(net,'myNeuralNetworkFunction'); y = myNeuralNetworkFunction(x); end if (false) % Generate a matrix-only MATLAB function for neural network code % generation with MATLAB Coder tools. genFunction(net,'myNeuralNetworkFunction','MatrixOnly ','yes'); y = myNeuralNetworkFunction(x); end if (false) % Generate a Simulink diagram for simulation or deployment with. % Simulink Coder tools. gensim(net); end حالاگربخواهیمبهصورتدستیورودیوخروجیراواردکنیمودادههایinputوtargetراخودمانواردکنیمبه صورت‌زیر‌عمل‌می.کنیم n=20; offset=5; x=[randn(2,n) randn(2,n)+offset]; y=[zeros(1,n) ones(1,n)]; plotpv(x,y); اننایندستورمیگویدnرا‌مساوی54بگذار‌و‌مقدار‌سفست‌را2بگذاربعدمیگویدxرا‌به‌ایان‌صاورت‌باه‌دسات بیاور54تاعددرندومکهیکسریرندومباتوزیعاستانداردتولیدمیکندکهیکماتریس545هیاکساریداد میشودویکماتریس545همیکسریدیگردادهمیشودو54تای‌اول‌متعلق‌به‌کالس‌صفرم‌و54تاای‌دوم متعلق‌به‌کالس‌یک‌باشد‌در‌واقعYماtargetما‌هستند‌و‌در‌سخر‌این‌راplotمیکنیمحاناگرایانراRunکنایم
- 29. انن‌در‌این‌قسمت‌برای‌ورودی‌نوشته04تانمونهدارمکههرکدومشون5المنتای‌اسات‌پاس‌یعنای5تاا‌ناورون ورودیخواهمداشتویکنورونخروجیکهاینیکنورونخروجیبرایمامشخصمیکندکاهباهکاالسصافر .متعلقاستیابهکالسیکممتعلقاستحالاگرتعدادنورونهاینیهمیانیرا1:بگذاریم شکل50 شکل52 هیچطبقهبندیغلطیاتفاقنیفتادهودرصدهمهصفراستوplot confusionرا‌هم‌در‌نظار‌بگیاریم‌هماه144% استچونمسئلهخیلیسادهبودوبایکپرسپترونسادههممیتوانستیمیکطبقهبنادیساادهانجاامدهایمچاه .برسد‌به‌شبکه‌چندنیه مراجع 1. A.Fallahi, S. Jafari, "An expert system for detection of breast cancer using data preprocessing and Bayesian network," Int J Adv Sci Technol, vol.34,pp. 65-70, 2011. 2. S.Aruna, DS.Rajagopalan, LV.Nandakishore, "Knowledge based analysis of various statistical tools in detecting breast cancer," Computer Science & Information Technology, vol,2, pp. 37-4533, 2011. 3. SA.Medjahed, TA.Saadi, A.Benyettou , "Breast Cancer Diagnosis by using kNearest Neighbor with Different Distances and Classification Rules," International Journal of Computer Application, vol.62(1), pp.1-5, 2013.