Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.
Supervisor: Dr. Reza Ebrahimpour
Student: Alireza Akhavan Pour
‫مطالب‬ ‫ئوس‬‫ر‬
 ‫مقدمه‬
 ‫بینایی‬ ‫مسیر‬‫از‬ ‫ی‬‫انداز‬ ‫چشم‬
 ‫اشیاء‬ ‫ی‬ ‫شناس‬‫ز‬‫با‬ ‫های‬‫مدل‬
 HMAX
 VisNet
...
‫پیچیده‬ ‫مینه‬‫ز‬ ‫تصویر‬
‫چرخش‬
‫مکان‬‫و‬ ‫موقعیت‬
‫ه‬‫ز‬‫اندا‬
3/31
4
 ‫مقدمه‬
 ‫بینایی‬ ‫مسیر‬ ‫از‬‫ی‬‫انداز‬ ‫چشم‬
 ‫اشیاء‬ ‫ی‬ ‫شناس‬‫ز‬‫با‬ ‫های‬‫مدل‬
 HMAX
 VisNet
 ‫ی‬‫گیر‬ ‫نتیج...
5/31
On center
No light Light on No light
No light Light on No light
Off center
6/31
No light wrong position-wrong
orientation
wright position-wrong
orientation
wrong position-wright
orientation
Wright posit...
8/31
9
 ‫مقدمه‬
 ‫بینایی‬ ‫مسیر‬‫از‬ ‫ی‬‫انداز‬ ‫چشم‬
 ‫اشیاء‬‫ی‬ ‫شناس‬‫ز‬‫با‬ ‫های‬‫مدل‬
 HMAX
 VisNet
 ‫ی‬‫گیر‬ ‫نتیجه...
‫های‬‫یافته‬Hubel‫و‬Wiesel:
‫ساختار‬‫اتبی‬‫ر‬‫م‬ ‫سلسله‬
‫افزایش‬‫ی‬‫پذیر‬ ‫انتخاب‬‫به‬‫نسبت‬‫پیچیده‬ ‫اشیا‬
‫افزایش‬‫ن...
11/31
V1-V2
V1-V2
V2-V4
V4/PIT
IT
S1
C1
S2
C2
12
 ‫مقدمه‬
 ‫بینایی‬ ‫مسیر‬‫از‬ ‫ی‬‫انداز‬ ‫چشم‬
 ‫اشیاء‬‫ی‬ ‫شناس‬‫ز‬‫با‬ ‫های‬‫مدل‬
 HMAX
 VisNet
 ‫ی‬‫گیر‬ ‫نتیج...
‫پیوسته‬‫وضعیت‬ ‫تغییر‬
‫اثر‬ ‫ن‬‫قانو‬
13/31
14/31
‫پیوسته‬‫وضعیت‬ ‫تغییر‬
‫اثر‬ ‫ن‬‫قانو‬
15/31
16/31
‫شبکه‬4‫نده‬‫و‬‫ر‬‫جلو‬ ‫الیه‬
‫عصبی‬ ‫شبکه‬‫از‬ ‫اتبی‬‫ر‬‫م‬ ‫سلسله‬‫قابتی‬‫ر‬‫قابت‬‫ر‬ ‫با‬‫شده‬‫بندی‬‫جه‬‫ر‬‫د‬...
،‫مدل‬ ‫ی‬‫الیه‬‫هر‬ ‫بین‬‫ی‬ ‫گاوس‬‫یع‬‫ز‬‫تو‬‫تابع‬‫یک‬
‫ای‬‫ر‬‫ب‬‫اتصاالت‬ ‫احتمال‬ ‫تعیین‬‫شبکه‬
67%‫دایره‬ ‫این‬ ‫د...
‫ها‬‫داده‬‫ش‬‫ز‬‫پردا‬‫پیش‬
‫ی‬‫الیه‬ ‫به‬‫ها‬‫ودی‬‫ر‬‫و‬1‫جداگانه‬‫های‬‫الیه‬ ‫از‬
‫لبه‬‫و‬‫خط‬‫اج‬‫ر‬‫استخ‬»‫ی‬‫ساز‬‫...
‫است‬‫نظر‬‫د‬‫ر‬‫مو‬ ‫شعاع‬‫ای‬‫ر‬‫ب‬ ‫ی‬‫مرکز‬‫ودی‬‫ر‬‫و‬‫ی‬‫الیه‬ ‫در‬‫ن‬‫و‬‫ر‬‫نو‬‫هر‬.
‫شود‬‫می‬‫داده‬‫نسبت‬‫ن‬‫ز‬‫و...
•σ‫و‬ ‫تضاد‬δ‫عرض‬
‫فضایی‬‫فیلتر‬ ‫با‬‫الیه‬ ‫یک‬ ‫ی‬‫و‬‫ر‬ ‫های‬‫ن‬‫و‬‫ر‬‫نو‬ ‫های‬‫فعالیت‬ ‫نمودن‬ ‫کانوالو‬‫با‬ ‫جانبی...
‫الیه‬4 ‫الیه‬3 ‫الیه‬2 ‫الیه‬1
91 88 98 99.2 α
26 75 40 190 β
،‫جانبی‬‫مهار‬ ‫فیلتر‬‫اعمال‬ ‫از‬ ‫پس‬
‫اعمال‬‫تضاد‬ ‫افز...
‫اثر‬ ‫ی‬‫یادگیر‬‫ن‬‫قانو‬(trace learning rule):
‫هب‬‫ن‬‫قانو‬ ‫ی‬‫یافته‬ ‫تغییر‬
‫فعلی‬ ‫محاسبات‬ ‫به‬‫قبلی‬ ‫های‬‫ودی...
xjj-‫ن‬‫و‬‫ر‬‫نو‬ ‫ودی‬‫ر‬‫و‬‫امین‬
y‫ن‬‫و‬‫نر‬ ‫جی‬‫و‬‫خر‬
ȳt‫مقدار‬y‫لحظه‬ ‫در‬ ‫اثر‬t
α‫ی‬‫یادگیر‬ ‫نرخ‬
wj‫ودی‬‫ر...
24/31
D. . L. K. Yamins, H. Hong, C. F. Cadieu, E. A. Solomon, D. Seibert and J. J. DiCarlo, "Performance-optimized hierarchical...
Visnet Hmax
test test
train
train
26/31
27
 ‫مقدمه‬
 ‫بینایی‬ ‫مسیر‬‫از‬ ‫ی‬‫انداز‬ ‫چشم‬
 ‫اشیاء‬ ‫ی‬ ‫شناس‬‫ز‬‫با‬ ‫های‬‫مدل‬
 HMAX
 VisNet
 ‫ی‬‫گیر‬ ‫نتی...
‫آینده‬ ‫های‬‫ر‬‫کا‬ ‫و‬ ‫ی‬‫گیر‬ ‫نتیجه‬
‫در‬ ‫یادی‬‫ز‬ ‫مسیار‬ ‫تفاوت‬invariency‫د‬‫ر‬‫دا‬ ‫وجود‬ ‫مغز‬‫و‬ ‫ها‬ ‫مدل‬
...
29
References
 E. Rolls, " Invariant visual object and face recognition: neural and computational bases, and a
model," In Computational...
 [1] E. a. T. Rolls, " Processing speed in the cerebral cortex and the neurophysiology of visual masking.
Proc.R.Soc.Lond...
Upcoming SlideShare
Loading in …5
×

invariant object recognition - Visnet

243 views

Published on

  • Be the first to comment

invariant object recognition - Visnet

  1. 1. Supervisor: Dr. Reza Ebrahimpour Student: Alireza Akhavan Pour
  2. 2. ‫مطالب‬ ‫ئوس‬‫ر‬  ‫مقدمه‬  ‫بینایی‬ ‫مسیر‬‫از‬ ‫ی‬‫انداز‬ ‫چشم‬  ‫اشیاء‬ ‫ی‬ ‫شناس‬‫ز‬‫با‬ ‫های‬‫مدل‬  HMAX  VisNet  ‫ی‬‫گیر‬ ‫نتیجه‬  ‫آینده‬ ‫های‬‫ر‬‫کا‬ 2/31
  3. 3. ‫پیچیده‬ ‫مینه‬‫ز‬ ‫تصویر‬ ‫چرخش‬ ‫مکان‬‫و‬ ‫موقعیت‬ ‫ه‬‫ز‬‫اندا‬ 3/31
  4. 4. 4  ‫مقدمه‬  ‫بینایی‬ ‫مسیر‬ ‫از‬‫ی‬‫انداز‬ ‫چشم‬  ‫اشیاء‬ ‫ی‬ ‫شناس‬‫ز‬‫با‬ ‫های‬‫مدل‬  HMAX  VisNet  ‫ی‬‫گیر‬ ‫نتیجه‬  ‫آینده‬ ‫های‬‫ر‬‫کا‬
  5. 5. 5/31
  6. 6. On center No light Light on No light No light Light on No light Off center 6/31
  7. 7. No light wrong position-wrong orientation wright position-wrong orientation wrong position-wright orientation Wright position Wright orientation 7/31
  8. 8. 8/31
  9. 9. 9  ‫مقدمه‬  ‫بینایی‬ ‫مسیر‬‫از‬ ‫ی‬‫انداز‬ ‫چشم‬  ‫اشیاء‬‫ی‬ ‫شناس‬‫ز‬‫با‬ ‫های‬‫مدل‬  HMAX  VisNet  ‫ی‬‫گیر‬ ‫نتیجه‬  ‫آینده‬ ‫های‬‫ر‬‫کا‬
  10. 10. ‫های‬‫یافته‬Hubel‫و‬Wiesel: ‫ساختار‬‫اتبی‬‫ر‬‫م‬ ‫سلسله‬ ‫افزایش‬‫ی‬‫پذیر‬ ‫انتخاب‬‫به‬‫نسبت‬‫پیچیده‬ ‫اشیا‬ ‫افزایش‬‫نامتغیر‬ ‫ی‬ ‫شناس‬‫ز‬‫با‬‫اشیا‬‫تغییرات‬ ‫ای‬‫ر‬‫ب‬ ‫پذیرندگی‬ ‫میدان‬‫ه‬‫ز‬‫اندا‬‫ایش‬‫ز‬‫اف‬(receptive field) ‫بالفاصله‬‫شناسایی‬‫ز‬‫با‬:‫نده‬‫و‬‫ر‬‫جلو‬(feed-forward) 1959 10/31
  11. 11. 11/31 V1-V2 V1-V2 V2-V4 V4/PIT IT S1 C1 S2 C2
  12. 12. 12  ‫مقدمه‬  ‫بینایی‬ ‫مسیر‬‫از‬ ‫ی‬‫انداز‬ ‫چشم‬  ‫اشیاء‬‫ی‬ ‫شناس‬‫ز‬‫با‬ ‫های‬‫مدل‬  HMAX  VisNet  ‫ی‬‫گیر‬ ‫نتیجه‬  ‫آینده‬ ‫های‬‫ر‬‫کا‬
  13. 13. ‫پیوسته‬‫وضعیت‬ ‫تغییر‬ ‫اثر‬ ‫ن‬‫قانو‬ 13/31
  14. 14. 14/31
  15. 15. ‫پیوسته‬‫وضعیت‬ ‫تغییر‬ ‫اثر‬ ‫ن‬‫قانو‬ 15/31
  16. 16. 16/31 ‫شبکه‬4‫نده‬‫و‬‫ر‬‫جلو‬ ‫الیه‬ ‫عصبی‬ ‫شبکه‬‫از‬ ‫اتبی‬‫ر‬‫م‬ ‫سلسله‬‫قابتی‬‫ر‬‫قابت‬‫ر‬ ‫با‬‫شده‬‫بندی‬‫جه‬‫ر‬‫د‬(local graded inhibition) ‫سازگار‬ ‫مکان‬ ‫ت‬‫ر‬‫صو‬ ‫به‬ ‫ن‬‫و‬‫ر‬‫نو‬ ‫هر‬ ‫به‬‫قبل‬‫الیه‬ ‫های‬‫ن‬‫و‬‫ر‬‫نو‬ ‫ایی‬‫ر‬‫همگ‬(topologicall) ‫هب‬ ‫ن‬‫قانو‬ ‫یافته‬ ‫تغییر‬‫با‬ ‫شبکه‬ ‫ش‬‫ز‬‫آمو‬(modified Hebbian learning rule) V2-> V4->posterior inferior temporal -> anterior inferior temporal
  17. 17. ،‫مدل‬ ‫ی‬‫الیه‬‫هر‬ ‫بین‬‫ی‬ ‫گاوس‬‫یع‬‫ز‬‫تو‬‫تابع‬‫یک‬ ‫ای‬‫ر‬‫ب‬‫اتصاالت‬ ‫احتمال‬ ‫تعیین‬‫شبکه‬ 67%‫دایره‬ ‫این‬ ‫داخل‬ ‫از‬‫اتصاالت‬ ‫اتب‬‫ر‬‫م‬‫سلسله‬ ‫در‬‫فتن‬‫ر‬‫باال‬‫با‬‫ایی‬‫ر‬‫همگ‬‫شعاع‬‫ایش‬‫ز‬‫اف‬ ‫ودی‬‫ر‬‫و‬‫فضای‬‫ی‬‫ه‬‫ز‬‫اندا‬128*128 ‫مدل‬ ‫های‬‫الیه‬‫سایز‬32*32 ‫الیه‬ ‫به‬‫الیه‬‫ش‬‫ز‬‫آمو‬ 17/31
  18. 18. ‫ها‬‫داده‬‫ش‬‫ز‬‫پردا‬‫پیش‬ ‫ی‬‫الیه‬ ‫به‬‫ها‬‫ودی‬‫ر‬‫و‬1‫جداگانه‬‫های‬‫الیه‬ ‫از‬ ‫لبه‬‫و‬‫خط‬‫اج‬‫ر‬‫استخ‬»‫ی‬‫ساز‬‫شبیه‬V1 ‫فرکانس‬‫فضایی‬ ‫گیری‬ ‫جهت‬ ‫عالمت‬ 18/31
  19. 19. ‫است‬‫نظر‬‫د‬‫ر‬‫مو‬ ‫شعاع‬‫ای‬‫ر‬‫ب‬ ‫ی‬‫مرکز‬‫ودی‬‫ر‬‫و‬‫ی‬‫الیه‬ ‫در‬‫ن‬‫و‬‫ر‬‫نو‬‫هر‬. ‫شود‬‫می‬‫داده‬‫نسبت‬‫ن‬‫ز‬‫و‬‫یک‬‫اتصالی‬‫هر‬‫به‬ -‫کند‬‫می‬‫تغییر‬‫ش‬‫ز‬‫آمو‬‫ل‬‫طو‬‫در‬ -‫با‬‫ابر‬‫ر‬‫ب‬‫ها‬‫آن‬‫مربعات‬‫جمع‬‫تا‬‫شوند‬‫می‬‫نرمال‬‫ی‬‫ر‬‫طو‬‫به‬1‫شود‬ 19/31
  20. 20. •σ‫و‬ ‫تضاد‬δ‫عرض‬ ‫فضایی‬‫فیلتر‬ ‫با‬‫الیه‬ ‫یک‬ ‫ی‬‫و‬‫ر‬ ‫های‬‫ن‬‫و‬‫ر‬‫نو‬ ‫های‬‫فعالیت‬ ‫نمودن‬ ‫کانوالو‬‫با‬ ‫جانبی‬‫مهار‬I‫شود‬‫می‬ ‫حاصل‬. ‫ی‬‫الیه‬ ‫در‬4-‫ب‬‫ا‬‫ر‬ ‫متفاوتی‬‫فتار‬‫ر‬ ‫شود‬‫می‬‫داده‬ ‫شبکه‬ ‫به‬ ‫که‬ ‫متفاوتی‬ ‫های‬‫ودی‬‫ر‬‫و‬‫ای‬‫ز‬‫ا‬ ‫به‬ ‫ها‬‫ن‬‫و‬‫ر‬‫نو‬‫از‬ ‫ای‬‫خوشه‬‫یا‬ ‫ن‬‫و‬‫ر‬‫نو‬ ‫هر‬ ،‫ام‬‫داشته‬ ‫اید‬ ‫باشد‬. 20/31
  21. 21. ‫الیه‬4 ‫الیه‬3 ‫الیه‬2 ‫الیه‬1 91 88 98 99.2 α 26 75 40 190 β ،‫جانبی‬‫مهار‬ ‫فیلتر‬‫اعمال‬ ‫از‬ ‫پس‬ ‫اعمال‬‫تضاد‬ ‫افزایش‬‫تابع‬(contrast enhancement) ‫بین‬‫به‬‫مقادیر‬‫مقیاس‬‫تغییر‬0‫و‬1 :r‫ی‬‫ساز‬‫فعال‬(‫نرخ‬‫آتش‬)‫مهار‬ ‫بعد‬‫جانبی‬ : y‫افزایش‬ ‫بعد‬‫آتش‬ ‫نرخ‬‫تضاد‬ :α‫تابع‬ ‫ی‬‫آستانه‬(‫کنند‬ ‫آتش‬ ‫باید‬‫عصبی‬ ‫های‬‫ل‬‫سلو‬‫از‬‫صد‬‫ر‬‫د‬‫چند‬ ‫اینکه‬‫تعیین‬!) :β‫شیب‬activation s p a r s e n e s s 21/31
  22. 22. ‫اثر‬ ‫ی‬‫یادگیر‬‫ن‬‫قانو‬(trace learning rule): ‫هب‬‫ن‬‫قانو‬ ‫ی‬‫یافته‬ ‫تغییر‬ ‫فعلی‬ ‫محاسبات‬ ‫به‬‫قبلی‬ ‫های‬‫ودی‬‫ر‬‫و‬ ‫تاثیر‬ ‫ال‬ ‫ی‬‫ی‬‫م‬ ‫یاه‬‫ی‬‫ت‬‫کو‬ ‫ییار‬‫ی‬‫س‬‫م‬ ‫یدت‬‫ی‬‫م‬ ‫ای‬‫ر‬‫ی‬‫ی‬‫ب‬ ‫ی‬‫یم‬‫ی‬‫ی‬‫چ‬ ‫یه‬‫ی‬‫ب‬ ‫یا‬‫ی‬‫م‬ ‫یی‬‫ی‬‫ت‬‫وق‬0.5‫ت‬‫یل‬‫ی‬‫م‬‫ت‬ ‫م‬ ‫ییار‬‫ی‬‫س‬‫م‬ ،‫کنیم‬‫یی‬‫ی‬‫م‬ ‫یاه‬‫ی‬‫ه‬‫ن‬ ‫یه‬‫ی‬‫ی‬‫ثان‬‫ر‬ ‫ز‬ ‫از‬ ‫احتماال‬ ،‫کنیم‬ ‫نهاه‬ ‫جسم‬‫همان‬‫به‬‫هم‬‫باز‬‫مانی‬‫ز‬‫چوب‬‫ر‬‫چا‬‫یک‬‫در‬ ‫ما‬ ‫که‬‫است‬‫ای‬‫اویه‬ ‫شود‬ ‫داده‬ ‫نشان‬ ‫ما‬ ‫به‬ ‫متفاوتی‬ ‫های‬‫ودی‬‫ر‬‫و‬ ‫مداوم‬ ‫ت‬‫ر‬‫صو‬ ‫به‬ ‫که‬‫این‬ ‫تا‬ ،‫دیگر‬. 22/31
  23. 23. xjj-‫ن‬‫و‬‫ر‬‫نو‬ ‫ودی‬‫ر‬‫و‬‫امین‬ y‫ن‬‫و‬‫نر‬ ‫جی‬‫و‬‫خر‬ ȳt‫مقدار‬y‫لحظه‬ ‫در‬ ‫اثر‬t α‫ی‬‫یادگیر‬ ‫نرخ‬ wj‫ودی‬‫ر‬‫و‬‫بین‬‫ها‬‫ن‬‫ز‬‫و‬j-‫ن‬‫و‬‫ر‬‫نو‬ ‫و‬‫ام‬ η‫یا‬ ‫اثر‬‫مقدار‬trace value() 23/31
  24. 24. 24/31
  25. 25. D. . L. K. Yamins, H. Hong, C. F. Cadieu, E. A. Solomon, D. Seibert and J. J. DiCarlo, "Performance-optimized hierarchical models predict neural responses in higher visual cortex," Proceedings of the National Academy of Sciences, p. 201403112, 2014. 25/31
  26. 26. Visnet Hmax test test train train 26/31
  27. 27. 27  ‫مقدمه‬  ‫بینایی‬ ‫مسیر‬‫از‬ ‫ی‬‫انداز‬ ‫چشم‬  ‫اشیاء‬ ‫ی‬ ‫شناس‬‫ز‬‫با‬ ‫های‬‫مدل‬  HMAX  VisNet  ‫ی‬‫گیر‬ ‫نتیجه‬  ‫آینده‬ ‫های‬‫ر‬‫کا‬
  28. 28. ‫آینده‬ ‫های‬‫ر‬‫کا‬ ‫و‬ ‫ی‬‫گیر‬ ‫نتیجه‬ ‫در‬ ‫یادی‬‫ز‬ ‫مسیار‬ ‫تفاوت‬invariency‫د‬‫ر‬‫دا‬ ‫وجود‬ ‫مغز‬‫و‬ ‫ها‬ ‫مدل‬ ‫تصویر‬ ‫یا‬ ‫دسته‬ ‫دن‬‫و‬‫افز‬ ‫از‬ ‫معد‬ ‫مجدد‬ ‫ش‬‫ز‬‫آمو‬ ‫به‬ ‫نیاز‬(re-train) ‫نگ‬‫ر‬ ‫فقدان‬ ‫از‬ ‫ی‬‫گیر‬‫بهره‬ ‫و‬ ‫ی‬‫ساز‬ ‫ی‬‫مواز‬GPU ‫ی‬‫ساز‬ ‫پیاده‬Spike‫مان‬‫ز‬ ‫و‬ ‫موجود‬ ‫عصبی‬ ‫های‬‫شبکه‬ ‫سایر‬ ‫به‬ ‫مدل‬ ‫اتصال‬ 28/31
  29. 29. 29 References
  30. 30.  E. Rolls, " Invariant visual object and face recognition: neural and computational bases, and a model," In Computational Neuroscience, vol. 51, pp. 167–194, 2012.  T. Rolls, E.T., and Stringer, "Continuous transformation learning of translation invariant representations," Exp.BainRes, pp. 255–270, 2010.  D. L. K. Yamins, H. Hong, C. F. Cadieu, E. A. Solomon, D. Seibert and J. J. DiCarlo, "Performance-optimized hierarchical models predict neural responses in higher visual cortex," Proceedings of the National Academy of Sciences, p. 201403112, 2014.  M. Riesenhuber and T. Poggio, "Hierarchical Models of Object Recognition in Cortex," Nature Neuroscience, vol. 2, no. 11, pp. 1019-1025, 1999.  Stringer, S. M. and E. T. Rolls. 2008. Learning transform invariant object recognition in the visual system withmultiple stimuli present during training, Neural Networks 21:888-903 30/31
  31. 31.  [1] E. a. T. Rolls, " Processing speed in the cerebral cortex and the neurophysiology of visual masking. Proc.R.Soc.Lond.BBiol.Sci. 257, 9–15.," 1994.  [2] S. S. P. a. N. R. Hestrin, "Mechanisms generating the time course of dual component exci tatory synaptic currents recorded in hippocampal slices.," Neuron 5, 1990  [3] P. G. J. a. E. m. G. Montague, "Spatial signalling in the development and function of neural connections," Cereb.Cortex 1, 199–220. 31/31

×