intelligence artificial slides

1. ‫العصبونية‬ ‫الشبكات‬
Neural Networks
Yosser ATASSI

2. ‫المخطط‬
•‫مقدمة‬
•‫الطبيعية‬ ‫العصبية‬ ‫الشبكات‬
•‫الطصطناعية‬ ‫العصبية‬ ‫الشبكات‬ ‫مكونات‬
•‫الطصطناعية‬ ‫العصبية‬ ‫الشبكات‬ ‫تطبيقات‬
•(‫)معايير‬ ‫الطصطناعية‬ ‫العصبية‬ ‫الشبكات‬ ‫تصنيف‬

3. Introduction
• Neural networks systems are parameterized
computational nonlinear algorithms for numerical
processing of data (signals, images, stimuli).
• These algorithms can be either implemented of
a general-purpose computer or built into a
dedicated hardware.
• Knowledge is acquired by the network/system
through a learning process.
• The acquired knowledge is stored in internal
parameters (weights).

4. Introduction
Some tasks can be done easily by humans but are hard by conventional
paradigms on Von Neumann machine with algorithmic approach.
1- Face Recognition Problem : We are interested in building a system
that recognizes all the individuals in our office (or apartment complex,
factory, etc). We want our neural network to learn the faces and names
of our members so that when it receives an image from a video-camera
of one of our members, it can say who it is.
2- Market Research Problem : We are the owners of a large computer
factory. From the past sales, we have records of each computer’s
storage, memory and processor, and price. We also know
how many of each type of computer we sold. We provide the records to
our neural network. We now want to know what is the relationship
between the computer’s various criteria and the amount sold.

5. What is the nature of these
problems ?

6. What is the nature of these
problems ? (Continue)

7. So what are Neural Networks ?

8. ‫الطبيعية‬ ‫العصبية‬ ‫الشبكات‬
Biological Neural Networks
•‫العصبية‬ ‫الخلايا‬ ‫من‬ ‫مجموعة‬ :‫السنسان‬ ‫دماغ‬neuron
•.‫بالمعلومات‬ ‫التحتفاظ‬ ‫ايمكن‬ -‫العصبية‬ ‫الخلايا‬ ‫تموت‬ ‫ل‬
•‫الخلايا‬ ‫عدد‬1014
‫خلية‬
•100‫العصبية‬ ‫الخلايا‬ ‫من‬ ‫سنوع‬
•‫الشبكات‬ ‫تسمى‬ ‫مجموعات‬ ‫في‬ ‫تنتشر‬Networks
•‫التداخل‬ ‫الشدايدة‬ ‫العصبية‬ ‫الخلايا‬ ‫من‬ ‫مئات‬ ‫عدة‬ ‫تحتوي‬ ‫مجموعة‬ ‫كل‬Interconnected
processing
elements
element
size
energy use processing
speed
style of
computation
fault
tolerant
learns intelligent,
conscious
1014
neuron
10-6
m 30 W 100 Hz parallel,
distributed
yes yes usually
108
transistors
10-6
m 30 W
(CPU)
109
Hz serial
centralized
no a little not (yet)

11. ‫الطصطناعية‬ ‫العصبية‬ ‫الشبكات‬ ‫مكوسنات‬
Neural Networks Artificial (NNA)
Components
•.‫الطبيعية‬ ‫العصبية‬ ‫الشبكة‬ ‫ايحاكي‬ ‫سنموذج‬
•: ‫المتوازاية‬ ‫المعالجة‬ ‫أسلوب‬‫المعالجة‬ ‫عناصر‬
Processing elements.
•‫في‬ ‫المعالجة‬ ‫عناطصر‬ ‫تجمع‬‫طبقات‬Layers‫الشبكة‬ ‫لتشكل‬.
•.‫الخراج‬ ‫طبقة‬ – ‫خفية‬ (‫)طبقات‬ ‫طبقة‬ – ‫الدخال‬ ‫طبقة‬ :‫سنميز‬
•‫المدخلت‬‫خام‬ ‫بياسنات‬ :raw data‫عناطصر‬ ‫من‬ ‫مخرجات‬ ‫أو‬
‫أخرى‬ ‫معالجة‬
•‫المخرجات‬‫معالجة‬ ‫لعنصر‬ ‫مدخل‬ ‫أو‬ ‫للمسألة‬ ‫النهائية‬ ‫:النتيجة‬
.‫آخر‬

12. ‫الطصطناعية‬ ‫العصبية‬ ‫الشبكة‬ ‫طبقات‬

13. ‫المعالجة‬ ‫عنصر‬

14. ‫المعالجة‬ ‫عنصر‬
Processing Element
•‫المدخلت‬Inputs‫مميزة‬ ‫طصفة‬ ‫ايمثل‬ ‫مدخل‬ ‫كل‬ :attribute
•‫المخرجات‬Output‫المسألة‬ ‫تحل‬ :
•‫الوزان‬Weights‫ايعبرعن‬ .‫الطصطناعية‬ ‫العصبية‬ ‫الشبكة‬ ‫في‬ ‫الرئيسي‬ ‫العنصر‬ :
.‫المعالجة‬ ‫عنصر‬ ‫إلى‬ ‫مدخل‬ ‫لكل‬ ‫النسبية‬ ‫المهمية‬
•‫الجمع‬ ‫دالة‬Summation‫عنصر‬ ‫إلى‬ ‫المدخلت‬ ‫لكل‬ ‫المتوسط‬ ‫الوزن‬ ‫:تحساب‬
‫المعالجة‬
ij
i
ij WXy ∑=
•‫السنتقال‬ ‫دالة‬Transfer function‫استثارة‬ ‫مستوى‬ ‫لها‬ ‫عصبية‬ ‫خلية‬ ‫كل‬ :
Activation level‫المستوى‬ ‫مهذا‬ ‫على‬ ‫بناء‬ . ‫المستوى‬ ‫بحساب‬ ‫الجمع‬ ‫دالة‬ ‫تقوم‬
‫تمثل‬ ‫الخارجة‬ ‫والقيمة‬ ‫المستوى‬ ‫بين‬ ‫العلةقة‬ .‫ل‬ ‫أو‬ ‫الخلية‬ ‫من‬ ‫خارجة‬ ‫ةقيمة‬ ‫مهناك‬ ‫تكون‬
:‫مثال‬ ‫السنتقال‬ ‫دالة‬ ‫باستخدام‬
jyjt
e
Y −
+
=
1
1

15. ‫المعالجة‬ ‫عنصر‬
Processing Element (Example)

16. ‫المعالجة‬ ‫عنصر‬
Processing Element
•‫التعلم‬Learning‫من‬ ‫الطصطناعية‬ ‫العصبية‬ ‫الشبكة‬ ‫تتعلم‬ :
.‫أخطائها‬
1.‫الصحيحة‬ ‫الاجابات‬ ‫مع‬ ‫ومقارنتها‬ ‫المخراجات‬ ‫حساب‬.
2.‫الوزان‬ ‫تعديل‬
3..‫المعالجة‬ ‫إعادة‬
•‫النحراف‬ ‫قيمة‬ ‫حسب‬ .‫للوزان‬ ‫عشوائية‬ ‫قيم‬ ‫بوضع‬ ‫المعالجة‬ ‫تبدأ‬
‫تعديل‬ ‫يتم‬ (‫المطلوبة‬ ‫المخراجات‬ ‫و‬ ‫الحقيقية‬ ‫المخراجات‬ ‫بين‬ ‫)الفرق‬
.‫الوزان‬
•=‫النحراف‬0‫المطلوبة‬ ‫المخراجات‬ = ‫الحقيقية‬ ‫المخراجات‬ ‫عندما‬

17. ‫الطصطناعية‬ ‫العصبية‬ ‫الشبكة‬ ‫تطبيقات‬
NNA Applications
•‫الكشكال‬ ‫على‬ ‫التعرف‬Pattern Recognition, ‫)الصوت‬
( ‫الصورة‬
•‫التصنيف‬Classification(‫)الصور‬
•‫المشوكشة‬ ‫أو‬ ‫المنقوطصة‬ ‫المدخلت‬ ‫معالجة‬incomplete inputs
.(‫اللي‬ ‫التحكم‬ ,‫المرضي‬ ‫)التشخيص‬
•‫التعميم‬Generalization(‫نص‬ ‫تراجمة‬ -‫الحية‬ ‫)اللغات‬
•‫التعليم‬Learning (robotic(
•‫الخبيرة‬ ‫النظم‬expert system(‫المالية‬ ‫)التطبيقات‬
•‫للقرار‬ ‫المساعدة‬ ‫النظم‬Decision Support Systems

18. ‫الطصطناعية‬ ‫العصبية‬ ‫الشبكات‬ ‫تصنيف‬
Classification of Neural Networks Artificial
•‫من‬ ‫يتكون‬ ‫ترابطي‬ ‫نظام‬ ‫الطصطناعية‬ ‫العصبية‬ ‫الشبكة‬
‫ل‬ً ‫م‬ ‫كشك‬ ‫لتأخذ‬ ‫البعض‬ ‫بعضها‬ ‫مع‬ ‫تترابط‬ . ‫معالجة‬ ‫عناطصر‬
‫ا‬ً ‫م‬‫د‬‫محد‬ ‫ا‬ً ‫م‬‫ي‬‫معمار‬
•:‫التالية‬ ‫للخصائص‬ ‫ا‬ً ‫م‬‫ق‬‫طب‬ ‫الشبكات‬ ‫تصنف‬
1.‫الشبكة‬ ‫طبولواجيا‬
2.‫المعلومات‬ ‫تذكر‬ ‫عملية‬ ‫طبيعة‬
3.‫المدخلت‬ ‫طبيعة‬
4.‫والروابط‬ ‫الوحدات‬ ‫تلك‬ ‫من‬ ‫التستثارة‬ ‫انتشار‬ ‫طبيعة‬
5.‫التعلم‬ ‫طريقة‬

19. ‫الشبكة‬ ‫طبولواجيا‬

20. ‫تذكرالمعلومات‬ ‫عملية‬ ‫طبيعة‬
•‫عنصر‬ ‫اتستثارة‬ ‫كيفية‬ ‫تمثل‬ ‫التي‬ ‫الرياضية‬ ‫الدالة‬ ‫طبيعة‬ ‫يتوقف‬ ‫المعلومات‬ ‫تذكر‬
‫معالجة‬.
•‫عنصر‬ ‫اتستثارة‬ ‫قاعدة‬ :‫من‬ ‫الدالة‬ ‫تتكون‬)weighted summation function(+
‫العتبة‬ ‫الدالة‬ ‫كشكل‬)node function(
•:‫التستثارة‬ ‫قواعد‬ ‫أبسط‬
jij
i
ij tWYZ −= ∑ *
Zj: ‫للعنصر‬ ‫الكلي‬ ‫المدخل‬ ‫التأثير‬j‫العنصر‬ ‫على‬ ‫للشبكة‬ ‫المكونة‬ ‫للعناطصر‬ ‫المجمع‬ ‫التأثير‬ ‫أو‬j
Yi: ‫العنصر‬ ‫اتستثارة‬i‫خراجه‬ ‫أو‬
Wij: ‫العنصرين‬ ‫بين‬ ‫الترابط‬ ‫وزن‬i,j
tj: ‫للعنصر‬ ‫الخراج‬ ‫دالة‬ ‫أو‬ ‫التستثارة‬ ‫عتبة‬j)‫لتستثارته‬ ‫مطلوب‬ ‫الطاقة‬ ‫من‬ ‫قدر‬ ‫أقل‬(

21. Weighted Summation Function

22. Node Function

23. ‫المدخلت‬ ‫طبيعة‬
–‫ثنائية‬ ‫مدخلت‬0,1
–‫القطب‬ ‫ثنائية‬ ‫مدخلت‬1,1-
–‫أخرى‬ ‫مدخلت‬10,12.4

24. ‫الطبقات‬ ‫عبر‬ ‫التستثارة‬ ‫انتشار‬ ‫طبيعة‬ ‫حسب‬
•‫متقدمة‬ ‫تغذية‬ ‫شبكات‬Feed Forward‫حلقة‬ ‫تحوي‬ ‫ل‬
•‫الراجعة‬ ‫التغذية‬ ‫شبكات‬Feed Back‫أن‬ ‫للمخرجات‬ ‫يمكن‬
‫معالجة‬ ‫لعناصر‬ ‫مدخلت‬ ‫تكون‬
•‫الذاتي‬ ‫الترابط‬ ‫شبكات‬Auto Association‫جميع‬
(‫مخرجات‬ ‫وتبث‬ ‫مدخلت‬ ‫)تستقبل‬ ‫مزدوج‬ ‫دور‬ ‫لها‬ ‫العناصر‬

26. ‫التعلم‬ ‫طريقة‬
•‫الموجه‬ ‫التعلم‬supervised learning‫من‬ ‫ازواج‬ ‫تملك‬
‫الخرج‬ ‫حسب‬ ‫الوزان‬ ‫وتصحح‬ ( ‫المطلوب‬ ‫والخرج‬ ‫)الدخل‬
‫المطلوب‬
•‫الموجه‬ ‫غير‬ ‫التعلم‬unsupervised learning‫فقط‬ ‫تملك‬
‫الدخل‬ ‫لمعطيات‬ ‫الهامة‬ ‫الخصائص‬ ‫إيجاد‬ ‫وعليها‬ ‫الدخل‬