سلسلة ماركوف نموذج ماركوف المخفي HMM تطبيقات سلسلة ماركوف التنبؤ بالطقس عبر سلسلة ماركوف تطبيق ماركوف على برنامج ماتلاب

1. Markov Chain
Presentation by
Ehab Ahmad

2. ‫ماركوف‬ ‫سلسلة‬
‫مقدمة‬
‫بأن‬ ‫تتمتع‬ ‫التي‬ ‫العشوائية‬ ‫العمليات‬ ‫إن‬‫ال‬ ‫المستقبل‬ ‫في‬ ‫حالتها‬‫تعتمد‬
‫الماضي‬ ‫في‬ ‫حاالتها‬ ‫على‬‫الحاضر‬ ‫في‬ ‫حالتها‬ ‫معرفة‬ ‫بشرط‬.‫تسمى‬
‫ماركوف‬ ‫بعمليات‬.
‫العمل‬ ‫نظرية‬ ‫في‬ ‫جدا‬ ‫وهامة‬ ‫كبيرة‬ ‫مكانة‬ ‫ماركوف‬ ‫عمليات‬ ‫نظرية‬ ‫تحتل‬‫يات‬
‫العشوائية‬.‫المكانة‬ ‫هذه‬ ‫تعزز‬‫التطبيقات‬ ‫تعدد‬‫عمل‬ ‫بها‬ ‫تتمتع‬ ‫التي‬‫يات‬
‫والهندس‬ ‫االجتماع‬ ‫وعلم‬ ‫والبيولوجية‬ ‫الفيزيائية‬ ‫النماذج‬ ‫في‬ ‫ماركوف‬‫وعلم‬ ‫ة‬
‫اإل‬ ‫النماذج‬ ‫من‬ ‫الكثير‬ ‫في‬ ‫المتعددة‬ ‫تطبيقاتها‬ ‫إلى‬ ‫باإلضافة‬ ‫اإلدارة‬‫و‬ ‫حصائية‬
‫الموثوقية‬ ‫نظرية‬ ‫وفي‬ ‫الهندسية‬.
‫الحاالت‬ ‫مجموعة‬ ‫عن‬ ‫عبارة‬ ‫أنها‬ ‫على‬ ‫ماركوف‬ ‫سلسلة‬ ‫تفسير‬ ‫يتم‬ ً‫ة‬‫عاد‬
‫زمنية‬ ‫لحظة‬ ‫أي‬ ‫عند‬ ‫ما‬ ‫نظام‬ ‫فيها‬ ‫يكون‬ ‫أن‬ ‫يمكن‬ ‫التي‬،‫أو‬‫من‬ ‫متتابعة‬
‫متحرك‬ ‫جسيم‬ ‫يحتلها‬ ‫التي‬ ‫المواضع‬.

3. ‫ماركوف‬ ‫عملية‬:
‫فيها‬ ‫يعتمد‬ ‫عشوائية‬ ‫عملية‬ ‫هي‬‫الحاالت‬ ‫انتشار‬‫المستقبلي‬‫فقط‬ ‫ة‬
‫السابقة‬ ‫الحاالت‬ ‫على‬ ‫وليس‬ ‫الحالية‬ ‫الحالة‬ ‫على‬.
‫ماركوف‬ ‫خاصية‬:
‫العالم‬ ‫في‬ ‫األنظمة‬ ‫من‬ ‫الكثير‬ ‫في‬ ‫موجودة‬ ‫ماركوف‬ ‫خاصية‬ ‫إن‬
‫لها‬ ‫ليس‬ ‫السابقة‬ ‫الحالة‬ ‫أن‬ ‫تقول‬ ‫وهي‬ ‫الحقيقي‬‫تأثي‬ ‫أي‬‫ر‬‫في‬
‫على‬ ‫فقط‬ ‫تعتمد‬ ‫والتي‬ ‫المستقبلية‬ ‫الحالة‬ ‫إلى‬ ‫الوصول‬‫الحالة‬
‫الحالية‬.

4. ‫تسمى‬‫العملية‬‫العشوائية‬‫سلسلة‬‫الش‬ ‫تحققت‬ ‫إذا‬ ‫ماركوف‬‫روط‬
‫التالية‬ ‫الثالث‬:
‫منفصل‬ ‫يكون‬ ‫العملية‬ ‫لهذه‬ ‫الحالة‬ ‫فضاء‬(‫الحالة‬ ‫منفصلة‬.)
‫ا‬ ‫فضاء‬‫لزمن‬‫منفصل‬ ‫يكون‬ ‫العملية‬ ‫لهذه‬(‫الزمن‬ ‫منفصلة‬.)
‫ماركوف‬ ‫لسلسلة‬ ‫الرياضي‬ ‫التعريف‬
‫متصل‬‫منفصل‬
‫متصل‬
‫منفصل‬
‫الزمن‬ ‫فضاء‬
‫الحالة‬ ‫فضاء‬
‫ماركوف‬ ‫سلسلة‬ X
XExponential
Distribution

5. ‫العشوائي‬ ‫المتغير‬ ‫قيمة‬ ‫أن‬ ‫بمعنى‬‫قيمة‬ ‫على‬ ‫فقط‬ ‫تعتمد‬
‫المتغيرات‬ ‫بقيم‬ ‫تتأثر‬ ‫وال‬‫فضاء‬ ‫وأن‬ ،(‫الزمن‬)‫يكون‬ ‫لها‬
‫منتهي‬ ‫منفصل‬ ‫فيكون‬ ‫الحالة‬ ‫فضاء‬ ‫أما‬ ‫منفصل‬(‫محدود‬)
1nXnX
121 ...,,, nXXX
   iXjXPiXiXiXjXP nnnnnn   |,...,,| 111111
‫الحالة‬
‫المستقبلية‬
‫الحالة‬
‫الحالية‬
‫الحالة‬
‫السابقة‬
‫الحالة‬
‫المستقبلية‬
‫الحالة‬
‫الحالية‬
‫ماركوف‬ ‫لسلسلة‬ ‫الرياضي‬ ‫التعريف‬

6. ‫إما‬ ‫رقميتين‬ ‫إشارتين‬ ‫يبث‬ ‫اتصاالت‬ ‫نظام‬ ‫لدينا‬ ‫أن‬ ‫اعتبر‬0‫أو‬1.
‫من‬ ‫العديد‬ ‫عبر‬ ‫مرسلة‬ ‫إشارة‬ ‫كل‬ ‫تمر‬ ‫أن‬ ‫يجب‬ ‫النظام‬ ‫هذا‬ ‫وفي‬
‫تغي‬ ‫بدون‬ ‫سيظل‬ ‫المرسل‬ ‫الرقم‬ ‫فإن‬ ‫مرحلة‬ ‫كل‬ ‫وفي‬ ،‫المراحل‬‫ر‬
‫منها‬ ‫يخرج‬ ‫حتى‬ ‫المرحلة‬ ‫هذه‬ ‫في‬.
‫المرحلة‬ ‫إلى‬ ‫دخل‬ ‫الذي‬ ‫الرقم‬ ‫إلى‬ ‫يشير‬ ‫ليكن‬n‫إذن‬: nX





n
n
n
X
X
X
1
1
‫اإلش‬ ‫تتغري‬ ‫مل‬ ‫إذ‬‫ارة‬
‫اإلشارة‬ ‫تغريت‬ ‫إذا‬
‫قيمة‬ ‫على‬ ‫فقط‬ ‫تعتمد‬ ‫المتغير‬ ‫قيمة‬ ‫فإن‬ ‫بالتالي‬‫تتأثر‬ ‫وال‬
‫المتغيرات‬ ‫بقيم‬‫وفضاء‬ ،(‫الزمن‬)‫أما‬ ‫منفصل‬ ‫يكون‬ ‫لها‬
‫وهو‬ ‫منتهي‬ ‫منفصل‬ ‫فيكون‬ ‫الحالة‬ ‫فضاء‬S={0,1}
1nXnX
121 ...,,, nXXX
‫مثال‬:‫اتصاالت‬ ‫نظام‬Communication system

7. ‫اليوم‬ ‫طقس‬ ‫على‬ ‫باالعتماد‬ ‫الغد‬ ‫طقس‬ ‫احتمالية‬:
‫الحالة‬:
‫اليوم‬ ‫الغد‬ ‫االحتمال‬
‫مشمس‬ ‫مشمس‬ 0.9
‫مشمس‬ ‫ماطر‬ 0.1
‫ماطر‬ ‫مشمس‬ 0.3
‫ماطر‬ ‫ماطر‬ 0.7
0.1
0.3
0.70.9
90 % ‫مشمس‬
10% ‫ماطر‬
?
‫مشمس‬‫مشمس‬‫مشمس‬ ‫ماطر‬
‫مثال‬:‫بالطقس‬ ‫التنبؤ‬

8. ‫المخفي‬ ‫ماركوف‬ ‫نموذج‬HMM
‫نحن‬ ‫المخفي‬ ‫ماركوف‬ ‫نموذج‬ ‫في‬‫الحاالت‬ ‫تسلسل‬ ‫نعلم‬ ‫ال‬
‫الحاالت‬ ‫هذه‬ ‫لبعض‬ ‫االحتمالي‬ ‫التابع‬ ‫نعلم‬ ‫ولكننا‬.
‫محرك‬ ‫بأنه‬ ‫المخفي‬ ‫ماركوف‬ ‫نموذج‬ ‫عن‬ ‫القول‬ ‫يمكن‬ ‫ببساطة‬
‫النهائية‬ ‫للحاالت‬.‫ال‬ ‫مرور‬ ‫مع‬ ‫باستمرار‬ ‫تتغير‬ ‫الحاالت‬ ‫هذه‬‫وقت‬
‫التغييرات‬ ‫هذه‬ ‫لتحديد‬ ‫طريقة‬ ‫يوجد‬ ‫ال‬ ‫ولكن‬.
‫ف‬ ‫الحاالت‬ ‫لهذه‬ ‫الضبابية‬ ‫التغييرات‬ ‫بعض‬ ‫نحدد‬ ‫ان‬ ‫يمكن‬‫الهدف‬
‫ضبابي‬ ‫تكون‬ ‫التي‬ ‫المالحظات‬ ‫عبر‬ ‫االلة‬ ‫حالة‬ ‫تقييم‬ ‫هو‬ ‫هنا‬‫في‬ ‫ة‬
‫معظمها‬.

9. ‫المخفية‬ ‫الحاالت‬:‫نموذج‬ ‫حاالت‬ ‫نفسها‬ ‫هي‬ ‫المخفية‬ ‫الحاالت‬
‫تلك‬ ‫على‬ ‫أدلة‬ ‫هو‬ ‫االن‬ ‫يظهر‬ ‫وما‬ ‫ظاهرة‬ ‫غير‬ ‫أصبحت‬ ‫ولكنها‬ ‫ماركوف‬
‫الحاالت‬.«‫االن‬ ‫مخفي‬ ‫هو‬ ‫كحالة‬ ‫المطر‬»
‫المالحظة‬ ‫الحاالت‬:‫االن‬ ‫المرئية‬ ‫الحاالت‬ ‫هي‬«‫مثال‬:‫مظلة‬»
‫ماركوف‬ ‫نموذج‬
‫المخفي‬ ‫ماركوف‬ ‫نموذج‬
‫المخفي‬ ‫ماركوف‬ ‫نموذج‬HMM

10. ‫المخفي‬ ‫ماركوف‬ ‫نموذج‬HMM
‫الحاالت‬STATES:‫عشوائيا‬ ‫المتغيرة‬ ‫المدروسة‬ ‫الحاالت‬ ‫مجموعة‬ ‫هي‬
‫االنتقاالت‬TRANS:‫مصفوفة‬ ‫هي‬MxM‫حالة‬ ‫من‬ ‫االنتقال‬ ‫احتمالية‬ ‫عن‬ ‫تعبر‬
‫أخرى‬ ‫حالة‬ ‫إلى‬
‫الدالئل‬EMIS:‫مصفوفة‬ ‫هي‬MxN‫دليل‬ ‫كل‬ ‫ارتباط‬ ‫احتمالية‬ ‫عن‬ ‫تعبر‬
‫السابقة‬ ‫الحاالت‬ ‫من‬ ‫بحالة‬ ‫منها‬
‫التسلسل‬SEQ:‫الزمن‬ ‫عبر‬ ‫والدالئل‬ ‫المالحظات‬ ‫من‬ ‫تسلسل‬ ‫هو‬

11. (‫على‬ ‫تطبيق‬Matlab)
‫اليوم‬ ‫الغد‬ ‫االحتمال‬
‫مشمس‬ ‫مشمس‬ 0.9
‫مشمس‬ ‫ماطر‬ 0.1
‫ماطر‬ ‫مشمس‬ 0.3
‫ماطر‬ ‫ماطر‬ 0.7
TRANS =
0.9 0.1
0.3 0.7
‫معطف‬
‫عادي‬
‫معطف‬
‫مطري‬
‫مظلة‬
‫مشمس‬ 5/6 1/12 1/12
‫ماطر‬ 1/3 1/3 1/3
EMIS =
5/6 1/12 1/12
1/3 1/3 1/3
‫الحاالت‬STATES:
1-‫مشمس‬
2-‫ماطر‬‫الدالئل‬:
1-‫عادي‬ ‫معطف‬
2-‫مطري‬ ‫معطف‬
3-‫مظلة‬

12. (‫على‬ ‫تطبيق‬Matlab)
hmmgenerate:
‫التابع‬ ‫هذا‬ ‫يولد‬ ‫والدالئل‬ ‫االنتقال‬ ‫مصفوفتي‬ ‫من‬ ‫انطالقا‬‫الدالئل‬ ‫من‬ ‫سلسلة‬seq‫ثم‬
‫الحاالت‬ ‫من‬ ‫سلسلة‬ ‫يولد‬‫السابقة‬ ‫الدالئل‬ ‫سلسلة‬ ‫على‬ ‫اعتمادا‬.
«‫التابع‬ ‫هذا‬ ‫ان‬ ‫نالحظ‬‫المخفي‬ ‫ماركوف‬ ‫نموذج‬ ‫في‬ ‫الحاالت‬ ‫توليد‬ ‫من‬ ‫يمكننا‬‫الذي‬
‫اليحتوي‬‫األولي‬ ‫وضعه‬ ‫في‬ ‫الحاالت‬ ‫على‬»
hmmviterbi:
‫اسمها‬ ‫خوارزمية‬ ‫التابع‬ ‫هذا‬ ‫يستعمل‬Viterbi‫الحاالت‬ ‫تسلسل‬ ‫ترتيب‬ ‫إلعادة‬
‫األساسية‬.
hmmestimate:
‫االنتقال‬ ‫مصفوفتي‬ ‫بتوليد‬ ‫التابع‬ ‫هذا‬ ‫يقوم‬Trans‫والدالئل‬Emis‫من‬ ‫انطالقا‬‫من‬
‫عبر‬ ‫سابقا‬ ‫توليدها‬ ‫تم‬ ‫التي‬ ‫الدالئل‬ ‫وسالسل‬ ‫الحاالت‬ ‫سالسل‬hmmgenerate

13. (‫على‬ ‫تطبيق‬Matlab)
‫المطلوب‬:
.1‫إلى‬ ‫والدالئل‬ ‫االنتقال‬ ‫مصفوفتي‬ ‫بإدخال‬ ‫قم‬‫ماتالب‬
.2‫إلى‬ ‫الحالة‬ ‫فضاء‬ ‫بتوسيع‬ ‫قم‬100‫الدالئل‬ ‫و‬ ‫الحاالت‬ ‫سلسلتي‬ ً‫مولدا‬ ‫يوم‬.
.3‫خوارزمية‬ ‫مستعمال‬Viterbi‫الجديد‬ ‫المتوقع‬ ‫الحاالت‬ ‫تسلسل‬ ‫حدد‬
‫في‬ ‫توليدها‬ ‫تم‬ ‫التي‬ ‫األساسية‬ ‫الحاالت‬ ‫سلسلة‬ ‫مع‬ ‫النتائج‬ ‫وقارن‬‫الطلب‬
‫التطابق‬ ‫نسبة‬ ‫محددا‬ ‫الثاني‬.
.4‫بع‬ ‫األساسية‬ ‫الحاالت‬ ‫لسلسلة‬ ‫والدالئل‬ ‫االنتقال‬ ‫مصفوفتي‬ ‫ولد‬‫توسيع‬ ‫د‬
‫األصليتين‬ ‫المصفوفتين‬ ‫مع‬ ‫النتائج‬ ‫قارن‬ ‫ثم‬ ‫الحالة‬ ‫فضاء‬.

14. (‫على‬ ‫تطبيق‬Matlab)
>> TRANS = [.9 .1; .3 .7];
>> EMIS=[5/6 1/12 1/12;1/3 1/3 1/3];
>> [seq,states] = hmmgenerate(100,TRANS,EMIS);
states =
Columns 1 through 15
1 1 1 1 1 2 2 2 2 2 1 1 1 1 1
seq =
Columns 1 through 15
1 1 1 1 1 1 3 3 3 1 1 1 3 1 1
‫عادي‬ ‫معطف‬
+
‫ماطر‬ ‫جو‬

15. (‫على‬ ‫تطبيق‬Matlab)
>>likelystates = hmmviterbi(seq, TRANS, EMIS);
likelystates =
Columns 1 through 15
1 1 1 1 1 1 2 2 2 1 1 1 1 1 1
‫بواسطة‬ ‫توليدها‬ ‫تم‬ ‫التي‬ ‫األساسية‬ ‫الحاالت‬ ‫بين‬ ‫المقارنة‬ ‫تتم‬hmmgenerate‫مع‬
‫خوارزمية‬ ‫عبر‬ ‫توليدها‬ ‫تم‬ ‫التي‬ ‫الحاالت‬viterbi‫قبل‬ ‫من‬hmmviterbi
‫بالشكل‬ ‫الحالتين‬ ‫بين‬ ‫التطابق‬ ‫لحاالت‬ ‫المئوية‬ ‫النسبة‬ ‫حساب‬ ‫يتم‬ ‫حيث‬
sum(states==likelystates)/100
ans =
0.7700
‫خوارزمية‬ ‫قامت‬Viterbi
‫الحالة‬ ‫باستبدال‬2‫ب‬1
‫احتمالية‬ ‫األكثر‬
‫بنس‬ ‫النتائج‬ ‫تطابقت‬‫بة‬
77%

16. (‫على‬ ‫تطبيق‬Matlab)
[TRANS_EST, EMIS_EST] =hmmestimate(seq, states);
TRANS_EST =
0.8485 0.1515
0.2727 0.7273
EMIS_EST =
0.8485 0.0455 0.1061
0.3529 0.3235 0.3235