Data Mining Using Learning Automata داده کاوی با استفاده از اتوماتای یادگیر مصطفی نعمتی و نوید بذرکار دانشگاه طبری بابل مقطع کارشناسی ارشد navid bazrkar and mostafa nemati master of science computer science

1. ‫نعمتی‬ ‫مصطفی‬-‫بذرکار‬ ‫نوید‬–‫بهمن‬90
Data Mining Using Learning Automata
‫اتومات‬ ‫از‬‫استفاده‬‫با‬‫ی‬‫کاو‬ ‫داده‬‫ای‬
‫یادگیر‬
‫خدا‬ ‫نام‬ ‫به‬

2. ‫از‬54
A year spent in artificial intelligence is enough to make one believe in
God.
“Alan perlis”

3. ‫از‬54
‫مقاالت‬‫از‬ ‫برگفته‬
Data Mining Using Learning Automata, M. R. Aghaebrahimi, S. H.
Zahiri, and M. Amiri
Learning automata based classifier, Seyed-Hamid Zahiri.
Classification Rule Discovery Using Learning Automata- Seyed-Hamid
Zahiri

4. ‫از‬54
‫فهرست‬
‫مقاله‬‫چکیده‬
‫ی‬‫کاو‬‫داده‬
‫یادگیر‬ ‫اتوماتای‬
‫یادگیر‬ ‫اتوماتای‬ ‫از‬ ‫استفاده‬ ‫با‬ ‫ی‬‫کاو‬‫داده‬
‫مایشات‬‫ز‬‫آ‬ ‫نتایج‬
‫خذ‬
ٌ
‫ما‬‫و‬ ‫منابع‬

5. ‫از‬54
‫مقاله‬‫چکیده‬
‫داده‬ ‫کننده‬ ‫کاوش‬ ‫یک‬‫مقاله‬ ‫این‬ ‫در‬(data miner)‫پایه‬‫بر‬‫اتوماتای‬‫پیشنهاد‬ ‫یادگیر‬
‫که‬‫است‬ ‫شده‬LA-miner‫نام‬‫است‬‫شده‬ ‫ی‬‫گذار‬.
LA-miner‫قواعد‬‫داده‬ ‫مجموعه‬‫از‬‫ا‬‫ر‬ ‫بندی‬ ‫طبقه‬‫ها‬(data set)‫به‬‫خودکار‬ ‫ر‬‫طو‬
‫کند‬ ‫می‬ ‫اج‬‫ر‬‫استخ‬.

6. ‫از‬54
‫مقاله‬‫چکیده‬
‫استفاده‬‫یادگیر‬ ‫اتوماتای‬‫از‬ ‫که‬ ‫ی‬‫ساز‬ ‫بهینه‬ ‫پایه‬ ‫بر‬ ‫پیشنهادی‬ ‫یتم‬‫ر‬‫الگو‬‫نهاده‬ ‫بنا‬ ‫کند‬ ‫می‬
‫است‬ ‫شده‬.
‫نتایج‬‫عملی‬‫نشان‬‫می‬‫دهد‬‫که‬‫عملکرد‬LA-miner‫پیشنهاد‬‫شده‬‫قابل‬‫مقایسه‬‫و‬‫در‬
‫ی‬ ‫بعض‬‫مواقع‬‫بهتر‬‫از‬Ant-miner(‫یتم‬‫ر‬‫الگو‬‫کاوش‬‫کننده‬‫بر‬‫مبنای‬‫یتم‬‫ر‬‫الگو‬‫به‬‫ینه‬
‫ی‬‫ساز‬‫کلونی‬‫چه‬‫ر‬‫مو‬‫ها‬)‫و‬CNZ(‫یتم‬‫ر‬‫الگو‬‫ف‬‫و‬‫معر‬‫داده‬‫ی‬‫کاو‬‫ای‬‫ر‬‫ب‬‫طبقه‬‫بندی‬)‫است‬.

7. ‫از‬54
‫ی‬‫کاو‬ ‫داده‬Data Mining
‫؟‬‫ی‬‫کاو‬‫داده‬ ‫ا‬‫ر‬‫چ‬
‫ی‬‫کاو‬‫داده‬ ‫تعریف‬
‫ی‬‫کاو‬‫داده‬ ‫بردهای‬‫ر‬‫کا‬

8. ‫از‬54
‫؟‬‫ی‬‫کاو‬‫داده‬ ‫چرا‬
‫ی‬‫کاو‬‫داده‬ ‫پیدایش‬‫دالیل‬:
‫توسعه‬‫يابی‬‫ز‬‫با‬ ‫و‬‫ذخیره‬ ‫يهای‬‫ژ‬‫تکنولو‬‫اطالعات‬.
‫ذخیره‬ ‫اطالعات‬‫حجم‬ ‫ن‬‫و‬‫افز‬‫ز‬‫و‬‫ر‬ ‫ايش‬‫ز‬‫اف‬‫شده‬.
‫شيوهای‬‫ر‬‫آ‬‫ت‬‫اطالعات‬ ‫های‬‫مقبره‬ ‫به‬‫غالبا‬ ،‫ياد‬‫ز‬ ‫بسيار‬‫حجم‬ ‫دليل‬ ‫به‬،‫اطالعاتی‬‫می‬ ‫بديل‬
‫شوند‬.
‫تصميمها‬‫از‬ ‫ی‬‫بسيار‬،‫اطالعات‬ ‫ی‬‫ژ‬‫تکنولو‬ ‫بخش‬‫در‬ ‫سنگین‬ ‫های‬ ‫هزينه‬‫علیرغم‬‫همچنان‬
‫می‬ ‫اتخاذ‬ ‫اطالعاتی‬ ‫فقر‬‫در‬‫و‬ ‫گردند‬‫اس‬‫شده‬‫ذخیره‬ ‫اطالعات‬ ‫بالقوه‬ ‫قابليتهای‬ ‫از‬‫نمی‬‫تفاده‬
‫شود‬.

9. ‫از‬54
‫؟‬‫ی‬‫کاو‬‫داده‬ ‫چرا‬
Europe's Very Long Baseline Interferometry(VLBI)‫ای‬‫ر‬‫دا‬16‫تلسکوپ‬
‫بر‬ ‫بالغ‬‫ها‬ ‫آن‬‫از‬ ‫کدام‬ ‫هر‬ ‫که‬ ‫است‬1 Gigabit/second‫هر‬ ‫در‬ ‫نجومی‬ ‫های‬‫داده‬
‫ه‬‫ر‬‫دو‬25‫کنند‬ ‫می‬ ‫تولید‬ ‫ه‬‫ز‬‫و‬‫ر‬.
o‫است‬ ‫گ‬‫ر‬‫بز‬‫مشکل‬ ‫یک‬‫ها‬‫داده‬ ‫این‬‫آنالیز‬.

10. ‫از‬54
‫؟‬‫ی‬‫کاو‬‫داده‬ ‫چرا‬
‫وب‬‫در‬ ‫ها‬‫داده‬ ‫عظیم‬‫حجم‬
‫ی‬‫جستجو‬Google‫در‬4‫باشد‬ ‫می‬ ‫ابایت‬‫ر‬‫ت‬‫صدها‬‫شامل‬ ‫صفحه‬ ‫ن‬‫بیلیو‬.
‫هستند‬‫حجیم‬ ‫بسیار‬ ‫ی‬‫ز‬‫و‬‫امر‬ ‫های‬‫داده‬ ‫پایگاه‬.(‫نظیر‬‫هایی‬‫حجم‬Gigabytes‫و‬terabytes)
‫از‬ ‫بیش‬1,000,000entities/records/rows

11. ‫از‬54
‫؟‬‫ی‬‫کاو‬‫داده‬ ‫چرا‬
‫مان‬‫ز‬‫سا‬‫حداقل‬ ‫بتوانند‬ ‫که‬ ‫موفقند‬ ‫هایی‬7%‫کنند‬ ‫تحلیل‬‫ا‬‫ر‬ ‫هایشان‬‫داده‬.
‫های‬‫داده‬ ‫صد‬‫ر‬‫د‬ ‫یک‬‫از‬‫کمتر‬‫مانها‬‫ز‬‫سا‬ ‫که‬ ‫است‬‫داده‬ ‫نشان‬ ‫یافته‬ ‫انجام‬ ‫تحقیقات‬‫ا‬‫ر‬ ‫شان‬
‫کنند‬ ‫می‬‫استفاده‬ ‫تحلیل‬ ‫ای‬‫ر‬‫ب‬.‫هست‬ ‫ها‬‫داده‬ ‫در‬ ‫ق‬‫غر‬ ‫که‬ ‫حالی‬‫در‬ ‫دیگر‬ ‫ت‬‫ر‬‫عبا‬ ‫به‬‫تشنه‬ ‫ند‬
‫باشند‬‫می‬ ‫دانش‬.
‫نیاز‬ ‫ها‬ ‫داده‬ ‫از‬ ‫کشف‬ ‫دانش‬ ‫به‬ ‫این‬‫ر‬‫بناب‬

12. ‫از‬54
‫ی‬‫کاو‬ ‫داده‬‫تعریف‬
‫مشت‬ ‫فصل‬‫در‬ ‫آن‬‫اصلی‬ ‫هسته‬ ‫و‬‫د‬‫ر‬‫دا‬‫ه‬‫ر‬‫اشا‬‫ها‬‫داده‬ ‫از‬‫اج‬‫ر‬‫استخ‬‫دانش‬ ‫به‬ ‫ی‬‫کاو‬‫داده‬‫رک‬
‫است‬‫داده‬ ‫پایگاه‬ ‫و‬‫آمار‬،‫ماشین‬ ‫ی‬‫یادگیر‬.

13. ‫از‬54
‫ی‬‫کاو‬ ‫داده‬‫فرایند‬

14. ‫از‬54
‫ی‬‫کاو‬ ‫داده‬‫در‬‫ی‬ ‫اساس‬‫وظایف‬
‫بندی‬ ‫طبقه‬Classification:‫تخمین‬‫قلم‬‫یک‬ ‫کالس‬
‫بندی‬ ‫خوشه‬Clustering:‫یافتن‬‫داده‬ ‫در‬ ‫ها‬ ‫خوشه‬
‫انجمنی‬ ‫ابط‬‫و‬‫ر‬ ‫اج‬‫ر‬‫استخ‬Associations:‫مثال‬‫غالبا‬A & B & C‫دهند‬‫می‬ ‫رخ‬
‫ی‬‫ساز‬ ‫ی‬‫بصر‬Visualization:‫ای‬‫ر‬‫ب‬‫انسان‬ ‫کشف‬ ‫تسهیل‬
‫ی‬‫ساز‬ ‫خالصه‬Summarization:‫توصیف‬‫ه‬‫و‬‫گر‬ ‫یک‬
‫اف‬‫ر‬‫انح‬ ‫کشف‬Deviation Detection:‫یافتن‬‫ات‬‫ر‬‫تغیی‬
‫تخمین‬Estimation:‫پیش‬‫پیوسته‬ ‫مقدار‬ ‫یک‬ ‫بینی‬
‫پیوند‬ ‫تحلیل‬Link Analysis:‫یافتن‬‫تباطات‬‫ر‬‫ا‬
…

15. ‫از‬54
‫بندی‬‫طبقه‬
‫های‬ ‫نمونه‬ ‫ی‬‫و‬‫ر‬‫از‬ ‫نمونه‬‫کالس‬ ‫تخمین‬ ‫ای‬‫ر‬‫ب‬ ‫ی‬ ‫ش‬‫و‬‫ر‬ ‫ی‬‫یادگیر‬(‫شده‬ ‫بندی‬‫طبقه‬)‫بر‬‫پیش‬‫چسب‬
‫ده‬‫ر‬‫خو‬.
‫متنوع‬ ‫شهای‬‫و‬‫ر‬:
‫آمار‬
‫ی‬‫گیر‬ ‫تصمیم‬ ‫ختهای‬‫ر‬‫د‬
‫عصبی‬ ‫های‬ ‫شبکه‬
‫یادگیر‬ ‫اتوماتای‬
...

16. ‫از‬54
Illustrating Classification Task

17. ‫از‬54
‫بندی‬‫طبقه‬
‫پس‬‫مشخص‬ ‫ا‬‫ر‬ ‫جديد‬‫های‬ ‫نمونه‬‫دسته‬ ‫بايد‬‫يادگیرنده‬ ،‫ی‬ ‫ش‬‫ز‬‫آمو‬ ‫نمونه‬ ‫تعدادی‬ ‫يافت‬‫ر‬‫د‬‫از‬‫نمايد‬.
‫مثال‬:
‫از‬ ‫بيش‬ ‫با‬ ‫شرکت‬ ‫يک‬100000‫يک‬‫ی‬‫مشتر‬‫و‬ ‫چاپ‬ ‫سنگین‬ ‫هزينه‬ ‫با‬ ‫کاتالوگ‬‫کند‬‫می‬ ‫يع‬‫ز‬‫تو‬.
‫کاتالوگ‬ ‫انتخابی‬ ‫سال‬‫ر‬‫ا‬ ‫م‬‫و‬‫لز‬(‫همه‬ ‫ای‬‫ر‬‫ب‬ ‫نه‬)
‫بندی‬ ‫دسته‬:‫و‬‫گر‬ ‫در‬ ‫احتماال‬ ‫ادی‬‫ر‬‫اف‬ ‫چه‬،‫مشتريان‬ ‫پاسخ‬ ‫و‬ ‫کاتالوگها‬ ‫سال‬‫ر‬‫ا‬ ‫سوابق‬ ‫به‬ ‫توجه‬ ‫با‬‫ه‬”‫مند‬ ‫عالقه‬
‫شده‬ ‫معرفی‬‫ل‬‫محصو‬ ‫به‬“‫گیرند؟‬ ‫می‬ ‫ار‬‫ر‬‫ق‬
‫ها‬ ‫هزينه‬ ‫کاهش‬

18. ‫از‬54
‫ی‬‫کاو‬ ‫داده‬‫بردهای‬‫ر‬‫کا‬
‫باشد‬ ‫می‬ ‫امنيتی‬ ‫و‬ ‫ی‬‫تجار‬ ،‫علمی‬ ‫بردهای‬‫ر‬‫کا‬ ‫شامل‬ ‫اصلی‬ ‫های‬ ‫ه‬‫ز‬‫حو‬.
‫مواجهيم‬‫متعدد‬ ‫خصايص‬ ‫و‬ ‫اطالعات‬ ‫ياد‬‫ز‬ ‫بسيار‬ ‫حجم‬ ‫با‬ ‫ها‬ ‫ه‬‫ز‬‫حو‬ ‫تمام‬ ‫در‬.
‫کاهش‬‫ا‬ ‫هريک‬ ‫در‬ ‫ی‬‫کاو‬‫داده‬ ‫دهای‬‫ر‬‫دستاو‬ ‫از‬ ‫انسانها‬ ‫ندگی‬‫ز‬ ‫نجات‬ ‫و‬ ‫آمدها‬‫ر‬‫د‬ ‫ايش‬‫ز‬‫اف‬ ،‫ها‬ ‫هزينه‬ ‫شديد‬‫ه‬‫ز‬‫حو‬ ‫ز‬
‫است‬ ‫آن‬ ‫بردی‬‫ر‬‫کا‬ ‫های‬.
‫ی‬‫تجار‬ ‫بردهای‬‫ر‬‫کا‬:‫اعت‬ ‫تهای‬‫ر‬‫کا‬ ‫از‬ ‫استفاده‬ ‫سوء‬ ‫تشخيص‬ ،‫بيمه‬ ‫در‬ ‫ت‬‫ر‬‫خسا‬ ‫ادعای‬ ‫صحت‬ ‫تشخيص‬،‫ی‬‫بار‬
،‫مان‬‫ز‬‫سا‬ ‫يک‬‫مشتريان‬ ‫اطالعات‬ ‫تحليل‬...
‫علمی‬ ‫بردهای‬‫ر‬‫کا‬:‫فضائی‬ ‫سفرهای‬ ‫و‬ ‫فضا‬ ،‫اقليمی‬ ‫و‬ ‫افيائی‬‫ر‬‫جغ‬ ،‫پزشکی‬ ‫های‬ ‫ه‬‫ز‬‫حو‬
‫امنيتی‬ ‫بردهای‬‫ر‬‫کا‬:‫ی‬‫کامپيوتر‬ ‫های‬ ‫شبکه‬ ‫به‬ ‫ان‬‫ر‬‫نفوذگ‬ ‫با‬ ‫مقابله‬ ،‫يسم‬‫ر‬‫و‬‫تر‬ ‫با‬ ‫ه‬‫ز‬‫مبار‬

19. ‫از‬54
‫یادگیر‬‫اتوماتای‬Learning Automata
‫مجرد‬ ‫ئ‬ ‫ش‬ ‫يک‬ ‫ت‬‫ر‬‫بصو‬‫توان‬‫مي‬ ‫ا‬‫ر‬ ‫يادگیر‬ ‫اتوماتاي‬ ‫يک‬Abstract Object))‫که‬‫عمل‬ ‫متناهي‬ ‫تعداد‬ ‫اي‬‫ر‬‫دا‬
‫گرفت‬ ‫نظر‬ ‫در‬ ،‫است‬.
‫کند‬‫مي‬ ‫عمل‬،‫محيط‬ ‫بر‬ ‫آن‬ ‫عمال‬ِ‫ا‬ ‫و‬ ‫خود‬ ‫هاي‬ ‫عمل‬ ‫مجموعه‬ ‫از‬ ‫عمل‬ ‫يک‬ ‫انتخاب‬ ‫با‬ ‫يادگیر‬ ‫اتوماتاي‬.
‫عمل‬ ‫انتخاب‬ ‫اي‬‫ر‬‫ب‬ ‫محيط‬ ‫پاسخ‬ ‫از‬ ‫اتوماتا‬ ‫و‬ ‫شود‬‫مي‬ ‫يابي‬‫ز‬‫ار‬ ‫تصادفي‬ ‫محيط‬‫يک‬ ‫توسط‬ ‫ر‬‫مذکو‬ ‫عمل‬‫بعدي‬
‫کند‬‫مي‬ ‫استفاده‬ ‫خود‬.
‫که‬‫گیرد‬‫مي‬ ‫ياد‬ ‫اتوماتا‬ ‫ايند‬‫ر‬‫ف‬‫اين‬ ‫طي‬ ‫در‬‫بهينه‬ ‫عمل‬‫نمايد‬ ‫انتخاب‬ ‫ا‬‫ر‬.

20. ‫از‬54
‫یادگیر‬‫اتوماتای‬
‫محیط‬ ‫و‬‫یادگیر‬‫اتوماتای‬ ‫بین‬‫ابطه‬‫ر‬

21. ‫از‬54
‫یادگیر‬‫اتوماتای‬
‫می‬ ‫عمل‬ ‫آن‬ ‫در‬ ‫که‬ ‫محیطی‬ ‫از‬ ‫مهمی‬ ‫دانش‬ ‫به‬ ‫که‬ ‫است‬ ‫این‬ ‫یادگیر‬ ‫اتوماتای‬ ‫ایای‬‫ز‬‫م‬ ‫از‬ ‫یکی‬‫و‬ ،‫کند‬‫ب‬ ‫یا‬‫هر‬ ‫ه‬
‫د‬‫ر‬‫ندا‬ ‫نیاز‬ ‫شود‬ ‫بهینه‬ ‫باید‬ ‫که‬ ‫تابعی‬ ‫از‬‫تحلیلی‬ ‫دانش‬.
‫یک‬‫یادگیر‬ ‫اتوماتای‬‫و‬‫محیط‬‫وسیله‬ ‫به‬ ‫ترتیب‬ ‫به‬ ‫کلی‬ ‫ر‬‫طو‬ ‫به‬<A,Q, R, L >‫و‬<A, R,D >‫می‬ ‫تعریف‬
‫شود‬‫که‬:
A= { α1, α2,…, αr }:‫مجوعه‬‫اتوماتا‬ ‫عمل‬ ‫همه‬‫است‬.
r‫تعداد‬‫است‬ ‫ها‬ ‫عمل‬ ‫کل‬.‫حقیقت‬ ‫در‬A‫مجموعه‬‫اتوماتا‬ ‫های‬ ‫جی‬‫و‬‫خر‬‫همچنین‬ ‫و‬‫محیط‬ ‫های‬ ‫ودی‬‫ر‬‫و‬ ‫مجموعه‬
‫است‬.

22. ‫از‬54
‫یادگیر‬‫اتوماتای‬
R‫دامنه‬‫است‬ ‫محیط‬ ‫های‬ ‫پاسخ‬.
{D = {d1, d2 ,…, dr‫مجوعه‬‫است‬ ‫احتماالت‬ ‫پاداش‬(‫جریمه‬‫های‬ ‫احتمال‬ ‫مجوعه‬)
‫که‬.
‫پاداش‬‫است‬ ‫ناشناخته‬ ‫اتوماتا‬ ‫ای‬‫ر‬‫ب‬ ‫احتماالت‬.
Q‫حالت‬‫ر‬‫طو‬ ‫به‬ ‫که‬ ‫است‬ ‫اتوماتا‬ ‫های‬‫تعریف‬‫می‬‫شود‬.
‫شود‬ ‫می‬ ‫نامیده‬ ‫عمل‬ ‫احتمال‬ ‫بردار‬.
‫نمونه‬ ‫ای‬‫ر‬‫ب‬ ‫احتمال‬ ‫پاداش‬‫تخمین‬ ‫بردار‬k‫است‬.

23. ‫از‬54
‫یادگیر‬‫اتوماتای‬
T‫یتم‬‫ر‬‫الگو‬‫حاال‬ ‫کردن‬ ‫ز‬‫و‬‫ر‬ ‫به‬ ‫ر‬‫منظو‬ ‫به‬ ‫اتوماتا‬ ‫وسیله‬ ‫به‬ ‫که‬ ‫است‬‫تقویت‬ ‫شمای‬ ‫یا‬ ‫ی‬‫یادگیر‬‫استفاده‬ ‫خود‬ ‫ت‬
‫شود‬ ‫می‬.‫حقیقت‬ ‫در‬:

24. ‫از‬54
‫یادگیر‬‫اتوماتای‬
‫نمونه‬ ‫هر‬ ‫در‬k،‫عمل‬‫یک‬ ‫اتوماتا‬α(k)‫اعمال‬ ‫مجموعه‬ ‫از‬ ‫ا‬‫ر‬A‫کند‬‫می‬ ‫انتخاب‬.‫به‬ ‫بستگی‬ ‫انتخاب‬ ‫این‬
‫ی‬‫جار‬ ‫عمل‬ ‫بردار‬P(k)‫د‬‫ر‬‫دا‬.‫شده‬ ‫انتخاب‬ ‫عمل‬α(k)‫تصادفی‬ ‫پاسخ‬ ‫یک‬ ‫محیط‬ ‫و‬ ‫شده‬ ‫محیط‬ ‫ودی‬‫ر‬‫و‬
β(k)‫اتوماتا‬ ‫انتظار‬ ‫د‬‫ر‬‫مو‬ ‫مقدار‬ ‫که‬ ‫شود‬‫می‬ ‫محسوب‬ ‫اتوماتا‬ ‫ودی‬‫ر‬‫و‬ ‫عنوان‬‫به‬ ‫دهد،که‬ ‫می‬di(k)
‫است‬.
‫اگر‬α(k)= αi‫اتوماتا‬ ‫سپس‬Q(k+1)‫پاداش‬ ‫شمای‬ ‫از‬ ‫استفاده‬ ‫با‬ ‫ا‬‫ر‬L‫کند‬‫می‬ ‫محاسبه‬.‫تا‬ ‫یه‬‫و‬‫ر‬ ‫این‬
‫یابد‬ ‫می‬ ‫ادامه‬ ‫شود‬ ‫پیدا‬‫محیط‬ ‫بر‬ ‫بهینه‬ ‫عمل‬ ‫که‬ ‫مانی‬‫ز‬.

25. ‫از‬54
‫یادگیر‬ ‫اتوماتای‬‫با‬ ‫ی‬‫کاو‬ ‫داده‬
‫داده‬ ‫کننده‬ ‫کاوش‬ ‫یک‬ ‫مقاله‬ ‫این‬ ‫در‬data miner))‫بر‬‫ک‬ ‫است‬ ‫شده‬ ‫پیشنهاد‬ ‫یادگیر‬ ‫اتوماتای‬ ‫پایه‬‫ه‬
LA-miner‫نام‬‫است‬ ‫شده‬ ‫ی‬‫گذار‬.
LA-miner‫قواعد‬‫ها‬‫داده‬ ‫مجموعه‬ ‫از‬ ‫ا‬‫ر‬‫بندی‬ ‫طبقه‬data set))‫به‬‫می‬ ‫اج‬‫ر‬‫استخ‬ ‫خودکار‬ ‫ر‬‫طو‬
‫کند‬.
‫نها‬ ‫بنا‬ ‫کند‬ ‫می‬ ‫استفاده‬ ‫یادگیر‬ ‫اتوماتای‬ ‫از‬ ‫که‬ ‫ی‬‫ساز‬ ‫بهینه‬ ‫پایه‬ ‫بر‬ ‫پیشنهادی‬ ‫یتم‬‫ر‬‫الگو‬‫است‬ ‫شده‬ ‫ده‬.

26. ‫از‬54
‫یادگیر‬ ‫اتوماتای‬‫با‬ ‫ی‬‫کاو‬ ‫داده‬
‫نتایج‬‫عملکرد‬ ‫که‬ ‫دهد‬ ‫می‬ ‫نشان‬ ‫عملی‬LA-miner‫پیشنهاد‬‫بهت‬ ‫مواقع‬ ‫ی‬ ‫بعض‬ ‫در‬ ‫و‬ ‫مقایسه‬ ‫قابل‬‫شده‬‫از‬‫ر‬
Ant-miner(‫یتم‬‫ر‬‫الگو‬‫ها‬ ‫چه‬‫ر‬‫مو‬ ‫کلونی‬ ‫ی‬‫ساز‬ ‫بهینه‬ ‫یتم‬‫ر‬‫الگو‬ ‫مبنای‬ ‫بر‬ ‫کننده‬ ‫کاوش‬)‫و‬CNZ
(‫یتم‬‫ر‬‫الگو‬‫بندی‬ ‫طبقه‬ ‫ای‬‫ر‬‫ب‬ ‫ی‬‫کاو‬‫داده‬ ‫ف‬‫و‬‫معر‬)‫است‬.

27. ‫از‬54
‫کننده‬ ‫بندی‬‫طبقه‬
‫که‬ ‫است‬ ‫شده‬‫نهاده‬ ‫بنا‬ ‫اصلی‬ ‫قسمت‬ ‫دو‬ ‫بر‬ ‫یادگیر‬ ‫اتوماتای‬ ‫مبنای‬ ‫بر‬ ‫کننده‬ ‫بندی‬ ‫طبقه‬‫شامل‬:
.1hyperplane‫ی‬‫گیر‬ ‫تصمیم‬(Decision hyperplanes)
.2‫کند‬ ‫می‬ ‫استفاده‬‫یادگیر‬ ‫اتوماتای‬ ‫از‬ ‫که‬ ‫ی‬‫ساز‬ ‫بهینه‬ ‫تابع‬(.Function optimization)

28. ‫از‬54
Hyperplane‫تصمیم‬‫ی‬‫گیر‬
‫یک‬ ‫کلی‬ ‫فرم‬hyperplane‫است‬ ‫یر‬‫ز‬ ‫ت‬‫ر‬‫صو‬ ‫به‬:
‫آن‬ ‫در‬ ‫که‬:
‫ده‬‫و‬‫افز‬ ‫ویژگی‬ ‫بردار‬(augmented feature)
‫فضای‬ ‫در‬ ‫صفحه‬ ‫ابر‬ ‫کننده‬‫تعیین‬ ‫ایب‬‫ر‬‫ض‬n‫ها‬ ‫ویژگی‬‫بعدی‬
‫از‬ ‫تعداد‬‫یک‬ ‫کلی‬ ‫حالت‬ ‫در‬hyperplane‫وجود‬‫ویژگی‬ ‫فضای‬ ‫که‬ ‫د‬‫ر‬‫دا‬(feature space)‫ا‬‫ر‬‫به‬
‫شود‬ ‫می‬ ‫جدا‬ ‫شود‬ ‫شناسایی‬ ‫ا‬‫ز‬‫مج‬ ‫کالس‬‫یک‬ ‫با‬ ‫باید‬ ‫ناحیه‬ ‫هر‬ ‫که‬،‫مختلفی‬ ‫های‬ ‫ناحیه‬.

29. ‫از‬54
Hyperplane‫تصمیم‬‫ی‬‫گیر‬
‫ساده‬ ‫مثال‬ ‫یک‬:
‫شامل‬6‫وسیله‬ ‫به‬ ‫که‬ ،‫کالس‬3‫اند‬‫شده‬ ‫ی‬‫گذار‬ ‫کد‬ ‫تصمیم‬ ‫خط‬.

30. ‫از‬54
‫یادگیر‬ ‫اتوماتای‬‫از‬ ‫استفاده‬ ‫با‬ ‫ی‬‫ساز‬ ‫بهینه‬‫تابع‬
‫در‬‫به‬ ‫ناآگاهانه‬ ‫جواب‬ ‫فضای‬ ‫ابتدا‬ ‫یتم‬‫ر‬‫الگو‬ ‫این‬r،hyper-cube‫که‬‫عمل‬ ‫یک‬ ‫با‬ ‫مطابق‬ ‫کدام‬ ‫هر‬
‫شود‬ ‫می‬ ‫تقسیم‬ ،‫است‬ ‫یادگیر‬ ‫اتوماتای‬.
‫سپس‬‫یتم‬‫ر‬‫الگو‬ ‫از‬ ‫پیوسته‬ ‫استفاده‬ ‫با‬‫پیگرد‬(Pursuit algorithm)‫احتماالت‬‫تخمین‬ ‫و‬ ‫ها‬ ‫عمل‬
‫حا‬ ‫با‬ ‫مطابق‬ ‫تصادفی‬ ‫انتخابی‬ ‫نمونه‬ ‫یک‬ ‫از‬ ‫تابع‬ ‫مقدار‬ ‫محاسبه‬ ‫با‬ ‫ه‬‫ر‬‫دو‬ ‫هر‬ ‫در‬ ‫احتماالت‬ ‫پاداش‬‫ی‬‫جار‬ ‫لت‬
‫شوند‬ ‫می‬ ‫ز‬‫و‬‫بر‬ ‫عمل‬.

31. ‫از‬54
‫یادگیر‬ ‫اتوماتای‬‫از‬ ‫استفاده‬ ‫با‬ ‫ی‬‫ساز‬ ‫بهینه‬‫تابع‬
‫اگر‬‫تعریف‬ ‫قبل‬ ‫از‬ ‫آستانه‬ ‫یک‬ ‫از‬ ‫احتمال‬ ‫پاداش‬ ‫یک‬ ‫تخمین‬‫شده‬(predefined threshold)
‫کوچکتر‬،‫باشد‬hyper-cube‫متناظر‬‫شود‬ ‫می‬ ‫محاسبه‬‫تابع‬ ‫آن‬ ‫مقدار‬ ‫های‬ ‫نمونه‬ ‫طبق‬ ‫بر‬ ‫آنگاه‬.
‫اگر‬‫این‬ ‫باشند‬ ‫کوچک‬ ‫کافی‬ ‫ه‬‫ز‬‫اندا‬ ‫به‬ ‫تابع‬ ‫این‬ ‫مقادیر‬ ‫یانس‬‫ر‬‫وا‬ ‫و‬‫میانگین‬ ‫مقدار‬ ‫دو‬ ‫هر‬hyper-cube
‫پایدار‬‫شود‬ ‫می‬ ‫نظرگرفته‬ ‫در‬‫بالاستفاده‬ ‫و‬.‫این‬ ‫سپس‬hyper-cube‫خارج‬‫با‬ ‫ی‬‫ساز‬ ‫بهینه‬ ‫و‬ ‫شود‬‫می‬r-
1،hyper-cube‫باقی‬‫ادامه‬‫مانده‬‫یابد‬ ‫می‬.

32. ‫از‬54
‫یادگیر‬ ‫اتوماتای‬‫از‬ ‫استفاده‬ ‫با‬ ‫ی‬‫ساز‬ ‫بهینه‬‫تابع‬
‫در‬‫این‬ ‫ت‬‫ر‬‫صو‬ ‫این‬‫غیر‬hyper-cube‫به‬‫کاهش‬ ‫و‬ ‫ایش‬‫ز‬‫اف‬ ‫و‬ ‫شود‬‫می‬ ‫گرفته‬ ‫نظر‬‫ر‬‫د‬ ‫ناپایدار‬ ‫عنوان‬(‫ق‬‫له‬
‫ه‬‫ر‬‫د‬ ‫و‬)‫این‬‫این‬ ‫در‬ ‫تابع‬‫از‬‫شود‬ ‫می‬‫ده‬‫ز‬‫تخمین‬ ‫آن‬ ‫داخل‬ ‫های‬ ‫نمونه‬.
‫سپس‬‫این‬hyper-cube‫به‬‫یر‬‫ز‬ ‫تعدادی‬hyper-cube‫که‬‫فقط‬ ‫هرکدام‬‫شامل‬‫های‬ ‫نمونه‬
‫و‬ ‫شوند‬ ‫می‬ ‫تقسیم‬ ‫هستند‬ ‫لی‬‫و‬‫نز‬ ‫یا‬ ‫صعودی‬hyper-cube‫اصلی‬‫یر‬‫ز‬ ‫پاداش‬‫بهترین‬ ‫وسیله‬ ‫به‬
hyper-cube‫جایگزین‬‫و‬ ‫شود‬ ‫می‬hyper-cube‫های‬‫و‬ ‫شده‬ ‫گرفته‬ ‫نظر‬ ‫در‬‫بالاستفاده‬ ‫دیگر‬
‫شود‬ ‫می‬ ‫خارج‬.

33. ‫از‬54
‫یادگیر‬ ‫اتوماتای‬‫از‬ ‫استفاده‬ ‫با‬ ‫ی‬‫ساز‬ ‫بهینه‬‫تابع‬
‫این‬‫شود‬ ‫می‬ ‫ا‬‫ر‬‫تک‬ ‫شود‬ ‫ضا‬‫ر‬‫ا‬ ‫شده‬ ‫تعریف‬ ‫قبل‬ ‫از‬ ‫دقیق‬ ‫شرط‬ ‫یک‬ ‫که‬ ‫مانی‬‫ز‬ ‫تا‬ ‫یه‬‫و‬‫ر‬.‫سپس‬hyper-cube
‫اصلی‬‫می‬ ‫ا‬‫ر‬‫همگ‬ ‫است‬ ‫ی‬‫اسر‬‫ر‬‫س‬ ‫بهینه‬ ‫شبه‬ ‫شامل‬ ‫که‬ ‫مقدار‬ ‫چندین‬ ‫به‬ ‫یا‬ ‫و‬ ‫شود‬‫می‬ ‫خارج‬‫شود‬.
‫مانند‬‫توافق‬ ‫یک‬ ‫کردن‬ ‫پیدا‬ ‫ش‬‫و‬‫ر‬ ‫این‬ ‫هدف‬ ،‫غیرقطعی‬ ‫ی‬‫ساز‬ ‫بهینه‬ ‫های‬ ‫یتم‬‫ر‬‫الگو‬ ‫دیگر‬(‫ش‬‫ز‬‫سا‬)‫و‬ ‫کاوش‬ ‫بین‬
‫است‬ ‫اج‬‫ر‬‫استخ‬.‫ب‬ ‫تابع‬ ‫فتار‬‫ر‬ ‫کشف‬ ‫و‬ ‫محلی‬ ‫بهینه‬ ‫ترین‬ ‫نزدیک‬ ‫به‬ ‫شدن‬ ‫ا‬‫ر‬‫همگ‬ ‫مثال‬ ‫عنوان‬ ‫به‬‫کشف‬ ‫ر‬‫منظو‬ ‫ه‬
‫است‬ ‫ی‬‫اسر‬‫ر‬‫س‬ ‫ناحیه‬.
‫یادگیر‬ ‫اتوماتای‬ ‫برپایه‬ ‫ی‬‫ساز‬ ‫بهینه‬‫تابع‬ ‫مانبندی‬‫ز‬ ‫برنامه‬‫داده‬‫بعد‬ ‫اسالید‬‫ر‬‫د‬‫است‬ ‫شده‬.

34. ‫از‬54

35. ‫از‬54
‫یتم‬‫ر‬‫الگو‬

36. ‫از‬54
‫یتم‬‫ر‬‫الگو‬

37. ‫از‬54
‫یتم‬‫ر‬‫الگو‬

38. ‫از‬54
‫یتم‬‫ر‬‫الگو‬

39. ‫از‬54
‫یتم‬‫ر‬‫الگو‬

40. ‫از‬54
‫یتم‬‫ر‬‫الگو‬

41. ‫از‬54
‫یتم‬‫ر‬‫الگو‬

42. ‫از‬54
‫یتم‬‫ر‬‫الگو‬

43. ‫از‬54
‫یادگیر‬ ‫اتوماتای‬‫با‬ ‫ی‬‫کاو‬ ‫داده‬
‫دانش‬‫توسط‬ ‫شده‬ ‫کشف‬LA-miner‫در‬‫های‬ ‫قاعده‬ ‫قالب‬if-then‫نمایش‬‫شود‬ ‫می‬ ‫داده‬.
Antecedent‫ل‬‫و‬‫ر‬‫اتصال‬ ‫عملگر‬ ‫توسط‬ ‫توسط‬
ً
‫معموال‬ ‫که‬ ‫است‬ ‫ایط‬‫ر‬‫ش‬ ‫از‬ ‫ای‬ ‫مجموعه‬ ‫شامل‬ ‫ها‬
‫منطقی‬AND))‫به‬‫اند‬ ‫شده‬ ‫متصل‬ ‫هم‬.‫ترم‬ ‫یک‬ ‫به‬
ً
‫معموال‬ ‫شرط‬ ‫هر‬(‫ه‬‫ر‬‫ا‬‫ز‬‫گ‬)‫کند‬‫می‬ ‫ه‬‫ر‬‫اشا‬.
Consequent‫ل‬‫و‬‫ر‬(‫قسمت‬Then)‫کالس‬‫قسمت‬ ‫که‬ ‫هایی‬ ‫نمونه‬ ‫ای‬‫ر‬‫ب‬ ‫شده‬ ‫بینی‬ ‫پیش‬ ‫های‬
antecedent‫ل‬‫و‬‫ر‬‫کند‬ ‫می‬‫مشخص‬ ‫ا‬‫ر‬ ‫کنند‬ ‫می‬ ‫ضا‬‫ر‬‫ا‬ ‫ا‬‫ر‬ ‫ها‬.

44. ‫از‬54
LA-miner‫پیشنهاد‬‫شده‬
LA-miner‫پیشنهادی‬‫ات‬ ‫ش‬‫و‬‫ر‬ ‫از‬ ‫که‬ ‫است‬‫شده‬ ‫احی‬‫ر‬‫ط‬ ‫ی‬‫ساز‬ ‫بهینه‬ ‫تابع‬ ‫یتم‬‫ر‬‫الگو‬ ‫برپایه‬ ‫ما‬‫یادگیر‬ ‫وماتای‬
‫کند‬‫می‬ ‫استفاده‬.‫ر‬‫چطو‬ ‫اینکه‬ ‫توضیح‬ ‫ای‬‫ر‬‫ب‬LA-miner‫ل‬‫و‬‫ر‬‫های‬if-then‫اج‬‫ر‬‫استخ‬ ‫ا‬‫ر‬‫می‬
‫بگیرید‬ ‫نظر‬ ‫در‬ ‫ا‬‫ر‬ ‫ل‬‫و‬‫ر‬ ‫یک‬ ‫کند،ساختار‬:
IF ( att1 is quant1) AND (att2 is quant2 ) AND … (attn is quantn)
THEN x belongs to Class j
atti ( i = 1,2,...,n)i(training point)x = (att1, att2 ,..., attn )
.

45. ‫از‬54
‫مقایسه‬‫و‬ ‫محاسباتی‬ ‫نتایج‬
‫در‬‫عملکرد‬ ‫یابی‬‫ز‬‫ار‬ ‫بخش‬ ‫این‬LA-miner‫پیشنهاد‬‫است‬ ‫شده‬ ‫ی‬ ‫س‬‫ر‬‫بر‬‫شده‬.‫ب‬ ‫مقایسه‬ ‫نتایج‬ ‫همچنین‬‫ا‬
Ant-miner‫و‬CNZ‫ائه‬‫ر‬‫ا‬‫است‬ ‫شده‬.
Ant-miner‫یک‬‫به‬ ‫های‬ ‫چه‬‫ر‬‫مو‬ ‫کلونی‬ ‫که‬ ‫است‬‫شده‬ ‫کشف‬ ‫قواعد‬ ‫بندی‬ ‫طبقه‬ ‫ای‬‫ر‬‫ب‬ ‫یتم‬‫ر‬‫الگو‬‫ینه‬
‫می‬ ‫بکار‬ ‫ا‬‫ر‬‫شده‬ ‫ی‬‫ساز‬‫برد‬.
CNZ‫یک‬‫شده‬ ‫کشف‬ ‫قواعد‬ ‫بندی‬ ‫طبقه‬ ‫ر‬‫مشهو‬ ‫یتم‬‫ر‬‫الگو‬‫است‬.

46. ‫از‬54
‫ها‬ ‫داده‬ ‫مجموعه‬(Data Sets)
‫های‬‫داده‬‫نبق‬‫ز‬(Iris)
‫شامل‬ ‫نبق‬‫ز‬ ‫های‬‫داده‬50‫از‬ ‫ی‬‫گیر‬ ‫ه‬‫ز‬‫اندا‬4‫ی‬ ‫گونه‬ ‫نوع‬ ‫سه‬ ‫هر‬ ‫از‬ ‫ویژگی‬
‫نبق‬‫ز‬‫دار‬‫ر‬‫خا‬(Iris setosa)،
‫نگ‬‫ر‬‫نگا‬‫ر‬ ‫نبق‬‫ز‬(Iris versicolor)
‫نبق‬‫ز‬‫جینیکا‬‫ر‬‫و‬(Iris virginica)
‫ویژگی‬‫کاسبرگ‬‫ل‬‫طو‬‫ها‬sepal length))،‫کاسبرگ‬‫عرض‬(sepal width)،‫گلبرگ‬‫ل‬‫طو‬(Petal length)‫و‬‫عرض‬
‫گلبرگ‬(petal width)‫است‬.
Iris virginica Iris versicolor
Iris setosa

47. ‫از‬54
‫ها‬ ‫داده‬ ‫مجموعه‬(Data Sets)
‫اب‬‫ر‬‫ش‬ ‫های‬‫داده‬(Wine data)
‫های‬‫داده‬wine‫موجو‬ ‫از‬ ‫شده‬ ‫گرفته‬ ‫اما‬ ‫ایتالیا‬ ‫از‬ ‫یکسان‬ ‫ناحیه‬ ‫در‬ ‫اب‬‫ر‬‫ش‬ ‫شد‬‫ر‬ ‫شیمیایی‬‫آنالیز‬ ‫شاما‬‫ه‬‫ر‬‫ذ‬ ‫دات‬
‫است‬ ‫ن‬‫گوناگو‬ ‫بینی‬.‫بندی‬ ‫طبقه‬ ‫ای‬‫ر‬‫ب‬13‫است‬ ‫دسترس‬ ‫در‬ ‫پیوسته‬ ‫ویژگی‬.‫ها‬ ‫کالس‬ ‫تعداد‬3‫های‬ ‫نمونه‬ ‫تعداد‬ ‫و‬
‫ترتیب‬ ‫به‬ ‫کالس‬ ‫هر‬59،71‫و‬48‫است‬.
‫سرطان‬ ‫های‬‫داده‬(Cancer data)
‫دانشگاه‬ ‫ستان‬‫ر‬‫بیما‬ ‫از‬ ‫سینه‬ ‫سرطان‬‫داده‬ ‫پایگاه‬ ‫این‬Wisconsin‫است‬‫آمده‬ ‫دست‬ ‫به‬.683‫سرطان‬ ‫نمونه‬
‫کالس‬ ‫دو‬ ‫به‬ ‫سینه‬Benign‫و‬Malignant‫با‬9‫اند‬‫شده‬ ‫تقسیم‬ ‫ویژگی‬ ‫فضای‬‫بعد‬.

48. ‫از‬54
‫ها‬‫مایش‬‫ز‬‫آ‬ ‫نتایج‬
LA-miner،Ant-miner‫و‬CNZ‫بر‬‫اند‬ ‫شده‬‫تست‬ ‫باال‬ ‫های‬‫داده‬ ‫مجموعه‬ ‫ی‬‫و‬‫ر‬.
50‫عنوان‬ ‫به‬‫محک‬ ‫هر‬ ‫از‬ ‫صد‬‫ر‬‫د‬training points‫و‬‫مابقی‬testing data‫است‬.
‫است‬ ‫شده‬ ‫ش‬‫ر‬‫ا‬‫ز‬‫گ‬ ‫نتایج‬‫میانگین‬ ‫و‬ ‫شده‬ ‫انجام‬ ‫محک‬ ‫هر‬ ‫ای‬‫ر‬‫ب‬ ‫بار‬‫ده‬ ‫مایش‬‫ز‬‫آ‬.

49. ‫از‬54
‫ها‬‫مایش‬‫ز‬‫آ‬ ‫نتایج‬
‫ل‬‫جدو‬1‫تشخیص‬ ‫نمره‬(recognition score)‫به‬‫از‬ ‫آمده‬‫دست‬Rule-Set‫که‬‫سه‬ ‫توسط‬
data miner‫اج‬‫ر‬‫استخ‬‫ای‬‫ر‬‫ب‬‫شده‬training points‫ا‬‫ر‬‫دهد‬ ‫می‬ ‫نشان‬.

50. ‫از‬54
‫ها‬‫مایش‬‫ز‬‫آ‬ ‫نتایج‬
‫ل‬‫جدو‬2score of recognition‫به‬‫ای‬‫ر‬‫ب‬ ‫ا‬‫ر‬ ‫یتم‬‫ر‬‫الگو‬ ‫سه‬ ‫وسیله‬ ‫به‬ ‫آمده‬ ‫دست‬testing
points‫ا‬‫ر‬‫دهد‬ ‫می‬ ‫نشان‬ ‫صد‬‫ر‬‫د‬ ‫حسب‬ ‫بر‬.

51. ‫از‬54
‫ی‬‫گیر‬ ‫نتیجه‬
‫نتایج‬‫که‬ ‫دهد‬ ‫می‬ ‫نشان‬ ‫مقایسه‬recognition score،LA-miner‫پیشنهاد‬‫مقایسه‬ ‫قابل‬‫شده‬
(‫از‬ ‫بهتر‬ ‫مواقعی‬ ‫حتی‬)Ant-miner‫و‬CNZ‫ای‬‫ر‬‫ب‬‫های‬ ‫فاز‬training‫و‬testing‫است‬.‫بر‬ ‫عالوه‬
‫ویسیه‬ ‫به‬‫آمده‬ ‫دست‬ ‫به‬ ‫های‬ ‫ل‬‫و‬‫ر‬‫تعاد‬‫میانگین‬ ‫این‬LA-miner‫کمتر‬‫دو‬ ‫از‬data miner‫دیگر‬
‫است‬.

52. ‫از‬54
‫منابع‬
Data Mining Using Learning Automata, M. R. Aghaebrahimi, S. H.
Zahiri, and M. Amiri
Learning automata based classifier, Seyed-Hamid Zahiri.
Classification Rule Discovery Using Learning Automata- Seyed-Hamid
Zahiri

53. ‫از‬54
‫پایان‬