ìýäýýëýëç¿é

1. Æèãíýëòèéí áîäëîãûí àëãîðèòì
 Õóóðàì÷ çîîñûã èëð¿¿ëýõ áîäëîãûí àëèâàà
àëãîðèìòûã ìîä õýëáýðýýð ä¿ðñýëæ áîëíî. 9-í
çîîñíû òóõàéä ìîä íü:
< = >
1 2 7 8 4 5
< = > < = < = >
3 2 7 9 8 4 6 5
1

2. Ëåììà3. N – íü èéì òîîíû çîîñíîîñ íýã øèðõýã õóóðàì÷ çîîñûã
èëð¿¿ëýõýä K- óäààãèéí æèãíýëò õ¿ðýëöýýòýé áàéõ òîî
áàéã. Õýðýâ zi – íü i-ð æèãíýëòèéí äàðààõ
ä¿ãíýëò¿¿äèéí òîî áîë
z1 + z2 +…. + zk <= 3k áàéäàã.
Ò¿¿íýýñ ãàäíà
Òåîðåì. N – øèðõýã çîîñíîîñ õóóðàì÷ çîîñûã èëð¿¿ëýõ
áîäëîãûã log3N –ýýñ öººí æèãíýëòýýð áîäîõ àëãîðèòì îðøèí
áàéäàãã¿é.

3. Áîäëîãûã õ¿íäð¿¿ëýí àâ÷ ¿çâýë:
Õóóðàì÷ çîîñ íü ¿ëäñýí áóñàä çîîñíóóäààñàà
õ¿íä ¿¿ ? õºíãºí ¿¿ ? ãýäýã íü óðüä÷èëàí
ìýäýãäýõã¿é òîõèîëäîëä ýíý áîäëîãî èõýýõýí
ò¿âýãòýé áîëæ èðäýã.
( 12 – øèðõýã çîîñíû õóâüä ººðñ人 áîäîõûã
çºâëüå.)

4. Ìýäýýëýë áà ìàãàäëàë
Ìýäýýëëèéí òîîí õýìæýýã òîäîðõîéëîõîä Õàðòëè-èéí òîìú¸îã
¿ðãýëæ õýðãýëýýä áàéõ áîëîìæã¿é áàéäàã.
Ýíý àðãà íü N – øèðõýã ýëåìåíò íü öºì àäèë òýãø ýðõòýé
çºâõºí òýð òóõàéí òîõèîëäîëä õýðãýëýãäýõ áîëîëöîîòîé þì.
(Àëôàâèòûí õàíäëàãàä á¿õ ¿ñã¿¿ä òýãø
äàâòàìæòàéãààð ìýäýýíä îðîëöäîã ãýñýí ¿ã)
Ëåììà4 Àëôàâèò íü 2 ¿ãýýñ òîãòäîã áºãººä ìýäýýí äýõü
òýìäýãò¿¿äèéí îëîíëîã íü ýõíèé à- òýìäýãò n – øèðõýã,
õî¸ðäîõ â- ¿ñýã íü m- øèðõýãèéã òóñ òóñ àãóóëæ áàéã.
Ýíý ¿åä õýðýâ áèäýíä à- ¿ñýã òààðàëäñàí áîë log2 (m+n)-
log 2n áèò ìýäýýëýë, â- òýìäýãò òààðàëäâàë
log2 (m+n)- log 2ì áèò ìýäýýëëèéã õ¿ëýýí àâíà.

5. Øåííîíû òîìú¸î
 Áèäýíä i-ð òýìäýãòèéí èëðýõ ìàãàäëàë íü p i >0 ,
ýíä p1 +p2 +... +pn =1 áàéõ p1 ,p2 , ... ,pn ãýñýí
äàâòàìæûí ¿ç¿¿ëýëò á¿õèé N-øèðõýã
òýìäýãò¿¿äýýñ òîãòîõ öàãààí òîëãîé ºãºãäñºí
áàéã. Ýíý ¿åä èéì öàãààí òîëãîéí òýìäýãòèéí
äóíäàæ ìýäýýëëèéí æèí íü
 p1 log2(1/p1) + p2 log2 (1/p2)+ ,,, + pN log2(1/pN)
òîìú¸îãîîð èëýðõèéëýãäýíý.

6. Хартли-ийн томъёо
Теорем: N-элементтэй цагаан толгойн нэг
тэмдэгтэд шингээж (багтааж) болох Мэдээллийн
тоон хэмжээ нь log2N болно.
Өөр нэг томъёолол: Өөр хоорондоо адил тэгш
эрхтэй N ширхэг зүйлээс (предмет) нэгийг сонгон
авснаар хүлээн авах мэдээлийн тоо хэмжээ нь
log2N-тэй тэнцүү буюу адил тэгш боломжтой N
ширхэг хувилбар бүхий тодорхой бус байдлыг
арилгахад зайлшгүй шаардлагатай мэдээллийн
тоон хэмжээ нь log2N болно.
Энэхүү нотолгоо нь өмнөх бодлогын бодолтоос
үнэн зөв болох нь харагдах бөгөөд формаль
баталгааг хийж ч болно.

7. Хартли-ийн томъёоны хэрэглээ
Энэхүү томъёо нь мэдээллийн тоон хэмжээний тухай өмнө
үзсэн тодорхойлолтыг улам нарийвчлан тодруулж, бүхэл
биш мэдээллийн тоон хэмжээний тухай төсөөллийг өгдөг.
Тэмдэглэл: Аливаа цагаан толгой бүрийн хувьд энэ цагаан
толгойн тэмдэгтүүдийн тусламжтай бичигдсэн мэдээн дэх
мэдээллийн тоон хэмжээ нь бүхэл тоогоор илэрхийлэгдэх
мэдээллийн хэмжилийн нэгжийг сонгон авч болно.
Жишээ1: Саналын хуудастай өмнөх бодлоготой холбоотойгоор
мэдээллийг хэмжих нэгж болгон “+”, “-”, “0” гэсэн гурван
тэмдэгтэй цагаан толгойн нэг тэмдэгт буюу тодорхой бус
байдлыг 3 дахин багасгах мэдээлийн хэмжээг авч болно.
Хуудас бүр нь нэг тийм нэгж мэдээллийг агуулж байна гэсэн
үг.

8. Ä¿ãíýëò
 Õàðòëè-èéí òîìú¸îí äàõü ëîãàðèôìèéã äóðûí
ñóóðèàð àâ÷ áîëîõ áà ýíý íü ìýäýýëëèéí òîîí
õýìæýýã õýìæèõ íýãæèéí ñîíãîëòòîé
òýíö¿¿ ÷àíàðòàé

9. Æèøýý 2
 ªìíºõ æèøýýíäýýð àâ÷ ¿çñýí ìýäýýëëèéã õýìæèõ íýãæ íü 2
òàâàãò æèãí¿¿ð äýýðõè æèãíýëòèéí ¿ð ä¿íä àíàëèç õèéõýä
òîõèðîìæòîé áàéäàã. Èéì æèãí¿¿ð äýýðõè æèãíýëò á¿ðèéí ¿ð
ä¿íä ç¿¿í òàâãàí äýýðõè à÷àà õ¿íä, áàðóóí òàâãàí äýýðõè
à÷àà íü õ¿íä , à÷ààíóóä òýíö¿¿ , ãýñýí 3 áîëîìæèéí àëü íýã íü
áàéíà. Ýíý òîõèîëäîëä íýã æèãíýëòèéí ¿ð ä¿í íü Log32 -ààñ
èõ ìýäýýëëèéã õýìæèõ õýìæèëòèéí íýãæ áîëíî. Áèä N øèðõýã
çîîñ ºãºã人ä ò¿¿íèé íýã íü õóóðàì÷ /áóñäààñàà õºíãºí/ áîëîã ê–
óäàà æèãíýëò õèéñíýýð k*log32áèò ìýäýýëýë õ¿ëýýí àâíà.òýð
íü log3k2–ààñ èë¿¿ èõ òîäîðõîé áóñûã àðèëãàæ ÷àäàõã¿é. Èéìä
õóóðàìæ÷ çîîñûã èëýð¿¿ëýõèéí òóëä *logn2–ýýñ öººíã¿é
æèãíýëò õèéõ øààðäëàãàòàé.

10. Ä¿ãíýëò
 Ýíý æèøýýí äýýð ìýäýýëëèéí ôîðìàëü
/Êîëìîãîðîâûí / áîëîí àãóóëàãæñàí /Øåííîíû /
òîäîðõîéëîëòóóäûí çîõèöîëäîîã äàëä
õýëáýðýýð àøèãëàæ áàéãàà.

11. Òîäðóóëáààñ
 Àëèâàà æèãíýëò íü 3 òýìäýãò öàãààí òîëãîéí
òýìäýãòýýð êîä÷èëîãäîõ òóë 3 æèãíýëòèéí ýöýñò
ãàðãàí àâàõ ¿ð ä¿íãèéí ìýäýýëëýë íü ýíý áàãààí
òîëãîéí 3 ¿ñýãòý ¿ã áîëíî.Òèéì ¿ã íü íèéò 27 áàéõ
òóë õàðòëèéíõààð òèéì ¿ã íü log272 áèò ìýäýýëëèéã
àãóóëæ áàéíà. ͺ㺺 òàëààñ áîäëîãîä îðøèí áàéõ
òîäîðõîé áóñ íü çîîñíû òîî N –òýé òýíö¿¿. Õàðòëèéí
òîìú¸î ¸ñîîð õóóðàì÷ çîîñûã íàéäâàðòàé îëæ òîãòîîõîä
logN2 –ýýñ áàãà ã¿é áèò ìýäýýëýë õýðýãòýé.