Soft Computing

Seminarski rad: Soft Computing -
raˇcunska inteligencija
(Computational Intelligence)
Popović Zoran
Centar za multidisciplinarne studije
Univerzitet u Beogradu
4. septembar 2006
Saˇzetak
Ovaj tekst je zamiˇsljen kao pregled sadrˇzaja knjiga i radova iz
oblasti raˇcunske inteligencije. Rad je pisan pomoću TEX-a tj. LATEX-a
kao njegovog dijalekta i jfig alata - [PG] i [TB].
Profesor: Dragan Radojević

Soft Computing - raˇcunska inteligencija (Computational Intelligence) 1
Sadrˇzaj
1 Poglavlje 1 - Soft Computing, uvod 4
2 Fazi logika i fazi sistemi 5
2.1 Uvod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2.2 Fazi skupovi - osnovni pojmovi i definicije . . . . . . . . . . . 5
2.3 Operacije i relacije nad fazi skupovima . . . . . . . . . . . . . 7
2.4 Fazi relacija . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.4.1 Fazi relacije indukovane preslikavanjem . . . . . . . . . 10
2.5 Konveksnost, ograniˇcenost i druge osobine . . . . . . . . . . . 10
2.6 Reprezentovanje, princip proˇsirenja . . . . . . . . . . . . . . . 11
2.7 Lingvistiˇcke promenljive, t-norme i s-norme . . . . . . . . . . 12
2.8 Fazi logika i fazi zakljuˇcivanje . . . . . . . . . . . . . . . . . . 16
2.8.1 Konaˇcna Bulova algebra . . . . . . . . . . . . . . . . . 17
2.8.2 Percepcija, Haseov dijagram strukture BA . . . . . . . 18
2.8.3 Generalizovan Bulov polinom . . . . . . . . . . . . . . 21
2.8.4 Logiˇcka agregacija i primer mreˇze . . . . . . . . . . . . 24
2.8.5 Fazi logika, formalna definicija . . . . . . . . . . . . . . 25
2.8.6 Hajekov pristup, fazi teorija modela i ontologije . . . . 27
2.8.7 Zadeov pristup . . . . . . . . . . . . . . . . . . . . . . 28
2.8.8 Kompoziciono pravilo zakljuˇcivanja . . . . . . . . . . . 29
2.8.9 Max-Min zakljuˇcivanje . . . . . . . . . . . . . . . . . . 30
2.8.10 Max-Proizvod zakljuˇcivanje . . . . . . . . . . . . . . . 31
2.8.11 Pravila sa viˇse premisa, viˇse pravila i procedura za-
kljuˇcivanja . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.9 Defazifikacija (Defuzzification) . . . . . . . . . . . . . . . . . . 34
2.10 Kompleksnost i izraˇcunljivost . . . . . . . . . . . . . . . . . . 35
2.11 Fazi logika i alternativne teorije verovatnoće . . . . . . . . . . 35
2.11.1 Dempster-ˇSejferova teorija . . . . . . . . . . . . . . . . 36
2.11.2 Zakljuˇcivanje s uverenjem . . . . . . . . . . . . . . . . 37
2.11.3 Mere verovanja i neverovanja i ukupno uverenje . . . . 37
2.11.4 Propagiranje uverenja . . . . . . . . . . . . . . . . . . 38
2.11.5 Mogućnost i potrebnost . . . . . . . . . . . . . . . . . 39
2.12 Raˇcunanje s reˇcima . . . . . . . . . . . . . . . . . . . . . . . . 40
2.13 Fazi algoritmi . . . . . . . . . . . . . . . . . . . . . . . . . . . 46

2 Seminarski rad
3 Neuronske mreˇze 47
3.1 Uvod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
3.2 Osnovni model neurona . . . . . . . . . . . . . . . . . . . . . . 48
3.3 Grupisanje neurona i struktura NM . . . . . . . . . . . . . . . 53
3.4 Obuka i uˇcenje NM . . . . . . . . . . . . . . . . . . . . . . . . 56
3.5 Propagiranje unazad . . . . . . . . . . . . . . . . . . . . . . . 58
3.5.1 Varijante povratnog propagiranja . . . . . . . . . . . . 62
3.5.2 Perceptron . . . . . . . . . . . . . . . . . . . . . . . . . 63
3.5.3 (M)ADALINE . . . . . . . . . . . . . . . . . . . . . . . 64
3.6 Vrste NM i oblasti primene . . . . . . . . . . . . . . . . . . . . 66
3.7 NM takmiˇcenja, klasiﬁkacije i druge . . . . . . . . . . . . . . . 66
3.7.1 Kvantizacija vektora sa uˇcenjem . . . . . . . . . . . . . 67
3.7.2 Protiv-propagaciona NM (Counter-propagation) . . . . 68
3.7.3 Adaptivno-rezonantna teorija (ART) . . . . . . . . . . 68
3.7.4 Stohastiˇcke (verovatnosne) NM . . . . . . . . . . . . . 70
3.8 (Neo)kognitron . . . . . . . . . . . . . . . . . . . . . . . . . . 71
3.9 Asocijaciranje podataka . . . . . . . . . . . . . . . . . . . . . 71
3.9.1 Asocijativne memorije, BAM . . . . . . . . . . . . . . 71
3.9.2 Hoﬁldove memorije . . . . . . . . . . . . . . . . . . . . 73
3.9.3 Hemingova mreˇza . . . . . . . . . . . . . . . . . . . . . 75
3.9.4 Bolcmanova maˇsina . . . . . . . . . . . . . . . . . . . . 76
3.9.5 Prostorno-vremensko prepoznavanje . . . . . . . . . . . 77
4 Genetski algoritmi 79
4.1 Uvod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
4.2 Kodiranje i problemi optimizacije . . . . . . . . . . . . . . . . 79
4.3 Kanonski GA . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
4.3.1 Operatori GA . . . . . . . . . . . . . . . . . . . . . . . 81
4.3.2 Primer kanonskog GA . . . . . . . . . . . . . . . . . . 81
4.4 ˇSeme, teorema ˇseme i posledice . . . . . . . . . . . . . . . . . 82
4.4.1 Uloga i opis prostora pretrage . . . . . . . . . . . . . . 82
4.4.2 Teorema ˇseme . . . . . . . . . . . . . . . . . . . . . . . 84
4.4.3 Binarni alfabet i n3
argument . . . . . . . . . . . . . . 86
4.4.4 Kritike ˇsema teoreme, uopˇstena teorema ˇseme . . . . . 86
4.5 Ostali modeli evolucionog raˇcunanja . . . . . . . . . . . . . . . 87
4.5.1 Dˇzenitor . . . . . . . . . . . . . . . . . . . . . . . . . . 88
4.5.2 CHC . . . . . . . . . . . . . . . . . . . . . . . . . . . . 88
4.5.3 Hibridni algoritmi . . . . . . . . . . . . . . . . . . . . . 89

4.6 Alternativni operatori odabiranja GA . . . . . . . . . . . . . . 89
4.7 Paralelni GA . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
4.7.1 Globalne populacije sa paralelizmom . . . . . . . . . . 90
4.7.2 Model ostrva . . . . . . . . . . . . . . . . . . . . . . . 90
4.7.3 Ćelijski GA . . . . . . . . . . . . . . . . . . . . . . . . 90
4.8 Primeri GA . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
4.8.1 Evoluirajuće NM . . . . . . . . . . . . . . . . . . . . . 91
4.8.2 Klasifikacija i konceptualizacija . . . . . . . . . . . . . 92
4.8.3 Uˇcenje fazi pravila evolucijom . . . . . . . . . . . . . . 92
4.8.4 Evoluiranje programa . . . . . . . . . . . . . . . . . . . 93

4 Seminarski rad
1 Poglavlje 1 - Soft Computing, uvod
Pojam Soft Computing odnosno pojam raˇcunske inteligencije (RI = Com-
putational Intelligence / Computational Science, ponegde se javlja i pojam
bioinformatika, ˇsto nije sluˇcajno - mnogi modeli raˇcananja i ideje su potekle
od bioloˇskih modela i uzora) u koje se ubrajaju oblasti fazi (Fuzzy) logike i sis-
tema, neuronskih mreˇza (NM) i genetskih algoritama (GA) se nekako posebno
izdvajaju iz tema i oblasti pokrivenih temama i oblastima veˇstaˇcke inteligen-
cije (VI). Jedan od osnovnih razloga za to potiˇce od bliske povezanosti VI sa
klasiˇcnom logikom i teorijom algoritama i izraˇcunljivosti u matematici (kako
zbog aspekta deklarativnog znanja prisutnog u VI, tako i zbog same prirode
problema po definiciji) naspram oblasti RI gde je ta veza slabija ili bar nije
iste prirode kao kod klasiˇcne matematike. Iz istih razloga se npr. fazi logika
nemoˇze svesti prosto na neki oblik (primene) teorije verovatnoće i statistike
iako to moˇze izgledati na prvi pogled tako (karakteristiˇcna funkcija liˇci na
funkciju raspodele sluˇcajne promenljive).
Svaka od ovih oblasti se ˇcesto kombinuje sa nekom oblasti VI (jedna od
zajedniˇckih osobina i ciljeva RI i VI su inteligentni agenti) ali postoje i mnoge
med¯uveze i hibridi NM, GA, fazi sistema i srodnih oblasti ˇsto ih takod¯e ˇcini
posebnom celinom. Poznato je, primera radi, da se neke klase problema
koji se koriste za obuˇcavanje i optimizaciju koeficijenata NM ili nekih fazi
sistema najefikasnije reˇsavaju upotrebom GA, ili da se neke klase fazi mreˇza
zakljuˇcivanja mogu jednostavno pretoˇciti u NM i obratno, itd.
Ova oblast raˇcunarstva je danas jedna od najˇzivahnijih u smislu novih
teoretskih otkrića, ali i novih praktiˇcnih primena. Jedna od osnovnnih za-
jedniˇckih osobina razliˇcitih disciplina RI jeste borba sa kompleksnoˇsću i ne-
preciznoˇsću konceptualizacije sveta i percepcije sveta (pored pojma modela
raˇcunanja) - jednostavnost konceptualizacije je suprotstavljena sa komplek-
snoˇcću i nejasnoćom realnog sveta, ali je isto tako sloˇzenost konceptualizacije
usko grlo primenjivosti i efikasnosti u VI. Mnoge podoblasti nisu joˇs uvek do-
voljno dobro prouˇcene - bilo da su tek u nastajanju ili se preispituju nove
mogućnosti i produbljuju teoretske osnove kao ˇsto je kod fazi sistema sluˇcaj.
Jedan od najpoznatijih Zadeovih kritiˇcara, R. E. Kalman (inaˇce poznat i po
istraˇzivanjeima u oblasti linarnih dinamiˇckih sistema, filtera i NM), navodi
u jednoj prepisci kao osnovnu zamerku fazi logici i fazi sistemima nedostatak
njihove primene u veoma sloˇzenim oblastima gde se to oˇcekivalo viˇse - [birth]
- zamerka stoji, ali i VI i RI kao discipline raˇcunarstva su prolazile kroz krize
u kojima se oˇcekivalo viˇse i izlazile iz njih - novi rezultati se tek oˇcekuju.

2 Fazi logika i fazi sistemi
2.1 Uvod
Fazi logika (,,fuzzy” - nejasan, neodred¯en) na neki naˇcin potiˇce joˇs od
1930. kada je Lukasiewicz predloˇzio da domen poznatih operatora Bulove
algebre bude proˇsiren nekim vrednostima izmed¯u 0 i 1 (⊥ i ). Zade (Lotfi
A. Zadeh, 1965.) tu ideju dalje formalizuje i tako nastaje formalna teorija
fazi logike. Godinama su se mnogi pojmovi i problemi naknadno reˇsavali, ali
treba pre svega imati na umu ˇcinjenicu da fazi logika nije isto ˇsto i klasiˇcna
aristotelovska logika (samo u nekim specijalnim trivijalnim sluˇcajevima se
svodi na nju - npr. u fazi logici princip iskljuˇcenja trećeg nemora da vaˇzi,
ˇstaviˇse ne vaˇzi uopˇste ako je prava fazi logika u pitanju) i zato predstavlja
pogled na svet koji je drugaˇciji od onog uvreˇzenog i baziranog na klasiˇcnoj
logici tj. predikatskom raˇcunu i ZF (Zermelo-Frankel) teoriji skupova. Kod
fazi logike je osobina egzaktnosti nekako ,,labavija” u odnosu na klasiˇcnu
logiku, ˇsto ne znaˇci da je fazi logika manje formalna. Pod fazi sistemima se
podrazumevaju razliˇcite teoretske i praktiˇcne primene fazi teorije (skupova i
logike).
2.2 Fazi skupovi - osnovni pojmovi i definicije
Fazi logika se zasniva na skupovima i elementima ˇcija se pripadnost meri
pre nego da egzaktno pripradaju ili ne pripadaju skupu.
Definicija 2.1 Neka je X domen tj. prostor elemenata ili objekata x, ˇsto se
moˇze oznaˇciti i sa X = {x}.
Fazi skup (ili fazi klasa) A u X je karakterisan funkcijom pripadnosti tj.
karakteristiˇcnom funkcijom
µA(x) : X → [0, 1]
koja dodeljuje elementu x stepen pripadnosti skupu A.
U opˇstem sluˇcaju, domen µA moˇze biti podskup od X, a vrednost moˇze biti
element nekog zadatog parcijalno ured¯enog skupa P umesto [0, 1]. To se moˇze
zapisati i kao µA(x) = Degree(x ∈ A) gde je 0 ≤ µA(x) ≤ 1. NAPOMENA:
(fazi) pripadnost skupu ovde ne treba shvatati kao pripadnost u klasiˇcnom
smislu - trivijalno ,,x pripada A” akko µA(x) > 0 - netrivijalno, treba uvesti

6 Seminarski rad
dva broja α > β td. 0 < α, β < 1, i tada ,,x pripada A” akko µA(x) ≥ α,
,,x ne pripada A” akko µA(x) ≤ β, ,,x je je neodred¯ene pripadnosti prema
A” akko β < µA(x) < α (ovo vodi ka trovalentnoj logici sa vrednostima
npr. , ⊥ i ? respektivno - Kleene, 1952). Ako je A skup u klasiˇcnom smislu
(,,crisp” - oˇstar), tada ako je µA(x) = 1 onda je x ∈ A, odnosno ako je
µA(x) = 0 onda je x /∈ A (za skupove u klasiˇcnom smislu, ili jednostavno
reˇceno za skupove, karakteristiˇcna funkcija uzima samo dve vrednosti: 0 i
1). Fazi skupovi kod kojih karakteristiˇcna funkcija dostiˇze 1 su normirani.
Primer: ˇcesto se koristi trougao (ili fazi broj c, neki put zgodnije shvaćen kao
interval sa pesimistiˇckom i optimistiˇckom granicom), fazi skup A = A(c, a, b)
u X = R ˇcija karakteristiˇcna vrednost ima vrednost 0 u svim taˇckama na
realnoj osi osim izmed¯u temena (c − a, 0) i (c + a, 0) trougla koja leˇze na osi,
a u trećem temenu (c, µA(c)) linearno dostiˇze najveću vrednost:
µA(c,a,b)(x) =



b
a
(x − c + a), c − a ≤ x < c;
−b
a
(x − c − a), c ≤ x ≤ c + a;
0, x /∈ [c − a, c + a].
c c+ac−a gde je 0 ≤ b = µA(c,a,b)(c) ≤ 1 najveća vrednost koju
dostiˇze karakteristiˇcna funkcija.
Pored ovih koriste se i drugi oblici osnovnih vrsta karakteristiˇcnih funkcija
(trapezoid i druge krive) kao ˇsto su (navedeni su normirani fazi skupovi):
s-krivina X2X1
µs(x1,x2)(x) =



0, x < x1;
1
2
+ 1
2
cos[ x−x2
x2−x1
π], x1 ≤ x ≤ x2;
1, x > x2.
gde su x1 i x2 leva i desna prevojna taˇcka.
z-krivina X2X1
µs(x1,x2)(x) =



0, x < x1;
1
2
+ 1
2
cos[ x−x1
x2−x1
π], x1 ≤ x ≤ x2;
1, x > x2.
(simetriˇcna prethodnoj u odnosu na x osu)

π-krivina (zvono) X4X1 X2 X3
µπ(x1,x2,x3,x4)(x) = min[µs(x1,x2)(x), µz(x3,x4)(x)]
gde je vrh zvona ravan izmed¯u x2 i x3.
U literaturi (npr. u [LPROFS]) se npr. definiˇse i kardinalnost fazi skupa kao:
card(A) =
x∈X
µA(x)
ili kao kardinalnost skupova nosaˇca Supp(A) ili jezgra Ker(A) gde je
Supp(A) =def {x| µA(x) = 0}, Ker(A) =def {x| µA(x) = 1}
Ako se kardinalnost posmatra kao mera skupa, alternativnim definicijama
,,i” ili ,,ili” operatora (t-norme i s-norme kasnije u tekstu) se moˇze dobiti kar-
dinalnost koja nije aditivna mera, ali se zadrˇzava bitna osobina monotonosti
(ˇsto se dovodi u vezu sa osobinama fazi logike naspram klasiˇcne logike). Na
osnovu ovoga se moˇze definisati entropija fazi skupa (Kosko, 1986):
E(A) = Card(A ∩ A)/Card(A ∪ A) ili kao
E(A) = −k u∈U [µA(u) log µA(u)+µA(u) log µA(u)] gde je k neka konstanta.
2.3 Operacije i relacije nad fazi skupovima
• Jednakost -
Dva fazi skupa A i B su jednaka, ˇsto se piˇse A = B, akko µA(x) = µB(x)
za svako x ∈ X (skraćeno, µA = µB).
• Podskup -
Fazi skup A je podskup fazi skupa B, ˇsto se oznaˇcava sa A ⊂ B, akko
µA ≤ µB.
• Komplement -
komplement fazi skupa A se oznaˇcava sa A i definiˇse sa:
µA(x) =def 1 − µA(x)
• Presek -
za presek C = A ∩ B vaˇzi: µA∩B(x) =def min[µA(x), µB(x)] =
µA(x) ∧ µB(x) za sve x ∈ X, skraćeno: µC = µA(x) ∧ µB

8 Seminarski rad
• Unija -
za uniju C = A ∪ B vaˇzi: µA∪B(x) =def max[µA(x), µB(x)] =
µA(x) ∨ µB(x) za sve x ∈ X, skraćeno µC = µA ∨ µB
• Oduzimanje -
µA−B = µA ∧ (1 − µB)
Za ovako definisane operacije vaˇze poznate lepe osobine kao ˇsto su to npr.
De Morganovi i distributivni zakoni (ovo sledi iz samih definicija, npr. De
Morganovi zakoni slede iz 1−max[µA, µB] = min[1−µA, 1−µB] za sluˇcajeve
µA(x) > µB(x) i µA(x) < µB(x)). Ovakve relacije skupova su ,,oˇstre” (nisu
fazi, ili vaˇze ili ne vaˇze), i postoje predlozi kako se mogu i one definisati kao
fazi u (Gottwald, Pedrycz):
inclt(A, B) =
x∈X
(µA(x)φµB(x)), xφy =def {z| t(x, z) ≤ y}
gde je funkcija t neka t-norma (obiˇcno minimum). Tada je A ⊆ B ⇔
inclt(A, B) = 1. Jednakost A = B ⇔ A ⊆ B ∧ B ⊆ A se tada moˇze
zapisati i kao eqt(A, B) =def t(inclt(A, B), inclt(B, A)). Osim ˇsto su ovim
definisani komplement, presek i unija fazi skupova, ovo se kasnije koristi
kod lingvistiˇckih promenljivih (dalje u tekstu) za logiˇcke operacije negacije i
veznike ,,i” i ,,ili”, respektivno.
Pored ovih operacija i relacija koriste se i algebarske operacije nad fazi
skupovima:
• Algebarski proizvod -
µAB = µA µB
Oˇcigledno vaˇzi: AB ⊂ A ∩ B.
• Algebarski zbir -
µA+B = µA + µB
- pod uslovom da vaˇzi µA(x) + µB(x) ≤ 1 za svako x ∈ X.
• Mnoˇzenje skalarom -
µαB = α µB, α ∈ [0, 1]

• Apsolutna razlika -
µ|A−B| = |µA − µB|
(za obiˇcne skupove |A − B| se svodi na komplement A ∩ B u odnosu
na A ∪ B)
• Konveksna kombinacija - za fazi skupove A, B i Λ:
(A, B; Λ) = ΛA + ΛB
ˇsto u obliku karakteristiˇcnih funkcija izgleda ovako:
µ(A,B;Λ)(x) = µΛ(x)µA(x) + [1 − µΛ(x)]µB(x), za svaki x ∈ X.
Osnovna osobina ovakve kombinacije je A ∩ B ⊂ (A, B; Λ) ⊂ A ∪ B
za svaki Λ ˇsto je posledica nejednakosti min[µA(x), µB(x)] ≤ λµA(x) +
(1 − λ)µB(x) ≤ max[µA(x), µB(x)], x ∈ X, 0 ≤ λ ≤ 1. ˇStaviˇse, za
svaki fazi skup C td. A ∩ B ⊂ C ⊂ A ∪ B postoji fazi skup Λ - njegova
karakteristiˇcna funkcija je onda:
µΛ(x) =
µC(x) − µB(x)
µA(x) − µB(x)
, x ∈ X
• Fazifikacija Ovim operatorom se moˇze napraviti fazi skup od oˇstrog
ili fazi skupa, a karakteriˇse ga jezgro K(x) = 1/x koje svakom x ∈ X
dodeli odgovarajući fazi skup koji se moˇze zapisati skraćeno kao 1/x.
Fazifikacija F(A) (fazi) skupa A se takod¯e oznaˇcava sa A i vaˇzi:
F(A) = F(A; K) = X
µA(x)K(x) = X
µA(x)x.
U praksi se ˇcesto koriste dodatne operacije nad karakteristiˇcnom funkci-
jom kojom se odred¯uju (odnosno modifikuju) dodatno granice tj. ograniˇcenja
ili odredbe (hedges) pripadnosti skupu (proˇsiruju je ili skupljaju - u nared-
nim primerima se moˇze pretpostaviti da je A fazi skup visokih osoba):
• Koncentracja (VEOMA) - µCON(A)(x) = (µA(x))2
npr. koncetracija
daje skup VEOMA visokih osoba
• Dilatacija (DONEKLE) - µDIL(A)(x) = (µA(x))1/2
npr. dilatacija
daje skup DONEKLE (MANJE ILI VIˇSE) visokih osoba

10 Seminarski rad
• Intenziviranje (ZAISTA) -
µINT(A)(x) =
2(µA(x))2
, ako je 0 ≤ µA(x) ≤ 1/2
1 − 2(1 − µA(x))2
, ako je 1/2 < µA(x) ≤ 1
npr. dilatacija daje skup zaista visokih osoba (intenzivira pripadnost
izraˇzeno visokih, a smanjuje pripadnost ostalih)
• Snaˇzno (VEOMA VEOMA) - µPOW(A,n)(x) = (µA(x))n
pojaˇcanje
µPOW za n=3 ili veće ...
Operatorima i ograniˇcenjima se prave derivati fazi skupova.
2.4 Fazi relacija
Fazi relacija je prirodno proˇsirenje pojma fazi skupova kao i relacije
u klasiˇcnoj teoriji skupova (funkcija je specijalan sluˇcaj relacije). Tako
se n-arnoj fazi relaciji A u Xn
pridruˇzuje n-arna karakteristiˇcna funckija
µ(x1, · · · , xn) gde je xi ∈ X, i = 1, n. Kod binarnih relacija A i B se uvodi
kompozicija (tzv. max-min kompozicija, moˇze biti i max-proizvod ako se
koristi proizvod umesto min operatora) B ◦ A definisana sa:
µB◦A(x, y) = Supν min[µA(x, ν), µB(ν, y)]
Kompozicija ima osobinu asocijativnosti A ◦ (B ◦ C) = (A ◦ B) ◦ C).
2.4.1 Fazi relacije indukovane preslikavanjem
Neka je T preslikavanje prostora X u Y i B fazi skup u Y sa karak-
teristiˇcnom funkcijom µB(y). Inverzno preslikavanje T−1
indukuje fazi skup
A u X ˇcija je karakteristiˇcna funkcija odred¯ena sa µA(x) = µB(y), za svako
x ∈ X: T(x)=y. Obratno, ako je A fazi skup u X, karakteristiˇcna funkcija za
fazi skup B indukovan preslikavanjem T za y ∈ Y moˇze imati viˇse vrednosti
ako T nije 1-1 pa se zato definiˇse sa µB(y) = maxx∈T−1(y)[µA(x)], y ∈ Y .
2.5 Konveksnost, ograniˇcenost i druge osobine
Osobina konveksnosti se takod¯e moˇze izgraditi i biti korisna kao i kod
obiˇcnih skupova. U narednoj definiciji se pretpostavlja da je X realan euk-
lidski prostor Rn
.

Definicija 2.2 Fazi skup A je (strogo) konveksan akko su skupovi Γα =
{x| µA(x) ≥ α} (strogo) konveksni za svako α ∈ (0, 1].
Alternativna i neposrednija definicja je:
Definicija 2.3 Fazi skup A je konveksan akko
µA[λx1 + (1 − λ)x2] ≥ min[µA(x1), µA(x2)]
za svako x1 i x2 u X i svako λ ∈ [0, 1] (ako se ≥ zameni sa > dobija se jaka
konveksnost).
Iz prve definicije sledi druga (ako α = µA(x1) ≤ µA(x2), onda x2 ∈ Γα i
λx1 + (1 − λ)x2 ∈ Γα i odatle sledi i µA(x1) = min[µA(x1), µA(x2)]) kao i
obratno (ako α = µA(x1) onda je Γα skup svih x2 td. µA(x2)geqµA(x1) i
svaka taˇcka λx1 + (1 − λ)x2, 0 ≤ λ ≤ 1 je u Γα pa je to onda konveksan
skup). Moˇze se dokazati teorema:
Teorema 1 Ako su A i B konveksni, onda je to i njihov presek.
Definicija 2.4 Fazi skup je ograniˇcen akko su skupovi Γα = {x| µA(x) ≥ α}
ograniˇceni za svako α > 0 (za svako α > 0 postoji konaˇcna vrednost R(α)
takva da je ||x|| ≤ R(α) za svako x ∈ Γα).
Poˇsto je X euklidski mogu se definisati -okoline i supremum M = supx[µA(x)]
(M je ,,maksimalna ocena u A”) je esencijalno dostignut u nekoj taˇcki ako
svaka -okolina te taˇcke sadrˇzi taˇcke iz Q( ) = {x| µA(x) ≥ M − }. Core(A)
je skup svih takvih taˇcaka i moˇze se pokazati da je takod¯e konveksan ako je
A konveksan. Mogu se dalje izgrad¯ivati i druge vaˇzne osobine fazi skupova
kao ˇsto je Zade pokazao (npr. separabilnost fazi skupova).
2.6 Reprezentovanje, princip proˇsirenja
Do sada smo razmatrali neprekidne karakteristiˇcne funkcije zadate anal-
itiˇcki. Fazi skup s diskretnim vrednostima se moˇze jednostavno prikazati kao
vektor karakteristiˇcnih vrednosti A = (µ1, ..., µn) ako se domen posmatra
kao konaˇcan (ili prebrojiv) vektror vrednosti. Taˇcnije, fazi skup se posmatra
kao oˇstar skup ili joˇs bolje, niz ured¯enih parova A = ((µ1, x1), ..., (µn, xn))
gde je µi = µA(xi). Uz konvenciju zapisa ured¯enih parova sa ,,/” i unije
kao ,,+” to se moˇze zapisati i kao A = n
i=1 µA(xi)/xi ako je X diskretan,

12 Seminarski rad
odnosno A = X
µA(x)/x ako nije. Skraćeni zapis koji se najˇceˇsće koristi
je samo µA(x) uz podrazumevane vrednosti domena X. Fazi skup se moˇze
posmatrati kao unija fazi singltona gde je fazi singlton fazi skup sa samo
jednom vrednoˇsću A = {(µA(x), x)} (njegov nosaˇc Supp(A) je kardinalnosti
1) za neko x ∈ X, tj. skraćeno A = µ/x gde je µ = µA(x), x ∈ X. Npr.
oˇstar skup se onda zapisuje kao X = 1/x1 + · · · + 1/xn ili X = x1 + · · · + xn.
Relacija se onda prikazuje npr. kao:
R = X
µR(x1, · · · , xn)/(x1, · · · , xn) ili
R = µ1
R/(x1
1, · · · , x1
n) + · · · + µm
R /(xm
1 , · · · , xm
n ).
Sami stepeni pripadnosti mogu biti fazi skupovi, na primer ako je domen
U = {Pera, Mika, Slavko} i ako su fazi skupovi {malo, srednje, puno} defin-
isani nad domenom V = 0.0 + 0.1 + · · · + 1.0 onda bi npr. fazi podskup A
teˇskih mogao da bude:
A = malo/Mika + srednje/Pera + puno/Slavko
Zade definiˇse princip proˇsirenja za preslikavanja na sledeći naˇcin: ako je
f : U → V preslikavnje, fazi skup A = µ1/u1 + · · · µn/un nad U tj. A =
U
µA(u)/u onda vaˇzi f(A) = µ1/f(u1)+· · ·+µn/f(un) = U
µA(u)/f(u). Za
sluˇcaj funkcije viˇse promenljivih takod¯e vaˇzi F(A) = U×V
µA(u) ∧ µG(v)/f(u, v).
Principom proˇsirenja uopˇste se svaka dobra osobina klasiˇcne teorije skupova
(i nekih njenih posledica) prenosi na fazi teoriju skupova (ili odgovarajuću
fazi teoriju) kada je to moguće (fazifikacijom). Ovo je napravilo dosta nevolja,
kao ˇsto će u daljem tekstu biti objaˇsnjeno - fazi logika i teorija skupova je
uopˇstenje klasiˇcne logike i teorije skupova, a ne obratno.
2.7 Lingvistiˇcke promenljive, t-norme i s-norme
Oznake vrednosti lingvistiˇcke promenljive su reˇcenice nekog (prirodnog
ili veˇstaˇckog) jezika L koje mogu imati donekle nejasno znaˇcenje kao npr.
starost sa vrednostima mlad, srednje, star - onda je svakoj od vrednosti do-
deljen fazi podskup vrednosti iz domena skupa starosti (broj godina). Stepen
pripadnosti V al(x is A) = µA(x) elementa fazi skupa A je stepen istinitosti
izraza x is A gde fazi skup A postaje osobina. Lingvistiˇcka promenljiva moˇze
uzeti vrednost iz svog skupa termova T (term set) koji predstavlja (oˇstar,

jednostavnosti radi) skup oznaka kojima se dodeljuju fazi skupovi nad istim
domenom (ponegde se u literaturi kaˇze za domen da je bazna promenljiva)
fazi relacijom µN (t, x), t ∈ T, x ∈ X td. oznaci t ∈ T odgovara skup M(t)
sa karaktersiˇcnom funkcijom µM (x) = µN (t, x) i ˇcesto se kraće piˇse samo t
umesto M(t). Primer:
µN (mlad, x) =
1, x ≤ 25;
(1 + (x−25
5
)2
)−1
, x > 25.
onda je fazi podskup mlad skupa godina X = {0, · · · , 100}:
mlad =
25
0
1/x +
100
25
1 + (
x − 25
5
)2
−1
/x
Term moˇze biti atomski ili sloˇzen, gde kod sloˇzenih uˇcestvuju:
1. logiˇcka negacija i veznici (i i ili)
2. odredbe
3. zagrade i sl. simboli
Pomenuta relacija µN se moˇze definisati rekurzivno za sloˇzene terme na os-
novu vrednosti za atomske terme i prema definicijama logiˇckih operatora i
odredbi. Primer: ako je u atomski term a h odredba onda se moˇze posm-
trati h kao operator koji slika fazi skup M(u) u M(hu) - npr. x = veoma
ne mlad = (¬mlad)2
tj. V al(x) = (1 − V al(mlad))2
kao karakteristiˇcna
funkcija. Formalnije, svaki operator i veznik nad fazi skupovima M(x) vrˇsi
neku promenu koja se moˇze analitiˇcki zapisati, npr. M(x∧y) = M(x)∩M(y)
tj. V al(x ∧ y) = x ∧ y.
Vrednost terma sa veznicima se moˇze definisati uopˇsteno t-normama
za ,,i” veznik i s-normama (t-konormama) za ,,ili” veznik (pored ranije
pomenute definicije preseka i unije fazi skupova za ,,i” i ,,ili”, respektivno).
Preslikavanje t : [0, 1]2
→ [0, 1] je t-norma ako ispunjava sledeće uslove
(tj. aksiome generalizovane konjunkcije, fazi-logiˇckog I-veznika):
1. t(x, 1) = x (granica)
2. t(x, y) = t(y, x) (komutativnost)

14 Seminarski rad
3. y1 ≤ y2 ⇒ t(x, y1) ≤ t(x, y2) (monotonost)
4. t(x, t(y, z)) = t(t(x, y), z) (asocijativnost)
Klasiˇcne t-norme su:
• tmin(x, y) = min(x, y) (Gedelova t-norma ∧G, odnosno Zadeova t-norma
ili standardni presek)
• tL(x, y) = max(0, x + y − 1) (t-norma Lukasiewicz-a ∧L)
• tproizvod(x, y) = xy (proizvod t-norma ∧P )
• t∗
(x, y) =



x, y = 1;
y, x = 1;
0, inaˇce.
(drastiˇcni presek)
Vaˇzi t∗
≤ tL ≤ tproizvod ≤ tmin i za proizvoljnu t-normu t moˇze se pokazati
da vaˇzi t∗
≤ t ≤ tmin. Karakterstiˇcna funkcija preseka je onda µA∩B(x) =
t(µA(x), µB(x)).
Preslikavanje c : [0, 1]2
→ [0, 1] je s-norma (t-konorma) ako ispunjava
slede´ce uslove (aksiome, simetriˇcno prethodnom):
1. c(x, 0) = x (granica)
2. c(x, y) = c(y, x) (komutativnost)
3. y1 ≤ y2 ⇒ t(x, y1) ≤ t(x, y2) (monotonost)
4. t(x, t(y, z)) = t(t(x, y), z) (asocijativnost)
Klasiˇcne s-norme su:
• cmax(x, y) = max(x, y) (standardna unija, odnosno Gedelova s-norma
∨G)
• cL(x, y) = min(1, x + y) (∨L)
• csuma(x, y) = x + y − xy (∨P tj. algebarska suma)

• c∗
(x, y) =



x, y = 0;
y, x = 0;
1, inaˇce.
(drastiˇcna unija)
Vaˇzi takod¯e cmax ≤ cproizvod ≤ cL ≤ c∗
i za proizvoljnu t-konormu c moˇze
se pokazati da vaˇzi cmax ≤ c ≤ c∗
. Karakterstiˇcna funkcija unije je onda
µA∪B(x) = c(µA(x), µB(x)).
Moˇze vaˇziti veza izmed¯u dualnih t-normi i t-konormi (i obratno, na os-
novu De Morganovih zakona - u opˇstem sluˇcaju ove veze ne moraju vaˇziti):
c(x, y) = 1 − t(1 − x, 1 − y). Tada se mogu definisati parovi dualnih konormi
- npr. (tmin, cmax), (tL, cL), (tproizvod, csuma), (t∗
, c∗
). Ove funkcije se mogu
uopˇstiti i na viˇse promenljivih:
tmin(x1, · · · , xn) = min(x1, · · · , xn), cmax(x1, · · · , xn) = max(x1, · · · , xn)
tL(x1, · · · , xn) = max(0,
n
i=1
xi − n + 1), cL(x1, · · · , xn) = min(0,
n
i=1
xi)
tproizvod(x1, · · · , xn) = x1 · · · xn, csuma(x1, · · · , xn) =
n
i=1
(−1)i+1
τ=komb(i)
i
j=1
xτ(j)
Kao ˇsto se ovim aksiomama definiˇsu t-norme i s-norme kao neka vrsta
uopˇstenja konjunkcije i disjukcije (i odgovarajućih stepena istinitosti rekurzivnim
definicijama V al nad fazi iskazima), tako se moˇze definisati i uopˇstena ne-
gacija n : [0, 1] → [0, 1] aksiomama:
• n(0) = 1, n(1) = 0 (graniˇcni uslovi)
• x ≤ y ⇒ n(y) ≤ n(x)
• n(n(x)) = x
gde opet imamo primere negacije: nG(x) = 0 za x > 0, inaˇce nG(0) = 1,
nL(x) = 1 − x. Takod¯e, definiˇse se i operator i (moˇze se shvatiti opet kao
nekakvo uopˇstenje operatora implikacije) i : [0, 1]2
→ [0, 1] tako da vaˇze
aksiome:
• x ≤ y ⇒ i(x, z) ≥ i(y, z)
• y ≤ z ⇒ i(x, y) ≤ i(x, z)

16 Seminarski rad
• i(0, y) = 1, i(x, 1) = 1
• i(1, 0) = 0
Sliˇcno kao i ranije, mogu vaˇziti veze (po uzoru na klasiˇcnu logiku): i(x, y) =
c(n(x), y) - primer je iKD(x, y) = max (1 − x, y) (Kleene-Dienes). Drugi
naˇcin da se ovo definiˇse je reziduum operator (opet po uzoru na klasiˇcnu
logiku): i(x, y) = sup {z ∈ [0, 1]| t(x, z) ≤ y}. Tada vaˇzi (u zavisnosti od
t-norme):
i(x, y) =



1, x ≤ y;
1 − x + y = iL(x, y), ∧L;
y = iG(x, y), ∧G;
x
y
= iP (x, y), ∧P .
Takod¯e, veza i(x, y) = n(t(x, n(y))) vaˇzi za Zadeovu logiku (iKD, tG, nL) i
logiku Lukasiewicz-a (iL, tL, nL), ali ne vaˇzi za Gedelovu (iG, tG, nG), niti
logiku proizvoda (iP , tP , nG). Mera relacija podskupa (subsumption) A ⊂ B
se onda moˇze definisati kao: infx∈X i(A(x), B(x)), a kompozicija binarnih
relacija nad oˇstrim skupovimam kao:
(R1 ◦ R2)(x, z) = sup
y∈Y
t(R1(x, y), R2(y, z))
Relacija R je tranzitivna akko je (R ◦ R)(x, z) ≤ R(x, z).
Skup termova T moˇze biti generisan nekom kontekstno slobodnom gra-
matikom G = (VX, VT , P, S) tj. T = L(G), gde je onda skup terminala VT
skup atomskih termova (semantika se gradi prema prethodnom). Ovakvo
raˇcunanje vrednosti odnosno znaˇcenja lingvistiˇcke promenljive vodi ka zna-
ˇcenju uslovnih reˇcenica i fazi zakljuˇcivanju - odnosno, definisanju fazi logike
reˇci.
2.8 Fazi logika i fazi zakljuˇcivanje
Aristotelov princip iskljuˇcenja trećeg (objekat nemoˇze istovremeno imati
i nemati osobinu, ili suˇstina paradoksa iskaza koji negira svoju taˇcnost) kao
osnovno naˇcelo klasiˇcne logike je naruˇsen u sluˇcaju viˇsevrednosne logike gde
su onda osnove logike promenjene (ˇsto je joˇs Jan Lukasiewicz primetio do-
davanjem treće vrednosti ,,1
2
” - problem ,,polupune ili poluprazne”ˇcaˇse). U
opˇstem sluˇcaju, konvencionalne fazi logike se ne nalaze u Bulovom okviru

(kao ni viˇsevrednosne). Takod¯e, princip proˇsirenja (ekstenzionalnosti) nije
osnovni pojam Bulove algebre ma koliko bio koristan (suviˇsna aksioma u al-
gebarskom smislu, kako će dalje biti pojaˇsnjeno - ,,To je vrlo uobiˇcajena i
tehniˇcki korisna pretpostavka”(P. Hayek, Metamathematics of Fuzzy Logic)
- ali isto tako je bilo sasvim uobiˇcajeno i tehniˇcki korisno smatrati u sred-
njem veku da je zemlja jedna ravna ploˇca). Ideja kojom bi se ovo sve moglo
prevazići je uopˇstavanje klasiˇcne Bulove algebre (Calculus of Logic George
Boole, 1848), i to formalnom algebarskom definicijom Bulove logike i fazi
logike, ili npr. interpolativnom realizacijom Bulove algebre (IBA, realna
logika).
Fazi logika (njen primer) je struktura ([0, 1], t, s, n), gde je t t-norma (gen-
eralizovana konjunkcija), s s-norma (generalizovana disjunkcija), i n gener-
alizovana negacija, uz ranije pomenute aksiome (negacija će biti objaˇsnjena
u jednom od narednih odeljaka).
2.8.1 Konaˇcna Bulova algebra
Konaˇcna Bulova algebra (BA) je struktura (BA(Ω), ∩, ∪, C), BA(Ω) =
P(P(Ω)), Ω = {a1, ..., an}, kod koje vaˇze zakoni:
• asocijativnosti: (x ∪ y) ∪ z = x ∪ (y ∪ z), (x ∩ y) ∩ z = x ∩ (y ∩ z)
• komutativnosti: x ∪ y = y ∪ x, x ∩ y = y ∩ x
• apsorpcije: x ∩ (x ∪ y) = x, x ∪ (x ∩ y) = x
• distributivnosti: x∩(y∪z) = (x∩y)∪(x∩z), x∪(y∩z) = (x∪y)∩(x∪z)
• komplementarnosti: x∪Cx = 1, x∩Cx = 0 (principi iskljuˇcenja trećeg
i konzistentnosti)
Poznate teoreme su onda: idempotencija (a∪a = a, a∩a = a), ograniˇcenost
(a ∩ 0 = 0, a ∩ 1 = a, a ∪ 0 = a, a ∪ 1 = 1), involucije (a = CCa), De
Morganovi zatkoni (C(a ∪ b) = Ca ∩ Cb, C(a ∩ b) = Ca ∪ Cb). Reˇcenice
iskaznog raˇcuna ˇcine takod¯e BA, i u klasiˇcnoj dvovrednosnoj (binarnoj) logici
vaˇzi princip iskljuˇcenja trećeg.

18 Seminarski rad
2.8.2 Percepcija, Haseov dijagram strukture BA
Fazi logiku Zade ˇcesto pominje kao osnovu raˇcuna percepcijama gde se
pod percepcijom podrazumeva neka (normalizovana) brojna vrednost na
osnovu koje se moˇze zakljuˇciti neka osobina posmatranog objekta (opet
izraˇzena normalizovanom brojnom vrednoˇc´cu), ili doneti neka odluka (per-
cepcija kao doˇzivljaj alternative donosioca odluke). Te brojne vrednosti ne-
maju posebno veze sa nekakvim verovatnosnim vrednostima (uopˇstenje BA i
razlaz sa klasiˇcnom logikom se prenosi i na teoriju verovatno´ce u fazi sluˇcaju).
Percepcija zavisi od ˇcoveka do ˇcoveka (ili sistema), kao i od problema do prob-
lema. Suma oteˇzanih vrednosti atributa (npr. J(a, b) = waa+wbb, wa +wb =
1) nije dovoljno izraˇzajna kao kriterijumska funkcija - primer (slike 2.8.3a i
2.8.3b ispod) je prostor boja koji se na ovaj naˇcin ne moˇze pokriti (ako su dve
atomske boje taˇcke u njihovoj ravni, ovakva suma je samo 1-dimenzionalna
duˇz izmed¯u njih):
(slika 2.8.3a)
(slika 2.8.3b)
Da bi se takvom interpolacijom dobio ceo prostor boja, neophodno je imati
8 atomskih boja (za 3 osnovne RGB boje):

(slika 2.8.3c)
(slika 2.8.3d)
Ovo je ilustracija razlike izmed¯u BA (u smislu interpolacije) i fazi logike kao
uopˇstenja. Ideja interpolativne realizacije BA ilustruje se (sliˇcno prethod-
nom) Haseovim dijagramom (graf parcijalno ured¯enog skupa gde se ori-
jentacija podrazumeva, npr. ured¯enje u pravcu dole-gore):
(Haseov dijagram strukture BA)
Ovim dijagramom se slikovito prikazuje struktura elemenata BA u sluˇcaju
Ω = {a, b}, gde se za svaki ugao kvadrata (a = 0, b = 0 je donji levi) i ˇcvora
dijagrama crnim kvadrati´cem npr. indikuje da li moˇze imati vrednost 1:

20 Seminarski rad
(tumaˇcenje vrednosti elemenata BA)
Za svaki takav element BA (Bulovu fukciju) se onda lako moˇze napraviti
istinitosna tablica:

2.8.3 Generalizovan Bulov polinom
Svaki element konaˇcne Bulove algebre moˇze se jednoznaˇcno prikazati gen-
eralizovnim Bulovim polinomom (GBP) koji moˇze da uzima vrednosti sa
realnog intervala [0, 1]. Za ovo će biti potreban pojam strukturne funkcije
σϕ : P(Ω) → {0, 1} datog kvalitativnog atributa ϕ ∈ BA(Ω), koja odred¯uje
koji su atomski atributi (elementi BA koji sadrˇze samo ∅) ukljuˇceni (sadrˇzani)
u ϕ. Za primarne atribute ai vaˇzi:
σai
(S) =
1, ai ∈ S;
0, ai ∈ S.
, ai ∈ Ω, S ∈ P(Ω).
U ostalim sluˇcajevima gradi se izraz (u nekakvoj normalnoj formi, svodi se
na Zegalkinove polinome jer strukturne funkcije imaju samo dve vrednosti -
onda se gubi potreba za koeficijentima i eksponentima) prema pravilima:
σa∧b(S) = σa(S) ∧ σb(S)
σa∨b(S) = σa(S) ∨ σb(S)
σCa(S) = 1 − σa(S)
Generalizovan proizvod ⊗ se moˇze definisati na viˇse naˇcina - primeri (ϕ, ψ ∈
BA(Ω)):
• ϕ ⊗ ψ = min (ϕ, ψ) (Gedelova t-norma)
• ϕ ⊗ ψ = ϕ · ψ (logika proizvoda)
• ϕ ⊗ ψ = max (0, ϕ + ψ − 1) (t-norma Lukasiewicz-a)
Iako je generalizovani proizvod veoma sliˇcan t-normi (koji u fazi pristupu
igra nekakvu ulogu logiˇckog veznika, ˇsto se u opˇstem sluˇcaju ne poklapa sa
klasiˇcnom konjunkcijom), igra sasvim drugu ulogu u IBA, i treba ga posma-
trati kao aritmetiˇcki operator (polinoma).
Definicija 2.5 Svakom ϕ = S∈P(Ω) σϕ(S)α(S) ∈ BA(Ω) dodeljuje se GBP
ϕ⊗
(x):
ϕ → ϕ⊗
(x) = −→σϕ
−→α ⊗
(x) =
S∈P(Ω)
σϕ(S)α⊗
(S)(x), x ∈ Xm

22 Seminarski rad
gde je α⊗
(S) GBP za atomske elemente α(S) = ai∈S ai aj∈Ω−S Caj,
S ∈ P(Ω) (vrednosno relevantan deo):
α⊗
(S)(x) = α⊗
(S)(a1, ..., an) =
C∈Ω−S
(−1)|C|
ai∈C∪S
ai(x)
dok je −→σϕ vrednosno irelevantan (strukturni) deo.
Generalizovan proizvod ispunjava (po deﬁnicij) u potpunosti iste aksiome kao
i t-norma, i joˇs jednu aksiomu dodatno - aksiomu nenegativnosti:
α⊗
(S)(x) ≥ 0, ∀S ∈ P(Ω)
Strukturni deo (strukturni vektor −→σ ϕ = [σϕ(S)|S ∈ P(Ω)]) u potpunosti
ispunjava sve aksiome BA (dakle, vaˇze i iste teoreme za njega). Primer, za
Ω = {a, b}:
S = {a, b} : a ∩ b → α⊗
(S)(a, b) = a ⊗ b
S = {a} : a ∩ Cb → α⊗
(S)(a, b) = a − a ⊗ b
S = {b} : Ca ∩ b → α⊗
(S)(a, b) = b − a ⊗ b
S = ∅ : Ca ∩ Cb → α⊗
(S)(a, b) = 1 − a − b + a ⊗ b
Primeri, dalje - ako je φ, ψ ∈ BA(Ω), onda je:
(ϕ)⊗
(x) = −→σ ϕ
−→α ⊗
(x), x ∈ Xm
(ϕ ∩ ψ)⊗
(x) = −→σ (ϕ∩ψ)
−→α ⊗
(x)

(ϕ ∪ ψ)⊗
(x) = −→σ (ϕ∪ψ)
−→α ⊗
(x)
(Cϕ)⊗
(x) = −→σ (Cϕ)
−→α ⊗
(x) = 1 − (ϕ)⊗
(x)
Ideja interpolacije GBP se moˇze ilustrovati odgovaraju´cim Haseovim dija-
gramima (zbir vrednosti atomskih elemenata u drugom sloju od dole je 1,
S∈P(Ω) α⊗
(S)(x) = 1), gde se razliˇcitim nijansama predstavljaju vrednosti
u intervalu [0, 1] (umesto klasiˇcnog {0, 1}) koje su dodeljene (vrednosti ne
moraju biti ˇcak ni simetriˇcne u odnosu na atomske elemente, ili atribute), a
vrednost svakog elementa je suma vrednosti njegovih atoma:
(vrednosti elemenata u interpolativnom sluˇcaju)
(svaki element ima vrednost u [0, 1], atomski elementi nisu unija drugih atomskih elemenata)

24 Seminarski rad
2.8.4 Logiˇcka agregacija i primer mreˇze
Strogo formalno, fazi logika je uopˇstenje BA. Prethodno opisanim uopˇste-
njem vaˇze sve aksiome i dobre osobine BA iako vrednosti GBP nisu binarne,
i upravo vrednosno relevantan deo vodi ka generalizaciji BA koja ,,dozvoljava
fazi sluˇcajeve”. Ako se definiˇse norma atributa || · || : Ω → [0, 1] i generalizo-
vani pseudo-Bulov polinom (GpBP) kao linearna konveksna suma elemenata
IBA:
πϕ⊗
(||a1||, ..., ||an||) =
m
i=1
wiϕ⊗
i (||a1||, ..., ||an||),
m
i=1
wi = 1, wi ≥ 0, i = 1, m
iz definicije GBP sledi (ϕi ∈ BA(Ω)):
πϕ⊗
(||a1||, ..., ||an||) =
m
i=1 S∈P(Ω)
χσ(ϕi)(S)α⊗
(S) =
S∈P(Ω)
µ(S)α⊗
(S)
gde je α⊗
(S) = C∈P(Ω)−S (−1)|C|
aj∈S∪C ||aj||, a µ je strukturna funkcija
GpBP πϕ⊗
i predstavlja karakteristiˇcnu funkciju fazi skupa µ : P(Ω) → [0, 1]
definisanu sa (sliˇcno karakteristiˇcnoj funkciji u ZF teoriji skupova, ali nije
isto):
µ(S) =
m
i=1
wiχσ(ϕi)(S)
Funkcije χσ(ϕi) predstavljaju logiˇcku strukturu odgovarajućih elemenata iz
BA (mogu biti aditivne, monotone ili uopˇstene - u fazi sluˇcaju). Njima se
grade logiˇcke agregacije Agg : [0, 1]n
→ [0, 1] kao pseudo-logiˇcke funkcije ko-
jima se opisuju u uopˇstenom sluˇcaju vrednosti (fazi) logiˇckih izraza, karak-
terisane merom agregacije µ(S) (strukturnom funkcijom) i ⊗ operatorom.
Primera radi, ako je mera agregacije:
µOR(S) =
1, S = ∅;
0, S = ∅.
i ⊗ = min, onda je operator logiˇcke agregacije:
Aggmin
µOR
(||a1||, ..., ||an||) = max (||a1||, ..., ||an||)
O svemu ovome detalji se mogu naći u [RD], [AQM] i [RD2]. Tako se mogu
graditi Bulove mreˇze (Bulove funkcije koje se raˇcunaju u iteracijama sliˇcno

Bajesovim mreˇzama) koje koriste [0, 1] kao ulazne vrednosti, ali i fazi mreˇze.
Primer: ako su a, b, c normalizovane brojne ocene nekih objekata gde se
daje prednost b ako je a veliko, odnosno c u suprotnom, i ako je veći arit-
metiˇcki prosek vaˇzan kriterijum onda bi primer logiˇcke agregacije bio:
Agg⊗
(a, b, c) =
1
2
a + b + c
3
+
1
2
ϕ⊗
(a, b, c)
gde je ϕ⊗
(a, b, c) = ((a∩c)∪(Ca∩b))⊗
= b+a⊗c−a⊗b, a mera agregacije
je µ = 1
6
(σa +σb +σc)+ 1
2
(σa ∧σc)∨(Cσa ∧σb) (nad S ∈ P(Ω)). Za konkretnu
realizaciju ⊗ ≡ · agregacije dobija se brojna vrednost koja ispravno odslikava
sve zadate kriterijume.
2.8.5 Fazi logika, formalna definicija
Postoji finija hijerarhija formalnih logika, primer iz [AV] (u algebarskom
smislu):
U osnovi ove ideje leˇzi definicija pojma latice:
Definicija 2.6 Latica L = (X, ≤, ∧, ∨) predstavlja parcijalno ured¯en skup
(X, ≤) sa RAT aksiomama, kod koga postoji najveća donja granica x ∧ y =
inf{x, y} ( meet) i najmanja gornja granica x∨y = sup{x, y} ( join) za svako
x, y ∈ X.

26 Seminarski rad
(primer Bulove latice podskupova (|Ω = 1|) i jedne slobodne Bulove algebre (|Ω| = 2))
Pored partitivnog skupa proizvoljnog nepraznog skupa, postoje i mnogi drugi
primeri latica, med¯u kojima je i slobodna Bulova algebra generisana atom-
skim reˇcenicama iskaznog raˇcuna, koja je izomorfna sa klasiˇcnom binarnom
Bulovom algebrom (taj izomorfizam na BA({0, 1}) je zapravo istinitosna
vrednost, i uopˇste, moˇze se pokazati da je svaka konaˇcna BA izomorfna sa
BA nekog partitivnog skupa, a detaljnije osobine izomorfizama daje Stounova
teorema reprezentacije Bulovih algebri).
Definicija 2.7 Ako je L univerzalno ograniˇcena latica tj. 0 ≤ x ≤ 1 za
svako x ∈ X, i ako postoji preslikavanje ¬ : L → L takvo da je:
• x ≤ ¬(¬x) (slaba negacija)
• ¬y ≤ ¬x ako x ≤ y (antitonost, pokazuje se da je povezana sa De
Morganovim zakonima)
• ¬0 = 1, ¬1 = 0 (Bulovi graniˇcni uslovi)
onda je takav par (L, ¬) fazi logika (primer modela je ([0, 1], iKD, tG, sG, nL)).
Ako dodatno vaˇzi zakon nekontradiktornosti x ∧ ¬x = 0 za svako x ∈ L,
onda ta struktura predstavlja logiku (ovako definisana slaba negacija se zove
i pseudo komplement, a ako vaˇzi involucija onda je to jaka negacija).
Bulova algebra se onda definiˇse kao komplementarna distributivna latica (ne-
gacija postaje jaka, za razliku od intuicionistiˇcke logike). Znaˇcaj GpBP u
odnosu na ovu formalnu algebarsku definiciju fazi logike je jasnija primena,
i s druge strane, bolja formalna utemeljenost u odnosu na zadeovsku fazi
logiku (koja je već doˇzivela mnoge praktiˇcne primene, ali i kritike).

2.8.6 Hajekov pristup, fazi teorija modela i ontologije
Poseban uopˇsteni sluˇcaj predstavljaju reziduirane latice kao strukture
koja predstavlja laticu + monoid + aksiome rezidualnosti ((∀x, y, z ∈ L)y ≤
xz ⇔ x · y ≤ z ⇔ x ≤ z/y, najveći y se zapisuje kao y ≤ xz tj. desni
rezidual, najveći x kao x ≤ z/y tj. levi rezidual), BL algebre BL(L, →, ⊗, ⊥)
(⊗ je snaˇzna konjunkcija) sa Hajekovim skupom aksioma (modus ponens kao
pravilo zakljuˇcivanja) i neprekidnom t-normom kao njihovo uopˇstenje. U BL
jezik se dodatnim definicijama uvode dodatni logiˇcki veznici:
• slaba konjunkcija: A ∧ B ≡ A ⊗ (A → B)
• negacija: ¬A ≡ A → ⊥ (sliˇcno intuicionistiˇckom pristupu)
• ekvivalencija: A ↔ B ≡ (A → B) ∧ (B → A) (ˇsto se moˇze pokazati
ekvivalentnim sa (A → B) ⊗ (B → A))
• slaba disjunkcija: A ∨ B ≡ ((A → B) → B) ∧ ((B → A) → A)
• ≡ ⊥ → ⊥
Hajekove aksiome (u maniru iskaznog raˇcuna i Hilbertovog formalnog sis-
tema) jesu:
(BL1 )(A → B) → ((B → C) → (A → C))
(BL2) A ⊗ B → A
(BL3) A ⊗ B → B ⊗ A (za koju se pokazalo da je suviˇsna)
(BL4) A ⊗ (A → B) → B ⊗ (B → A)
(BL5a) (A → (B → C)) → (A ⊗ B → C)
(BL5b) (A ⊗ B → C) → (A → (B → C))
(BL6) (A → (B → C)) → (((B → A) → C) → C)
(BL7) ⊥ → A
Aksiome BL logike prvog reda BL1 su:
(∀1) (∀x)A(x) → A(y)
(∃1) A(y) → (∃x)A(x)
(∀2) (∀x)(A → B) → (A → (∀x)B)
(∃2) (∀x)(A → C) → ((∃x)A → C)
(∃2) (∀x)(A ∨ C) → ((∀x)A ∨ C)

28 Seminarski rad
(y je smena za x u A, x nije slobodna u C)
Kod BL1 je moguće konstruisati tako i teoriju modela ((∀x)A(x) ≡ infx ||A(x)||,
(existsx)A(x) ≡ supx ||A(x)||, gde je ||A|| ≡ V al(A) stepen istinitosti za
dati model M i t-normu). Tako razliˇcite t-norme definiˇsu semantiku (a
time i s-norme, i uopˇstene implikacije i negacije, tj. funkcije t, c, n i i,
kako su već ranije definisane) razliˇcitih fazi logika: Lukasiewicz-evu, Gede-
lovu, proizvod (produkt) logiku, ili neku drugu - i svakoj modeli odgovaraju
odred¯enoj algebri (BL u uopˇstenom sluˇcaju, MV-algebri, G-algebri, pro-
dukt algebri) i sistemu aksioma (BL, i dodatno ¬¬A → A, A → A ∧ A,
¬¬A → ((A → (A ∧ B)) → (B ∧ ¬¬B)), redom).
Za razliku od pristupa Hajekove fazi logike, fazi deskriptivne logika (DL)
koja polazi od dijalekta deskriptivnih logika (koje predstavljaju proˇsirenje
frejmova i semantiˇckih mreˇza, pre svega nastale kao praktiˇcan sintaksni alat
koji je kasnije upotrebljen u standardima web ontologija). DL se sastoji iz
viˇse jezika ˇcije kombinacije daju razliˇcite dijalekte, i svodi se na PR1 re-
strikovan na unarne i binarne predikate, i jezik za upravljanje konceptima
tj. opisima domena - razmatra se ovo prvo pre svega. Med¯utim, u [FDL] i
[GCI] navedeni dijalekat DL koji se proˇsiruje u fazi DL omogućava praktiˇcnu
upotrebu fazi logike nad Web ontologijama (dijalekat namenjen OWL-DL
jeziku, kao i OWL koji je veoma blizak DL, jednim od osnovnih struktura
semantiˇckog web-a). Na sintaksnom nivou DL nije potpuno formalna jer
nije moguće konstruisati odgovarajuću teoriju modela i pokazati komplet-
nost. Hajek u [PH] navodi postupak kojim se ovo moˇze prevazići upotrebom
posebne definicije zadovoljivosti gde je onda moguće iskazati kompletnost DL,
ali pod uslovim da se koristi iskljuˇcivo logika Lukasiewicz-a (zbog uvod¯enja
logiˇckih konstanti u jezik, ˇsto je problematiˇcno) i da se ne koristi kvantifika-
tor ,,mnogi”. Pored toga, kritikuje ovo reˇsenje zbog kompleksnosti raˇcunanja
(kao i klasiˇcnu DL), kao i zbog problema implementacije.
2.8.7 Zadeov pristup
U klasiˇcnom iskaznom raˇcunu implikacija je logiˇcki operator (veznik) ˇcija
se vrednost moˇze zadati tabelom. U zadeovskoj fazi logici umesto iskaznih
promenljivih se koriste fazi skupovi i proizvod skupova kao implikacija. Pre
potpune definicije fazi reˇcenica ovog tipa potrebno je definisati proizvod fazi

skupova A nad U i B nad V :
A × B =def
U×V
µA(u) ∧ µB(v)/(u, v)
jer se implikacijom praktiˇcno formira fazi relacija med¯u fazi promenljivama.
Tako se reˇcenica ,,Ako A onda B” zapisuje kao A×B (Mamdani) ili reˇcenica
,,Ako A onda B inaˇce C” moˇze zapisati kao A × B + ¬A × C (Zade: pa
ako se odbaci inaˇce-grana onda se dobija A × B + ¬A × V ). Dakle, u fazi
logici se implikacija moˇze definisati na viˇse naˇcina. Sledi deo tabele varijanti
iz [FOUND] (koje su prouˇcavali Mizumoto, Zimmerman 1982.) kao relacija
nad U × V , u ∈ U, v ∈ V :
Ra 1 ∧ (1 − u + v)
Rm (u ∧ v) ∨ (1 − u)
Rc u ∧ v
Rb (1 − u) ∨ v
Praktiˇcno se najˇceˇsće koriste pomenuti max-proizvod i max-min (npr.
Rc, dok Zade koristi Rb i Ra).
2.8.8 Kompoziciono pravilo zakljuˇcivanja
Ako je je R fazi relacija od U ka V , x fazi podskup od U, y fazi podskup
nad V indukovan fazi skupom x se dobija kao kompozicija (x kao unarna
relacija):
y = x ◦ R
Ovo pravilo se smatra proˇsirenjem modus ponensa (uopˇsteni MP - General-
ized Modus Ponens, GMP). Ono dozvoljava (pored osobina klasiˇcnog MP)
npr. da nekakva promena premise (npr. odredbama) daje nakon primene
istog pravila nekakvu promenu u zakljuˇcku (B = A ◦ R, R = A → B
proizvoljna kompatibilna (u smislu kompozicije) fazi relacija, A i B su
nastali od A i B redom, primenom ograniˇcenja, algebarskih operacija ili ne-
gacije ili njihovom kompozicijom). Najˇceˇsće koriˇsćena pravila zakljuˇcivanja
su:
uopˇsteni modus ponens A→B,A
B
gde je B = A ◦ (A → B)
uopˇsteni modus tolens A→B,B
A
gde je A = (A → B) ◦ B

30 Seminarski rad
zakon tranzitivnosti (silogizam) A→B,B→C
A→C
De Morganovi zakoni ¬(A ∧ B) = ¬A ∨ ¬B
¬(A ∨ B) = ¬A ∧ ¬B
Uopˇste, fazi iskaz se moˇze predstaviti kao ,,X je A” (gde je X domen,
A fazi skup - problemom iskazivanja fazi vrednosti reˇcenica ovakvog tipa
koje podsećaju na reˇcenice prirodnog jezika se bavi posebna oblast (fazi)
raˇcunanja reˇcima) a fazi pravilo kao
X je A → Y je B
Ovakvo pravilo uspostavlja relaciju med¯u fazi iskazima (nije implikacija) i
obiˇcno se takvo pravilo zapisuje u obliku matrice. Ovakva se fazi asocija-
tivna matrica R koja mapira fazi skup A u fazi skup B zove joˇs i Fazi Asoci-
jativna Memorija (Fuzzy Associative Memory - FAM, Kosko, 1992). Umesto
obiˇcnog linearnog preslikavanja b = R a zadatog matriˇcnim mnoˇzenjem
bj = n
i=1 aimij, j = 1, n obiˇcno se koristi operator ◦ max-min kompozi-
cije b = R ◦ a zadat sa bj = maxi=1,nmin[ai, mij], j = 1, n (mada
moˇze biti i max-proizvod kompozicija). Uopˇsteni postupak dobijanja ma-
trice R = A→B:
A→B =



V al(a1 → b1) V al(a1 → b2) · · ·
V al(a2 → b1)
...
...


 = (rij) = R
i vaˇzi B = A ◦ A→B - zavisno od definisanja operatora implikacije (ili
i-norme) V al(ai → bj) = i(ai, bj) definiˇse se i matrica zakljuˇcivanja R.
Ako je data skup iskaza X je Ai → Y je Bi, ova matrica moˇze zapravo
biti relacija MAMD(x, y) = n
i=1(Ai(x) ∧ Bi(y)) (spisak svih mogućnosti,
tzv. Mamdanijeva formula), ili RULES(x, y) = n
i=1(Ai(x) → Bi(y)) (kon-
junkcija svih implikacija) u smislu generalizovanog modus ponensa.
2.8.9 Max-Min zakljuˇcivanje
Ako se minimumom definiˇse operator implikacije mij = V al(ai → bj) =
min(ai, bj) onda se za data dva fazi skupa na osnovu ove formule definiˇse
matrica M.

Ako su u pitanju ,,trougani” fazi skupovi (granica linearna), onda se
slikanje nekog skupa A svodi na odseˇcak B na visini vrha preseka A i A
na niˇze, ˇsto proizilazi iz definicije i osobina ovakvog preslikavanja. Npr.
ako je µA(xk) pomenuti vrh ili jedna diskretna izmerena vrednost, ˇsto se
najˇceˇsće koristi kao ulaz (kao da su ostale vrednosti ulaznog vektora 0), vaˇzi
za diskretne vrednosti y ∈ X:
b(y) = µA(xk) ∧ µB(y), y ∈ X
B
B’
Pravilo
A B
A
A’
2.8.10 Max-Proizvod zakljuˇcivanje
Ovaj naˇcin zakljuˇcivanja se dobija ako se proizvodom definiˇse operator
implikacije mij = aibj.

32 Seminarski rad
Pravilo
B’
B
A’
A
BA
Preslikavanje trouglova ima osobine b(y) = µA(xk) · µB(y), y ∈ X ako je
µA(xk) pomenuti vrh) sliˇcne prethodnom, ali se ovde dobija ,,sniˇzeni” ali
ceo trougao umesto odseˇcka. Za jednu ulaznu diskretnu vrednost onda vaˇzi:
b(y) = µA(xk)µB(y), y ∈ X
2.8.11 Pravila sa viˇse premisa, viˇse pravila i procedura zakljuˇcivanja
Ako imamo dve premise A i B (moˇze ih biti i viˇse, analogno) razreˇsenje
moˇzemo na´ci (Kosko, 1992) poˇsavˇsi od toga kao da imamo dva pravila A → C
i B → C sa svojim matricama MAC i MBC td. vaˇzi:
A ◦ MAC = CA
B ◦ MBC = CB
Tada se deﬁniˇse C = CA ∧ CB ako je u pitanju konjunkcija (i-link) A ∧
B → C, odnosno C = CA ∨ CB ako je u pitanju disjunkcija (ili-link)
A ∨ B → C. U ranije pomenutom specijalnom sluˇcaju trouglastih skupova,
minimum odnosno maksimum respektivno konjunkcija odnosno disjunkcija
vrhova trouglova odred¯uje prag odsecanja odnosno sabijanja (zavisno od toga
da li se koristi max-min ili max-proizvod zakljuˇcivanje) skupa B. Za date
diskretne ulazne vrednosti ai = µA(xi) i bj = µB(yj) i diskretne vrednosti
z ∈ X domena vaˇzi onda:

C Spajanje Zakljuˇcivanje
min(ai, bj) ∧ µC(z) I Max-Min
max(ai, bj) ∧ µC(z) ILI Max-Min
min(ai, bj)µC(z) I Max-Proizvod
max(ai, bj)µC(z) ILI Max-Proizvod
Ako postoji viˇse pravila L1 → R1, · · · , Ln → Rn sa svojim matricama
M1, · · · , Mn onda se zakljuˇcak moˇze dobiti disjunkcijom M = n
i=1 Mi element-
na-element matrica svih tih pravila (vid ili-linka). U fazi ekspertnom sistemu
u svakom cilkusu raˇcunanja praktiˇcno sva pravila odjednom uˇcestvuju u svim
kombinacijama koja nameće fazi mreˇza zakljuˇcivanja. Postoje ˇskoljke za
pravljenje fazi ekspertnih sistema (kao ˇsto su to npr. FLOPS, MATLAB
Fuzzy Toolbox ili FuzzyCLIPS) ali su takvi fazi produkcioni sistemi skloni
kombinatornoj eksploziji i joˇs uvek daju dobre rezultate samo u specifiˇcnim
oblastima. Zavisno od prirode pravila moguće je to raˇcunanje optimizovati
do izvesne granice. Jedan od naˇcina je obeleˇzavanje pravila teˇzinama wi (npr.
srazemerno normi matrice pravila) i odbacivanje onih ispod zadatog praga,
kao i upotreba nekog od dodatnih else-linkova (pored i-linka i ili-linka):
• istinitosno-kvalifikacionog linka: za svako pravilo Ri, i = 1, · · · , n se
raˇcuna koeficijent Ti = x∈X
µBi
(x)/ x∈X
µB(x) i onda se uzima rezul-
tat pravila Rj maksimalnog koeficijenta Tj = max Ti.
• aditivnog linka: µB = µBi
wi za pravila Ri, i = 1, · · · , n koja uˇcestvuju.
Moglo bi se reći da je ovakva procedura fazi zakljuˇcivanja petorka (I, C, L, s, t)
gde je I neka relacija implikacije, C operator kompozicije, L else-link koji se
koristi, s i t izabrane (ko)norme (moguća je i kombinacija razliˇcitih proce-
dura). Takod¯e, kao specifiˇcna primena ovakvih sistema (gde je moguća par-
alelizacija) javlja se raˇcunanje ovakvih fazi mreˇza zakljuˇcivanja upotrebom
odgovarajućih VLSI arhitektura kao i u kombinaciji sa drugim Soft Comput-
ing tehnikama. Ohrabrajući rezultat je dao i Kosko 1992. teoremom kojom
pokazuje da klasa aditivnih fazi sistema uniformno aproksimira proizvoljnu
neprekidnu funkciju nad domenom koji je kompaktan (ograniˇcen i zatvoren
u sluˇcaju realnog skupa).
Dijagram strukture klasiˇcnog fazi ekspertnog sistema:

34 Seminarski rad
Mehanizam fazi zakljucivanja
Baza fazi pravila
Fazifikacija
Defazifikacija
Fazi podaci / ostri podaci
Fazi upiti / ostri upiti
Baza znanja (fazi)
Korisnicki interfejs
Karakteristicne funcije
Ucenje fazi pravila
2.9 Defazifikacija (Defuzzification)
Ako imamo fazi zakljuˇcak, za njegovo tumaˇcenje se praktiˇcno ˇcesto ko-
risti defazifikacija gde se obiˇcno nekim postupkom izdvoji jedna diskretna
vrednost fazi skupa kao reprezent (postupak suprotan onom koji se naziva
,,fazifikacija” gde se razliˇctim metodama kodiraju konceptualizovani podaci
u fazi skupove - npr. nesiguran broj se opisuje trouglom kao fazi skupom).
Najˇceˇsće se koristi fazi centroid odnosno nekakva sredina u odnosu na pri-
padnost kao teˇzinu (najbliˇza vrednosti u X):
y =
n
i=1 yiµB (yi)
n
i=1 yi
tj. ˆy =
µB (y)ydy
µB (y)dy
Ako se traˇzi zakljuˇcak na osnovu viˇse fazi pravila A1 → B1, ..., An → Bn
onda se uzima da je ukupni fazi zakljuˇcak B = n
i=1 Bi tj. µB (x) =
maxi=1,n[µBi
(x)] (opet vid ili-linka, i-link se realizuje minimumom) i njegov
centroid se tumaˇci kao diskretna vrednost zakljuˇcka na osnovu svih polaznih

premisa A . Za fazi sistem oblika:
pravila



Y1 is B1
if X1 is A1
1, · · · , Xn is A1
n
...
Ym is Bm
if X1 is Am
1 , · · · , Xn is Am
n
X1 is A 1, · · · , Xn is A n (ˇcinjenice)
L. X. Wang je pokazao da defazifikacija njegovog zakljuˇcka y is B pred-
stavlja univerzalni aproksimator:
µB(y) =
x1,···,xn
n
i=1
µA i
(xi)
m
j=1
n
i=1
µAj
i
(xi) µBj (y)
2.10 Kompleksnost i izraˇcunljivost
Pokazuje se da su tautologije Hajekove logike (oblik formalizacije fazi
logike) ko-NP kompletne (nezadovoljivost je NP kompletna), zadovoljive for-
mule NP kompletne, a odgovarajući predikatski raˇcun je u opˇstem sluˇcaju
neodluˇciv po Hajeku (Hanikova 2002, Hajek 2005). Ukratko, nije svaka
t − norma izraˇcunljiva. S druge strane, pokazano je da svaka aksiomati-
zabilna i kompletna fazi teorija jeste izraˇcunljiva (uz pogodno definisanu
izraˇcunljivost fazi skupova, Gerla, 2006 - ne postoje joˇs svi potrebni rezultati
u tom smislu, kao ˇsto je to Church-ova teorema). U svakom sluˇcaju, oˇcigledno
je da fazi sistemi praktiˇcno zahtevaju viˇse raˇcunanja nego klasiˇcni (nema do-
voljno dobrih pored¯enja sa verovatnosnim), kao i dodatna istraˇzivanja u vezi
formalnog zasnivanja i teorije modela.
2.11 Fazi logika i alternativne teorije verovatnoće
Verovatnoća se bavi nekim dogad¯ajem koji se nakon eksperimenta de-
sio ili nije - u realnosti je ˇcesto teˇsko odrediti ˇsta se desilo, ali neˇsto ˇsto
se ,,otprilike” desilo je koncept fazi skupa (druˇstvene pojave, ili npr. da
li je pala kiˇsa ili moˇzda samo malo ?). Dakle, oˇstar dogad¯aj X = u za
sluˇcajnu promenljivu X i u ∈ U sa nekom verovatnoćom p(X=u) moˇze biti
dodeljen nekom fazi skupu A nad U nekim stepenom odred¯enim njegovom
karakterstiˇcnom funkcijom (koja, oˇcigledno, ima potpuno drugaˇciju ulogu od
raspodele sluˇcajne promenljive). Tada se moˇze naći verovatnoća fazi skupa

36 Seminarski rad
kao p(A) = U
µA(u)p(X = u). Primer: ako je X sa uniformnom raspode-
lom na nekom skupu kardinalnosti n onda je p(A) = µA(u)/n. Za takve
skupove se onda kaˇze da su fazi dogad¯aji. Za njih takod¯e vaˇze osobine oˇstrih
dogad¯aja: p(¬A) = 1−p(A), p(A∪B) = p(A)+p(B)−p(A∩B), A ⊆ B ⇒
p(A) ≤ p(B). Za karakteristiˇcnu funkcjiju fazi dogad¯aja X = u se onda kaˇze
da je funkcija distribucije mogućnosti Poss(X = u) tog dogad¯aja.
Zade nejasnoću prirodnog jezika i sveta opisuje osobinom f-granularnosti
(gde se viˇse vrednosti nekih atributa grupiˇsu u granule nerazdvojivoˇsću,
sliˇcnoˇsću, blizinom ili funkcionalnoˇsću). On klasiˇcnu teoriju verovatnoće kao
i logiku vezuje za merenja i merljive aktivnosti, dok fazi logiku i verovatnoću
vezuje za percepciju (perception-based probability theory = PTp). Obiˇcna
teorija verovatnoće se nadograd¯uje u tri naˇcelna koraka do PTp: najpre
se prethodno skiciranom f-generalizacijom verovatnoće, dogad¯aji i relacije
vezuju za fazi skupove i dobija se PT+
. U drugom koraku se f.g-generalizacijom
verovatnoće, dogad¯aji i relacije ˇcine f-granularnim. Npr. ako je Y = f(X)
preslikavanje, onda se f moˇze opisati kolekcijom fazi pravila ,,Y is Bi ako X
is Ai” gde su Ai i Bi (i = 1, · · · , n) fazi skupovi u X i Y , redom. Tako se do-
bija PT++
. Poslednji korak obuhvata postupak nl-generalizacije koji se svodi
na postupak opisivanja potrebnih osobina uslovima preciziranim prirodnim
jezikom (Precisiated Natural Language = PNL), npr. X isp (P1|A1 + · · · +
Pn|An) gde su Ai fazi skupovi a Pi njihove verovatnoće (detalnjije o tome u
raˇcunanju s reˇcima).
2.11.1 Dempster-ˇSejferova teorija
Za razliku od ekspertnih sistema kao ˇsto je PROSPECTOR baziranih na
Bajesovom principu verovatnosnog zakljuˇcivanja ili formalizama kao ˇsto su
Markovljevi i skriveni Markovljevi lanci (stohastiˇcki konaˇcni automati kod
kojih je prelazak iz stanja u stanje obeleˇzen verovatnoćom, kod skrivenih
je ˇcak nemoguće unapred odrediti prelaske stanja već samo posledica), ne-
verovatnosne (neprobabilistiˇcke) teorije koriste pristup koji nije u okvirima
standardne teorije verovatnoće. Tako su Dempster i ˇSejfer (Dempster 1967,
Shafer 1976) otkrili ovakav jedan pristup u kojem je polazna ideja mera
nazvana masom m(E) dogad¯aja u U ili skupa dogad¯aja i onda posma-
trati nekakvu donju i gornju granicu verovatnoće takvog skupa dogad¯aja
- mogućnost (credibility) Cr(E) i verovatnost (Plausibility) Pl(E). Tada
vaˇze aksiome Dempster-ˇSejferove (D-S) teorije:

A1 0 ≤ m(E) ≤ 1 (ako je m(E) > 0 onda je E ˇziˇzni element)
A2 E⊂U m(E) = 1
A3 Cr(E) = C⊆E m(C)
A4 Pl(E) = 1 − Cr(¬E) = C E m(C)
Pokazuje se da je ∀E ⊆ E Cr(E) + Cr(¬E) ≤ 1, Pl(E) + Pl(¬E) ≥
1, Cr(E) ≤ Pl(E). Potpuno neznanje o ˇziˇznom elementu E (ili domenu)
je iskazano sa Cr(E) = Cr(¬E) = 0, Pl(E) = Pl(¬E) = 1. Nesig-
urnost u zakljuˇcivanju se propagira niz lanac zakljuˇcivanja ali i kombinuje
- predlaˇze se jednostavno sledeće: ako je A1 ∩ A2 = A3 = ∅ onda vaˇzi
m(A3) = m(A1)m(A2). Npr. za pravila: E1 → H1(β1), E2 → H2(β2) vaˇzi
onda m(H) = m(H1)m(H2) = Cr(E1)β1Cr(E2)β2 gde su β1 i β2 koeficijenti
uverenja zakljuˇcka. Dalje se raˇcuna Cr(H) i Pl(H) ako je potrebeno prema
aksiomama.
2.11.2 Zakljuˇcivanje s uverenjem
Znaˇcenje uverenja naspram verovatnoće vezuje za praktiˇcno iskustvo, in-
tuitivno ljudsko znanje i drugaˇciji formalni aparat. Uverenje predstavlja
meru da je neˇsto moguće odnosno verovanja da je tako (moguće naspram
verovatno). Pravilo E1 ∧ E2... → Hβ tako ima faktor uverenja β (certainity
factor) koji ima vrednost od −1 (potpuno netaˇcno) do 1 (potpuno taˇcno).
MYCIN koristi takav pristup (Giarratano, Riley, 1989), s tim da je naglasak
bio na mehanizmu i formuli koja bi imala osobine: komutativna (da bi se
izbegla zavisnost rezultata od redosleda primene pravila) i asimptotna (svako
pravilo koje dodatno podupre uverenje ga povećava asimptotski ka 1).
2.11.3 Mere verovanja i neverovanja i ukupno uverenje
Uvode se mere verovanja µB (belief) i neverovanja µD (disbelief) takod¯e
tako da budu komutativne i asimptotne. Nakon prikupljanja svih podataka
(za i protiv) i raˇcunanja ovih mera za datu hipotezu H se odred¯uje ukupno
uverenje (net belief): β = µB −µD. Na osnovu dokaza E uverenje u hipotezu
se moˇze uvećati ako je p(H|E) > p(H) ili smanjiti ako je p(H|E) < p(H)
(odnosno, povećava se neverovanje u potonjem sluˇcaju):

38 Seminarski rad
µB(H, E) =
1, ako je p(H) = 1
max [p(H|E),p(H)]−p(H)
1−p(H)
, inaˇce.
µD(H, E) =
1, ako je p(H) = 0
min [p(H|E),p(H)]−p(H)
−p(H)
, inaˇce.
... i odavde se vidi da je 0 ≤ µB(H, E) ≤ 1 i 0 ≤ µD(H, E) ≤ 1. Dalje,
β(H, E) = µB(H, E) − µD(H, E) ima vrednost -1 ako E potpuno opovr-
gava H, 0 ako E nije dokaz (nedostatak dokaza - E je nezavisan od H tj.
p(H|E) = p(H) pa su obe mere i uverenje onda jednake 0), ili 1 ako E
potpuno potvrd¯uje H. Zbir β(H, E) + β(¬H, E) uopˇste ne mora biti 1.
2.11.4 Propagiranje uverenja
Za dato pravilo
E → H β(PRAV ILO)
raˇcuna se uverenje kao β(H, E) = β(E)β(PRAV ILO). Ako je u pitanju
konjunkcija
E1 ∧ E2... → H β(PRAV ILO)
onda je:
β(H, E1 ∧ E2...) = min
i
β(Ei)β(PRAV ILO)
a ako je disjunkcija
E1 ∨ E2... → H β(PRAV ILO)
u pitanju onda je:
β(H, E1 ∨ E2...) = max
i
β(Ei)β(PRAV ILO)
Ako dva pravila zakljuˇcuju o istoj hipotezi, onda se ,,akumulira” uverenje
prema (Shortliﬀe, Buchanan, 1975):
µB(H, E1&E2) =
0, µD(H, E1&E2) = 1
µB(H, E1) + µB(H, E2)(1 − µB(H, E1)), inaˇce.

µD(H, E1&E2) =
0, µB(H, E1&E2) = 1
µD(H, E1) + µD(H, E2)(1 − µD(H, E1)), inaˇce.
... odnosno, ako se odmah raˇcuna uverenje (β1 i β2 su izraˇcunata uverenja
dvaju pravila):
β(β1, β2) =



β1 + β2(1 − β1), ako je β1, β2 > 0
β1+β2
1−min [|β1|,|β2|]
, jedan od β1, β2 < 0
β1 + β2(1 + β1) inaˇce.
Pokazuje se da se dubinom ovakvog zakljuˇcivanja brzo gomilaju greˇske (raˇcunanja).
2.11.5 Mogućnost i potrebnost
Kao uopˇsteni koncept mere neuverljivosti (uncertainity) nekog dogad¯aja
(ili skupa) E, Zade, Sugeno, Duboa i Prade (Duboius, Prade, 1988) uvode
tzv. parametar uverenja g(E) : 0 ≤ g(E) ≤ 1, E ⊆ U. Kada je do-
gad¯aj siguran, onda je g(E) = 1 ili ako je nemoguć onda je g(E) = 0
- obratno ne mora da vaˇzi. Mogućnost (possibility) Π : U → [0, 1] je
stepen kojim neka hipoteza H ocenjena mogućom (npr. od strane nekog
eksperta). Mogućnosti H i ¬H su slabo povezane za razlik od njihovih
verovatnoća: max (Π(H), Π(¬H)) = 1. Za nju vaˇzi (∀A, B ⊂ U)Π(A ∪ B) =
max(Π(A), Π(B)). Ako je Π(A) = 1 i A ∩ E = ∅ onda je dogad¯aj E siguran,
inaˇce je Π(A) = 0. Takod¯e, potrebnost (necessity) je funkcija N : U → [0, 1]
td. (∀A, B ⊂ U)N(A ∩ B) ≤ min(N(A), N(B)). Pored ovih, vaˇzna je i
funkcija raspodele mogućnosti (possibility distribution) Poss : U → [0, 1] td.
Poss(E) = Π(E). Vaˇze aksiome:
a1 E1 ⊆ E2 ⇒ g(E1) ≤ g(E2) (monotonost)
a2 (∀A, B ⊂ U)g(A ∪ B) ≥ max(g(A), g(B))
a3 (∀A, B ⊂ U)g(A ∩ B) ≤ min(g(A), g(B))
a4 Π(A) = 1 − N(¬A)
a5 min(N(A), N(¬A)) = 0

40 Seminarski rad
a6 (∀A ⊆ U)Π(A) ≥ N(A)
a7 N(A) > 0 ⇒ Π(A) = 1
a8 Π(A) < 0 ⇒ N(A) = 0
a9 Π(A) + Π(¬A) ≥ 1
a10 N(A) + N(¬A) ≤ 1
Moˇze se pokazati da je Cr ekvivalentno potrebnosti N i Pl da je ekvivalentno
mogućnosti Π akko ˇziˇzni elementi formiraju ugnjeˇzdene nizove skupova (ako
su ˇziˇzni elementi elementarni tj. ˇcine ih samo pojedini dogad¯aji a ne skupovi,
onda je ∀E Cr(E) = Pl(E) = p(E)), tako da su D-S i teorija mogućnosti i
posebnosti proˇsirenje standardne teorije verovatnoće za razliku od teorije uv-
erenja. Ako je E fazi skup onda se distribucija mogućnosti moˇze iz normirane
karakteristiˇcne funkcije tog skupa.
2.12 Raˇcunanje s reˇcima
Ukratko, fazi raˇcunanje s reˇcima (CW = Computing with Words) se bavi
fazi vrednoˇsću kanonskih formi (canonical form) oblika: X is R gde je R fazi
relacija a X uslovljena promenljiva (constrained, u smislu bliskom ,,test-score
semantics” i CLP, Constrained Logic Programming). Viˇse takvih uslova se
grupiˇse oko jednog iskaza p nekog (prirodnog npr.) jezika ˇsto se piˇse kao:
p → X is R
i to je jedna eksplicitacija iskaza p. Spomenut je ranije u tekstu već uslovni
oblik ,,Y is B if X is A”, a ovakvi i prethodni uslovi se nazivaju osnovnim.
Prirodni jezik (NL = Natural Language) nameće potebu za opˇstijim oblikom
uslova, i Zade predlaˇze generalizovani oblik uslova ,,X isr R”gde diskretna
promenljiva ,,r” u kopuli ,,isr” upućuje na koji naˇcin R uslovljava X:
e jednakost (skraćeno =)
d disjunktivno (moguće - possibilistic - skraćeno blanko:
ima znaˇcenje Poss{X = u} = µR(u) gde je R = ΠX distribucija
mogućnosti (possibility distribution))
c konjunktivno

p verovatnosno (npr. X isp N(m, σ2
))
λ vrednost verovatno´ce
u uobiˇcajeno (usuality)
rs sluˇcajni skup (random set, Dempster-ˇSejferova teorija radi sa ovakvim i
prethodnim uslovima - kao pravilo zakljuˇcivanja: X isp P, (X, Y ) is Q →
Y isrs R)
rsf sluˇcajni fazi skup (random fuzzy set)
fg fazi graf (lukovi su obeleˇzene stepenom pripadnosti - vid fazi relacije R =
Ai × Bi za pravila ,,Y is Bi ako X is Ai”)
...
Za propagiranje ovakvih uslova se koriste fazi pravila zakljuˇcivanja kao ˇsto
je GMP, ali i dodatna pravila za pojedine vrste uslova kao ˇsto su to npr.:
Konjunktivno pravilo 1 X is A, X is B
X is A∩B
Konjunktivno pravilo 2 X is A, Y is B
(X,Y ) is A×B
Disjunktivno pravilo 1 X is A ili X is B
X is A∪B
Disjunktivno pravilo 2 X is A ili Y is B
(X,Y ) is (A×V )∪(U×B)
Konjunktivno pravilo za isc X isc A, X isc B
X isc A∩B
Disjunktivno pravilo za isc X isc A ili X isc B
X isc A∪B

42 Seminarski rad
Projektivno pravilo (X,Y ) is A
Y is projV A
gde je projV A = supu A
Surjektivno pravilo X is A
(X,Y ) is A×V
Kompoziciono pravilo X is A, (X,Y ) is B
Y is A◦B
Uopˇsteni modus ponens X is A, Y is C if X is B
Y is A◦(B×C)
Pravilo preslikavanja (princip ekstenzije) X is A
f(X) is f(A)
gde je f : U → V i µf(A)(ν) = supu: ν=f(u) µA(u)
Pravilo inverznog preslikavanja f(X) is A
(X is f(−1)(A)
gde je µf(−1)(A)(u) = µA(f(A))
Pravilo modifikacije uslova X is mA
X is f(A)
gde je m modifikator kao ˇsto je
to negacija (¬) ili odredba (veoma, donekle, zaista, i sl.) a f odred¯uje
kako modifikator menja skup
Pravilo kvalifikacije verovatnoće (X is A) is Λ
P is Λ
gde je X sluˇcajna promenljiva
nad domenom U sa distribucijom (gustinom verovatnoće) p(u), Λ je
lingvistiˇcki verovatnosni izraz (verovatno, veoma verovatno i sl.) i P je
verovatnoća fazi dogad¯aja X is A:
P =
U
µA(u)p(u)du
Konceptualna struktura raˇcunanja s reˇcima polazi od znaˇcenja iskaza p koji
se dvema procedurama iz baze objaˇsnjenja (ED = Explanatory Database)
pretvara u odg. promenljivu X i relaciju R i to je onda instanca te baze
i element baze instanci objaˇsnjenja (EDI). Cilj je iz poˇcetne baze znanja
odnosno iskaza (IDS = Initial Data Set) i upita izvesti iskaz iz zavrˇsne baze
znjanja (TDS = Terminal Data Set).

Iskazi NL
lingv. promenljiva
Polazak Fazi skup
granula
fazi pravilo
fazi graf
iskazi NL
semantika (test−score)
fazi uslovi
propagiranje uslova
izvedeni uslovi
lingv. aproksimacija
iskazi u NL zakljucci
premise
kanonske forme
zaklj. u fazi logici
IDS CW TDS
Iskazi NL
eksplikacija
iskaza
propagiranje
uslova
transformacija
uslova
Takod¯e, Zade izgrad¯uje raˇcun pitanja i odgovora (uspostavlja se fazi
relacija med¯u njima) kao vid pristupa sloˇzenim i nepreciznim sistemima (koji
donosi elemente pretrage fazi baze znanja). Napomena: Zade u svojem tek-
stu koristi sa znaˇcenjem =def :
Deﬁnicija 2.8 Atomsko pitanje Q je odred¯eno trojkom Q (X, B, A), gde
je Q skup objekata (lingvistiˇckih promenljivih) na koje se atomsko pitanje
odnosi, B je oznaka pitanja (telo) odnostno klase objekata ili atributa, A je
skup mogu´cih dozvoljenih odgovora. Kada je potrebno, instance Q, X i A se
obeleˇzavaju malim slovia q, x, a. Kada se X i A podrazumevaju piˇse se:
Q B

44 Seminarski rad
a specifiˇcno pitanje sa dozvoljenim odgovorom
Q/A B?a
odnosno
q/a B?a
Ova trojka se moˇze posmatrati kao skup promenljivih {B(x)}, x ∈ X tako
da vaˇzi B(x) = a i neka numeriˇcka vrednost ili lingvistiˇcka su dodeljeni
promenljivi B(x). Npr. odgovor na pitanje ,,0.8 je da li je vaza crvena”je
ekvivalentno crvena(vaza) = 0.8. Q/A par se naziva pitanje/odgovor parom.
Pitanje je klasifikaciono ako se B odnosi na fazi skup kao objekat, atribu-
ciono ako se odnosi na atribut (vrednost fazi skupa). Kod klasifikacionog
pitanja, odgovor a predstavlja stepen pripadnosti x u B, npr. odgovor moˇze
biti oˇstar (numeriˇcki) a 0.8 ili lingvistiˇcki a srednje. Kod atribu-
cionog pitanja Q = B? odgovor a predstavlja vrednost atributa B, npr.
B starost, i x Pera, gde a moˇze biti numeriˇcki a 35 ili lingvistiˇcki
a veoma mlad td. vaˇzi µmlad = 1 − S(20, 40) za domen U = [0, 100] (za-
pravo z-kriva) i sl.
Ugnjeˇzdeno pitanje ,,Da li je taˇcno da je (...((x is w) is τ1)... is τn)” ima
odgovor oblika a ((x is w) is τ1 · · · is τn).
Na primer, ako je kao ranije B starost i pitanje ,,Da li je taˇcno da (Pera
is mlad)”tada, ako odgovor a 0.5 na pitanje onda je Perina starost zadata
sa B(Pera) = µB
−1
(0.5) = 30 gde je B(Pera) = µB
−1
(τ) = µB
−1
◦τ. Uopˇste,
za a (x is w1) is τ (w1 je fazi podskup domena U) vaˇzi a∗
x is w2 gde
je w2 = µw1
−1
◦ τ, gde je ◦ je kompozicija fazi relacija. Tada je za prethodni

primer τ je lingvistiˇcka istinitosna vrednost karakterisana sa µτ . Za pomenuti
ugnjeˇzdeni upit onda vaˇzi a∗
x is wn+1 gde je:
wn+1 = µwn
−1
◦ τn
wn = µwn−1
−1
◦ τn−1
...
w2 = µ1
−1
◦ τ1
Na osnovu ovoga se definiˇsu sloˇzena (kompozitna) pitanja sa ˇciniocima Q1, · · · , Qn
i telima B1, · · · , Bn koja su n-adiˇcna (npr. ako n = 1 onda su monadiˇcna) i
karakterisana relacionom reprezentacijom B(B1, · · · , Bn). Uvode se tabelarni
zapisi, ili skraćeni algebarski: i-ti red tabele je onda zapisan kao odg. Q/A
parovi Q1r1
i · · · Qnrn
i //Qri ili samo r1
i r2
i · · · rn
i //ri i tada je B = i r1
i r2
i · · · rn
i //ri.
Postoji i analitiˇcka interpretacija ovakvih pitanja. Granajući upiti su onda
oblika Q∗
= a2
1a1
1a3
1//a1 + a2
1a1
1a3
2//a2 + a2
1a1
2//a2 + · · ·.
Viˇse o tome u [words], [GRAN], [SCFL] i [FSNEW].

46 Seminarski rad
2.13 Fazi algoritmi
Fazi algoritam bi naˇcelno mogli opisati kao ured¯en skup fazi instrukcija
nakon ˇcijeg se izvrˇsenja dobija pribliˇzno reˇsenje nekog problema ili neka akcija
(fazi instrukcije se tiˇcu fazi skupova, verovatnoća, dogad¯aja, relacija, funkcija
i drugih fazi entiteta). Kod fazi ekspertnih sistema je naglasak na mehanizmu
fazi zakljuˇcivanja kome je prepuˇstena kontrola toka izvrˇsenja pojedinih op-
eracija. Kod fazi algoritama kontrola toka viˇse liˇci na klasiˇcne algoritme
- mogu se uporediti i sa proˇsirenim mreˇzama prelaska (ATN - Augmented
Transition Networks) kojima su pridodata fazi uslovna pravila na prelasku
i operacije nad fazi skupovima i relacijama (fazi Petri mreˇze i fazi grafovi,
gde se fazi algoritam svodi na fazi relaciju tj. raˇcunanje se tada svodi na
raˇcunanje te fazi relacije). Fazi algoritam podrazumeva i oˇstre (klasiˇcne)
iterativne i kontrolne elemente. Zade algoritme deli u ˇcetiri naˇcelne grupe:
1. Definicioni algoritam - definiˇse traˇzeni fazi skup u terminima zadatih
fazi skupova (izraˇzen fazi operacijama nad njima, moˇzda rekurzivno)
ili daje efektivnu proceduru odred¯ivanja pripadnosti istom (npr. pred-
stavljanje sloˇzenih pojmova kao ˇsto je rukopis jednostavnijim fazi poj-
movima).
2. Generacioni algoritam - za razliku od prethodnih generiˇse traˇzeni skup
(npr. pomenuti rukopis)
3. Relacioni i bihejvioristiˇcki algoritam - opisuje vezu ili veze med¯u fazi
promenljavama, a ako pri tom opisuje (simulira) ponaˇsanje nekog sis-
tema onde je takav algoritam bihejvioristiˇcki.
4. Algoritam odluka - daje pribliˇzan opis strategije ili pravila odluke (npr.
upravljanje nekim sistemom)
Na Zadeovoj stranicu [WWW] se mogu naći njegovi originalni tekstovi, ali i
prezentacije rada BISC (The Berkeley Initiative in Soft Computing), gde se
razmatraju fazi sistemi pomenuti u zadnja dva poslednja odeljka kao i neke
druge njihove primene.

3 Neuronske mreˇze
3.1 Uvod
Prouˇcavanje ljudskog mozga i razmiˇsljanja je u razliˇcitim oblicima staro
hiljadama godina. Osnovnim nauˇcnim i bioloˇskim principima funkcionisanja
mozga raspolaˇzemo tek neˇsto viˇs od 100-200 godina - pogotovu se dugo nije
znalo niˇsta o funkcionisanju osnovnog gradivnog elementa nervnog sistema i
mozga - nervne ćelije, neurona. Mogla bi se napraviti podela disciplina koje
prouˇcavaju funkcionisanje ljudskog mozga i strukture neurona prema broju
neurona: brojem reda 1011
tj. na nivou celog mozga kao organa se bave
logika, psihologija, i sl. Negde na sredini bi bila, recimo, neurohirurgija, a
neurologija i neuronauke onda odatle sve do pojedinih neurona. Veˇstaˇcke
neuronske mreˇze ili skraćeno, neuronske mreˇze (NM), su matematiˇcki i elek-
tronski modeli rada struktura neurona na najniˇzoj lestvici po broju neurona,
od pojedinih do negde reda od 103
do 104
(uglavnom daleko manje, a primera
radi, samo jedan neuron moˇze imati i do 10000 dendrita tj. ,,ulaza” iz drugih
neurona) - i to dosta grubi modeli (ne uzimaju se obzir npr. hemijski procesi
i supstsnce, neurotransmiteri (zaduˇzeni za prenos potencijala u sinaptiˇckim
spojevima), promenu strukture u toku vremena, hormone i drugo, već se uz-
imaju u obzir samo elektriˇcni impulsi) - ali koji dobro aproksimiraju rad NM
na tom nivou.
Istorijski gledano, prvi korak u nastajanju NM napravili su neurofiziolog
1943. Varen Mekalok (Warren McCulloch) i matematiˇcar Volter Pits (Walter
Pitts) svojim radom o tome kako bi neuroni mogli raditi i jednostavnim mod-
elom realizovanim elektriˇcnim kolima (pokazalo se da to nije sasvim taˇcan
model bioloˇskih NM ali je znaˇcajno uticao na kasnije modele - svaki neuron
je funkcija koja zavisi od vremena i ulaznih signala kombonovanih logiˇckim
operacijama, npr. N3(t) = ¬N2(t−1)∨N1(t−2)), zatim Donald Hebb 1949.
otkrićem favorizovanja putanja koje su već koriˇsćene. Nekako s razvojem
raˇcunarskih tehnologija i VI (od 1956. okupljanjem u Dartmutu) uporedo
postaje popularnija i ideja NM - Dˇzon fon Nojman predlaˇze osnovne elek-
tronske elemente za realizaciju neurona, 1959. prva poznata praktiˇcna pri-
mena (ADALINE). Frenk Rozenblat 1962. daje poznatu strukturu ,,Percep-
tron” u knjizi ,,Principi neurodinamike” (ponderisani zbir ulaza i prag koji
daje dve vrednosti) koji je mogao da klasifikuje prostor ulaza u dve klase.
Med¯utim Marvin Minski i Sejmur Papert 1969. u svojoj knjizi ,,Percep-

48 Seminarski rad
troni” pokazuju da takva struktura nemoˇze da realizuje mnoge veoma jed-
nostavne operacije kao ˇsto je to npr. logiˇcka XOR-kapija (jer jednoslojni per-
ceptron klasifikuje samo linearno separabilne skupove - dok je, kako je 1951.
S.C. Kleene pokazao, Mekalok-Pitsov model neurona sposoban raˇcunski ek-
vivalentno elektronskim raˇcunarima). Takvi zakljuˇci i pre svega loˇsa ,,opˇsta
klima” u vezi NM su stvorila krizu i mnogi istraˇzivaˇcki projekti su ostali
bez prihoda. Tako je bilo sve do sredine 80-tih (1982. Dˇzon Hopfild (John
Hopfield, Caltech) i Kohonen naˇsli nove strukture NM i primene, i nekako
back-propagation algoritam postaje ponovo popularan iako ga je grupa au-
tora otkrila joˇs 70-tih: Werbor, Parker, Rumelhart, Hinton, Williams).
3.2 Osnovni model neurona
Bioloˇski neuron, kako je pomenuto, ima mnogo dendrita (ulaza) oko some
(srediˇsnji deo s jedrom) i samo jedan izlaz (akson), koji se preko sinapsi
spaja s mnogo dendrita drugih neurona. Svaki dendrit moˇze uticati na eksc-
itaciju ili inhibiciju neurona - ako je dovoljno ekscitovan, neuron se okida tj.

ˇsalje elektriˇcni impuls (od 70-100 mV koji nastaje kao razlika u potencijalu
teˇcnosti unutar i izvan ćelijske membrane Na-K pumpom) niz akson (u pros-
eku je frekvencija okidanja najviˇse 100 puta u sekundi, a signal nalik talasu
putuje od jedne do druge Ranvijeove taˇcke aksona - ta taˇcka ponovo dostiˇze
potencijal potreban za okidanje tek za 1 ms - refraktorna perioda). Pokazuje
se da je dovoljno sve raˇcunati u vremenski jednakim koracima (sinaptiˇckim
kaˇsnjenjem), iako to nije sasvim precizan model bioloˇske NM. Zanimljivo je
da visok stepen paralelizacije prisutan u bioloˇskoj NM (ˇciji su osnovni el-
ementi - neuroni - snage reda najviˇse 10−3
s) omogućava neuporedivo veću
raˇcunsku moć nego danaˇsnji raˇcunari ˇciji su osnovni elementi brzine reda
10−9
s.
i
r
fa
q
y
t
in
i0
w k
E
ε
k k
(x , y )
x
x* *y
i
w
i1w
i1w
i1
w
w i1
w i1
= b (bias)i0
i
X
i
O
Σ i
PEi
i
2
i
3
i
n−1
i
nX
X
.
.
.
X
X
1X
yi
i
( net )
Osnovne komponente veˇstaˇckog neurona (odnosno modela neurona) kao
osnovnog procesnog elementa (PE - ili procesnog ˇcvora, jedinice) NM su:
1. ulazi sa teˇzinskim koeficijentima (ponderima) - ulazi se obiˇcno
predstavljaju vektorom tj. kolonom realnih brojeva xi
= [xi
j]T
j =
[xi
j(t)]T
j (za i-ti PE), kao i ponderi (sinaptiˇcke teˇzine) wij = wij(t)

50 Seminarski rad
(takod¯e za i-ti PE tj. neuron), koji naˇcelno zavise od vremena tj. od
broja iteracija t - ˇstaviˇse, ceo sistem moˇze zavisiti od vremena i tada
je dinamiˇcki sistem). ˇCesto se koristi i jedan dodatan specijalan kon-
stantni ulaz, tzv. bias bi, ili ako je xi
0 = 1 za sve i onda se moˇze
smatrati da je jednak odgovarajućim ponderima wi0 tj. vektor pondera
b = [wi0]T
i se moˇze posmatrati kao kolona kojom je matrica W = [wij]
proˇsirena s leve strane u [b|W] - ali je kraće isto obeleˇzena sa W.
2. funkcija sumiranja - sumiranje ponderisanih ulaza (ulaza uparenih sa
svojim odgovarajućim teˇzinskim koeficijentima, ˇsto ˇcesto podrazumeva
i njihovo mnoˇzenje) odnosno njihovo agregiranje u jednu vrednost izraˇzenu
opet realnim brojem realizuje se odgovarajućom funkcijom net odnosno
operatorom. To je najˇceˇsće skalarni proizvod (zbir proizvoda ulaza sa
svojim ponderom - tada je vektor funkcija sumiranja svih PE linearni
operator net = [neti]i
T
= Wx + b, ali moˇze biti i neˇsto drugo. Neke
funkcije na tu vrednost naknadno primenjuju i aktivacionu funkciju Fi
koja se recimo menja s vremenom ili zavisi od vremenski prethodne
vrednosti aktivacione funkcije (ako se matrica koeficijenata W = [wij]
prikaˇze kao matrica redova W = [wi]T
tj. wi = [wi1, · · · , wij, · · ·]T
):
neti(t) = net([xi
j(t)]j
T
, [wij(t)]j
T
) =
j
wij(t)xi
j(t) = W(t) xi
(t),
tj. net(wi, xi
) = wT
i · xi
, ai(t) = Fi(ai(t − 1), neti(t))
Umesto indeksa i mogao bi se npr. koristiti par (h, i) indeksa od kojih
h npr. ukazuje kojem sloju pripada dati PE, ali ovako je praktiˇcnije
rasporediti indekse u particije Sh koje predstavljaju slojeve.
3. transfer funkcija - rezultat funkcije sumiranja se prosled¯uje unarnoj
funkciji yi
(a) = fi(ai(t)) koja najˇceˇsće daje vrednost 0 osim ako se
pred¯e prag okidanja (threshold) koji predstavlja osnovni parametar i
zato je sinonim za transfer funkciju funkcija praga okidanja. Neke klase
NM koriste funkcije transfera sa dodatnim parametrom, temperaturnim
koeficijentom (ˇsto nije isto ˇsto i temperatura - ˇsum koji se dodaje po-
jedinim neuronima), koji takod¯e uˇcestvuje u obuˇcavanju NM ˇsto moˇze
dosta da ubrza proces uˇcenja. Primeri transfer funkcija (najˇceˇsće se
upotrebljavaju linearna i sigmoid funkcije izmed¯u ostalog zato ˇsto su
svuda diferencijabilne) oblika y = f(a) sa pragom okidanja u nuli:

kapija, stepenasta funkcija y =
0, a < 0;
1, a ≥ 0.
simetriˇcna kapija y =
−1, a < 0;
1, a ≥ 0.
linearna (identitet) y = a
lin. sa zasićenjem y =



0, a < 0;
a, 0 ≤ a ≤ 1;
1, a > 1.
simetriˇcna lin. sa zasić. y =



−1, a < −1;
a, −1 ≤ a ≤ 1;
1, a > 1.
logaritamski sigmoid y = 1
1+e−a
hiperboliˇcki tangens sigmoid y = ea
−e−a
ea+e−a
softmaks y = eneti
j enetj
pozitivna linearna y =
0, a < 0;
a, a ≥ 0.
integrator y(t) =
t
0
a(τ)dτ
funcija takmiˇcenja 1 samo ako ima najveći izlaz u sloju, 0 inaˇce

52 Seminarski rad
4. skaliranje i ograniˇcenje - izlaz transfer funkcije se mnoˇzi nekim ko-
eficijentom i dodaje mu se neka konstantna vrednost (gain) - ovo se
retko koristi, a cilj je da izlaz u bude u granicama nekog intervala (ko-
risti se u nekim specijalnim modelima bioloˇskih NM - James Anderson,
brain-state-in-the-box).
5. funkcija izlaza i kompeticioni ulazi - uobiˇcajeno je da funkcija
izlaza bude jednaka izlazu transfer funkcije yi
(t) = oi
(t). Neke topologije
NM dozvoljavaju da izlaz bude dodatno modifikovan kompeticionim
ulazima koji dolaze od susednih neurona (na istom nivou ili sa viˇse
nivoa) i inhibiraju ga ako nije dovoljno jak. Drugo, kompeticioni ulazi
ˇcesto utiˇcu na izbor neurona koji će uˇcestvovati u procesu uˇcenja ili
adaptacije.
6. funkcija greˇske i povratno-propagirana vrednost - U većini NM
koje uˇce raˇcuna se razlika nekog ˇzeljenog izlaza (nakon prethodnog
koraka) i trenutnog izlaza (npr. iz skupa ulaza i izlaza za obuˇcavanje)
ε(x) = ∆(y(x)) = y∗
(x) − y(x) gde je ε(x) = [ε(x)j]T
j . Takva razlika
se prosled¯uje funkciji greˇske (koja moˇze da stepenuje razliku, zadrˇzi
njen znak, itd.) i dobijeni rezultat, koji se zove trenutna greˇska ili
term greˇske, se prosled¯uje funkciji uˇcenja nekog (drugog) procesnog
elementa (i to obiˇcno propagiranjem unazad). Raˇcuna se npr. proseˇcna
kvadrirana greˇska nad skupom obuˇcavanja E = 1
p xi
m
j=1 εj(xi)2
, gde
su xi ulazi skupa obuˇcavanja sa p elemenata i m izlaznih neurona.
7. funkcija uˇcenja - u svakom krugu uˇcenja (koji sledi obiˇcno nakon
prethodnih koraka i zapoˇcinje preispitivanjem izlaznih procesnih ele-
menata) funkcija uˇcenja ili adaptaciona funkcija procesnih elemenata
kojima se prosledi ulaz u funkciju uˇcenja modifikuje vrednosti koefi-
cijenata svojeg neurona (npr. zbir ulaznog koeficijenta sa proizvodom
ulaznog koeficijenata i adaptacionog ulaza). Jedan pristupa bi mogao
biti reˇsavanje sistema jednaˇcina (ˇcak diferencijalnog za mnoge klase di-
namiˇckih i rekurentnih NM, fiziˇcki modeli) ˇcije bi reˇsenje (ekvilibrium)
bilo oblika wnovo
ij = G(wistaro
ij , xi, xj, · · ·) ali se to pokazuje neupotre-
bljivim za bilo koju sloˇzeniju strukturu. Uˇcenje moˇze biti nadgledano
(supervised) gde postoji uˇcitelj, bilo kao skup za obuˇcavanje (poz-
natih ispravnih ulaza i izlaza) ili spoljna ocena valjanosti rezultata.
Uˇcenje moˇze biti i nenadgledano (unsupervised) bez spoljne ocene
po nekom ugrad¯enom pravilu - uˇcenje kroz rad, bez primera.

3.3 Grupisanje neurona i struktura NM
Sam neuron (pa ni jedan sloj nepovezanih neurona) nije dovoljan za iole
sloˇzeniji problem. Prvi pokuˇsaj nasumiˇcnog grupisanja i povezivanja neurona
se pokazao neuspeˇsnim - zakljuˇcak: neophodna je struktura NM odnosno
topologija (veza) NM (ako se posmatra NM kao specifiˇcan graf). Najjed-
nostavnija i dosad najˇceˇsće upotrebljavana struktura NM koja se pokazala
veoma uspeˇsnom je raspored¯ivanje neurona po slojevima. Tri osnovna tipa
postoje:
1. Sloj ulaza - vektor ulaza se obiˇcno posmatra izdvojeno od ostatka struk-
ture NM. Preko ulaza NM komunicira sa spoljaˇsnim svetom (npr. sen-
zori) ili ulaznim datotekama
2. skriveni slojevi - nalaze se izmed¯u ulaznog i izlaznog sloja. Moˇze
ih biti viˇse i nepostoji posebno teorijsko ograniˇcenje njihovog broja
osim praktiˇcnih iskustava i nekih delimiˇcnih teorijskih dokaza kojima
se pokazuje da je 4-5 slojeva dovoljno za većinu problema proizvoljne
kompleksnosti. Pokazuje se da povećanje kompleksnosti (kod topologije
primerene problemu) najˇceˇsće zahteva povećanje broja neurona po nekim
slojevima a ne broja slojeva
3. izlazni sloj - neuroni ˇciji se izlazi uzimaju kao rezultat raˇcunanja NM

54 Seminarski rad
Neuroni unutar slojeva obiˇcno nisu povezani osim u nekim sluˇcajevima
gde se takve lateralne veze koriste za takmiˇcenje sa drugima ili inhibiciju
(lateralna inhibicija) - ˇsto zavisi od pondera. Mogu´ca je razliˇcita upotreba
parametara i drugih komponenti (transfer funkcije npr.) po slojevima. Tok
obrade podataka (odnosno signala) ide od ulaznih neurona ka narednim slo-
jevima (skrivenim) sve do izlaznih i veze se grade samo izmed¯u susednih
slojeva (ˇcesto u maniru svaki sa svakim):
• ako postoji veza od i-tog do j-tog PE onda vaˇzi oi = xj
qj
za neke indekse
ulaza qj (s tim da je dozvoljeno da i-ti PE bude povezan sa viˇse drugih
PE - jednostavnosti radi se uzima da je qj = i),
• za vektor ulaznih vrednosti x = [xi]T
i vaˇzi tako xi = xu
qu
gde su u indeksi
ulaznih PE a qu odg. indeksi ulaza (jedan ulaz moˇze biti povezan sa
viˇse PE - jednostavnosti radi uzima se da se poklapa qu = i),
• vektor izlaznih vrednosti y = [yj]T
j je isto tako jednak [ov
]T
gde su v
indeksi odgovaraju´cih izlaznih PE

Kod ranije opisane matrice Wh = [wij] sloja h (h = 1, r, formata (uh +
1) × sh) indeks i oznaˇcava onda indeks PE u trenutnom sloju a indeks j
prethodnog sloja. Ako se posmatra matrica W (formata (s + r + n + 1) ×
(s + r + n + 1)) svih PE X = [xi
]i onda je praktiˇcno koristiti podmatrice Wh
namenjene datom sloju h, ali se onda dodatno mora paziti na veze med¯u PE
(koji izlazi se dodeljuju kojim ulazima). Ako se W prikaˇze na sledeći naˇcin:
net[h] = Wx[h] =











I1 0 0 · · · 0
W1 0 0 · · · 0
0 I2 0 · · · 0
0 W2 0 · · · 0
...
...
...
0 · · · 0 Ir 0
0 · · · 0 Wr 0m

































0
...
0
xh1−1
≡ 0
xh1
xh1+1
...
xh2
xh2+1
≡ 0
0
...
0






















, Ih = [1, 0, · · · , 0]
gde je s broj PE, r broj slojeva, a podmatrica Wh ona koja se odnosi na sloj h
(ulazni sloj u x[h] se posmatra kao nekakav prvi niz vrednosti, zatim slede os-
tale izlazne komponente svakog od slojeva redom, sve od izlaznog; vrste Ih su
ˇsirine kao i Wh, a tu su samo da saˇcuvaju bias za naredni sloj), onda se vektor
ulaznih vrednosti x = [x0, x1, · · ·]T
(bias x0 = 1) za dati sloj moˇze prikazati
kao x[h] = [0, · · · , 0|xh1
· · · xh2
|0, · · · , 0]T
gde su h1 i h2 poˇcetni i krajnji indeks
sloja h (h2 −h1 +1 su particije s+r+n+1, pod uslovom da su tako ured¯eni).
Raˇcunanje onda poˇcinje ulaznim vektorom [x0, · · · , xn, 0, · · · , 0] ∈ Rn
i slojem
1, tako da izlazi y[h] = [0, · · · , 0|yh1
· · · yh2
|0, · · · , 0]T
= f(net[h]) = f(Wx[h])
postaju ulazi narednog sloja tj. x[2]=y[1], i tako redom do poslednjeg sloja
y[r] = [0, · · · , 0, y1, · · · , ym]T
i vektora izlaza y ∈ Rm
(najbolje je da f vrˇsi
bar ,,pomeranje” za svaki sloj na odg. pozicije indeksa u y, taˇcnije za ˇsirinu
Wh jer se tako onda koristi jedna matrica W za sve slojeve, npr. f(x) =
f0([ 0h 0
E 0 ]x) ...). Ovo je samo jedan od mogućih naˇcina reprezentacije i al-
goritma raˇcunjanja. Ovakav model raˇcunanja je poznat kao raˇcunanje napred
(feedforward) koji se prepoznaje po skoro-dijagonalnoj strukturi matrice W,
ali su moguće i druge varijante. Neki put se koriste povratne veze (feed-

56 Seminarski rad
back, rekurentne NM - ove NM naruˇsavaju prethodno pomenutu dijagonal-
nost i ˇcine performanse i uˇcenje sloˇzenijim) - od krajnjih neurona (izlaza
obiˇcno) ka prethodnim (npr. u smislu adaptacije ili nekog posebnog mod-
ela toka iteracija raˇcunanja po slojevima - rekurentni ciklus daje rezultat
kada dostigne ekvilibrijum tj. postane stabilan) - ovo je formalizam oblika
konaˇcnih automata ([NN-AA], gde se stabilnost upored¯uje sa osobinom ne-
promenjivosti stanja konaˇcnog automata, vektor pondera je stanje, funkcija
uˇcenja je funkcija promene stanja, itd). Takod¯e, ˇcesto se strukturom NM
eksplicitno ili implicitno (zavisno od naˇcina obuke i toka raˇcunanja) u pro-
cesu raˇcunanja stvaraju specijalizovani slojevi ili ˇcak delovi slojeva kojima
se postiˇze neki specifiˇcan zadatak ili deo reˇsenja problema (npr. ulazni neu-
roni vrˇse nekakvo raspored¯ivanje slike kao ulaznog signala unutraˇsnjem sloju
koji izdvaja tj. klasifikuje njegove odred¯ene osobine (,,feature selectors”,
zaobljenost, vertikalne i horizontalne crte) a onda ih naredni sloj finije klasi-
fikuje u odred¯ena slova).
Na kraju, ovako opisana (jedna od najopˇstijih) klasa NM predstavlja neku
vrstu ,,univerzalnih klasifikatora” ili aproksimatora objektivne funkcije
f : Rn
→ Rm
, odakle slede mnoge osobine ali i ograniˇcenja NM (upotrebom
klasiˇcnog aparata matematiˇcke analize ili drugih metoda maˇsinskog uˇcenja -
npr. da bi se odredio potreban broj slojeva i PE, ili potrebna veliˇcina skupa
obuˇcavanja i poˇcetni parametri obuke), i pitanje kada i koje takve funkcije
pripadaju NERF klasi (Network Efficiently Representable Functions).
3.4 Obuka i uˇcenje NM
Brzina uˇcenja η je jedan od bitnih parametara koji utiˇcu na proces uˇcenja
NM (srazmeran je globalnom koeficijentu funkcija uˇcenja tj. utiˇce na veliˇcine
koraka (delti) kojima se menjaju vrednosti u procesu uˇcenja). Ako je brz-
ina premala onda proces moˇze da traje predugo, a ako je brzina prevelika
onda se moˇze desiti da u procesu uˇcenja ne dod¯e do nekih finijih promena i

eliminacija nepotrebnih osobina (u gradijent metodi globalni optimum moˇze
previlikim korakom biti preskoˇcen; mnoge varijante obuke su vidovi gradijent
(hill-climbing) pretraˇzivanja prostora stanja u cilju minimizovanja greˇske) ili
proces moˇze da postane nestabilan (traˇze se metode koje koriste i jedno i
drugo). Topologija NM je ˇcesto statiˇcna (oznaˇceni graf tj. veze PE, broj slo-
jeva i broj PE po slojevima), ˇcak je poˇzeljno npr. u matrici nalik W obeleˇziti
pondere koji se ne menjaju. Med¯utim, moguće je da se u procesu obuˇcavanja
i topologija menja pored koeficijenata. Zakoni uˇcenja:
Hebovo pravilo Ako su dva povezana neurona oba aktivna (ekscitovana)
onda treba povećati ponder veze izmed¯u njih
Hopfildovo pravilo Sliˇcno prethodnom - samo se uzima u obzir i kada oba
neurona nisu aktivna i tada se smanjuje odg. ponder, a uvećanja i
smanjenja pondera se rade srazmerno brzini uˇcenja
Delta pravilo Najˇceˇsće upotrebljavano, gde se ulazni koeficijenti smanjuju
tako da se smanji razlika trenutnog i ˇzeljenog izlaza. Pravilo menja
pondere tako da smanjuje proseˇcnu kvadriranu greku NM (Least Mean
Square = LMS metod, ili poznato kao Widrow-Hoff pravilo uˇcenja).
Povratno propagiranje (back-propagation) kao uˇcenje radi tako ˇsto
izvod transfer funkcije od delte propagira na prethodni nivo da bi
izraˇcunao potrebne razlike pondera i tako redom sve do ulaznog nivoa,
a proces raˇcunanja vrednosti izlaza na osnovu ulaza (i takav tip mreˇze)
se zove raˇcuanje napred (feedforward). Treba voditi raˇcuna o tome
da skup za obuˇcavanje bude potpuno nasumiˇcno raspored¯en, inaˇce se
moˇze desiti da NM nemoˇze da dostigne ˇzeljenu taˇcnost.
Pravilo spuˇstanja niz gradijent Gotovo isto kao i prethodno pravilo, uz
dodatni koeficijent uˇcenja koji se mnoˇzi vrednoˇsću uˇcenja kojom se
menja ponder - ovo se koristi npr. kod NM gde su potebne razliˇcite
brzine uˇcenja po razliˇcitim slojevima NM. Pokazuje se da manja brzina
u ulaznim slojevima i veća u izlaznim ubrzava konvergenciju u mnogim
sluˇcajevima (ovo je korisno kada npr. ne postoji postoji poseban model
na osnovu koga su formirani ulazi). Optimalna vrednost brzine uˇcenja
je ηopt = 1/λmax gde je λmax najveća karakteristiˇcna vrednost Hesiana
greˇske H(w) = [ ∂2E(w)
∂wki∂wkj
]ij (primer ocene u [LSC]), 0 < ηk < 2ηopt td.
je wki(t + 1) = wki(t) − ηk
∂E
∂wki
.

58 Seminarski rad
Kohonenovo pravilo uˇcenja (Teuvo Kohonen) procesni elementi se takmiˇce
da bi dobili priliku da uˇce i menjaju svoje koeficijente. Procesni element
s najvećim izlazom (,,pobednik”) dobija priliku da inhibira takmace ili
da ekscitira susede. Jedino pobednikov izlaz se raˇcuna i jedino pobed-
nik i susedi imaju pravo da menjaju svoje koeficijente. Uobiˇcajeno
je da je na poˇcetku definicija susedstva veća, ali da se suˇzava tokom
obuke. Pobedniˇcki element je po definiciji najbliˇzi ulazu pa se kaˇze da
ovavke NM modeliraju distribuciju ulaza (ˇsto je dobro za statistiˇcka i
topoloˇska modeliranja) i zovu se zato samoorganizujućim preslikavan-
jima ili samoorganizujućim topologijama.
Pravilo kaskadne korelacije Pravilo (Scott Fahlman) gde se poˇcinje od
nekog okvira i minimalne strukture NM, a onda se tokom obuke di-
namiˇcki dodaju PE u skrivenim slojevima (ili ˇcitavi slojevi) i njihovi
koeficijenti se zamrzavaju nakon obuke i postaju stalni detektori os-
obina (feature detectors).
3.5 Propagiranje unazad
Klasiˇcan algoritam obuke uopˇstenim delta pravilom i povratnim propagi-
ranjem, kao i odgovarajuća struktura NM raˇcunanjem unapred jeste najˇceˇsće
koriˇsćen i primenjivan oblik NM. Uopˇsteni zadatak je aproksimacija funkcije
φ : Rn
→ Rm
uz dovoljno dobar skup obuke (training set) S = {(x∗
k, y∗
k)}k=1,p gde
je y∗
k = φ(x∗
k), 1 ≤ k ≤ p i p dovljno veliki broj (kriterijumi za S i p slede
kasnije). Tada se za svaki par obuˇcavanja (x∗
k, y∗
k) = ([x∗
ku]T
u , [y∗
kv]T
v ) raˇcuna
aproksimacija yk na osnovu xk = x∗
k raˇcunanjem unapred. Vaˇzi xku = xki
qi
tj. xku = xki
u prema ranijoj konvenciji zapisa, gde je i indeks proizvoljnjog
ulaznog PE sa odgovarajućim indeksom ulaza qi = u (svi ulazni PE uzi-
maju odgovarajuće ulazne vrednosti iz xk), onda po ranijim formulama vaˇzi
(zanemareno je vreme, aktivaciona funkcija je identiˇcna funkciji sumiranja):
netk
i (t) = net([xki
j ]T
j
, [wk
ij]T
j
) =
j
wk
ijxki
j ,
tj. net(wk
i , xk) = (wk
i )
T
· xk, ak
i = netk
i , oki
= yki
= fki(ak
i )
Moˇze se pretpostaviti da je kod wij indeks i polazna PE a indeks j naredna
PE u raˇcunanju (W bi mogla biti praktiˇcno kvadranta matrica svih PE uz

dodatak kolona slobodnih vektora tj. slobodnih koeficijenata po ranije nave-
denoj konvenciji, ali se uglavnom raˇcuna samo sloj po sloj, a i vektor xk
se
onda formira na odgovorajući naˇcin, npr. koordinate koje se ne raˇcunaju su
jednake nuli). Sliˇcno vaˇzi za izlazne ˇcvorove i izlazne vrednosti yk = [ykj]T
j :
ykv = okj
= ykj
= fkj(ak
j ), gde su j indeksi odgovarajućih izlaznih PE. Skica
algoritma povratne propagacije kod kojeg poˇcetne vrednosti W nisu posebno
bitne bi bila:
1. raˇcuna se izlaz yk na osnovu x∗
k iz skupa za obuˇcavanje: yk = f(Wx∗
k)
2. upored¯uju se vrednosti zadatih izlaza y∗
k i dobijenih yk: εkj = y∗
kj −ykj,
i raˇcuna se greˇska odnosno funkcija greˇske:
E = 2
p k Ek gde je Ek = 1
2
m
j=1 εkj
2
3. raˇcuna se funkcija uˇcenja (koliko treba dodati ili oduzeti svakom koefi-
cijenu) na osnovu povratnih veza i delta pravila - odgovor na pitanje
koliko i u kom smeru promeniti (povećati ili smanjiti - da bi se smanjila
razlika ide se u pravcu negativnog gradijenta) koeficijente daje gradi-
jent Ek = [ ∂Ek
∂wjv
]j gde vaˇzi ∂Ek
∂wjv
= −(y∗
kj − ykj)
∂fj
∂netk
j
∂netk
j
∂wjv
i gde su j
indeksi sloja neurona koji se razmatra (poˇcinje se od izlaznog). Prema
definiciji vaˇzi:
∂netk
j
∂wjv
= (
∂
∂wjv
L
v=1
wjvxkv) = xkv
−
∂Ek
∂wjv
= (y∗
kj − ykj)fj (netk
j )xkv
Ako se definiˇse delta ∆kwjv =def η(y∗
kj − ykj)fj (netk
j )xkv = ηδkjxkv,
gde je term greˇske δkj =def (y∗
kj − ykj)fj (netk
j ) = εkjfj (netk
j ), (η > 0
je brzina uˇcenja) onda je funkcija uˇcenja u tom koraku definisana sa:
wjv(t + 1) = wjv(t) + ∆kwjv(t) = wjv(t) + ηδkj(t)xkv(t)
Ako je transfer funkcija linearna, onda je fj = 1 i tada je
∆kwjv =def η(y∗
kj − ykj)xkv

60 Seminarski rad
a ako je funkcija logaritamski sigmoid onda je fj = fj(1−fj) = ykj(1−
ykj) i tada je
∆kwjv =def η(y∗
kj − ykj)ykj(1 − ykj)xkv
4. promeni zadate koeficijente prema prethodnom delta pravilu za sve PE
u istom sloju, a onda to ponavljaj za prethodne slojeve redom sve do
ulaznog uz pretpostavku da je ispravka ulaza trenutnog sloja jednaka
greˇsci izlaza prethodnog sloja:
• osnovno pitanje je kako izraˇcunatu greˇsku distribuirati na odgo-
varajuće izlaze prethodnog sloja:
Ek =
1
2
m
j=1
(y∗
kj − ykj)2
=
1
2
m
j=1
(y∗
kj − fj(netk
j ))
2
=
=
1
2
m
j=1
(y∗
kj − fj(
v
wk
jvxkj
v ))
2
• gde se pretpostavlja da je veza izlaza prethodnog sloja v i ulaza
narednog sloja j: ykv
= xk
j i dalje onda vaˇzi:
∂Ek
∂wvu
=
1
2 j
∂
∂wvu
(y∗
kj − ykj)2
= −
j
(y∗
kj − ykj)
∂fj
∂netk
u
∂netk
u
∂wvu
∆kwvu = ηfv (netk
v)xk
u
j
(y∗
kj − ykj)fj (netk
j )wjv
• Dakle, ispravka koeficijenata prethodnog sloja zavisi od termova
greˇsaka narednog sloja:
∆kwvuηfv (netk
v)xk
u
j
δkjwjv, δkv = fv (netk
v)
j
δkjwjv
wvu(t + 1) = wvu(t) + ηδkvxk
u
dakle, term greˇske skrivenog sloja je isti kao i term greˇske za ulazni
sloj. Moˇze biti koristan i faktor momenta α:
wvu(t + 1) = wvu(t) + ηδkvxk
u + α∆wvu(t − 1)

Soft Computing

Recommended

Recommended

More Related Content

Viewers also liked

Viewers also liked (14)

Similar to Soft Computing

Similar to Soft Computing (20)

More from Zoran Popovic

More from Zoran Popovic (8)

Recently uploaded

Recently uploaded (16)

Soft Computing