Teoria informacji pragmatycznej

Uwagi wstępne
Twierdzenia i postulaty E. U. von Weizs¨ckera i Ch. von Weizs¨cker
a
a
Ilościowa teoria Edwarda D. Weinbergera
Teoria informacji pragmatycznej - beim Grabben
Na marginesie: idea sieci pragmatycznej (Web 4.0)

Filozoﬁa Informacji, Wykład IX - Teoria informacji
pragmatycznej
Artur Machlarz

17 stycznia 2014

Artur Machlarz

Filozoﬁa Informacji, Wykład IX - Teoria informacji pragmatycznej

Uwagi wstępne
a
a

Plan wykładu
1

2
3

4

5

Uwagi wstępne
Idea teorii informacji pragmatycznej
Uwagi historyczne
Ogólne założenia teorii informacji pragmatycznej
a
a
Uwagi Grassbergera (1991) - pojęcie złożoności
Uwagi Crutchfielda i Younga (1989) - pojęcie złożoności
Formalna definicja pragmatycznej informacji
Podstawowe twierdzenia
Modyfikacja przekonań
Zastosowanie teorii Weinbergera
Gaerdenforsa dynamiczna semantyka dla modelu Bayesowskiego
Idea sieci semantycznej (Web 3.0)
Wizja Pragmatic Web
Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

Ocena efektywności procesu komunikacji - Weaver
Wg Warrena Weavera pełna teoria komunikacji powinna być zdolna do
opisu trzech poziomów komunikacji, które mają na siebie wzajemny
wpływ:
Poziom 1 Jak dokładnie mogą być przekazane symbole reprezentujące
określone treści (problem stricte techniczny)

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

wpływ:
Poziom 2 Jak precyzyjnie mogą być przekazane symbole niosące określone
znaczenie (problem semantyczny)

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

wpływ:
Poziom 2 Jak precyzyjnie mogą być przekazane symbole niosące określone
znaczenie (problem semantyczny)
Poziom 3 Jak efektywna jest otrzymana wiadomość odnośnie modyﬁkacji
zachowania odbiorcy (problem efektywności, czyli problem
pragmatyczny)
(W. Weaver and C. E. Shannon, The Mathematical Theory of
Communication, Urbana, Illinois: University of Illinois Press, 1949, ss.
95-96)
Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

Dwie uwagi do klasyfikacji Weavera:
Podział czynników wpływających na efektywność procesu
komunikacji dokonany przez Weavera w zasadzie odpowiada
klasyfikacji zjawisk semiotycznych dokonanej przez Morrisa (1955).
Efektywność z klasyfikacji Weavera odpowiada pragmatyce Morrisa.
O teorii Shannona zaś często mówi się jako o teorii dotyczącej
aspektu syntaktycznego informacji.

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

Dwie uwagi do klasyfikacji Weavera:
Podział czynników wpływających na efektywność procesu
komunikacji dokonany przez Weavera w zasadzie odpowiada
klasyfikacji zjawisk semiotycznych dokonanej przez Morrisa (1955).
Efektywność z klasyfikacji Weavera odpowiada pragmatyce Morrisa.
O teorii Shannona zaś często mówi się jako o teorii dotyczącej
aspektu syntaktycznego informacji.
Mimo wszystkich ograniczeń teorii Shannona: wg Weavera jest ona
także teorią dla pozostałych trzech poziomów. W omawianych
dotąd teoriach informacji semantycznej zakładaliśmy, że tak właśnie
jest. Jest to założenie, które będzie obowiązywało także w
omawianych teoriach informacji pragmatycznej.

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

Teoria informacji pragmatycznej - idea

Przyjmujemy, że otrzymana wiadomość, zawierająca informację, wywiera
pewien wpływ na odbiorcę. Wpływ może być trojakiego rodzaju:
modyﬁkacja stanu wiedzy odbiorcy (von Weizsaecker),

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne


bezpośrednia modyﬁkacja zachowania odbiorcy (von Weizsaecker),

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne


zmiana wszelkiego rodzaju dyspozycji agenta do działania, które
związane są z procesami poznawczymi (beim Graben).

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne


zmiana wszelkiego rodzaju dyspozycji agenta do działania, które
związane są z procesami poznawczymi (beim Graben).
Teoria informacji pragmatycznej zajmuje się drugim i trzecim rodzajem
wpływu na odbiorcę, pierwszym zaś tylko o tyle, o ile stan wiedzy ma
znaczenie jako czynnik decyzyjny.

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

Wizja teorii pragmatycznej w BHC

W teorii BHC pojawia się perspektywa pragmatyczna, ale tylko jako
zadanie na przyszłość. Gwoli przypomnienia:
wartość informacyjna w BHC jest odwrotnie proporcjonalna do
zakresu zdania

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne


zakresu zdania
jest jednoznacznie wyznaczona przez system językowy i funkcję
rozkładu prawdopodobieństwa na możliwe opisy stanów rzeczy

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne


zakresu zdania
jest jednoznacznie wyznaczona przez system językowy i funkcję
rozkładu prawdopodobieństwa na możliwe opisy stanów rzeczy
pragmatyczny wymiar tej teorii polegałby najprawdopodobniej na
tym, że w pierwszym rzędzie wzięlibyśmy pod uwagę zdolność
odbiorcy do dokonywania wnioskowań (tzn. do odkrywania
logicznych konsekwencji otrzymywanych wiadomości).

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

“Pragmatyczne” teorie w LIS i IR

Perspektywa użytkownika systemu informacyjnego jest bardzo ważna w
teoriach LIS i IR: zarówno w konstruowanych modelach zachowań
informacyjnych jak i fundamentalnej dla tych dziedzin problematyki
relewancji informacji. Informacja nie może być relewantna niezależnie od
czynnika subiektywnego. Efektywność systemu informacyjnego jest
oceniana z zasady przez satysfakcję użytkownika.

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

Ograniczenia omawianych dotychczas teorii

Ograniczenia omawianych dotąd teorii informacji:
występujące zmienne dotyczą poziomu syntaktycznego albo
semantycznego, bez uwzględnienia relnych potrzeb użytkownika,

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne


w teorii Shannona, BHC wartość informacyjną wiadomości traktuje
się jako coś inwariantnego względem czasu (to zastrzeżenie nie
dotyczy Hintikki oraz Dretskego i Floridiego),

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne


w teorii Shannona, BHC wartość informacyjną wiadomości traktuje
się jako coś inwariantnego względem czasu (to zastrzeżenie nie
dotyczy Hintikki oraz Dretskego i Floridiego),
zakłada się, że rozkład prawdopodobieństwa jest znany albo może
być wywnioskowany z obserwacji określonej sytuacji - nie uwzględnia
się związku z aktualnymi zainteresowaniami i uprzedniej wiedzy
odbiorcy.

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

Teoria informacji pragmatycznej - postulaty

Podstawowe postulaty teorii informacji pragmatycznej:
1

użytkownik informacji jest logicznie pierwotny względem źródła
informacji;

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne


1

informacji;

2

opis procesu jest logicznie ważniejszy niż opis struktury danych;

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne


1

informacji;

2


3

interakcja ze środowiskiem jest logicznie ważniejsza niż opis
rodzajów reprezentacji informacji;

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne


1

informacji;

2


3

interakcja ze środowiskiem jest logicznie ważniejsza niż opis
rodzajów reprezentacji informacji;

4

trywialna uwaga: wartość informacji pragmatycznej jest zależna od
szerokiego spektrum czynników składających się na kontekst; należy
zwrócić szczególną uwagę na zależność od czasu (a przynajmniej
chronologii zdarzeń).

Artur Machlarz


Uwagi wstępne
a
a

Uwagi historyczne

Teoria informacji pragmatycznej - cel

Zadania teorii informacji pragmatycznej:
wsparcie dla teorii decyzji,
wyjaśnienie procesów ewolucyjnych w tzw. modelu quasi-species
(aczkolwiek z roszczeniem do uogólnienia wyników na wszelkie formy
agentów i ich działań - E. Weinberger),
wsparcie opisu wszelkiego rodzaju aktywności poznawczej.

Artur Machlarz


Uwagi wstępne
a
a

E. U. von Weizs¨cker i Ch. von Weizs¨cker - trzy
a
a
dezyderaty
Prace von Weizsaeckerów stanowią punkt wyjścia dla omawianych dziś
pragmatycznych teorii informacji. Zdaniem Ernsta U. i Christine von
Weizsaecker możliwość zrozumienia informacji pojawia się dopiero w
odpowiednio złożonych i dużych systemach
Zrozumienie, albo - bardziej ogólnie - wpływ na słuchacza, może
manifestować się w:
bezpośredniej reakcji na otrzymaną informację,
wzbogacenia pewnego rodzaju zapasów, które mogą być
wykorzystane później.
E.U., Ch. von Weizsaecker, Aufbau der Physic, Muenchen 1985, s. 355.

Artur Machlarz


Uwagi wstępne
a
a

a
a
dezyderaty
Von Weizs¨ckerowie sformułowali trzy ogólne dezyderaty względem
a
przyszłych teorii informacji pragmatycznej:
1

pragmatyczna informacja może być oszacowana tylko przez
oszacowanie wpływu na odbiorcę,

Artur Machlarz


Uwagi wstępne
a
a

a
a
dezyderaty
a
1


2

pragmatyczna informacja powinna dążyć do zera w dwóch skrajnych
sytucjach: kompletnej nowości i pełnego potwierdzenia,

Artur Machlarz


Uwagi wstępne
a
a

a
a
dezyderaty
a
1


2

pragmatyczna informacja powinna dążyć do zera w dwóch skrajnych
sytucjach: kompletnej nowości i pełnego potwierdzenia,

3

pragmatyczna informacja wykazuje własności nieklasyczne.
E. U. von Weizs¨cker i Ch. von Weizs¨cker, Wiederaufname der
a
a
begriﬄichen Frage: Was ist Information? (1972), s. 541 n.

Artur Machlarz


Uwagi wstępne
a
a

E. U. von Weizs¨cker i Ch. von Weizs¨cker - dezyderat I
a
a

Informacje są przeznaczone do działania - działają przez swojego
odbiorcę, zmieniają też samego odbiorcę. W szczególności zmieniają
oczekiwanie odbiorcy odnośnie prawdopodobieństwa przyszłych zdarzeń
skorelowanych z otrzymaną informacją.

Artur Machlarz


Uwagi wstępne
a
a

E. U. von Weizs¨cker i Ch. von Weizs¨cker - dezyderat II
a
a
Nowość i potwierdzenie (novelty and conﬁrmation) to czynniki,
które się wzajemnie uzupełniają. Nowość odnosi się do entropii,
potwierdzenie do negentropii (redundancji, G = 1 - H).
pragmatyczna informacja zachowywać się zatem będzie podobnie do
miary złożoności zależnej niemonotonicznie od przypadkowości
systemu.
Gernert (1996, 2006) - nowość można mierzyć jako brak
podobieństwa między wiadomości i faktyczną wiedzą jej odbiorcy.
Potwierdzenie zaś jako podobieństwo między wiadomością i
oczekiwaniem odnośnie celu. Do ewaluacji podobieństwa można
użyć Shannona teorii informacji.

Artur Machlarz


Uwagi wstępne
a
a

E. U. von Weizs¨cker i Ch. von Weizs¨cker - dezyderat III
a
a

Nieklasyczne cechy pragmatycznej informacji oznaczają, że musimy
uwzględnić działanie w warunkach niepewności. Tzn. należy uwzględnić
naturalną sytuację, gdy nie są znane wszystkie możliwe konsekwencje
możliwych decyzji - można tylko oszacować ich prawdopodobieństwo,
które podlega rewizji w sytuacji otrzymania relewantnych informacji.

Artur Machlarz


Uwagi wstępne
a
a

Wniosek

Maksymalną wartość pragmatycznej informacji przypiszemy wiadomości,
która jest nośnikiem optymalnej kompozycji nowości i potwierdzenia.
Naturalnie - co warto podkreślić - czynniki te są względne do dyspozycji
odbiorcy.

Artur Machlarz


Uwagi wstępne
a
a

E. U. von Weizs¨cker i Ch. von Weizs¨cker - kolejne
a
a
założenia

Teoria informacji pragmatycznej (w sensie ilościowym) wymaga zatem
przyjęcia przynajmniej dwóch ważnych założeń:
możliwe jest podanie liczbowej miary (cardinal measurement) N nowości i C - potwierdzenia,

Artur Machlarz


Uwagi wstępne
a
a

E. U. von Weizs¨cker i Ch. von Weizs¨cker - kolejne
a
a
założenia

Teoria informacji pragmatycznej (w sensie ilościowym) wymaga zatem
przyjęcia przynajmniej dwóch ważnych założeń:
możliwe jest podanie liczbowej miary (cardinal measurement) N nowości i C - potwierdzenia,
zarówno wiadomość jak i oczekiwania odbiorcy mogą być opisane
formalnie tak, że uda się uchwycić podobieństwo (lub jego brak)
między zawartością informacji a dyspozycjami agenta.

Artur Machlarz


Uwagi wstępne
a
a

E. U. von Weizs¨cker i Ch. von Weizs¨cker - trudności
a
a

Założenia wymienione wyżej stanowią jednocześnie poważne wyzwania
teorii informacji pragmatycznej:
ustalenie miary nowości przez podanie formalnego opisu ilościowego
podobieństwa między wiadomością i uprzednią wiedzą odbiorcy,

Artur Machlarz


Uwagi wstępne
a
a

E. U. von Weizs¨cker i Ch. von Weizs¨cker - trudności
a
a

Założenia wymienione wyżej stanowią jednocześnie poważne wyzwania
teorii informacji pragmatycznej:
ustalenie miary nowości przez podanie formalnego opisu ilościowego
podobieństwa między wiadomością i uprzednią wiedzą odbiorcy,
ustalenie miary potwierdzenia przez podanie formalnego opisu
ilościowego podobieństwa między wiadomością i wymogami
informacyjnymi odbiorcy.

Artur Machlarz


Uwagi wstępne
a
a


Uwagi Grassbergera

Niektórzy naukowcy uważają, że wymaganą miarę zawartości treści
informacyjnej można uznać za ekwiwalentną ze złożonością zbioru
danych:
Grassberger (1986, 1991): niski/wysoki poziom wartości
informacji może wynikać bezpośrednio z prawidłowości
(regularity) albo z przypadkowości (randomness) w źródle
informacji.

Artur Machlarz


Uwagi wstępne
a
a


Uwagi Grassbergera - pojęcie złożoności

GRASSBERGER:
Złożoność układu stanowi istotną trudność i wyzwanie układy złożone są bowiem jednocześnie w pewnym sensie
uporządkowane i nieuporządkowane. Nie da się mówić o
złożoności zadania, wzoru, maszyny, algorytmu bez odniesienia
do obserwatora czy użytkownika. Jedną z kluczowych własności
systemów złożonych jest to, że nie istnieje w ich przypadku
jeden fundamentalny cel, do realizacji którego służą.

Artur Machlarz


Uwagi wstępne
a
a


Uwagi Crutchfielda i Younga (1989)

Crutchfield i Young uważają, że oparcie definicji informacji
pragmatycznej na pojęciu złożoności wymaga:
1

stworzenia odpowiedniego modelu danych;

2

podania procedury ilościowego oszacowania złożoności tego modelu.

Artur Machlarz


Uwagi wstępne
a
a


Crutchﬁled and Young (1989) proponują abstrakcyjne pojęcie
złożoności oparte na informacji zawartej w minimalnej ilości
równoważnych klas uzyskiwanych przez redukcję zbioru danych
względem symetrii.

Artur Machlarz


Uwagi wstępne
a
a


względem symetrii.
Taka deﬁnicja daje dychotomię między makroopisem
dopuszczającym taką redukcję i mikroopisem, który takiej redukcji
nie dopuszcza. Oczywiście problemem, który musi się tu pojawić,
jest sprawa podstaw rozpoznania takich symetrii.

Artur Machlarz


Uwagi wstępne
a
a


względem symetrii.
Taka deﬁnicja daje dychotomię między makroopisem
dopuszczającym taką redukcję i mikroopisem, który takiej redukcji
nie dopuszcza. Oczywiście problemem, który musi się tu pojawić,
jest sprawa podstaw rozpoznania takich symetrii.
zmiana zachowania, pragmatyczny aspekt wiadomości, jest
odmienny od pojęcia złożoności w tym sensie, ponieważ odbiorca
może świadomie zignorować takie struktury w wiadomościach, które
wydają mu się irrelewantne.

Artur Machlarz


Uwagi wstępne
a
a


Nieformalna deﬁnicja pragmatycznej informacji

Wartość informacji pragmatycznej w teorii Weinbergera jest oparta na
ocenie jej przydatności w podejmowaiu “informed decision”. Stąd
informację pragmatyczną deﬁniuje się jako:
powodowaną przez informację zmianę w rozkładzie
prawdopodobieństwa działań odbiorcy (różnicę między tym co
było przed otrzymaniem komunikatu i po jego otrzymaniu odnośnie pewnego zakresu, pewnego uniwersum).

Artur Machlarz


Uwagi wstępne
a
a


Nieformalna definicja pragmatycznej informacji

Znaczenie informacji (jej wartość) wynika z jej użyteczności w
podejmowaniu “informed decisions”. Istotną implikacją tego twierdzenia
jest ilościowa definicja informacji pragmatycznej, która jest miarą wpływu
wiadomości na następujące po jej otrzymaniu działania odbiorcy.
Zadaniem, które należałoby teraz rozwiązać jest zdefiniowanie miary
pozwalającej porównać dwa różne rozkłady prawdopodobieństw.

Artur Machlarz


Uwagi wstępne
a
a


Model oddziaływania pragmatycznej informacji

Rysunek: Model oddziaływania pragmatycznej informacji

Artur Machlarz


Uwagi wstępne
a
a


Model - legenda

W modelu Weinbergera występują następujące elementy:
podejmujący decyzję D,
D działa w pewnych określonych stanach s
D musi wybrać coś ze zbioru {a1 , a2 , a3 , ..., aM } - dla uproszczenia
przyjmujemy, że jest on skończony.
wybór prowadzi do efektu wyjściowego o ∈ O = {o1 , o2 , o3 , ..., oN },
z którego to zbioru efektów D preferuje niektóre oi bardziej niż inne.

Artur Machlarz


Uwagi wstępne
a
a


Model - właściwości D

Przyjmujemy następujące ograniczenia w zdolności D do podejmowania
decyzji:
1

mapowanie z a na zbiór o nie jest określone

2

D ma niedoskonałą informację o tym, które o jest najlepsze
D nie jest zdolny do przetwarzania dostępnej informacji w sposób
optymalny

3

4

D nie może zagwarantować, że decyzja którą podjął jest tą, która
będzie zrealizowana, choćby ze względu na “szum środowiskowy”
(e).

Artur Machlarz


Uwagi wstępne
a
a


Model - właściwości D

to całe niezdeterminowanie i nieokreśloność rozważamy przyjmując,
że efektem decyzji D jest wybór z możliwości o poszczególnych
prawdopodobieństwach q = (q1 , q2 , q3 , ..., qN )
D otrzymuje zatem wiadomość m, która jest wyjściem pewnego
procesu. Posiadając tą wiadomość (nowe dane) D najlepsze co może
zrobić to zrobić update rozkładu prawdopodobieństw do:
Pm = (P1 |m, P2 |m, ..., PN |m), w taki sposób, że
prawdopodobieństwo lepszego efektu wzrasta.

Artur Machlarz


Uwagi wstępne
a
a


Model - podsumowanie

W modelu przyjętym przez Weinbergera kluczową rolę odgrywa nie tyle
umiejętność odbiorcy wiadomości do dokonywania adekwatnych
rozróżnień między potencjalnie otrzymywanymi wiadomościami, ale
podejmowanie decyzji przez D. D w tym modelu jest pojęciem ogólnym:
może odnosić się zarówno do zwierząt, systemów sztucznych, ludzi, grup
ludzi itp. To co jest istotne, to zamierzone i celowe działanie podjęte pod
wpływem informacji.

Artur Machlarz


Uwagi wstępne
a
a


Model - przykład (niezbyt skomplikowany)
System otrzymuje informację, identyﬁkuje cel a potem system określa
aktualną sytuację i decyduje o modyﬁkacjach. Elementy informacyjne i
inne przeddecyzyjne danego systemu (np. nawigacyjne) są źródłami
wiadomości, które może otrzymać i działać pod ich wpływem część
decyzyjna.
Dążenie do podjęcia celowego działania decyduje o asymetrii między
Pm i q. Przyjmujemy, że nowy rozkład prawdopodobieństwa jest
lepszą podstawą działania niż stary.
Implicite też wprowadzamy takie ograniczenie, że nowa informacja
rewiduje rozkład prawdopodobieństwa i nie wprowadza nowych
możliwości.

Artur Machlarz


Uwagi wstępne
a
a



Mamy zatem co następuje:
Pragmatyczna informacja IM (P, q) ze zbioru wiadomości
M jest zyskiem informacyjnym w przejściu od q do Pm
uśrednionym na wszystkie wiadomości m ∈ M. Formalnie:
PM (P, q) =

Pi|m φm log2 (
i,m

Pi|m
qi )

P

=
i,m

i,m
Pi,m ( φm qi ), gdzie φ

jest brzegowym prawdopodobieństwem, że wiadomość m została
wysłana a Pi,m jest prawdopodobieńswem współwystąpienia:
wysłania wiadomości m i tego, że wynik oi został zrealizowany.

Artur Machlarz


Uwagi wstępne
a
a



Tw. 1 Pragmatyczna informacja może być określona jako wzajemna
informacja M oraz O.
Tw. 2 Pragmatyczna informacja zbioru wiadomości jest zawsze ograniczony
wartością jego entropii w sensie Shannona.
Tw. 3 IM (P, q) jest inwariantna względem transformacji wyników.

Artur Machlarz


Uwagi wstępne
a
a



Tw. 5 Maksymalną wartośc informacja pragmatyczna otrzymuje wiadomość
wywołująca abs. pewność, niezależnie od Shannona entropii zbioru.
Tw. 7 Wartość informacyjna rośnie wraz z ilością dedukcji, na które
pozwala wiadomość.
Tw. 8 Pragmatyczna niezależność zbiorów wiadomości nie oznacza, że
wszystkie pary elementów z tych zbiorów są zdarzeniami
niezależnymi w sensie prawdopodobieństwa. Jest też możliwe, że
zbiory wiadomości są pragmatycznie zależne a pary dowolnych
elementów tych zbiorów są probabilistycznie niezależne.

Artur Machlarz


Uwagi wstępne
a
a



Pragmatyczna informacja może także zależeć od ewolucyjnego rozwoju,
jeśli miara stanu procesu jest używana do aktualizacji rozkładu
prawdopodobieństwa. Jest to szczególny przypadek, w którym wartość w
różnych momentach jest jedyną otrzymaną informacją. Np. zakładamy,
że prawdopodobieństwo w momencie t2 po obserwacji procesu w stanie k
w tym momencie będzie takie samo, jak prawdopodobieństwo w
momencie t1 (po obserwacji stanu k). Pragmatyczna informacja
obserwacji w momencie t2 będzie zatem wynosiła:
k

Pk (t2 )log2 ( Pk (t2 ) ).
Pk (t1 )

Artur Machlarz


Uwagi wstępne
a
a



Alternatywnie można zastosować zaobserwowany stan i procesu w
poprzednim czasie, żeby ocenić prawdopodobieństwo stanu k w
następującym czasie. Zakładając, że obie obserwacje można poczynić w
przyszłości, pragmatyczna informacja związana z nauczeniem się stanu k,
przy danej obserwacji stanu i będzie liczona tak:
P

i,k

(t ,t )

i,k 1 2
Pi,k (t1 , t2 )log2 ( Pi (t1 )Pi (t2 ) )

przy granicznej sytuacji kompletnej nowości:
k

Pk (t)
Pk (t)log2 ( Pk (0) )

Artur Machlarz


Uwagi wstępne
a
a


Zastosowanie - uproszczony model ewolucji (Weinberger
Ewolucja może zostać scharakteryzowana jako aktywność
gromadzenia informacji.
w uproszczonym modelu wygląda to tak: środowisko efektywnie
decyduje o trafności fenotypu powiązanego z każdym danym
genotypem, gdzie trafność fenotypu jest określona przez wskaźnik
reprodukcji (model darwinowski). Odnośnie genotypy są
wiadomościami, które niosą informacje określające cechy kolejnych
generacji.
Pragmatyczna informacja jest odpowiednią miarą oceny szybkości z
jaką zachodzą określone procesy. W każdym momencie t środowisko
otrzymuje wiadomości o trafności poszczególnych replikatorów przez
ilość kopii genomu tego replikatora. Przed otrzymaniem wiadomości
(i jej przetwarzania) wstępne prawdopodobieństwo wyboru
replikatora typu i losowo z systemu wynosi: qi = xi (0).
Prawdopodobieństwo wyboru replikatora typu i w następującym
czasie t wynosi Pi = xi (t).
Artur Machlarz


Uwagi wstępne
a
a


Zastosowanie - analiza procesów kognitywnych

Procesy kognitywne mogą być opisane w następujący sposób:
procesy kognitywne to kombinacje operatorów należących do
szczególnych klas operatorów elementarnych;

Artur Machlarz


Uwagi wstępne
a
a



każdy z operatorów charakteryzuje pewien elementarny akt
poznawczy (uczenie się, obserwacja, wartościowanie, wnioskowanie
itp.);

Artur Machlarz


Uwagi wstępne
a
a



każdy z operatorów charakteryzuje pewien elementarny akt
poznawczy (uczenie się, obserwacja, wartościowanie, wnioskowanie
itp.);
istnieją szczególne sytuacje, w których kombinacja operatorów jest
przemienna; jest to jednak nietypowa sytuacja: zazwyczaj kolejny
krok czyni użytek z poprzedniego i kombinacja dwóch operatorów
jest nieprzemienna.

Artur Machlarz


Uwagi wstępne
a
a


Nieprzemienność operatorów jest ściśle związana z naturą informacji w
sensie pragmatycznym.
Dane, które agent posiadł i które znajdują reprezentację w jego
modelu świata mają wartość jako informacja pragmatyczna, jeśli
uprzednio istniejący model reprezentacji musi zostać w związku z
tymi danymi zrewidowany. Informacja pragmatyczna mierzy postęp
w efektywności działania agenta w związku z nowymi danymi.

Artur Machlarz


Uwagi wstępne
a
a


Nieprzemienność operatorów jest ściśle związana z naturą informacji w
sensie pragmatycznym.
Dane, które agent posiadł i które znajdują reprezentację w jego
modelu świata mają wartość jako informacja pragmatyczna, jeśli
uprzednio istniejący model reprezentacji musi zostać w związku z
tymi danymi zrewidowany. Informacja pragmatyczna mierzy postęp
w efektywności działania agenta w związku z nowymi danymi.
Nie tylko procesy poznawcze, ale także inne działania, w których
informacja jest otrzymywana, przetwarzana i przekazywana a jest
przy tym nieprzemienna, podpada pod powyższy opis pragmatycznej
informacji.

Artur Machlarz


Uwagi wstępne
a
a


Źródła

Najważniejszy artykuł:
Weinberger, Edward D. (2002), A Theory of Pragmatic Information
and Its Application to the Quasispecies Model of Biological
Evolution, “BioSystems” 66 (3), 105–119.

Artur Machlarz


Uwagi wstępne
a
a


beim Graben - modyﬁkacja przekonań

Inna interesująca próba interpretacji ilościowej zjawiska informacji
pragmatycznej pochodzi od Petera beim Grabena:
Próba ta jest interpretacją modelu Bayesowskiego
modyﬁkacji przekonań.

Artur Machlarz


Uwagi wstępne
a
a


beim Graben - cel

Punkt wyjścia teorii beim Grabena:
Znaczenie wiadomości to jej wpływ na stan agenta;

Artur Machlarz


Uwagi wstępne
a
a


beim Graben - cel

Pragmatyczna informacja może być potraktowana jako wartość
liczbowa określająca przeciętną wartość potrzebną do przejścia od
jednego stanu wiedzy do drugiego;

Artur Machlarz


Uwagi wstępne
a
a


beim Graben - cel

Zadaniem teorii jest ustalenie wartości określającej rewizję
prawdopodobieństwa ustalonego przed otrzymaniem sygnału.

Artur Machlarz


Uwagi wstępne
a
a


beim Graben - cel

Zadaniem teorii jest ustalenie wartości określającej rewizję
prawdopodobieństwa ustalonego przed otrzymaniem sygnału.
Zadanie to jest w teorii beim Grabena realizowane przy zastosowaniu
modelu Bayesowskiego.

Artur Machlarz


Uwagi wstępne
a
a


beim Graben - ramy teoretyczne

Deﬁnicja pragmatycznej informacji musi uwzględniać kontekst:
określonego agenta, jego/jej przekonania, cele oraz odniesienie
czasowe. Agent działa w pewnym określonym stanie i ma określoną
reprezentację stanu świata.

Artur Machlarz


Uwagi wstępne
a
a



Ramę teoretyczną dla tej teorii stanowi statystyczna teoria decyzji.

Artur Machlarz


Uwagi wstępne
a
a



Ramę teoretyczną dla tej teorii stanowi statystyczna teoria decyzji.
W ramach tej teorii opisywane są możliwe decyzje i działania agenta
w szczególnym stanie wiedzy.

Artur Machlarz


Uwagi wstępne
a
a


beim Graben - funkcja użyteczności

Możliwe decyzje są ewaluowane zgodnie z funkcją użyteczności:
u : X × Y → R,
taką, że u(x, y ) jest użytecznością z decyzji y w stanie x. X jest tutaj
przestrzenią stanów agenta, x ∈ X określonym stanem wiedzy z
określonym prawdopodobieństwem p(x) a Y jest zbiorem decyzji.

Artur Machlarz


Uwagi wstępne
a
a



Istotnym problemem jest interpretacja i formalny opis funkcji
użyteczności dla racjonalnie i spójnie działających agentów. Da się ten
problem rozwiązać w ramach teorii informacji:
najlepsza funkcja użyteczności to linearna funkcja zawartości
informacyjnej stanu wiedzy agenta. Beim Graben przyjmuje, że
oczekiwana użyteczność zbioru alternatywnych decyzji jest
równa Shannonowskiej entropii.

Artur Machlarz


Uwagi wstępne
a
a


Ocena użyteczności
Van Rooij (2004, 2006) zastosował to spostrzeżenie w lingwistyce do
oceny relewancji pytań: użyteczność konkrentej odpowiedzi q1 na pytanie
Q1 jest dana przez ocenę różnicy między aptioryczną dystrybucją
prawdopodobieństw w zbiorze możliwych odpowiedzi na kolejne pytanie i
rozkładem warunkowym z uwzględnieniem odpowiedzi q1 . Zgodnie ze
wzorem Kullbacka-Leibera:
K (p, p0 ) =
Ai ∈X

p(A
p(Ai )log2 ( p0 (Aii)) )

Podobne rozwiązanie tego problemu podał Weinberger podając funkcję
miary pragmatycznej informacji zbioru wiadomości przez informację
wzajemną między wiadomościami i decyzjami agenta po otrzymaniu
wiadomości.

Artur Machlarz


Uwagi wstępne
a
a


beim Graben - semantyka dla modelu Bayesowskiego

Statystyczna teoria decyzji opisuje zachowanie agenta w
szczególnym stanie wiedzy, który może się zmienić pod wpływem
otrzymywanych wiadomości.

Artur Machlarz


Uwagi wstępne
a
a



Statystyczna teoria decyzji opisuje zachowanie agenta w
szczególnym stanie wiedzy, który może się zmienić pod wpływem
otrzymywanych wiadomości.
znaczenie zdania nie leży tylko w warunkach jego prawdziwości, ale
raczej w tym, jak się zmienia reprezentacja informacji u
interpretatora. Użycie zdania przenosi nas z jednego stanu
informacyjnego do innego.

Artur Machlarz


Uwagi wstępne
a
a



Zbiór X - przestrzeń możliwych stanów epistemicznych konkretnego
agenta
x, y , z ∈ X - stany przekonań (stany epistemiczne)
U, V ∈ A ⊆ Mor (X ) - operatory epistemiczne, dane obserwowalne.
Jest to zbiór dyskretny. Mor(X) to funkcja przekształcająca zb. X
na X (jest to klasa morﬁzmów zbioru X ).
A, B ∈ P ⊆ A - zdania (sądy).

Artur Machlarz


Uwagi wstępne
a
a



Możemy rozważać model określony, w ramach którego zdanie A ∈ P jest
zaakceptowane lub nie - z całą pewnością, w stanie x ∈ X . Możemy też
rozważać model, w którym przypisujemy określone prawdopodobieństwa
stanowi x:
0
if P(x) = x
px (P) =
1
if P(x) = x
jest prawdopodobieństwem, że zdanie P jest zaakceptowane w stanie x.
W ten sposób do modelu wprowadza się stan niepewności.

Artur Machlarz


Uwagi wstępne
a
a


beim Graben - model Bayesowski

W Bayesowskim modelu przekonań wprowadzamy pojęcie warunkowania
prawdopodobieństw stanów. Tzn. prawdopodobieństwa różnych stanów
zmieniają się wraz z obserwacjami innych stanów zależnych. To pozwala
na interpretację zależnego od kontekstu i nowych informacji systemu
informacyjnego w jego całej poznawczej dynamice. Dyspozycje i
preferencje agenta zmieniają się wraz z różnymi pragmatycznymi
warunkami.

Artur Machlarz


Uwagi wstępne
a
a



Znaczeniem wiadomości jest wpływ na stan przekonań agenta.
Wiadomości działają jak operatory na przestrzeni przekonań agenta. Przy
podejściu Bayesowskim, gdzie stan przekonań jest charakteryzowany
przez rozkład prawdopodobieństw na zbiorze zdań, otrzymane zdanie A
przekształca apriorycznie ustalone prawdopodobieństwo p na a posteriori
rozkład pA . Wpływ takiej wiadomości może być oceniony przez jej
informacyjny zysk:
K (pA , p) =
P∈P

A (P)
pA (P)log2 ( pp(P) )

Artur Machlarz


Uwagi wstępne
a
a


beim Graben - miara informacji pragmatycznej

Zatem miarą pragmatycznej informacji będzie:
Sp (A) =

K (pA , p)
0

if p(A) > x
if p(A) = 0

W deﬁnicji tej mierzona jest zawartość informacyjna zdania A w stanie p
konkretnego agenta. Wartość ta jest zależna od kontekstu.

Artur Machlarz


Uwagi wstępne
a
a


Źródła

Dobre omówienie w pracy:
Peter beim Graben, Pragmatic Information in Dynamic Semantics,
“Mind and Matter” Vol. 4(2), pp. 169–193
Polecam także
Dieter Gernert, Pragmatic Information: Historical Exposition and
General Overview, “Mind and Matter” Vol. 4(2), pp. 141–167

Artur Machlarz


Uwagi wstępne
a
a

Wizja Pragmatic Web

Czym jest sieć semantyczna
Kiedy korzystasz z aplikacji, powinieneś mieć możliwość
umieszczenia w niej danych, które możesz odpowiednio
konﬁgurować. Powinieneś mieć możliwość poinformowania
swojego komputera ”idę na tę imprezę”. A gdy to mówisz, to
maszyna rozumie tę informację. Semantyczna Sieć (...) to nie
tylko sieć dokumentów, ale także informacji, danych, treści.
Semantyczna Sieć danych, powinna zawierać możliwie dużo
aplikacji, które komunikują się ze sobą. Po raz pierwszy
powstanie jeden powszechny format danych dla wszystkich
aplikacji, baz danych i stron WWW A więc Semantyczna
Sieć Web opiera się na integracji informacji.
Tim Berners-Lee, http://www.internetstandard.pl/

Artur Machlarz


Uwagi wstępne
a
a

Wizja Pragmatic Web

Standardy RDF i OWL

RDF - standardowy język reprezentacji wiedzy używany w internecie.
Wyrażenia składają się z trzech elementów: oznaczenia opisywanego
zasobu (URI), własności (określonej w OWL) i wartości (nazwy lub URI).
OWL - reprezentacja jakiegoś fragmentu wiedzy/świata wyrażona w
języku RDF. Ontologie zapisane w OWL zawierają różnego rodzaju
zależności między swoimi elementami, zawierają reprezentacje obiektów
różnego poziomu oraz relacji.

Artur Machlarz


Uwagi wstępne
a
a

Wizja Pragmatic Web

RDF i OWL - przykład opisu FOAF

Rysunek: przykład opisu FOAF

Artur Machlarz


Uwagi wstępne
a
a

Wizja Pragmatic Web

Rzeczywistość sieci semantycznej

Dlaczego Web 3.0 ponosi porażkę?
Jednym w wymienianych powodów są trudności w szerszym
rozpowszechnieniu jednolitego opisu danych, trudności w
zastosowaniem praktycznym ze względu na jego stopień złożoności.
Inne powody: praktycznie niemożliwe jest opisanie danych w taki
sposób, żeby mogły być używane przez dowolne aplikacje;
zagubienie czynnika pragmatycznego, który pojawiał się w wizji
Tima Bernersa-Lee.

Artur Machlarz


Uwagi wstępne
a
a

Wizja Pragmatic Web

Idea Web 4.0

Agent, który jest zdolny do rozpoznawania różnych modeli reprezentacji
danych i posługiwania się różnymi systemami komunikacyjnymi,
dostarcza dostępne w sieci dane. Użytkownicy jedynie instruują agentów
odnośnie zasad przetwarzania informacji w istotny dla konkretnego
użytkownika sposób (zgodny z jego aktualnymi potrzebami).
Zadaniem sieci pragmatycznej jest dostarczanie relewantnych informacji,
które dla użytkownika mają praktyczne konsekwencje. Przekształcenie
dostępnych danych w tego rodzaju informacje może być bardzo różne:
tabela, analiza statystyczna, logiczna itp. i przedstawienie w postaci
raportu.

Artur Machlarz


Uwagi wstępne
a
a

Wizja Pragmatic Web

Dziękuję za uwagę i zapraszam do stawiania pytań!
Artur Machlarz
e-mail: artur.machlarz@uni.opole.pl
www: http://www.uni.opole.pl/∼machlarz

Artur Machlarz


Teoria informacji pragmatycznej

Recommended

Recommended

More Related Content

What's hot

What's hot (20)

More from Artur Machlarz

More from Artur Machlarz (20)

Teoria informacji pragmatycznej