Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Aplica¸˜es da Complexidade de Kolmogorov
co
Complexidade
de
Kolmogorov
Aleatoriedade Carlos A. P. Campani
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca 28 de abril de 2006
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Sum´rio
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
1 Introdu¸˜o
ca
Carlos A. P.
Campani 2 Complexidade de Kolmogorov
Introdu¸˜o
ca
3 Aleatoriedade
Complexidade
de
Kolmogorov 4 Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aleatoriedade
Seq¨ˆncias
ue 5 Distˆncia de informa¸˜o
a ca
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a 6 Grafos k-aleat´rios
o
informa¸˜o
ca
Grafos 7 Conclus˜es
o
k-aleat´rios
o
Conclus˜es
o
8 Para saber mais
Para saber
mais

Sum´rio
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
1 Introdu¸˜o
ca
Carlos A. P.
Campani 2 Complexidade de Kolmogorov
Introdu¸˜o
ca
3 Aleatoriedade
Complexidade
de
Kolmogorov 4 Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aleatoriedade
Seq¨ˆncias
ue 5 Distˆncia de informa¸˜o
a ca
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a 6 Grafos k-aleat´rios
o
informa¸˜o
ca
Grafos 7 Conclus˜es
o
k-aleat´rios
o
Conclus˜es
o
8 Para saber mais
Para saber
mais

Objetivos da apresenta¸˜o
ca
Aplica¸˜es da
co
Complexidade
de
Objetivo geral
Kolmogorov
Carlos A. P.
Apresentar a complexidade de Kolmogorov e suas principais
Campani propriedades.
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Objetivos da apresenta¸˜o
ca
Aplica¸˜es da
co
Complexidade
de
Objetivo geral
Kolmogorov
Carlos A. P.
Apresentar a complexidade de Kolmogorov e suas principais
Campani propriedades.
Introdu¸˜o
ca
Complexidade Objetivos espec´
ıficos
de
Kolmogorov Apresentar trˆs aplica¸˜es da complexidade de Kolmogorov:
e co
Aleatoriedade
Distˆncia de informa¸˜o como m´trica para a qualidade de
a ca e
Seq¨ˆncias
ue
aleat´rias de
o imagem;
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Objetivos da apresenta¸˜o
ca
Aplica¸˜es da
co
Complexidade
de
Objetivo geral
Kolmogorov
Carlos A. P.
Apresentar a complexidade de Kolmogorov e suas principais
Campani propriedades.
Introdu¸˜o
ca
Complexidade Objetivos espec´
ıficos
de
Kolmogorov Apresentar trˆs aplica¸˜es da complexidade de Kolmogorov:
e co
Aleatoriedade
Distˆncia de informa¸˜o como m´trica para a qualidade de
a ca e
Seq¨ˆncias
ue
aleat´rias de
o imagem;
Martin-L¨f
o
Distˆncia de
a Distˆncia de informa¸˜o aplicada na classifica¸˜o
a ca ca
informa¸˜o
ca
(clusteriza¸˜o) de literatura lus´fona segundo o estilo e
ca o
Grafos
k-aleat´rios
o per´ıodo liter´rio;
a
Conclus˜es
o
Para saber
mais

Objetivos da apresenta¸˜o
ca
Aplica¸˜es da
co
Complexidade
de
Objetivo geral
Kolmogorov
Carlos A. P.
Apresentar a complexidade de Kolmogorov e suas principais
Campani propriedades.
Introdu¸˜o
ca
Complexidade Objetivos espec´
ıficos
de
Kolmogorov Apresentar trˆs aplica¸˜es da complexidade de Kolmogorov:
e co
Aleatoriedade
Distˆncia de informa¸˜o como m´trica para a qualidade de
a ca e
Seq¨ˆncias
ue
aleat´rias de
o imagem;
Martin-L¨f
o
Distˆncia de
a Distˆncia de informa¸˜o aplicada na classifica¸˜o
a ca ca
informa¸˜o
ca
(clusteriza¸˜o) de literatura lus´fona segundo o estilo e
ca o
Grafos
k-aleat´rios
o per´ıodo liter´rio;
a
Conclus˜es
o Grafos k-aleat´rios aplicados na determina¸˜o de
o ca
Para saber
mais
propriedades de redes de computadores.

Sum´rio
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
1 Introdu¸˜o
ca
Carlos A. P.
Campani 2 Complexidade de Kolmogorov
Introdu¸˜o
ca
3 Aleatoriedade
Complexidade
de
Kolmogorov 4 Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aleatoriedade
Seq¨ˆncias
ue 5 Distˆncia de informa¸˜o
a ca
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a 6 Grafos k-aleat´rios
o
informa¸˜o
ca
Grafos 7 Conclus˜es
o
k-aleat´rios
o
Conclus˜es
o
8 Para saber mais
Para saber
mais

O que ´ a complexidade de Kolmogorov?
e
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Complexidade de Kolmogorov ´ uma teoria da informa¸˜o
e ca
Introdu¸˜o
ca e da aleatoriedade baseada no tamanho dos programas
Complexidade para a m´quina de Turing;
a
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

O que ´ a complexidade de Kolmogorov?
e
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Complexidade de Kolmogorov ´ uma teoria da informa¸˜o
e ca
Introdu¸˜o
ca e da aleatoriedade baseada no tamanho dos programas
Complexidade para a m´quina de Turing;
a
de
Kolmogorov Expressa o quanto podemos comprimir algoritmicamente
Aleatoriedade uma string bin´ria;
a
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

O que ´ a complexidade de Kolmogorov?
e
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Complexidade de Kolmogorov ´ uma teoria da informa¸˜o
e ca
Introdu¸˜o
ca e da aleatoriedade baseada no tamanho dos programas
Complexidade para a m´quina de Turing;
a
de
Kolmogorov Expressa o quanto podemos comprimir algoritmicamente
Aleatoriedade uma string bin´ria;
a
Seq¨ˆncias
ue
aleat´rias de
o Exemplos: gzip, compress, winzip, etc.
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

O que ´ a complexidade de Kolmogorov?
e
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Complexidade de Kolmogorov ´ uma teoria da informa¸˜o
e ca
Introdu¸˜o
ca e da aleatoriedade baseada no tamanho dos programas
Complexidade para a m´quina de Turing;
a
de
Kolmogorov Expressa o quanto podemos comprimir algoritmicamente
Aleatoriedade uma string bin´ria;
a
Seq¨ˆncias
ue
aleat´rias de
o Exemplos: gzip, compress, winzip, etc.
Martin-L¨f
o
Distˆncia de
a
Usa a m´quina de Turing (fun¸˜es parciais recursivas)
a co
informa¸˜o
ca como m´todo de descri¸˜o.
e ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Modelo de m´quina de Turing
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Defini¸˜o de complexidade de Kolmogorov
ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Complexidade condicional
Complexidade
de Definimos a complexidade condicional CM (x|y )
Kolmogorov
(“complexidade de x dado y ”) como sendo o tamanho da
Aleatoriedade
Seq¨ˆncias
ue
menor descri¸˜o efetiva que computa x na m´quina M
ca a
aleat´rias de
o recebendo y como entrada (informa¸˜o lateral).
ca
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Observa¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Os objetos sobre os quais se aplica a complexidade podem
Introdu¸˜o
ca ser tanto strings bin´rias, quanto n´meros naturais, pois o
a u
Complexidade conjunto das strings bin´rias ´ enumer´vel:
a e a
de
Kolmogorov
Aleatoriedade
0 1 2 3 4 5 6 7 8 ···
Seq¨ˆncias
ue Λ 0 1 00 01 10 11 000 001 · · ·
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Observa¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Os objetos sobre os quais se aplica a complexidade podem
Introdu¸˜o
ca ser tanto strings bin´rias, quanto n´meros naturais, pois o
a u
Complexidade conjunto das strings bin´rias ´ enumer´vel:
a e a
de
Kolmogorov
Aleatoriedade
0 1 2 3 4 5 6 7 8 ···
Seq¨ˆncias
ue Λ 0 1 00 01 10 11 000 001 · · ·
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
Os programas para a m´quina de Turing tamb´m ser˜o
a e a
informa¸˜o
ca representados como strings bin´rias.
a
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Algumas defini¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Formaliza¸˜o
ca
Kolmogorov
Seja M uma m´quina de Turing. Ent˜o,
a a
Carlos A. P.
Campani CM (x|y ) = min{p|Mp (y ) = x}
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Algumas defini¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Formaliza¸˜o
ca
Kolmogorov
Seja M uma m´quina de Turing. Ent˜o,
a a
Carlos A. P.
Campani CM (x|y ) = min{p|Mp (y ) = x}
Introdu¸˜o
ca
Complexidade
Nota¸˜o
ca
de
Kolmogorov
x denota o tamanho em bits de uma string bin´ria x
a
Aleatoriedade
Seq¨ˆncias
ue
(n´mero de d´
u ıgitos);
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Algumas defini¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Formaliza¸˜o
ca
Kolmogorov
Seja M uma m´quina de Turing. Ent˜o,
a a
Carlos A. P.
Campani CM (x|y ) = min{p|Mp (y ) = x}
Introdu¸˜o
ca
Complexidade
Nota¸˜o
ca
de
Kolmogorov
x denota o tamanho em bits de uma string bin´ria x
a
Aleatoriedade
Seq¨ˆncias
ue
(n´mero de d´
u ıgitos);
aleat´rias de
o
Martin-L¨f
o Mp (y ) = x denota que a m´quina M computa x por
a
Distˆncia de
a meio do programa p recebendo y como entrada;
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Algumas defini¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Formaliza¸˜o
ca
Kolmogorov
Seja M uma m´quina de Turing. Ent˜o,
a a
Carlos A. P.
Campani CM (x|y ) = min{p|Mp (y ) = x}
Introdu¸˜o
ca
Complexidade
Nota¸˜o
ca
de
Kolmogorov
x denota o tamanho em bits de uma string bin´ria x
a
Aleatoriedade
Seq¨ˆncias
ue
(n´mero de d´
u ıgitos);
aleat´rias de
o
Martin-L¨f
o Mp (y ) = x denota que a m´quina M computa x por
a
Distˆncia de
a meio do programa p recebendo y como entrada;
informa¸˜o
ca n vezes
Grafos
k-aleat´rios
o aaaa . . . a = an ;
Conclus˜es
o
Para saber
mais

Algumas defini¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Formaliza¸˜o
ca
Kolmogorov
Seja M uma m´quina de Turing. Ent˜o,
a a
Carlos A. P.
Campani CM (x|y ) = min{p|Mp (y ) = x}
Introdu¸˜o
ca
Complexidade
Nota¸˜o
ca
de
Kolmogorov
x denota o tamanho em bits de uma string bin´ria x
a
Aleatoriedade
Seq¨ˆncias
ue
(n´mero de d´
u ıgitos);
aleat´rias de
o
Martin-L¨f
o Mp (y ) = x denota que a m´quina M computa x por
a
Distˆncia de
a meio do programa p recebendo y como entrada;
informa¸˜o
ca n vezes
Grafos
k-aleat´rios
o aaaa . . . a = an ;
Conclus˜es
o Sejam n ≥ 0 e m ≥ 0. n m denota n ≤ m + c, para
Para saber
mais
algum c > 0.

Observa¸˜es adicionais
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani A existˆncia de uma fun¸˜o parcial recursiva universal
e ca
(m´quina de Turing universal) garante que,
a
Introdu¸˜o
ca
assintoticamente, a complexidade CM (x|y ) depende
Complexidade
de apenas de x e y ;
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Observa¸˜es adicionais
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani A existˆncia de uma fun¸˜o parcial recursiva universal
e ca
(m´quina de Turing universal) garante que,
a
Introdu¸˜o
ca
assintoticamente, a complexidade CM (x|y ) depende
Complexidade
de apenas de x e y ;
Kolmogorov
Aleatoriedade
Seja φ1 , φ2 , φ3 , . . . uma enumera¸˜o das fun¸˜es parciais
ca co
Seq¨ˆncias
ue recursivas;
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Observa¸˜es adicionais
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani A existˆncia de uma fun¸˜o parcial recursiva universal
e ca
(m´quina de Turing universal) garante que,
a
Introdu¸˜o
ca
assintoticamente, a complexidade CM (x|y ) depende
Complexidade
de apenas de x e y ;
Kolmogorov
Aleatoriedade
Seja φ1 , φ2 , φ3 , . . . uma enumera¸˜o das fun¸˜es parciais
ca co
Seq¨ˆncias
ue recursivas;
aleat´rias de
o
Martin-L¨f
o Existe uma fun¸˜o φu , chamada universal, tal que
ca
Distˆncia de
a φu (i, x) = φu ([i, x]) = φi (x) para todo i > 0;
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Observa¸˜es adicionais
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani A existˆncia de uma fun¸˜o parcial recursiva universal
e ca
(m´quina de Turing universal) garante que,
a
Introdu¸˜o
ca
assintoticamente, a complexidade CM (x|y ) depende
Complexidade
de apenas de x e y ;
Kolmogorov
Aleatoriedade
Seja φ1 , φ2 , φ3 , . . . uma enumera¸˜o das fun¸˜es parciais
ca co
Seq¨ˆncias
ue recursivas;
aleat´rias de
o
Martin-L¨f
o Existe uma fun¸˜o φu , chamada universal, tal que
ca
Distˆncia de
a φu (i, x) = φu ([i, x]) = φi (x) para todo i > 0;
informa¸˜o
ca
Grafos [., .] : N × N → N ´ uma bije¸˜o efetiva.
e ca
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Teorema fundamental
Aplica¸˜es da
co
Complexidade
de Teorema da invariˆncia
a
Kolmogorov
Existe uma m´quina U, chamada universal, tal que, para
a
Carlos A. P.
Campani qualquer m´quina M, CU (x|y ) CM (x|y );
a
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Teorema fundamental
Aplica¸˜es da
co
Complexidade
de Teorema da invariˆncia
a
Kolmogorov
Existe uma m´quina U, chamada universal, tal que, para
a
Carlos A. P.
Campani qualquer m´quina M, CU (x|y ) CM (x|y );
a
Introdu¸˜o
ca
Complexidade
Prova do teorema
de
Kolmogorov Prova por simula¸˜o de m´quinas: Seja M1 , M2 , M3 , . . . uma
ca a
Aleatoriedade enumera¸˜o padr˜o das m´quinas. Assim,
ca a a
Seq¨ˆncias
ue CM (x|y ) = min{p|Mp (y ) = x} e M ´ a n-´sima m´quina na
e e a
aleat´rias de
o
Martin-L¨f
o enumera¸˜o padr˜o. Ent˜o:
ca a a
Distˆncia de
a
informa¸˜o
ca
CU (x|y ) = min{1n 0p|U1n 0p (y ) = x} =
Grafos
k-aleat´rios
o = min{p|U1n 0p (y ) = x} + n + 1 =
Conclus˜es
o
= CM (x|y ) + n + 1
Para saber
mais

Conseq¨ˆncia do teorema da invariˆncia
ue a
Aplica¸˜es da
co
Complexidade
de Conseq¨ˆncia
ue
Kolmogorov
Carlos A. P. Dadas duas m´quinas universais U1 e U2 sabemos que:
a
Campani
Introdu¸˜o
ca
|CU1 (x|y ) − CU2 (x|y )| ≤ c
Complexidade
de para algum c > 0 e c n˜o depende de x e y .
a
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Conseq¨ˆncia do teorema da invariˆncia
ue a
Aplica¸˜es da
co
Complexidade
de Conseq¨ˆncia
ue
Kolmogorov
Carlos A. P. Dadas duas m´quinas universais U1 e U2 sabemos que:
a
Campani
Introdu¸˜o
ca
|CU1 (x|y ) − CU2 (x|y )| ≤ c
Complexidade
de para algum c > 0 e c n˜o depende de x e y .
a
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
Exemplo
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a |CPROLOG (x|y ) − CLISP (x|y )| ≤ c
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Conseq¨ˆncia do teorema da invariˆncia
ue a
Aplica¸˜es da
co
Complexidade
de Conseq¨ˆncia
ue
Kolmogorov
Carlos A. P. Dadas duas m´quinas universais U1 e U2 sabemos que:
a
Campani
Introdu¸˜o
ca
|CU1 (x|y ) − CU2 (x|y )| ≤ c
Complexidade
de para algum c > 0 e c n˜o depende de x e y .
a
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
Exemplo
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a |CPROLOG (x|y ) − CLISP (x|y )| ≤ c
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Nota¸˜o devido a esta propriedade
ca
Para saber
mais
Podemos reescrever CU (x|y ) como C (x|y ).

Complexidade incondicional
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Complexidade Defini¸˜o
ca
de
Kolmogorov
Definimos a complexidade incondicional C (x) (“complexidade
Aleatoriedade
de x”) como sendo igual a C (x|Λ).
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Algumas propriedades da complexidade b´sica
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
C (x|y ) C (x);
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Algumas propriedades da complexidade b´sica
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
C (x|y ) C (x);
Complexidade
de
Kolmogorov
C (x|y ) x;
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Algumas propriedades da complexidade b´sica
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
C (x|y ) C (x);
Complexidade
de
Kolmogorov
C (x|y ) x;
Aleatoriedade C (x|y ) n˜o ´ comput´vel (por redu¸˜o ao problema da
a e a ca
Seq¨ˆncias
ue
aleat´rias de
o
parada).
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Complexidade de prefixo
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Existe uma segunda vers˜o da teoria, chamada
a
Introdu¸˜o
ca
complexidade de prefixo, K (x|y );
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Complexidade de prefixo
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Existe uma segunda vers˜o da teoria, chamada
a
Introdu¸˜o
ca
complexidade de prefixo, K (x|y );
Complexidade
de Define-se K (x|y ) exigindo que as descri¸˜es (programas)
co
Kolmogorov
usadas sejam livres de prefixo;
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Complexidade de prefixo
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Existe uma segunda vers˜o da teoria, chamada
a
Introdu¸˜o
ca
complexidade de prefixo, K (x|y );
Complexidade
de Define-se K (x|y ) exigindo que as descri¸˜es (programas)
co
Kolmogorov
usadas sejam livres de prefixo;
Aleatoriedade
Seq¨ˆncias
ue Uma codifica¸˜o livre de prefixo ´ aquela em que nenhuma
ca e
aleat´rias de
o
Martin-L¨f
o descri¸˜o ´ prefixo de outra;
ca e
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Complexidade de prefixo
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Existe uma segunda vers˜o da teoria, chamada
a
Introdu¸˜o
ca
complexidade de prefixo, K (x|y );
Complexidade
de Define-se K (x|y ) exigindo que as descri¸˜es (programas)
co
Kolmogorov
usadas sejam livres de prefixo;
Aleatoriedade
Seq¨ˆncias
ue Uma codifica¸˜o livre de prefixo ´ aquela em que nenhuma
ca e
aleat´rias de
o
Martin-L¨f
o descri¸˜o ´ prefixo de outra;
ca e
Distˆncia de
a
informa¸˜o
ca
Um c´digo livre de prefixo cont´m seu pr´prio tamanho.
o e o
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Propriedades da Complexidade de Prefixo
Aplica¸˜es da
co
Complexidade
de
Propriedade
Kolmogorov
Carlos A. P.
Podemos concatenar strings sem problemas, e recuperar as
Campani strings originais a partir da concatenada.
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Propriedades da Complexidade de Prefixo
Aplica¸˜es da
co
Complexidade
de
Propriedade
Kolmogorov
Carlos A. P.
Podemos concatenar strings sem problemas, e recuperar as
Campani strings originais a partir da concatenada.
Introdu¸˜o
ca
Complexidade
Propriedade importante
de
Kolmogorov
Aleatoriedade 2−K (x|y ) < ∞
Seq¨ˆncias
ue x
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Propriedades da Complexidade de Prefixo
Aplica¸˜es da
co
Complexidade
de
Propriedade
Kolmogorov
Carlos A. P.
Podemos concatenar strings sem problemas, e recuperar as
Campani strings originais a partir da concatenada.
Introdu¸˜o
ca
Complexidade
Propriedade importante
de
Kolmogorov
Aleatoriedade 2−K (x|y ) < ∞
Seq¨ˆncias
ue x
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca Observa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o 2−C (x|y ) = ∞
Para saber x
mais

Codifica¸˜o livre de prefixo
ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov Defini¸˜o
ca
Carlos A. P.
Campani x vezes
Introdu¸˜o
ca
E1 (x) = 1111 . . . 1 0x = 1x 0x ou
Complexidade E2 (x) = E1 (x)x = 1x 0xx;
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Codifica¸˜o livre de prefixo
ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov Defini¸˜o
ca
Carlos A. P.
Campani x vezes
Introdu¸˜o
ca
E1 (x) = 1111 . . . 1 0x = 1x 0x ou
Complexidade E2 (x) = E1 (x)x = 1x 0xx;
de
Kolmogorov E1 (x) = 2x + 1 e E2 (x) = x + 2x + 1.
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Codifica¸˜o livre de prefixo
ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov Defini¸˜o
ca
Carlos A. P.
Campani x vezes
Introdu¸˜o
ca
E1 (x) = 1111 . . . 1 0x = 1x 0x ou
Complexidade E2 (x) = E1 (x)x = 1x 0xx;
de
Kolmogorov E1 (x) = 2x + 1 e E2 (x) = x + 2x + 1.
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o Propriedades
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
∼
Sabemos que x = log x (pela codifica¸˜o bin´ria), ent˜o
ca a a
Grafos ∼ x + 2 log x;
E2 (x) =
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Codifica¸˜o livre de prefixo
ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov Defini¸˜o
ca
Carlos A. P.
Campani x vezes
Introdu¸˜o
ca
E1 (x) = 1111 . . . 1 0x = 1x 0x ou
Complexidade E2 (x) = E1 (x)x = 1x 0xx;
de
Kolmogorov E1 (x) = 2x + 1 e E2 (x) = x + 2x + 1.
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o Propriedades
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
∼
Sabemos que x = log x (pela codifica¸˜o bin´ria), ent˜o
ca a a
Grafos ∼ x + 2 log x;
E2 (x) =
k-aleat´rios
o
Conclus˜es
o C (x|y ) K (x|y ) C (x|y ) + 2 log C (x|y ).
Para saber
mais

Sum´rio
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
1 Introdu¸˜o
ca
Carlos A. P.
Campani 2 Complexidade de Kolmogorov
Introdu¸˜o
ca
3 Aleatoriedade
Complexidade
de
Kolmogorov 4 Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aleatoriedade
Seq¨ˆncias
ue 5 Distˆncia de informa¸˜o
a ca
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a 6 Grafos k-aleat´rios
o
informa¸˜o
ca
Grafos 7 Conclus˜es
o
k-aleat´rios
o
Conclus˜es
o
8 Para saber mais
Para saber
mais

Incompressividade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
O prop´sito original da complexidade de Kolmogorov era
o
Complexidade
de
definir seq¨ˆncias aleat´rias formalmente, embasando uma
ue o
Kolmogorov
teoria matem´tica das probabilidades;
a
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Incompressividade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
O prop´sito original da complexidade de Kolmogorov era
o
Complexidade
de
definir seq¨ˆncias aleat´rias formalmente, embasando uma
ue o
Kolmogorov
teoria matem´tica das probabilidades;
a
Aleatoriedade
Seq¨ˆncias
ue
Strings bin´rias podem representar seq¨ˆncias aleat´rias
a ue o
aleat´rias de
o geradas pelo lan¸amento sucessivo de uma moeda.
c
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Incompressividade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P. Seq¨ˆncia de eventos
ue
Campani
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Incompressividade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P. Seq¨ˆncia de eventos
ue
Campani
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Representa¸˜o
ca
Distˆncia de
a
informa¸˜o
ca
Grafos
1011010
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Strings bin´rias
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Seria este um bom modelo para estudar o fenˆmeno da
o
Complexidade aleatoriedade?
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Strings bin´rias
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Seria este um bom modelo para estudar o fenˆmeno da
o
Complexidade aleatoriedade?
de
Kolmogorov Strings bin´rias podem representar qualquer fenˆmeno
a o
Aleatoriedade aleat´rio por meio de uma codifica¸˜o apropriada;
o ca
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Strings bin´rias
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Seria este um bom modelo para estudar o fenˆmeno da
o
Complexidade aleatoriedade?
de
Kolmogorov Strings bin´rias podem representar qualquer fenˆmeno
a o
Aleatoriedade aleat´rio por meio de uma codifica¸˜o apropriada;
o ca
Seq¨ˆncias
ue Embora limitado a distribui¸˜o uniforme, podemos
ca
aleat´rias de
o
Martin-L¨f
o
extender o modelo para outras distribui¸˜es.
co
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Lei dos grandes n´meros
u
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani (Teoria do limite da freq¨ˆncia relativa) Em uma
ue
Introdu¸˜o
ca
seq¨ˆncia longa de tentativas, as freq¨ˆncias relativas das
ue ue
Complexidade ocorrˆncias de sucesso ou fracasso em um experimento
e
de
Kolmogorov devem convergir a um limite,
Aleatoriedade
Seq¨ˆncias
ue
lim λ(n)/n = p
n→∞
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Lei dos grandes n´meros
u
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani (Teoria do limite da freq¨ˆncia relativa) Em uma
ue
Introdu¸˜o
ca
seq¨ˆncia longa de tentativas, as freq¨ˆncias relativas das
ue ue
Complexidade ocorrˆncias de sucesso ou fracasso em um experimento
e
de
Kolmogorov devem convergir a um limite,
Aleatoriedade
Seq¨ˆncias
ue
lim λ(n)/n = p
n→∞
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a No caso particular da distribui¸˜o uniforme (moeda
ca
informa¸˜o
ca
honesta), p = 1/2.
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Problema!
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Problema
Carlos A. P.
Campani O que ´ “uma seq¨ˆncia longa”?
e ue
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Problema!
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Problema
Carlos A. P.
Campani O que ´ “uma seq¨ˆncia longa”?
e ue
Introdu¸˜o
ca
Complexidade Andrei Kolmogorov
de
Kolmogorov A teoria do limite de freq¨ˆncia (lei dos grandes n´meros) tem
ue u
Aleatoriedade pouca ou nenhuma utilidade pr´tica em teoria das
a
Seq¨ˆncias
ue
aleat´rias de
o
probabilidades e estat´
ıstica, pois todas as amostras s˜o sempre
a
Martin-L¨f
o
finitas.
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Problema!
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Problema
Carlos A. P.
Campani O que ´ “uma seq¨ˆncia longa”?
e ue
Introdu¸˜o
ca
Complexidade Andrei Kolmogorov
de
Kolmogorov A teoria do limite de freq¨ˆncia (lei dos grandes n´meros) tem
ue u
Aleatoriedade pouca ou nenhuma utilidade pr´tica em teoria das
a
Seq¨ˆncias
ue
aleat´rias de
o
probabilidades e estat´
ıstica, pois todas as amostras s˜o sempre
a
Martin-L¨f
o
finitas.
Distˆncia de
a
informa¸˜o
ca
Grafos
John Keynes
k-aleat´rios
o
Conclus˜es
o
“In the long run we shall be dead.”
Para saber
mais

Nossa percep¸˜o da aleatoriedade
ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Um exemplo
Introdu¸˜o
ca
Complexidade
Segundo a nossa intui¸˜o, o que poderiamos dizer sobre a
ca
de
Kolmogorov
aleatoriedade das seguintes strings bin´rias?
a
Aleatoriedade
11111111111111111111
Seq¨ˆncias
ue
aleat´rias de
o 01010101010101010101
Martin-L¨f
o
01001101011000110101
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Aleatoriedade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Podemos abordar o fenˆmeno da aleatoriedade das
o
Complexidade seguintes formas:
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Aleatoriedade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Podemos abordar o fenˆmeno da aleatoriedade das
o
Complexidade seguintes formas:
de
Kolmogorov Seq¨ˆncias que possuem um limite de freq¨ˆncia relativa
ue ue
Aleatoriedade (lei dos grandes n´meros);
u
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Aleatoriedade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Podemos abordar o fenˆmeno da aleatoriedade das
o
Complexidade seguintes formas:
de
Kolmogorov Seq¨ˆncias que possuem um limite de freq¨ˆncia relativa
ue ue
Aleatoriedade (lei dos grandes n´meros);
u
Seq¨ˆncias
ue Pertinˆncia a maiorias (probabilidade de ocorrˆncia);
e e
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Aleatoriedade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Podemos abordar o fenˆmeno da aleatoriedade das
o
Complexidade seguintes formas:
de
Kolmogorov Seq¨ˆncias que possuem um limite de freq¨ˆncia relativa
ue ue
Aleatoriedade (lei dos grandes n´meros);
u
Seq¨ˆncias
ue Pertinˆncia a maiorias (probabilidade de ocorrˆncia);
e e
aleat´rias de
o
Martin-L¨f
o
Incompressividade das seq¨ˆncias.
ue
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Incompressividade e irregularidade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov String regular
Carlos A. P.
Campani
11111111111111111111
Introdu¸˜o
ca
Complexidade
de FOR I:=1 TO 20 PRINT 1
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
String irregular
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca 01001101011000110101
Grafos
k-aleat´rios
o
PRINT 01001101011000110101
Conclus˜es
o
Para saber
mais

Incompressividade e Irregularidade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Defini¸˜o
ca
Complexidade Uma string bin´ria x ´ incompress´ se C (x|n) ≥ n − c, onde
a e ıvel
de
Kolmogorov n = x e c ´ a deficiˆncia de aleatoriedade.
e e
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Incompressividade e Irregularidade
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Defini¸˜o
ca
Complexidade Uma string bin´ria x ´ incompress´ se C (x|n) ≥ n − c, onde
a e ıvel
de
Kolmogorov n = x e c ´ a deficiˆncia de aleatoriedade.
e e
Aleatoriedade
Seq¨ˆncias
ue Observa¸˜o
ca
aleat´rias de
o
Martin-L¨f
o
Chamamos x de c-aleat´ria.
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Teorema fundamental
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Teorema da incompressividade
Complexidade
de
Kolmogorov Seja c > 0. Fixando y , todo conjunto A de cardinalidade m
Aleatoriedade tem ao menos m(1 − 2−c ) + 1 elementos x com
Seq¨ˆncias
ue C (x|y ) ≥ log m − c.
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Sum´rio
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
1 Introdu¸˜o
ca
Carlos A. P.
Campani 2 Complexidade de Kolmogorov
Introdu¸˜o
ca
3 Aleatoriedade
Complexidade
de
Kolmogorov 4 Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aleatoriedade
Seq¨ˆncias
ue 5 Distˆncia de informa¸˜o
a ca
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a 6 Grafos k-aleat´rios
o
informa¸˜o
ca
Grafos 7 Conclus˜es
o
k-aleat´rios
o
Conclus˜es
o
8 Para saber mais
Para saber
mais

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de
Seq¨ˆncias t´
ue ıpicas
Kolmogorov
Carlos A. P. Uma seq¨ˆncia ´ at´
ue e ıpica se ela pertence a um conjunto
Campani
com medida zero;
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de
Seq¨ˆncias t´
ue ıpicas
Kolmogorov
Carlos A. P. Uma seq¨ˆncia ´ at´
ue e ıpica se ela pertence a um conjunto
Campani
com medida zero;
Introdu¸˜o
ca
Cada seq¨ˆncia t´
ue ıpica pertence a uma maioria;
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de
Seq¨ˆncias t´
ue ıpicas
Kolmogorov
Carlos A. P. Uma seq¨ˆncia ´ at´
ue e ıpica se ela pertence a um conjunto
Campani
com medida zero;
Introdu¸˜o
ca
Cada seq¨ˆncia t´
ue ıpica pertence a uma maioria;
Complexidade
de O conjunto das seq¨ˆncias t´
ue ıpicas ´ a intersec¸˜o dos
e ca
Kolmogorov
complementos destes conjuntos de medida zero.
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de
Seq¨ˆncias t´
ue ıpicas
Kolmogorov
Carlos A. P. Uma seq¨ˆncia ´ at´
ue e ıpica se ela pertence a um conjunto
Campani
com medida zero;
Introdu¸˜o
ca
Cada seq¨ˆncia t´
ue ıpica pertence a uma maioria;
Complexidade
de O conjunto das seq¨ˆncias t´
ue ıpicas ´ a intersec¸˜o dos
e ca
Kolmogorov
complementos destes conjuntos de medida zero.
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o Problema!
Distˆncia de
a
informa¸˜o
ca
Cada seq¨ˆncia x em particular induz um teste de
ue
Grafos
k-aleat´rios
o aleatoriedade que a exclui de uma maioria;
Conclus˜es
o
Para saber
mais

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de
Seq¨ˆncias t´
ue ıpicas
Kolmogorov
Carlos A. P. Uma seq¨ˆncia ´ at´
ue e ıpica se ela pertence a um conjunto
Campani
com medida zero;
Introdu¸˜o
ca
Cada seq¨ˆncia t´
ue ıpica pertence a uma maioria;
Complexidade
de O conjunto das seq¨ˆncias t´
ue ıpicas ´ a intersec¸˜o dos
e ca
Kolmogorov
complementos destes conjuntos de medida zero.
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o Problema!
Distˆncia de
a
informa¸˜o
ca
Cada seq¨ˆncia x em particular induz um teste de
ue
Grafos
k-aleat´rios
o aleatoriedade que a exclui de uma maioria;
Conclus˜es
o A intersec¸˜o de todas as maiorias seria vazia, ou seja,
ca
Para saber
mais
n˜o existiriam seq¨ˆncias aleat´rias!
a ue o

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de Solu¸˜o
ca
Kolmogorov
Carlos A. P.
Campani
Martin-L¨f restringiu os testes de aleatoriedade aos
o
comput´veis;
a
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de Solu¸˜o
ca
Kolmogorov
Carlos A. P.
Campani
Martin-L¨f restringiu os testes de aleatoriedade aos
o
comput´veis;
a
Introdu¸˜o
ca
Conjunto das seq¨ˆncias aleat´rias possui complemento
ue o
Complexidade
de recursivamente enumer´vel;
a
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de Solu¸˜o
ca
Kolmogorov
Carlos A. P.
Campani
Martin-L¨f restringiu os testes de aleatoriedade aos
o
comput´veis;
a
Introdu¸˜o
ca
Conjunto das seq¨ˆncias aleat´rias possui complemento
ue o
Complexidade
de recursivamente enumer´vel;
a
Kolmogorov
Aleatoriedade As seq¨ˆncias regulares formam um conjunto nulo
ue
Seq¨ˆncias
ue (medida zero);
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de Solu¸˜o
ca
Kolmogorov
Carlos A. P.
Campani
Martin-L¨f restringiu os testes de aleatoriedade aos
o
comput´veis;
a
Introdu¸˜o
ca
Conjunto das seq¨ˆncias aleat´rias possui complemento
ue o
Complexidade
de recursivamente enumer´vel;
a
Kolmogorov
Aleatoriedade As seq¨ˆncias regulares formam um conjunto nulo
ue
Seq¨ˆncias
ue (medida zero);
aleat´rias de
o
Martin-L¨f
o Teorema: Existe um conjunto efetivo nulo maximal;
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de Solu¸˜o
ca
Kolmogorov
Carlos A. P.
Campani
Martin-L¨f restringiu os testes de aleatoriedade aos
o
comput´veis;
a
Introdu¸˜o
ca
Conjunto das seq¨ˆncias aleat´rias possui complemento
ue o
Complexidade
de recursivamente enumer´vel;
a
Kolmogorov
Aleatoriedade As seq¨ˆncias regulares formam um conjunto nulo
ue
Seq¨ˆncias
ue (medida zero);
aleat´rias de
o
Martin-L¨f
o Teorema: Existe um conjunto efetivo nulo maximal;
Distˆncia de
a
informa¸˜o
ca Ou seja, se M ´ o conjunto efetivo nulo maximal ent˜o
e a
Grafos X ⊂ M, para todo conjunto efetivo nulo X ;
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aplica¸˜es da
co
Complexidade
de Solu¸˜o
ca
Kolmogorov
Carlos A. P.
Campani
Martin-L¨f restringiu os testes de aleatoriedade aos
o
comput´veis;
a
Introdu¸˜o
ca
Conjunto das seq¨ˆncias aleat´rias possui complemento
ue o
Complexidade
de recursivamente enumer´vel;
a
Kolmogorov
Aleatoriedade As seq¨ˆncias regulares formam um conjunto nulo
ue
Seq¨ˆncias
ue (medida zero);
aleat´rias de
o
Martin-L¨f
o Teorema: Existe um conjunto efetivo nulo maximal;
Distˆncia de
a
informa¸˜o
ca Ou seja, se M ´ o conjunto efetivo nulo maximal ent˜o
e a
Grafos X ⊂ M, para todo conjunto efetivo nulo X ;
k-aleat´rios
o
Conclus˜es
o
Isto significa que a uni˜o de todos os conjuntos efetivos
a
Para saber nulos ´ tamb´m um conjunto efetivo nulo.
e e
mais

Defini¸˜o de Martin-L¨f
ca o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Defini¸˜o
ca
Carlos A. P.
Campani
Uma string x = x1 x2 x3 · · · ´ Martin-L¨f aleat´ria se e somente
e o o
Introdu¸˜o
ca se, para alguma constante c > 0, K (x1 x2 x3 · · · xn ) ≥ n − c,
Complexidade para todo n.
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Defini¸˜o de Martin-L¨f
ca o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Defini¸˜o
ca
Carlos A. P.
Campani
Uma string x = x1 x2 x3 · · · ´ Martin-L¨f aleat´ria se e somente
e o o
Introdu¸˜o
ca se, para alguma constante c > 0, K (x1 x2 x3 · · · xn ) ≥ n − c,
Complexidade para todo n.
de
Kolmogorov
Aleatoriedade Equivalˆncia entre as defini¸˜es
e co
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o Ou seja, h´ equivalˆncia entre a defini¸˜o de aleatoriedade
a e ca
Distˆncia de
a de Martin-L¨f e a defini¸˜o via incompressividade de
o ca
informa¸˜o
ca
strings bin´rias;
a
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Defini¸˜o de Martin-L¨f
ca o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Defini¸˜o
ca
Carlos A. P.
Campani
Uma string x = x1 x2 x3 · · · ´ Martin-L¨f aleat´ria se e somente
e o o
Introdu¸˜o
ca se, para alguma constante c > 0, K (x1 x2 x3 · · · xn ) ≥ n − c,
Complexidade para todo n.
de
Kolmogorov
Aleatoriedade Equivalˆncia entre as defini¸˜es
e co
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o Ou seja, h´ equivalˆncia entre a defini¸˜o de aleatoriedade
a e ca
Distˆncia de
a de Martin-L¨f e a defini¸˜o via incompressividade de
o ca
informa¸˜o
ca
strings bin´rias;
a
Grafos
k-aleat´rios
o Esta equivalˆncia ´ uma evidˆncia da corre¸˜o desta teoria.
e e e ca
Conclus˜es
o
Para saber
mais

Sum´rio
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
1 Introdu¸˜o
ca
Carlos A. P.
Campani 2 Complexidade de Kolmogorov
Introdu¸˜o
ca
3 Aleatoriedade
Complexidade
de
Kolmogorov 4 Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aleatoriedade
Seq¨ˆncias
ue 5 Distˆncia de informa¸˜o
a ca
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a 6 Grafos k-aleat´rios
o
informa¸˜o
ca
Grafos 7 Conclus˜es
o
k-aleat´rios
o
Conclus˜es
o
8 Para saber mais
Para saber
mais

Distˆncia de informa¸˜o
a ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca A distˆncia de informa¸˜o ´ uma m´trica universal a priori
a ca e e
Complexidade
de
sobre as strings bin´rias;
a
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Distˆncia de informa¸˜o
a ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca A distˆncia de informa¸˜o ´ uma m´trica universal a priori
a ca e e
Complexidade
de
sobre as strings bin´rias;
a
Kolmogorov
Embora n˜o comput´vel, podemos obter uma aproxima¸˜o
a a ca
Aleatoriedade
Seq¨ˆncias
ue
comput´vel usando programas de compress˜o de dados
a a
aleat´rias de
o (gzip, bzip2, etc.).
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Aplica¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Precedentes
Carlos A. P.
Campani
Classifica¸˜o autom´tica de m´sica (por gˆnero e autor);
ca a u e
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Aplica¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Precedentes
Carlos A. P.
Campani
Classifica¸˜o autom´tica de m´sica (por gˆnero e autor);
ca a u e
Introdu¸˜o
ca
Determina¸˜o do parentesco de l´
ca ınguas humanas;
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Aplica¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Precedentes
Carlos A. P.
Campani
Classifica¸˜o autom´tica de m´sica (por gˆnero e autor);
ca a u e
Introdu¸˜o
ca
Determina¸˜o do parentesco de l´
ca ınguas humanas;
Complexidade
de
Kolmogorov
Reconhecimento de DNA mitocondrial.
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Aplica¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Precedentes
Carlos A. P.
Campani
Classifica¸˜o autom´tica de m´sica (por gˆnero e autor);
ca a u e
Introdu¸˜o
ca
Determina¸˜o do parentesco de l´
ca ınguas humanas;
Complexidade
de
Kolmogorov
Reconhecimento de DNA mitocondrial.
Aleatoriedade
Seq¨ˆncias
ue Aplica¸˜es desenvolvidas
co
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a Classifica¸˜o (clustering) de literatura lus´fona segundo
ca o
informa¸˜o
ca
estilo e per´
ıodo liter´rio;
a
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Aplica¸˜es
co
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Precedentes
Carlos A. P.
Campani
Classifica¸˜o autom´tica de m´sica (por gˆnero e autor);
ca a u e
Introdu¸˜o
ca
Determina¸˜o do parentesco de l´
ca ınguas humanas;
Complexidade
de
Kolmogorov
Reconhecimento de DNA mitocondrial.
Aleatoriedade
Seq¨ˆncias
ue Aplica¸˜es desenvolvidas
co
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a Classifica¸˜o (clustering) de literatura lus´fona segundo
ca o
informa¸˜o
ca
estilo e per´
ıodo liter´rio;
a
Grafos
k-aleat´rios
o Como uma m´trica de qualidade de imagem.
e
Conclus˜es
o
Para saber
mais

M´trica de qualidade de imagem
e
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

M´trica de qualidade de imagem
e
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

M´trica de qualidade de imagem
e
Aplica¸˜es da
co
Complexidade Necessidade
de
Kolmogorov
Muitas vezes h´ a necessidade de transformar uma imagem
a
Carlos A. P.
Campani
para armazena-la.
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

M´trica de qualidade de imagem
e
Aplica¸˜es da
co
Complexidade Necessidade
de
Kolmogorov
Muitas vezes h´ a necessidade de transformar uma imagem
a
Carlos A. P.
Campani
para armazena-la.
Introdu¸˜o
ca
Exemplos
Complexidade
de
Kolmogorov
Tratamento de imagens;
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

M´trica de qualidade de imagem
e
Aplica¸˜es da
co
Complexidade Necessidade
de
Kolmogorov
Muitas vezes h´ a necessidade de transformar uma imagem
a
Carlos A. P.
Campani
para armazena-la.
Introdu¸˜o
ca
Exemplos
Complexidade
de
Kolmogorov
Tratamento de imagens;
Aleatoriedade
Seq¨ˆncias
ue
Compress˜o de dados com perdas;
a
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

M´trica de qualidade de imagem
e
Aplica¸˜es da
co
Complexidade Necessidade
de
Kolmogorov
Muitas vezes h´ a necessidade de transformar uma imagem
a
Carlos A. P.
Campani
para armazena-la.
Introdu¸˜o
ca
Exemplos
Complexidade
de
Kolmogorov
Tratamento de imagens;
Aleatoriedade
Seq¨ˆncias
ue
Compress˜o de dados com perdas;
a
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a Similaridade entre imagens
informa¸˜o
ca
Grafos
k-aleat´rios
o Medida da similaridade ou distˆncia entre imagens;
a
Conclus˜es
o
Para saber
mais

M´trica de qualidade de imagem
e
Aplica¸˜es da
co
Complexidade Necessidade
de
Kolmogorov
Muitas vezes h´ a necessidade de transformar uma imagem
a
Carlos A. P.
Campani
para armazena-la.
Introdu¸˜o
ca
Exemplos
Complexidade
de
Kolmogorov
Tratamento de imagens;
Aleatoriedade
Seq¨ˆncias
ue
Compress˜o de dados com perdas;
a
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a Similaridade entre imagens
informa¸˜o
ca
Grafos
k-aleat´rios
o Medida da similaridade ou distˆncia entre imagens;
a
Conclus˜es
o
Isto ´ o que chamamos de m´trica de qualidade de
e e
Para saber
mais imagem.

Defini¸˜o de distˆncia
ca a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Seja S um espa¸o. Uma m´trica para S ´ uma fun¸˜o definida
c e e ca
Introdu¸˜o
ca
sobre o produto cartesiano S × S, d : S × S → R, se e somente
Complexidade
de se para todo x, y , z ∈ S:
Kolmogorov
Aleatoriedade
1 d(x, y ) ≥ 0 e d(x, y ) = 0 se e somente se x = y ;
Seq¨ˆncias
ue 2 d(x, y ) = d(y , x) (simetria);
aleat´rias de
o
Martin-L¨f
o
3 d(x, y ) ≤ d(x, z) + d(z, y ) (desigualdade triangular).
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Defini¸˜o de distˆncia
ca a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Seja S um espa¸o. Uma m´trica para S ´ uma fun¸˜o definida
c e e ca
Introdu¸˜o
ca
sobre o produto cartesiano S × S, d : S × S → R, se e somente
Complexidade
de se para todo x, y , z ∈ S:
Kolmogorov
Aleatoriedade
1 d(x, y ) ≥ 0 e d(x, y ) = 0 se e somente se x = y ;
Seq¨ˆncias
ue 2 d(x, y ) = d(y , x) (simetria);
aleat´rias de
o
Martin-L¨f
o
3 d(x, y ) ≤ d(x, z) + d(z, y ) (desigualdade triangular).
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Defini¸˜o de distˆncia
ca a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Seja S um espa¸o. Uma m´trica para S ´ uma fun¸˜o definida
c e e ca
Introdu¸˜o
ca
sobre o produto cartesiano S × S, d : S × S → R, se e somente
Complexidade
de se para todo x, y , z ∈ S:
Kolmogorov
Aleatoriedade
1 d(x, y ) ≥ 0 e d(x, y ) = 0 se e somente se x = y ;
Seq¨ˆncias
ue 2 d(x, y ) = d(y , x) (simetria);
aleat´rias de
o
Martin-L¨f
o
3 d(x, y ) ≤ d(x, z) + d(z, y ) (desigualdade triangular).
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Defini¸˜o de distˆncia
ca a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Seja S um espa¸o. Uma m´trica para S ´ uma fun¸˜o definida
c e e ca
Introdu¸˜o
ca
sobre o produto cartesiano S × S, d : S × S → R, se e somente
Complexidade
de se para todo x, y , z ∈ S:
Kolmogorov
Aleatoriedade
1 d(x, y ) ≥ 0 e d(x, y ) = 0 se e somente se x = y ;
Seq¨ˆncias
ue 2 d(x, y ) = d(y , x) (simetria);
aleat´rias de
o
Martin-L¨f
o
3 d(x, y ) ≤ d(x, z) + d(z, y ) (desigualdade triangular).
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Distˆncia de informa¸˜o
a ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Defini¸˜o
ca
Complexidade
de
Kolmogorov
max(K (x|y ), K (y |x))
Aleatoriedade d(x, y ) =
Seq¨ˆncias
ue
max(K (x), K (y ))
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Distˆncia de informa¸˜o
a ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Propriedades
Introdu¸˜o
ca
Distˆncia de informa¸˜o satisfaz uma vers˜o fraca de m´trica:
a ca a e
Complexidade
de
Kolmogorov
Simetria d(x, y ) = d(y , x);
Aleatoriedade Identidade fraca d(x, x) = O(1/K (x)) pois K (x|x) ≈ O(1);
Seq¨ˆncias
ue
aleat´rias de
o Desigualdade triangular fraca d(x, y ) ≤
Martin-L¨f
o 1
d(x, z) + d(z, y ) + O max(K (x),K (y ),K (z)) .
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Distˆncia de informa¸˜o
a ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Propriedades
Introdu¸˜o
ca
Distˆncia de informa¸˜o satisfaz uma vers˜o fraca de m´trica:
a ca a e
Complexidade
de
Kolmogorov
Simetria d(x, y ) = d(y , x);
Aleatoriedade Identidade fraca d(x, x) = O(1/K (x)) pois K (x|x) ≈ O(1);
Seq¨ˆncias
ue
aleat´rias de
o Desigualdade triangular fraca d(x, y ) ≤
Martin-L¨f
o 1
d(x, z) + d(z, y ) + O max(K (x),K (y ),K (z)) .
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Distˆncia de informa¸˜o
a ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Propriedades
Introdu¸˜o
ca
Distˆncia de informa¸˜o satisfaz uma vers˜o fraca de m´trica:
a ca a e
Complexidade
de
Kolmogorov
Simetria d(x, y ) = d(y , x);
Aleatoriedade Identidade fraca d(x, x) = O(1/K (x)) pois K (x|x) ≈ O(1);
Seq¨ˆncias
ue
aleat´rias de
o Desigualdade triangular fraca d(x, y ) ≤
Martin-L¨f
o 1
d(x, z) + d(z, y ) + O max(K (x),K (y ),K (z)) .
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Distˆncia de informa¸˜o
a ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Propriedades
Introdu¸˜o
ca
Distˆncia de informa¸˜o satisfaz uma vers˜o fraca de m´trica:
a ca a e
Complexidade
de
Kolmogorov
Simetria d(x, y ) = d(y , x);
Aleatoriedade Identidade fraca d(x, x) = O(1/K (x)) pois K (x|x) ≈ O(1);
Seq¨ˆncias
ue
aleat´rias de
o Desigualdade triangular fraca d(x, y ) ≤
Martin-L¨f
o 1
d(x, z) + d(z, y ) + O max(K (x),K (y ),K (z)) .
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Distˆncia de informa¸˜o
a ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Propriedade da universalidade
Complexidade
de
log max(K (x), K (y ))
Kolmogorov
d(x, y ) ≤ f (x, y ) + O ,
Aleatoriedade max(K (x), K (y ))
Seq¨ˆncias
ue
aleat´rias de
o onde f (., .) ´ uma distˆncia normalizada semi-comput´vel por
e a a
Martin-L¨f
o
cima qualquer.
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Uso de aproxima¸˜o
ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov Aplica¸˜o da distˆncia
ca a
Carlos A. P.
Campani Para aplicar na pr´tica a medida ´ necess´rio obter uma
a e a
Introdu¸˜o
ca
aproxima¸˜o comput´vel usando um programa de compress˜o
ca a a
Complexidade
de dados.
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Uso de aproxima¸˜o
ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov Aplica¸˜o da distˆncia
ca a
Carlos A. P.
Campani Para aplicar na pr´tica a medida ´ necess´rio obter uma
a e a
Introdu¸˜o
ca
aproxima¸˜o comput´vel usando um programa de compress˜o
ca a a
Complexidade
de dados.
de
Kolmogorov
Problema
Aleatoriedade
Seq¨ˆncias
ue N˜o podemos aproximar complexidades condicionais.
a
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Uso de aproxima¸˜o
ca
Aplica¸˜es da
co
Complexidade
de
Kolmogorov Aplica¸˜o da distˆncia
ca a
Carlos A. P.
Campani Para aplicar na pr´tica a medida ´ necess´rio obter uma
a e a
Introdu¸˜o
ca
aproxima¸˜o comput´vel usando um programa de compress˜o
ca a a
Complexidade
de dados.
de
Kolmogorov
Problema
Aleatoriedade
Seq¨ˆncias
ue N˜o podemos aproximar complexidades condicionais.
a
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a Solu¸˜o (Peter G´cs)
ca a
informa¸˜o
ca
Grafos
k-aleat´rios
o
K (x|y ) ≈ K (yx) − K (y )
Conclus˜es
o
Para saber
mais

Classifica¸˜o de literatura lus´fona
ca o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Id´ia
e
Complexidade
de Usar a distˆncia de informa¸˜o como um discriminante para
a ca
Kolmogorov
agrupar (clustering) obras da literatura lus´fona,
o
Aleatoriedade
classificando-as automaticamente em rela¸˜o ao estilo e
ca
Seq¨ˆncias
ue
aleat´rias de
o per´
ıodo liter´rio.
a
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Classifica¸˜o de literatura lus´fona
ca o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Classifica¸˜o de literatura lus´fona
ca o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Sum´rio
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
1 Introdu¸˜o
ca
Carlos A. P.
Campani 2 Complexidade de Kolmogorov
Introdu¸˜o
ca
3 Aleatoriedade
Complexidade
de
Kolmogorov 4 Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aleatoriedade
Seq¨ˆncias
ue 5 Distˆncia de informa¸˜o
a ca
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a 6 Grafos k-aleat´rios
o
informa¸˜o
ca
Grafos 7 Conclus˜es
o
k-aleat´rios
o
Conclus˜es
o
8 Para saber mais
Para saber
mais

Grafos aleat´rios
o
Aplica¸˜es da
co
Complexidade
de Objetivo
Kolmogorov
Carlos A. P.
Campani Expressar propriedades de grafos cujas arestas
distribuem-se de forma aleat´ria;
o
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Grafos aleat´rios
o
Aplica¸˜es da
co
Complexidade
de Objetivo
Kolmogorov
Carlos A. P.
Campani Expressar propriedades de grafos cujas arestas
distribuem-se de forma aleat´ria;
o
Introdu¸˜o
ca
Complexidade
Estas propriedades valem com probabilidade 1 para grafos
de
Kolmogorov
com um n´mero infinito de v´rtices;
u e
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Grafos aleat´rios
o
Aplica¸˜es da
co
Complexidade
de Objetivo
Kolmogorov
Carlos A. P.
Campani Expressar propriedades de grafos cujas arestas
distribuem-se de forma aleat´ria;
o
Introdu¸˜o
ca
Complexidade
Estas propriedades valem com probabilidade 1 para grafos
de
Kolmogorov
com um n´mero infinito de v´rtices;
u e
Aleatoriedade As propriedades destes grafos podem ser generalizadas
Seq¨ˆncias
ue (assintoticamente) para grafos com um n´mero finito de
u
aleat´rias de
o
Martin-L¨f
o v´rtices;
e
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Grafos aleat´rios
o
Aplica¸˜es da
co
Complexidade
de Objetivo
Kolmogorov
Carlos A. P.
Campani Expressar propriedades de grafos cujas arestas
distribuem-se de forma aleat´ria;
o
Introdu¸˜o
ca
Complexidade
Estas propriedades valem com probabilidade 1 para grafos
de
Kolmogorov
com um n´mero infinito de v´rtices;
u e
Aleatoriedade As propriedades destes grafos podem ser generalizadas
Seq¨ˆncias
ue (assintoticamente) para grafos com um n´mero finito de
u
aleat´rias de
o
Martin-L¨f
o v´rtices;
e
Distˆncia de
a
informa¸˜o
ca
Grafos Aplica¸˜o
ca
k-aleat´rios
o
Conclus˜es
o Provar propriedades de redes de computadores com conex˜eso
Para saber quase aleat´rias (que se interconecta de forma ca´tica).
o o
mais

Grafo rotulado
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Defini¸˜o
ca
Complexidade
de Um grafo rotulado ´ um par G = (V , A) (V , conjunto de
e
Kolmogorov
v´rtices e A, conjunto de arestas) sobre n v´rtices
e e
Aleatoriedade
V = {1, 2, . . . , n}, tal que podemos representa-lo por uma
Seq¨ˆncias
ue
aleat´rias de
o string bin´ria E (G ) de tamanho n .
a 2
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Diagrama
Aplica¸˜es da
co
Complexidade
de
Um exemplo
()*+
/.-,
Kolmogorov
Carlos A. P.
nn 20AAA
Campani
nnn 00 A
nnn 00 AAA
()*+n
/.-,A UU 00 /.-,
()*+
Introdu¸˜o
ca
nnnnn 00 A
Complexidade
1 U UU
AA UUU 3
de
AA UUUU 00
()*+
/.-, /.-,
()*+
Kolmogorov
AA UUUU 0
Aleatoriedade A UUUU0
Seq¨ˆncias
ue 5 4
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Diagrama
Aplica¸˜es da
co
Complexidade
de
Um exemplo
()*+
/.-,
Kolmogorov
Carlos A. P.
nn 20AAA
Campani
nnn 00 A
nnn 00 AAA
()*+n
/.-,A UU 00 /.-,
()*+
Introdu¸˜o
ca
nnnnn 00 A
Complexidade
1 U UU
AA UUU 3
de
AA UUUU 00
()*+
/.-, /.-,
()*+
Kolmogorov
AA UUUU 0
Aleatoriedade A UUUU0
Seq¨ˆncias
ue 5 4
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca Representa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o 1011 110 00 1
Para saber 1 2 3 4
mais

Deficiˆncia de aleatoriedade
e
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca Um grafo rotulado G sobre n v´rtices tem deficiˆncia de
e e
Complexidade
de
aleatoriedade no m´ximo δ(n), e ´ chamado de δ(n)-aleat´rio,
a e o
Kolmogorov se satisfaz:
Aleatoriedade n
C (E (G )|n) ≥ − δ(n)
Seq¨ˆncias
ue 2
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Propriedades
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
A fra¸˜o de pelo menos 1 − 1/2δ(n) de todos os grafos
ca
Introdu¸˜o
ca rotulados G sobre n v´rtices ´ δ(n)-aleat´rio (pelo
e e o
Complexidade Teorema da Incompressividade);
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Propriedades
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
A fra¸˜o de pelo menos 1 − 1/2δ(n) de todos os grafos
ca
Introdu¸˜o
ca rotulados G sobre n v´rtices ´ δ(n)-aleat´rio (pelo
e e o
Complexidade Teorema da Incompressividade);
de
Kolmogorov Todo grafo aleat´rio rotulado (grafo que tem “alta
o
Aleatoriedade
complexidade de Kolmogorov”) possui n/4 caminhos
Seq¨ˆncias
ue
aleat´rias de
o disjuntos de tamanho 2 entre quaisquer dois v´rtices;
e
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Propriedades
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
A fra¸˜o de pelo menos 1 − 1/2δ(n) de todos os grafos
ca
Introdu¸˜o
ca rotulados G sobre n v´rtices ´ δ(n)-aleat´rio (pelo
e e o
Complexidade Teorema da Incompressividade);
de
Kolmogorov Todo grafo aleat´rio rotulado (grafo que tem “alta
o
Aleatoriedade
complexidade de Kolmogorov”) possui n/4 caminhos
Seq¨ˆncias
ue
aleat´rias de
o disjuntos de tamanho 2 entre quaisquer dois v´rtices;
e
Martin-L¨f
o
Para todo grafo aleat´rio rotulado o grau de nodo para
o
Distˆncia de
a
informa¸˜o
ca todo v´rtice ´ n/2.
e e
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Sum´rio
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
1 Introdu¸˜o
ca
Carlos A. P.
Campani 2 Complexidade de Kolmogorov
Introdu¸˜o
ca
3 Aleatoriedade
Complexidade
de
Kolmogorov 4 Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aleatoriedade
Seq¨ˆncias
ue 5 Distˆncia de informa¸˜o
a ca
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a 6 Grafos k-aleat´rios
o
informa¸˜o
ca
Grafos 7 Conclus˜es
o
k-aleat´rios
o
Conclus˜es
o
8 Para saber mais
Para saber
mais

Conclus˜es
o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani Existem boas possibilidades de pesquisa na ´rea de
a
complexidade de Kolmogorov;
Introdu¸˜o
ca
Complexidade
de
Kolmogorov
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Conclus˜es
o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani Existem boas possibilidades de pesquisa na ´rea de
a
complexidade de Kolmogorov;
Introdu¸˜o
ca
Complexidade
Aplica¸˜es da complexidade de Kolmogorov podem ser
co
de uteis na pr´tica de ciˆncia da computa¸˜o, como por
´ a e ca
Kolmogorov
exemplo:
Aleatoriedade
Seq¨ˆncias
ue
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Conclus˜es
o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani Existem boas possibilidades de pesquisa na ´rea de
a
complexidade de Kolmogorov;
Introdu¸˜o
ca
Complexidade
Aplica¸˜es da complexidade de Kolmogorov podem ser
co
de uteis na pr´tica de ciˆncia da computa¸˜o, como por
´ a e ca
Kolmogorov
exemplo:
Aleatoriedade
Determinar a qualidade de imagens submetidas a
Seq¨ˆncias
ue
aleat´rias de
o distor¸˜es;
co
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Conclus˜es
o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani Existem boas possibilidades de pesquisa na ´rea de
a
complexidade de Kolmogorov;
Introdu¸˜o
ca
Complexidade
Aplica¸˜es da complexidade de Kolmogorov podem ser
co
de uteis na pr´tica de ciˆncia da computa¸˜o, como por
´ a e ca
Kolmogorov
exemplo:
Aleatoriedade
Determinar a qualidade de imagens submetidas a
Seq¨ˆncias
ue
aleat´rias de
o distor¸˜es;
co
Martin-L¨f
o
Classifica¸˜o (clustering) de literatura lus´fona;
ca o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Conclus˜es
o
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani Existem boas possibilidades de pesquisa na ´rea de
a
complexidade de Kolmogorov;
Introdu¸˜o
ca
Complexidade
Aplica¸˜es da complexidade de Kolmogorov podem ser
co
de uteis na pr´tica de ciˆncia da computa¸˜o, como por
´ a e ca
Kolmogorov
exemplo:
Aleatoriedade
Determinar a qualidade de imagens submetidas a
Seq¨ˆncias
ue
aleat´rias de
o distor¸˜es;
co
Martin-L¨f
o
Classifica¸˜o (clustering) de literatura lus´fona;
ca o
Distˆncia de
a
informa¸˜o
ca
Estabelecer propriedades topol´gicas de redes de
o
Grafos
computadores (com conex˜es ca´ticas).
o o
k-aleat´rios
o
Conclus˜es
o
Para saber
mais

Sum´rio
a
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
1 Introdu¸˜o
ca
Carlos A. P.
Campani 2 Complexidade de Kolmogorov
Introdu¸˜o
ca
3 Aleatoriedade
Complexidade
de
Kolmogorov 4 Seq¨ˆncias aleat´rias de Martin-L¨f
ue o o
Aleatoriedade
Seq¨ˆncias
ue 5 Distˆncia de informa¸˜o
a ca
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a 6 Grafos k-aleat´rios
o
informa¸˜o
ca
Grafos 7 Conclus˜es
o
k-aleat´rios
o
Conclus˜es
o
8 Para saber mais
Para saber
mais

Para saber mais
Aplica¸˜es da
co
Complexidade
de
Kolmogorov H. Buhrman, Ming Li, J. Tromp, and Paul Vitanyi.
Carlos A. P.
Campani
Kolmogorov random graphs and the incompressibility
method.
Introdu¸˜o
ca
SIAM J. Comput., 29(2):590–599, 1999.
Complexidade
de
Kolmogorov Ming Li, Xin Chen, Xin Li, Bin Ma, and Paul Vit´nyi.
a
Aleatoriedade The similarity metric.
Seq¨ˆncias
ue In 14th ACM-SIAM Symp. Discrete Algorithms, SODA,
aleat´rias de
o
Martin-L¨f
o 2003.
Distˆncia de
a
informa¸˜o
ca
Ming Li and Paul Vit´nyi.
a
Grafos An Introduction to Kolmogorov Complexity and its
k-aleat´rios
o
Applications.
Conclus˜es
o
Springer, New York, 1997.
Para saber
mais

Links
Aplica¸˜es da
co
Complexidade
de
Kolmogorov
Carlos A. P.
Campani
Introdu¸˜o
ca
Complexidade
Grupo Ω − π http://minerva.ufpel.tche.br/~campani/
de
Kolmogorov
grupo.htm
Aleatoriedade Kolmogorov Complexity and Solomonoff Induction
Seq¨ˆncias
ue http://www.hutter1.de/kolmo.htm
aleat´rias de
o
Martin-L¨f
o
Distˆncia de
a
informa¸˜o
ca
Grafos
k-aleat´rios
o
Conclus˜es
o
Para saber
mais