More Related Content Similar to Campus partybrasil2011 v2 Similar to Campus partybrasil2011 v2 (17) More from Campus Party Brasil More from Campus Party Brasil (20) Campus partybrasil2011 v21. Grid Computing:
Conceitos e Arquiteturas
Francisco Brasileiro
fubica@silibrina.com
Silibrina Tecnologia Ltda
(membro da Comunidade OurGrid)
Campus Party 2011
CloudCamp, CONSEGI 2010 1/5 Brasília, August 18th, 2010
2. O resumo da nossa conversa
• Combinar o poder de processamento de vários
computadores ligados em rede para conseguir
rodar tarefas impossíveis de executar utilizando
um único computador. Parece uma boa ideia,
não? Pois nesta palestra, será feita uma
introdução aos conceitos da computação em
grade, um verdadeiro exemplo da aplicação da
máxima popular "a união faz a força" no mundo
da computação.
CloudCamp, CONSEGI 2010 2/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
3. Mas, o que são essas “tarefas impossíveis”?
Quem se arrisca a dar
exemplos?
CloudCamp, CONSEGI 2010 3/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
4. Aplicações “saco-de-tarefas” (BoT, bag-of-tasks)
• São aplicações trivialmente paralelizáveis
• A aplicação pode ser dividida em tarefas
que executam de forma independente
– Não há comunicação entre tarefas
• Escalonamento é trivial
• Tolerância a falhas também
CloudCamp, CONSEGI 2010 4/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
5. Quebrando códigos de criptografia
CloudCamp, CONSEGI 2010 5/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
6. Busca paralela
• Dividindo o espaço de busca
{aaaa, aaab, ..., zzzz} Grupo Soluções
0 [0, k ‐ 1]
1 [k, 2k ‐ 1]
... ...
N [j, N]
{0, 1, ..., N}
CloudCamp, CONSEGI 2010 6/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
7. Busca paralela
Grupo Soluções (grupo=0, cifra)
0 [0, k ‐ 1]
1 [k, 2k ‐ 1]
(false, “”)
... ... cript (aaaa) != cifra
N [j, N] cript (aaab) != cifra
....
(grupo=1, cifra) (true, “ufcg”)
cript (cccc) != cifra
cript (ufcg) == cifra
CloudCamp, CONSEGI 2010 7/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
8. Busca paralela
• Isso é viável?
num. horas (1
num. num. testes por grupo (100 milhão de testes por
carac. num. possibilidades milhões de processadores) segundo)
1 47 0 0
2 2.209 0 0
3 103.823 0 0
4 4.879.681 5 0
5 229.345.007 229 0
6 10.779.215.329 10.779 0
7 506.623.120.463 506.623 0
8 23.811.286.661.761 23.811.287 0
9 1.119.130.473.102.770 1.119.130.473 0
10 52.599.132.235.830.000 52.599.132.236 15
11 2.472.159.215.084.010.000 2.472.159.215.084 687
12 116.191.483.108.949.000.000 116.191.483.108.949 32.275
13 5.460.999.706.120.580.000.000 5.460.999.706.120.580 1.516.944
14 256.666.986.187.667.000.000.000 256.666.986.187.667.000 71.296.385
15 12.063.348.350.820.400.000.000.000 12.063.348.350.820.400.000 3.350.930.097
16 566.977.372.488.557.000.000.000.000 566.977.372.488.557.000.000 157.493.714.580
CloudCamp, CONSEGI 2010 8/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
9. Processamento de imagens
• Blender: renderização de filmes
– Cada frame pode ser renderizado de forma
independente dos outros
CloudCamp, CONSEGI 2010 9/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
10. Processamento de imagens
• Filtro de imagens
– Imagens podem ser representadas como
matrizes e facilmente divisíveis
CloudCamp, CONSEGI 2010 10/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
11. Filtro de imagens como uma BoT
CloudCamp, CONSEGI 2010 11/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
12. Bioinformática
• Projeto de novos medicamentos
– A atividade de uma droga está relacionada
com a afinidade entre moléculas
CloudCamp, CONSEGI 2010 12/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
13. Drug screening
• Afinidade geométrica e química entre as
moléculas das drogas estudadas e
proteínas receptoras
– Tipicamente milhões de possibilidades
precisam ser testadas
CloudCamp, CONSEGI 2010 13/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
14. Auxílio à tomada de decisão
• Exemplo: diagnóstico médico através de
exames de imagens
CloudCamp, CONSEGI 2010 14/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
15. Detecção de casos similares
Ranking
...
CloudCamp, CONSEGI 2010 15/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
16. • Agora que talvez eu tenha convencido
vocês que há o que se fazer com qualquer
processador no qual se possa colocar as
mãos ...
• Como é que podemos ter acesso a
milhares ou até milhões de processadores
para executar aplicações BoT?
CloudCamp, CONSEGI 2010 16/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
17. Federando recursos de domínios administrativos
diferentes
• Grid computing
– Tecnologia que possibilita o compartilhamento
de recursos, pertencentes a diferentes
domínios administrativos, permitindo:
• Acesso a dados de terceiros
• Acesso a equipamentos sofisticados
• Aumentar o acesso a recursos computacionais
CloudCamp, CONSEGI 2010 17/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
18. Computação voluntária
• Se apóia na existência de uma enorme
quantidade de poder computacional ocioso
nas “pontas” da Internet
– SETI@home (Berkley)
– Folding@home (Stanford)
– World Community Grid (IBM)
– Ibercivis (Espanha e Portugal)
• Esses projetos se mostraram capazes de
capturar uma quantidade significativa de
poder computacional
CloudCamp, CONSEGI 2010 18/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
19. BOINC
TeraFLOPS = RAC/100,000
CloudCamp, CONSEGI 2010 19/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
20. Arquitetura de um serviço de computação voluntária
CloudCamp, CONSEGI 2010 20/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
21. Mas isso resolve o problema de
todo mundo que precisa
executar aplicações BoT?
CloudCamp, CONSEGI 2010 21/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
22. Computação Voluntária
• Barreira de entrada é muito grande,
pois requer:
– do usuário
• Aplicações com alto impacto e visibilidade
– do provedor
• Grande esforço de marketing e disseminação
• Provedor de aplicações com prestígio
• Time de suporte qualificado para gerenciar o
“servidor”
CloudCamp, CONSEGI 2010 22/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
23. Grids peer-to-peer (P2P)
• Cada peer do sistema contribui com seus
recursos ociosos (1 ou mais processadores)
Utilização da CPU pelo peer 1
1
tempo
Utilização da cpu pelo peer 2
1
tempo
Utilização da CPU pelo grid P2P
1
tempo
CloudCamp, CONSEGI 2010 23/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
24. Grids P2P
• Peers juntam-se à grade por vontade
própria
– Sem burocracia
– Sem uma autoridade central
• Grade aberta para provedores e consumidores de
recursos
• Custos de implantação e manutenção são
compartilhados
• Isso torna a solução acessível para a
maior parte dos usuários
CloudCamp, CONSEGI 2010 24/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
25. Grades P2P
• Mas ...
– O fato de não termos confiança entre os
pares trás implicações em relação à
segurança do grid
• Proteção contra aplicações não confiáveis
• Proteção contra recursos não confiáveis
– Possibilidade de pares “caloteiros” (free
riders)
CloudCamp, CONSEGI 2010 25/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
26. O OurGrid: Grid Computing made in Brazil
• Middleware software livre para dar suporte
a grids P2P
• Desenvolvido pela UFCG (LSD/DSC) com
financiamento da HP Brasil P&D (lei de
Informática)
• Atualmente usado por vários grids no
mundo
CloudCamp, CONSEGI 2010 26/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
27. Princípios de design do OurGrid
• Os peers podem, gratuitamente, juntar-se ao
sistema sem negociação humana
– Não há necessidade de reunião e papelada a ser
preenchida
• Incentivo claro para juntar-se ao sistema
– Ninguém se prejudica ao juntar-se ao sistema
– Resistente a free riders
• Propriedades básicas
– Oferece um nível mínimo de segurança
– É tolerante a falhas
• Fácil de instalar, configurar e programar
– Não há necessidade de um corpo técnico de suporte
muito especializado
CloudCamp, CONSEGI 2010 27/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
28. Arquitetura do OurGrid
Gerência do site e
compartilhamento global de
CloudCamp, CONSEGI 2010 28/5
recursos Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
29. Arquitetura do OurGrid
Serviço de
rendezvous
Gerência do site e
compartilhamento global de
CloudCamp, CONSEGI 2010 29/5
recursos Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
30. Arquitetura do OurGrid
Serviço de
rendezvous
Segurança e política de
compartilhamento local Gerência do site e
compartilhamento global de
CloudCamp, CONSEGI 2010 30/5
recursos Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
31. Arquitetura do OurGrid
Interface do
usuário,
Escalonamento e
monitoramento
de aplicações
CloudCamp, CONSEGI 2010 31/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
32. O GridUFCG
CloudCamp, CONSEGI 2010 32/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
33. Site oficial do OurGrid
CloudCamp, CONSEGI 2010 33/5 Brasília, August 18th, 2010
São Paulo, 19/01/2011, Campus Party 2011, © Copyright Silibrina Tecnologia Ltda
35. Popularidade do Web Site
• Mais de 8.000 visitantes de 904 cidades no último ano
• Mais de 15.000 downloads desde dezembro de 2004
CloudCamp, CONSEGI 2010 35/5 Brasília, August 18th, 2010
36. Obrigado pela atenção! Perguntas?
• Um bom lugar para começar a conhecer
mais sobre o OurGrid é:
– Labs of the world, unite!!! W. Cirne, F. Brasileiro, N.
Andrade, L. Costa, A. Andrade, R. Novaes, M. Mowbray.
Journal of Grid Computing 4 (3) (2006) 225-246.
E visitem http://www.ourgrid.org/!
CloudCamp, CONSEGI 2010 36/5 Brasília, August 18th, 2010