• Share
  • Email
  • Embed
  • Like
  • Save
  • Private Content
Uma Arquitetura para Provisionamento de Ambientes de Alto Desempenho Customizados
 

Uma Arquitetura para Provisionamento de Ambientes de Alto Desempenho Customizados

on

  • 252 views

 

Statistics

Views

Total Views
252
Views on SlideShare
252
Embed Views
0

Actions

Likes
0
Downloads
1
Comments
0

0 Embeds 0

No embeds

Accessibility

Categories

Upload Details

Uploaded via as Microsoft PowerPoint

Usage Rights

© All Rights Reserved

Report content

Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
  • Full Name Full Name Comment goes here.
    Are you sure you want to
    Your message goes here
    Processing…
Post Comment
Edit your comment

    Uma Arquitetura para Provisionamento de Ambientes de Alto Desempenho Customizados Uma Arquitetura para Provisionamento de Ambientes de Alto Desempenho Customizados Presentation Transcript

    • Uma Arquitetura para Provisionamento de Ambientes de AltoDesempenho CustomizadosMiguel Gomes Xaviermiguel.xavier@acad.pucrs.brOrientador: César A. F. De RoseFaculdade de Informática, PUCRSPorto Alegre, Brasil20 de Março, 2013
    • Agenda• Introdução• Objetivos• Metodologia• Estado da Arte• Solução Proposta• Técnicas propostas• Tecnologias e Ferramentas• Avaliações• Conclusões• Trabalhos Futuros• Contribuições• Produções
    • Contextualização• Cresce o número de usuários de alto desempenho em grandes centros decomputação• Proliferação das tecnologias multicore• Diversidade de ambientes de alto desempenhoIntrodução• Aumento na diversidade de aplicações escaláveis• Eminente demanda por ambientes mais compatíveis
    • • Usuário• Diferentes disciplinas• Diferentes requisitos de software• Diferentes necessidadesIntroduçãoLimitações em diferentes contextos• Aplicação• Diferentes arquiteturas (i386, x86_64)• Incompatibilidade com sistemas legados• Versões de ferramentas• Versões de bibliotecas• Versões de compiladores• Ambiente• Diferentes frameworks (MPI, MapReduce)• Criticidade em manutenções (pacotes e configuração de ferramentas)
    • • Virtualização• Independência, disponibilidade, isolamento e segurança• Melhor gerenciamento• Amplamente utilizado em datacenters/cloud computing• HPC e Virtualização• Cenários• Melhor Utilização de Recursos• Ambientes Customizados• No entanto, tecnologias de virtualização basedas em hypervisors têm sidoevitadas em HPC em razão das sobrecargas de desempenhoIntrodução
    • Objetivos• Objetivo GeralPropor e validar uma arquitetura para provisionamento de ambientes customizados em termos de requisitos desoftware de forma eficiente• Objetivos Específicos– estudar os ambientes de HPC, alimentando a pesquisa em sua Fundamentação Teórica;– estudar as arquiteturas e tecnologias de virtualização;– estudar as técnicas de virtualização existentes no Estado da Arte, no intuito de auxiliar no alcance doObjetivo Geral;– propor uma AP para ambientes customizados;– propor uma biblioteca que permita gerenciar a AP proposta por meio de gerenciadores de recursos;– avaliar a AP proposta por meio de experimentos, observando o tempo de provisionamento dos ambientese o desempenho das aplicações HPC;
    • MetodologiaQuestões de PesquisaQual o impacto da AP proposta em relação as APs existentes, levando emconsideração as técnicas utilizadas para prover ambientes que atendam anecessidade dos usuários em termos de seus requisitos de software?Qual o impacto da AP proposta em relação as APs existentes, levando emconsideração o desempenho das aplicações HPC e o tempo deprovisionamento?
    • MetodologiaEtapas da Pesquisa
    • MetodologiaHipóteses de Pesquisa(H1) Para enfrentar os problemas de gerenciamento relacionados comincompatibilidade entre ambientes e aplicações, sugere-se o uso de técnicas, deferramentas e de tecnologias que viabilizem a customização desses ambientes(H2) Para provisionar ambientes customizados em termos de requisitos de softwarede forma eficiente, sugere-se o uso da arquitetura de virtualização baseada emcontêineres
    • [1] KEAHEY, K., FOSTER, I., FREEMAN, T., et al. Virtual Workspaces in the Grid. ANL/MCS-P1231-0205. 2005.[2] ZHANG, X., KEAHEY, K., FOSTER, I., FREEMAN, T. Virtual Cluster Workspaces for Grid Applications. ANL Tech Report ANL/MCS-P1246-0405. 2005.[4] NISHIMURA, H., MARUYAMA, N., MATSUOKA, S. Virtual Clusters on the Fly — Fast, Scalable, and Flexible Installation. IEEE Cluster Computing and theGrid. 2007.[5] CHASE, J., IRWIN, D., GRIT, L., ET AL. DYNAMIC VIRTUAL CLUSTERS IN A GRID SITE MANAGER. IEEE INTERNATIONAL SYMPOSIUM ON HIGHPERFORMANCE DISTRIBUTED COMPUTING. 2003:13.[6] CHEN, K., XIN, J., ZHENG, W. VirtualCluster: Customizing the Cluster Environment through Virtual Machines. IEEE/IFIP International Conference onEmbedded and Ubiquitous Computing. 2008:6.Proposta VW VCW VDCacheCoD ClusterVirtualReferência - [1] [2] [4] [5] [6]Virtualização baseada em hypervisor Não Sim Sim Sim Sim SimVirtualização baseada em contêiner Sim Não Não Não Não NãoTemplates Sim Não Não Não Sim SimInterface de Acesso Sim Sim Sim Sim Sim SImReuso de Templates Sim Sim Sim Não Sim SimTrabalhos Relacionados
    • Solução PropostaRequisitos da solução propostaArmazenamentoGerenciamentoCustomizaçãoComunicação Arquitetura
    • Solução PropostaTécnicas propostas no intuíto de atender os requisitos identificadosWorkspaces, o Incremental de Dados, o dos Workspaces e API de gerenciamento
    • Solução PropostaTécnicas propostas no intuíto de atender os requisitos identificados• Workspace• Sistema de arquivos customizado• Sustentado por uma tecnologia de virtualização
    • Solução PropostaTécnicas propostas no intuíto de atender os requisitos identificados• Sincronização incremental dos Workspaces
    • Solução PropostaTécnicas propostas no intuíto de atender os requisitos identificados• Customização dos Workspaces• Técnica não automatizada• Usuário insere suas aplicações manualmente no template pré-configurado• API de Gerenciamento dos Workspaces• Função createCluster – Criar Cluster de workspaces• Função destroyCluster – Destruir Cluster de workspaces• Função syncWorkspace – Sincronizar workspace passado por parâmetro• Funcão syncAllWorkspaces – Sincronizar todos os workspaces locais
    • Solução PropostaTecnologias e ferramentas utilizadas para suportar as técnicas propostasWorkspacesSincronizaçãoIncremental deDadosCustomização dosWorkspacesAPI deGerenciamentoTecnologia deVirtualizaçãoFerramenta RsyncFerramentaChrootLibvirt
    • Solução PropostaIdentificando a tecnologias de virtualização da arquitetura proposta• Tecnologias avaliadas• Linux-Vserver• OpenVZ• LXC• Xen• Analizando os melhores resultados dedesempenho• Através de micro-benchmarks (CPU, disk,memory, network) em um único nodo• Através de macro-benchmarks (HPC)• Analizando os melhores resultados deisolamento• Benchmark IBS
    • Solução Proposta• Drivers não são virtualizados• Linux-Vserver, OpenVZ and LXCVirtualização baseada em contêiner Virtualização baseada em hypervisorVirtualização baseada em contêiner
    • • Todas tecnologias de virtualizaçãobaseadas em contêineres atingiramresultados similares ao nativo• O Xen apresentou uma média de4.3% de sobrecargaLinpackMflops0100200300NativeLXCOpenVZVServerXenSolução PropostaAvaliação de uma única CPU utilizando LINPACK
    • • Tecnologias baseadas em conteinerspossuem a habilidade de retornarmemórias desalocadas para a máquinahost• O Xen apresentou uma sobrecarga de31%Solução PropostaAvaliação de banda de memória utilizando o STREAM
    • • Xen não atinge um bomdesempenho em razão davirtualização dos drivers de I/OSolução PropostaAvaliação de disco utilizando IOZone
    • 5010015020010 1000Message size (bytes)Latency(microseconds)LegendLXCNativeOpenVZVServerXen02505007501000101103105107Message size (bytes)Bandwidth(Mbps)LegendLXCNativeOpenVZVServerXenAvaliação de rede utilizando NETPIPE• Xen novamente demonstra problemas com os drivers virtualizadosSolução Proposta
    • • Todos os benchmarks enquantoestressados no Xen obtiveramsobrecarga de desempenhodevido aos drivers de redevirtualizadosbt cg ep ft is lu mgNAS Parallel BenchmarksExecutiontime(seconds)050100150200NativeLXCOpenVZVServerXenSolução PropostaAvaliação de desempenho de aplicações paralelas utilizando NAS-MPI
    • Solução Proposta• Os resultados representam quanto o desempenho de uma aplicação foi impactado porum teste de estresse em outra VM/contêiner.• DNR significa que a aplicação não foi capaz de executar• Todas as tecnologias baseadas em contêineres tiveram algum impacto noisolamentoLXC OpenVZ Vserver XenCPU 0 0 0 0Memory Bomb 88,2% 89,3% 20,6% 0,9%Disk Stress 9% 39% 48,8% 0Fork Bomb DNR DNR DNR 0Network Receiver 2,2% 4,5% 13,6% 0,9%Network Sender 10,3% 35,4% 8,2% 0,3%Avaliação de isolamento utilizando o benchmark IBS
    • Solução Proposta• Todas as tecnologias baseadas em contêiners atingiram umdesempenho similar ao nativo para CPU, memória, disco e rede• LXC demonstra ser a tecnologia mais adequada para a APproposta• Resultados de desempenho similiares ao nativo• Desenvolvimento mainline no kernel do Linux• Suporte na LIBVirtAnálise dos resultados
    • Solução Proposta (Resumo)• Técnicas definidas• Workspaces• Customização dos Workspaces• Sincronização Incremental de Workspaces• API de Gerenciamento• Tecnologias e Ferramentas definidas• Tecnologia de virtualização LXC• Chroot• Rsync• Libvirt
    • Solução PropostaArquitetura proposta e seus componentes
    • Avaliação• Prototipação• Modelagem Estrutural• Diagrama de Componente• Modelagem Comportamental• Diagrama de Sequência• Experimentos para Avaliação da Arquitetura• Armazenamento• Tempo de carga de um Workspace• Tempo de sincronização de um Workspace• Tempo de provisionamento de um cluster de Workspaces• Customização• Avaliação de aplicações HPC• Comunicação• Avaliação de taxa e latência de rede• Interface de Gerência• Pseudo-aplicação
    • AvaliaçãoArquitetura proposta ilustrando o propótipo disposto em diferentes componentes
    • AvaliaçãoAmbiente experimental
    • AvaliaçãoAvaliação do tempo de carga de um único WorkspaceUptimeTempodeInicialização(segundos)0246810WorkspaceXenTempo médio de inicialização de umWorkspace foi de 1.81 SegundosTempo médio de inicialização de umamáquina virtual foi de 11.85 Segundos
    • AvaliaçãoAvaliação do tempo de sincronização de um Workspace em um único nodoTempo médio de sincronização deum Workspace foi de 2 SegundosTempo médio de sincronização deuma imagem de máquina virtual foi de28 SegundosrsyncTempodeSincronização(segundos)0510152025WorkspaceImagem Xen
    • AvaliaçãoAvaliação do tempo de sincronização de um Workspace em múltiplos nodosTempo médio de sincronização demúltiplos Workspaces foi de 9.9Tempo médio de sincronização demúltiplas imagens de máquina virtuaisfoi de 92 SegundosrsyncTempodeSincronização(segundos)020406080WorkspaceImagem Xen
    • AvaliaçãoAvaliação do tempo de provisionamento de um cluster de WorkspacesArquitetura proposta: média de 12 segundosArquitetura utilizando Xen: média de 101 segundosArquitetura CoD: média de 120 segundosProvisionamentoTempodeProvisionamento(segundos)020406080100120AP PropostaAP XenCoDInclusão de uma arquitetura contidano estado da arte
    • AvaliaçãoAvaliação de desempenho das aplicações HPC utilizando NAS-MPIMínimo impacto no desempenho das aplicaçõesparalelasbt cg ep ft is lu mgNativaWorkspaceNAS Parallel BenchmarksTempodeExecução(segundos)050100150Hipótese (H2) torna-se aceita
    • ConsideraçõesAs seguintes es de Pesquisa foram respondidas:• Qual o impacto da AP proposta em o as APs existentes, levando em consideração astécnicas utilizadas para prover ambientes que atendam a necessidade de usuários tem termosde seus requisitos de software?Os resultados obtidos se mostraram veis em o do baixo volume de dados que osworkspaces representam como m da viabilidade da o incremental de dados emworkspaces• Qual o impacto da AP proposta em o as APs existentes, levando em o odesempenho das aplicações e o tempo de provisionamento?Os resultados obtidos revelaram que a AP incorre em uma nfima sobrecarga de desempenhoem es HPC, bem como um baixo tempo de provisionamento de ambientes customizados, emcomparação com as APs existentes
    • Trabalhos FuturosOs seguintes tópicos carecem de um estudo em maior profundidade, apresentados em trabalhosfuturos:• Realizar um estudo aprofundado em busca de amenizar ou contornar os problemas identificadosnos testes de isolamento da tecnologia de virtualização LXC;• Propor a funcionalidade de provisionamento cluster de workspaces remoto. Percebeu-se durantea realização da Pesquisa, que o uso de workspaces pode viabilizar tal funcionalidade, dado seubaixo volume de dados;• Propor em um trabalho futuro a integração da AP em um gerenciador de recursos por meio daAPI;
    • ContribuiçõesAs contribuições deste trabalho são:• Avaliação das Tecnologias de Virtualização baseada em Contêineres: Até o presente momento, nenhum outro trabalho tinharealizado tal avaliação;• Arquitetura para Provisionamento de Ambientes Customizados de Alto Desempenho;• API de Gerenciamento;• Avaliação da AP proposta;• A hipótese (H1) afirma que para enfrentar os problemas de gerenciamento relacionados com incompatibilidade entre ambientes eas aplicações, sugere-se o uso de técnicas e de tecnologias que viabilizem a customização desses ambientes. A hipótese foicomprovada;• A hipótese (H2) afirma que para provisionar ambientes customizados em termos de requisitos de software de forma eficiente,sugere-se o uso da arquitetura de virtualização baseada em contêineres. A hipótese foi comprovada.
    • ProduçõesMonografia entitulada Infraestrutura de o para Ambientes de o de AltoDesempenho: Uma o da LiteraturaLANGE, T.; CEMIM, P.; ROSSI, F.; XAVIER, M.; BELLE, L.; FERRETO, T.; DE ROSE, César A. F.; PerformanceEvaluation of Virtualization Technologies for Databases in HPC Environments. In: Simpósio emSistemas Computacionais (WSCAD-SSC), 2012, Petrópolis, RJ, Brazil. Proceedings of the WSCAD-SSC2012. v. 1. p. 88-94. CAPES B5XAVIER, M.; ROSSI, F.; LANGE, T.; FERRETO, T.; DE ROSE, César A. F.; Performance Evaluation ofContainer-based Virtualization for High Performance Computing Environments. In: 21st EuromicroInternational Conference on Parallel, Distributed, and Network-Based Processing (PDP 2013), Belfast,Ireland. CAPES B1XAVIER, M.; DE ROSE, César A. F.; An Architecture for Provisioning Custom High PerformanceEnvironments . Em andamento
    • Obrigado