Les Clouds: Buzzword ou révolution technologique

Les Clouds: Buzzword ou révolution technologiqueFrédéric Desprez, Adrian MuresanLIP ENS Lyon/INRIA Grenoble Rhône-AlpesEPI GRAAL/Avalon
06/06/2010

Hype !

Agenda
Introduction
Cloud Computing: modes d’utilisation et exemples
Programmer les Clouds
Sécurité et pannes
Performances
Problèmes de recherche
Conclusion

introduction

Introduction
Il est moins coûteux de louer de la capacité de calcul et de stockage que de monter un centre de calcul
La transparence d’utilisation des grandes plates-formes distribuées est primordiale
Pouvoir gérer ces ressources de manière dynamique et élastique!
Un long historique du calcul distribué à plus ou moins grande échelle
Des supercalculateurs et grappes aux Clouds en passant par les grilles
Des besoins applicatifs de plus en plus importants et variés
Explosion du nombre et du volume de données
Utility computing
“Wewillprobablysee the spread of computer utilities, which, likepresentelectric and telephone utilities, will service individual homes and offices across the country”Professeur John McCarthy, 1961 !!!

Introduction
Les grilles font-elles déjà parties du “passé” ?
Des plates-formes de recherche et de production disponibles
Des technologies logicielles (relativement) matures
Grand nombred’applicationsportées
Attractivité des Clouds côtérecherche et industrie
Il est moins coûteux de louer ou d’acheter de l’électricité que de construire, gérer et maintenir une station de production!
Systèmes distribués !

Les grilles
Qu’est-cequ’une grille ?
« A fully distributed, dynamically reconfigurable, scalable and autonomous infrastructure to provide location independent, pervasive, reliable, secure and efficient access to a coordinated set of services encapsulating and virtualizing resources (computing power, storage, instruments, data, etc.) in order to generate knowledge ... » d’après le CoreGRIDNoE

Qu’est-ce que le Cloud Computing ?
Un paradigme de calculdistribuéémergeantdanslequel les données et les services sontdisponiblesdans des data centers extensibles et peuventêtreaccédés de manièretransparentedepuis des appareils (ordinateurs, téléphones, grappes, …) connectés par Internet
5ème génération d’architectures
1970: Mainframes,
1980: Client-serveurs,
1990: Web, grilles,
2000: SOA,
2010: Clouds
Credit: IBM Corp.
Cloud Computing

Cloud Computing
Né de
La profusion de ressources (data centers)
Une technologie de virtualisation mature et des communications à haut débit
Quelques caractéristiques
Libre service à la demande
Le consommateur récupère des ressources de calcul et de stockage à la demande (machines virtuelles)
Accès réseau
Ressources, briques logicielles et applications disponibles à travers le réseau pour des clients de tailles différentes
Mise en commun de ressources
Data centers fournissant les ressources (machines, stockage, mémoire, BP réseau) pour différents clients en mode partagé. Diminution des tâches de maintenance.
« Elasticité » réactive et rapide
Croissance ou décroissance dynamique du nombre de ressources en fonction de la demande et des besoins. Extensibilité !
Service mesuré et facturation à l’usage
Reporting de l’utilisation des ressources
Résilience
Continuité du service

Google cluster 1997

Google Data centers
36 data centers contenant plus d’un million de serveurs
40 serveurs/rack

http://opencompute.org/

The Million-Server Data Center
http://spectrum.ieee.org/tech-talk/semiconductors/devices/what-will-the-data-center-of-the-future-look-like

Constat : Coût
Investissement
*Source :http://media.amazonwebservices.com/AWS_Cloud_Best_Practices.pdf
14

Une vue à 10000 pieds
SLAs
Services web
Virtualisation

Grilles vs Clouds
Une vision partagée
simplifier l’accès aux ressources distantes de la manière la plus transparente possible
Technologie différente
Grappes et batchs vs datacenters et virtualisation
Gestion de ressources
Statique vs dynamique
Modèle de programmation
MPI/GridRPC vs MapReduce/scripts/workflows
Modèle de sécurité
Certificats vs Web + SSL
Des domaines applicatifs différents (pour l’instant!)
HPC/HTC vs Business

Grid
Computing
Cloud
Computing
Salesforces.com
Grid‘5000
Infrastructure
IaaS
Cloud
Computing
Amazon EC2/S3
Eucalyptus IaaS
Open Source
Nimbus IaaS
Open Source
OpenNebulaIaaS
Open Source
FP7 Reservoir
Sun
Open Cloud
Microsoft
Azure
IBM
Blue Cloud
HP Flexible
ComputingServices
FutureGrid
Le calculcomme un service : un historique
1998
1999
2003
2006
2008
2009
2007
2005
2011
2010
Crédits: T. Priol, INRIA

Modes d’utilisation

Cloud Computing: modes d’utilisation
Infrastructure as a Service (IaaS)
Le matériel est fourni sous forme de machines virtuelles sur lesquelles on installe son image disque
Amazon EC2, Rackspace, GoGRID, Orange, …
Platform as a Service (PaaS)
On peut développer ses propres applications en utilisant les services fournis
Google Apps, Windows Azure, Amazon S3, IBM CloudBurst et Websphere, …
Software as a Service (SaaS)
Des applications entières sont disponibles à distance
Gmail, Googledocs, Facebook, Orange, IBM LotusLive, …

Infrastructure as a Service
Avoir accès à la demande à un grand nombre de ressources virtualisées
Dynamicité, élasticité
Paiement à la consommation
Concept de virtualisation
Le système d’exploitation n’est plus central et est un logiciel comme un autre !
Le concept de machines virtuelles consiste à recevoir des instances de systèmes.
Les ressources physiques sont partagées par plusieurs machines virtuelles
Exemples
Amazon EC2, RightScale, GoGrid, Orange Open Cloud, …

Virtualisation
Machines virtuelles s’exécutant sur un nœud de calcul
VM0
VM1
VM2
N0
Proposé par IBM dans les années 60
“Virtual Machines have finallyarrived. Dismissed for a number of years as merelyacademiccuriosities, they are nowseen as cost-effective techniques for organizing computer systemsresources to provideextraordinary system flexibility and support for certain unique applications”.
Goldberg, Survey of Virtual Machine Research, 1974
Nœud de calcul

Virtualisation
Apache
web server
simulation
Propriétés
Isolement
VM2
VM1
?
Machine
virtuelle
Machine
virtuelle

Virtualisation
VM0
N0
Noeud de calcul
Propriétés
Isolement
Portabilité
Machine
virtuelle
Machine
virtuelle
VM0
N1
Noeud de calcul

Virtualisation
Propriétés
Isolement
Portabilité
Suspend/restart (et migration ?)
Machine
virtuelle
VM0

Techno
App
App
App
App
App
App
SE
SE
SE
Systèmed’exploitation
Hyperviseur
Matériel
Matériel
Pile virtualisée
Pile traditionnelle

Architecture logicielleIaaS
NIST DRAFT Cloud Computing Synopsis and Recommendations

Amazon Web Services : Contexte
Site marchand amazon.com (1995)
Trafic fluctuant
Disponibilité
Analyse de données
Gestion de stock
Large catalogue
International : latence (réplication géographique) => CDN
2006
La référence IaaS => PaaS
On ne paye que ce qu’on utilise
Plus de 20 produits
Datacenters sur 5 régions géographiques
Des nouveautés régulièrement
Références : Dropbox, Slideshare, Netflix, Zinga …
Credits: Fabien Bousquet, Kalistic

AWS : géo localisation
: 5 régions
De 2 à 4 zones de disponibilité dans chaque région

AWS : Vue générale
*Source : http://media.amazonwebservices.com/AWS_Cloud_Best_Practices.pdf

AWS : Mise en place
Inscription internet
Carte bancaire
Instantané
Console Web pour démarrer
Pas d’attente de mise en place
Pas de coût d’installation
Système ouvert / automatisable :
Outil
SDK
API

Amazon Elastic Compute Cloud
A set of APIs and business models which give developer-level access to Amazon’s infrastructure and content:
Search As A Service
Alexa Web Information Service
Alexa Top Sites
Alexa Site Thumbnail
Alexa Web Search Platform
Data As A Service
Amazon E-Commerce Service
Amazon Historical Pricing
Infrastructure As A Service
Amazon Simple Queue Service
Amazon Simple Storage Service
Other tools
BD : RDS, SimpleDB
Messaging : SNS, SQS, SES
Stockage : EBS, AWS Import/Export
CDN : CloudFront »
« Calcul » : MapReduce
Déploiement/Gestion : Beanstalk, CloudFormation
Surveillance : CloudWatch
Réseaux : Route 53, VPC
People As A Service
Amazon Mechanical Trunk
Credits: Jeff Barr, Amazon

Autresoutils
Amazon Relational Database Service (Amazon RDS)
provides an easy way to setup, operate and scale a relational database in the cloud. You can launch a DB Instance and get access to a full-featured MySQL database and not worry about common database administration tasks like backups, patch management etc.
Amazon Simple Queue Service (Amazon SQS)
a reliable, highly scalable, hosted distributed queue for storing messages as they travel between computers and application components.
Amazon Simple Notifications Service (Amazon SNS)
provides a simple way to notify applications or people from the cloud by creating Topics and using a publish-subscribe protocol.
Amazon Elastic MapReduce
provides a hosted Hadoop framework running on the web-scale infrastructure of Amazon Elastic Compute Cloud (Amazon EC2) and Amazon Simple Storage Service (Amazon S3) and allows you to create customized JobFlows. JobFlow is a sequence of MapReduce steps.

Autresoutils, cont
Amazon Virtual Private Cloud (Amazon VPC)
allows you to extend your corporate network into a private cloud contained within AWS. Amazon VPC uses IPSec tunnel mode that enables you to create a secure connection between a gateway in your data center and a gateway in AWS.
Amazon Route
a highly scalable DNS service that allows you manage your DNS records by creating a HostedZone for every domain you would like to manage.
AWS Identity and Access Management (IAM)
enable you to create multiple Users with unique security credentials and manage the permissions for each of these Users within your AWS Account. IAM is natively integrated into AWS Services. No service APIs have changed to support IAM, and exiting applications and tools built on top of the AWS service APIs will continue to work when using IAM.

Amazon Web Services
Elastic Compute
Cloud (EC2)
Calculer
Simple Storage
Service (S3)
Simple Queue
Service (SQS)
Stocker
Echanger

Provides on-demand processing power
Virtual machine images (Amazon Machine Image, AMI)
From $.10 per server hour
Virtual Compute Cloud
Elastic Capacity
1.7 GHz x86
1.7 GB RAM
160 GB Disk
250 MB/Second Network
Network Security Model
Time or Traffic-based Scaling, Load testing, Simulation and Analysis, Rendering, Software as a Service Platform, Hosting
$.10 - $.18 per GB data transfer

Amazon EC2 Concepts
Amazon Machine Image (AMI)
Bootable root disk
Pre-defined or user-built
Catalog of user-built AMIs
OS: Fedora, Centos, Gentoo, Debian, Ubuntu, Windows Server
App Stack: LAMP, mpiBLAST, Hadoop
Limited to 10 GB
Instance
Running copy of an AMI
Launch in less than 2 minutes
Start/stop programmatically
Network Security Model
Explicit access control
Security groups
Inter-service bandwidth is free

Types d’instances
http://aws.amazon.com/fr/ec2/instance-types/
High-Memory Extra Large Instance
17.1 Go de Mémoire6.5 EC2 ComputeUnits (2 virtualcores avec chacun 3.25 EC2 ComputeUnits)420 Go de stockage d’instancePlateforme 64-bitPerformance I/O: Modérée
High-Memory Double Extra Large Instance
34.2 Go de Mémoire13 EC2 ComputeUnits (4 virtualcores avec chacun 3.25 EC2 ComputeUnits)850 Go de stockage d’instancePlateforme 64-bitPerformance I/O: Elevée
High-Memory Quadruple Extra Large Instance
68.4 Go de Mémoire26 EC2 ComputeUnits (8 virtualcores avec chacun 3.25 EC2 ComputeUnits)1690 Go de stockage d’instancePlateforme 64-bitPerformance I/O: Elevée
Applications à grand trafic, notamment les bases de données et les applications de mise en mémoire cache
Petites Instances – défaut
1.7 Go de Mémoire1 EC2 Compute Unit (1 virtualcore avec 1 EC2 Compute Unit)160 Go de stockage d’instancePlateforme 32-bitPerformance I/O: Modérée
Large Instance
7.5 Go de Mémoire 4 EC2 ComputeUnits (2 virtualcores avec chacun 2 EC2 ComputeUnits)850 Go de stockage d’instancePlateforme 64-bitPerformance I/O: Elevée
Extra Large Instance
15 Go de Mémoire8 EC2 ComputeUnits (4 virtualcores avec chacun 2 EC2 ComputeUnits)1,690 Go de stockage d’instancePlateforme 64-bitPerformance I/O: Elevée

Types d’instances, suite
http://aws.amazon.com/fr/ec2/instance-types/
Quadruple Extra Large Instance Grappe de Calcul
23 Go de Mémoire33.5 EC2 ComputeUnits (2 x Intel Xeon X5570, quad-core architecture “Nehalem”)1690 Go de stockage d’instancePlateforme 64-bitPerformance I/O: Très Elevée (10 Gigabit Ethernet)Nom API: cc1.4xlarge
Les instances cette famille fournissent proportionnellement plus de ressources CPU avec une performance réseau améliorée et sont adaptées aux applications Calculs Haute Performance (HPC) et aux autres applications nécessitant un lien réseau.
High-CPU Medium Instance
1.7 Go de Mémoire5 EC2 ComputeUnits (2 virtualcores avec chacun 2.5 EC2 ComputeUnits)350 Go de stockage d’instancePlateforme 32-bitPerformance I/O: ModéréeNom API: c1.medium
High-CPU Extra Large Instance
7 Go de Mémoire20 EC2 ComputeUnits (8 virtualcores avec chacun 2.5 EC2 ComputeUnits)1690 Go de stockage d’instancePlateforme 64-bitPerformance I/O: ElevéeNom API: c1.xlarge

Amazon Simple Queue Service
Efficient, reliable load distribution layer
Pay by the message
Scalable Queuing
Elastic Capacity
Reliable, Simple, Secure
Inter-process messaging, data buffering, architecture component
$.10 per 1000 messages

EC2: Stockage
Instance store
Copie de l’AMI / disque de boot
Limité à 10 GB
Instance EC2
Mount
Disque lié à l’instance sans coût additionnel
Nombre et taille variable en fonction du type d’instance
Ephemeraldisk
EBS
Non lié au cycle de vie de l’instance
Nombre et taille libres
S3
Copie d’un EBS à un instant T
Stocké sur S3
SNAPSHOT
Accès via API
Données non persistantes => Données perdues si machine arrêtée (« terminate ») ou machine plantée
Données persistantes => Données non liées au cycle de vie de l’instance

Amazon Simple Storage Service
$.01 for 1000 to 10000 requests
Virtually infinite storage capacity
Provides permanence layer when EC2 nodes are not running
Object-Based Storage
1 B – 5 GB / object
Fast, Reliable, Scalable
Redundant, Dispersed
99.99% Availability Goal
Private or Public
Per-object URLs & ACLs
BitTorrent Support
$.15 per GB per month
storage

Amazon S3 Concepts
Objects
Opaque data to be stored (1 byte … 5 Gigabytes)
Authentication and access controls
Buckets
Object container – any number of objects
100 buckets per account / buckets are “owned”
Keys
Unique object identifier within bucket
Up to 1024 bytes long
Flat object storage model
Standards-Based Interfaces
REST and SOAP
URL-Addressability – every object has a URL

Amazon S3 Concepts, cont
Stockage. 3 actions :
Ecrire
Lire
Supprimer
Buckets : Dossiers / fichiers
Contrôle de version et droit d’accès
Accès via API
Plusieurs régions géographiques => Latence, disponibilité

Vuegénérale
S3
EC2
Region
bucket
Zone
Instance EC2
EBS
API
Mount
S3
Security Group
Start with
Do snapshot
SNAPSHOT
API
AMI
AMI
Web

Combiençàcoûte ?
Palier gratuit
Dans le cadre du palier d’utilisation gratuite d’AWS, les nouveaux clients AWS peuvent démarrer avec Amazon EC2 gratuitement.
À l’inscription, les nouveaux clients AWS reçoivent les services EC2 suivants chaque mois pendant un an :
750 heures d’EC2 exécutant l’utilisation d’instance Linux/Unix Micro
750 heures d’ElasticLoadBalancing plus 15 GO de traitement de données
10 GO de stockage Amazon Elastic Block Storage (EBS) plus 1 million d’E/S, 1 GO de stockage de copies instantanée, 10 000 copies instantanées de demandes GET et 1000 copies instantanées de demandes Put
15 GO de bande passante entrante et 15 GO de bande passante sortante groupés parmi tous les services AWS

Combiençàcoûte, suite
Instances à la demande

Combiençàcoûte, instances réservées
Paiement fixe à l’année et réduction tarif horaire.

Combiençàcoûte, instances spot
Permettent de faire une offre pour acheter de la capacité Amazon EC2 non utilisée.
Facturées au prix spot défini par Amazon EC2, qui fluctue de manière périodique en fonction de l’offre et de la demande pour la capacité d’instance spot.
Pour utiliser les instances spot, on fait une demande en spécifiant
le type d’instance, la région souhaitée,
le nombre d’instances qu’on veut exécuter
le prix maximum qu’on est disposé à payer par heure d’instance.
Afin de comparer ce prix maximum aux prix spot antérieurs, l’historique des prix spot est disponible via l’API d’Amazon EC2 et AWS Management Console.
Si l’offre de prix maximum dépasse le prix spot actuel, la demande est satisfaite et les instances seront exécutées jusqu’à ce que vous choisissiez de les terminer ou jusqu’à ce que le prix spot passe au-dessus de votre prix maximum.

http://www.spothistory.com/

Des clouds open source
Nimbus (Freeman and Keahey, University of Chicago)
Client-side cloud-computing interface to Globus-enabled TeraPort cluster at University of Chicago
Based on GT4 and the Globus Virtual Workspace Service
Great if local resources are GT4 proficient
Tutorials and documentation in “grid space”
Eucalyptus (Wolsky, University of Santa Barbara)
Web services based implementation of elastic/utility/cloud computing infrastructure
Linux image hosting (IaaS)
Open Nebula (Montero & Llorente, DSA-Researchat UCM)
Support for the Xen, KVM and VMwarevirtualizationplatforms
Access to Amazon EC2 and ElasticHostsclouds
libvirt, EC2 Query API and OGC OCCI interfaces

Eucalyptus (Univ. Santa Barbara)
Elastic Utility Computing Architecture Linking Your Programs To Useful Systems
Web services based implementation of elastic/utility/cloud computing infrastructure
Linux image hosting (IaaS)
How do we know if it is a cloud?
Try and emulate an existing cloud: EC2 + S3
Works with command-line tools from Amazon w/o modification
Enables leverage of emerging EC2 value-added service venues (e.g. Rightscale)
Functions as a software overlay
Existing installation should not be violated (too much)
“easy” to install
“System Administrators are people too.”
Credit: R. Wolsky.

Challenges
Extensibility
Simple architecture and open internal APIs
Client-side interface
Amazon’s EC2 interface and functionality (familiar and testable)
Networking
Virtual private network per cloud
Must function as an overlay => cannot supplant local networking
Security
Must be compatible with local security policies
Packaging, installation, maintenance
system administration staff is an important constituency for uptake
Credit: R. Wolsky.

Eucalyptus Architecture: WS-Cloud
Amazon EC2 Interface
Client-side API
Translator
Walrus (S3)
Cloud Controller
Database
Cluster Controller
Node Controller
RHEV-M
ESXi
vSphere
ESX
Storage Controller
Credit: R. Wolsky.

Nimbus (Universityof Chicago)
„Cloud computing for science”
Implementation goals
Extensible
Customizable
Open-source
Nimbus Interfaces
Workspace Service – VM management
Cumulus – storage service
http://www.nimbusproject.org/

Nimbus
Virtual Workspace Service (VWS)
Publishes information about each workspace
Essentially a site VM manager
Interfaces are built on top of it: EC2 (SOAP, Query), WSRF
Can be configured to work with schedulers such as PBS
Context broker
Service for automatic large-scale virtual cluster deployment
Cumulus
Storage service
Based evolved from GridFTP
Implements Amazon’s S3 interface
http://www.nimbusproject.org/

Nimbus architecture
* Source: http://www.nimbusproject.org/files/keahey_CloudComp2010.pdf

OpenNebula (DSA-ResearchatUCM)
Released in 2008
IaaS hosting on Linux clusters for private, public or hybrid Cloud
Open, flexible and extensible architecture
The default components are easy to replace
Interfaces
OCCI
EC2
vCloud

OpenNebula architecture
Executes the OpenNebula Services
Usually acts as a classical cluster front-end
Repository of VM images
Multiple backends (LVM, iSCSI..)
Usually in a separate host
Modular components to interact with the cluster services
Types: storage, monitoring, virtualization and network
The same host can be can be a the front-end and a node
Provides physical resources to VMs
Must have a hypervisor installed
* Credits: Ruben S. Montero

OpenStack
http://www.openstack.org/

Platform as a Service (PaaS)
Un ensemble d’outils (langages + support d’exécution) pour développer, déployer et gérer des applications
Pas de gestion de l’infrastructure sous-jacente (machines, réseaux, stockage, systèmes d’exploitation, …). Le support d’exécution gère le déploiement et le nombre de ressources.
Mais contrôle de l’application et de la configuration de son environnement
ExemplesMicrosoft Azure, Force.com, Google AppEngine,IBM Cloudburst etWebsphere

Microsoft Azure platform
Announced 2008
Released 2010
What does it offer?
PaaS
Datacenters on 3 continents (2 regions each)
Pay as you go
No installation cost
Management through an onlineconsole
Integration with Microsoft Visual Studio
.NET interface

Microsoft Azure platform
Applications and Data
Windows Azure AppFabric
SQL Azure
Windows Azure Marketplace
Windows Azure
* source: http://lancord.com/images/pdf/2_WP.pdf

Application and Data
Windows Azure
Windows OS for running applications on Microsoft datacenters
CDN
Connect
Storage
Compute
Fabric Controller
* source: http://lancord.com/images/pdf/2_WP.pdf

Windows Azure
Compute
Runs applications on a Windows Server foundation
.NET applications (C#, Visual Basic, ...)
Non .NET applications (C++, Java, ...)
Storage
Non-relational storage
Binary large objects (blobs)
Queue service
Fabric controller
The Azure platform manager
Content delivery network (CDN)
Cache frequently-used data close to the users
Connect
Connecting accross public/private networks

SQL Azure
SQL Azure Database
Relational DBMS
Pay per use
SQL Azure reporting
Reporting service in the cloud
Works with SQL Azure Database
SQL Azure Data Sync
Synchronizing data between on-premise SQL server installations and SQL Azure Database

Windows Azure AppFabric
Provides infrastructure services based on Windows Azure
Service Bus
Used for exposing cloud service endpoints
Can automatically handle NAT and tunneling through firewalls
Access Control
Digital identity manager
Includes: Active Directory, Windows Live ID, Google Accounts, Facebook, ...
Caching
Caching service for Windows Azure applications

Windows Azure Marketplace
DataMarket
A dataset market
For custom or off-the-shelf datasets
AppMarket
Marketplace for Azure cloud applications
Will be available after the DataMarket

Google AppEngine
Released in 2008
PaaS
Must use supported languages
Python, Java, Go, JVM languages
Must use the platform’s APIs
Automatic scaling & load balancing
Services for
Data storage – non-relational, scalable Datastore (on top of Bigtable)
Authentication – Google accounts
Sending emails
Caching – Memcache
URL fetch
Image manipulation

Google AppEngine architecture
req/resp
stateless APIs
R/O FS
Python/Java runtime
stdlib
urlfech
mail
app
images
Datastore
stateful
APIs
memcache
* Source: Guido van Rossum, Google AppEngine, Stanford EE380 Colloquium

Google AppEngine
Platform’s hard limits
Time / request 30 sec
Blobstore size 2 GB / app
HTTP response size 32 MB
Datastore item size 1 MB
Application code size 150 MB
... the rest starts free (limited) and continues pay-as-you-go
CPU hours
Bandwidth
Stored data
Recipients emails
AppScale
Open Source framework for running Google AppEngine applications
Independent from Google

Software as a Service (SaaS)
L’application elle-même est disponible à travers un navigateur
Pas de gestion de l’infrastructure sous-jacente (machines, réseaux, stockage, systèmes d’exploitation, …)
Exemples
Gmail, Google Apps, Salesforce.com, Orange, IBM LotusLive

Bull
Gestion des projets
Applicationsde simulation numérique commerciales / open source
Gestion des données
Gestion destravaux
Portail
Visualisation 2D / 3D
Sécurité
Middleware HPC : schedulers, file systems en cluster, librairies parallèles mathematiques , compilateurs, visualisation à distance
Utilisateurs

Architecture de la solution ExtremeFactory
SOA / Web Services based HPC Portal
Users &Authent.
Clients &Projects
DataMgmt
Visualisation
ApplicationMgmt
JobMgmt
AccountingBilling
AdminWorkflows
HPC middleware & APIs
Infrastructure
150 Tflops au 15 mai 2011
Datacenter F9/M50Bull - Les Clayes-sous-Bois (78)

Le portail d’accès à la solution

La gestion des travaux

La gestion des données

Informations détaillées sur les jobs

Consultation des logs d’un job

La gestion des sessions de visualisations

Vos simulations visualisées à distance

Applications disponibles
3 Editeurs commerciaux
Virtual Performance Solution by ESI
Powerflow by Exa
STAR-CCM+ by CD-adapco
D’autres en cours d’intégration…
2 Visualisation open source
ParaView
VISIT
10Codes open source
SCILAB
NAMD
AmberTools
BLAST
GROMACS
LAMMPS
FASTA
HMMER
GAMESS
OpenFOAM

ChromeOS: le cloud comme SE
Lors de la conférence Google I/O, Google a officiellement présenté ChromeOS et les premiers modèles de PC, nommés Chromebook.
Netbookredesignés dédiés uniquement à ChromeOS.
Rien n'est installé sur la machine hormis ChromeOS et son navigateur. Tout est sur le nuage : applications, données, stockages.
Fini les applications à installer, plus de mise à jour, une sécurité améliorée, etc.
Le démarrage effectué en quelques secondes et le mode déconnecté sera géré par de plus en plus d'applications.
Besoin d'être connecté au web et aux services cloud (Wifi ou 3G)
Deux approches :
pour le grand public achat pur et simple du chromebook + forfait 3G par mois,
pour les entreprises, location de la machine (-30 dollars) par utilisateur et par mois, avec changement machine si elle est cassée et en cas de mise à jour !

Modèles de déploiement
Cloud publique
Infrastructure (propriété du fournisseur) louée à n’importe qui
Cloud privé
Propriété d’une entreprise
interne ou externe
Cloud communautaire
Mise en commun de ressources pour une communauté d’utilisateurs
interne ou externe
Cloud hybride
Composition de plusieurs formes de Clouds, voir même de grilles
SkyComputing

Qui contrôle quoi ?
Entreprise
Partageentreprise/fournisseur
Fournisseur
Hébergeur
Informatique
IaaS public
PaaS public
SaaS public
Données
Données
Données
Données
Données
Applications
Applications
Applications
Applications
Applications
Machines virtuelles
Machines virtuelles
Machines virtuelles
Machines virtuelles
Machines virtuelles
Serveur
Serveur
Serveur
Serveur
Serveur
Stockage
Stockage
Stockage
Stockage
Stockage
Réseau
Réseau
Réseau
Réseau
Réseau
Crédits: P. Saulière, Microsoft

Sky computing
Permettre l’exécution d’applications à grande échelle sur des plates-formes multi-cloud
Expérience entre les USA et la France
Nimbus (gestion de ressources, contextualisation)/ViNe (connectivité)/Hadoop (distribution des tâches, tolérance aux pannes, dynamicité)
Plates-formes FutureGrid (3 sites) et Grid’5000 (3 sites)
Optimisation de la création et de la propagation de machines virtuelles
SD
Rennes
Grid’5000 firewall
Lille
UF
Application Distribuée
Application MapReduce
White-listed
Queue VR
Hadoop
Sophia
ViNe
UC
Logiciel IaaS
Logiciel IaaS
All-to-allconnectivity!
Crédits: Pierre Riteau (IRISA)

PERFormances

Performance considerations
Individual Clouds – resource acquisition latency over time
Amazon EC2 [IaaS]
Google AppEngine [PaaS]
Comparison tests – caching, throughput, CPU, I/O
Amazon EC2 [IaaS]
Google AppEngine [PaaS]
Rackspace [IaaS]
Salesforce [PaaS]
Terremark [IaaS]
Figure and table credits
On the Performance Variability of Production Cloud Services, A. Iosup, N. Yigitbasi, and D. Epema, IEEE/ACM International Symposium on Cluster, Cloud, and Grid Computing (CCGrid 2011)
Cloud Computing Performance - A bitcurrent study in the performance of cloud computing platforms, bitcurrent, http://www.bitcurrent.com, 2010

Performance – Individual Clouds
Amazon EC2
The time it takes for an instance of type m1.small to become available
In secondsfor 2009
www.pds.ewi.tudelft.nl

Amazon EC2
Higher variance towards the end of the year due to increasing user base
Latency is important for applications using auto-scaling

Google AppEngine
Python runtime example that calculates the 27th Fibonacci number [ms]
2009

Google AppEngine
Variance more stable towards the end of the year

Performance – Comparison
Four tests
A one-pixel GIF to test response time and caching of static content
A 2-Mbyte GIF to test network throughput and congestion
Across one month
A CPU-intensive task
1.000.000 operations (100.000 for SalesForce because of limitations)
An I/O intensive task
Used smallest VM type for IaaS clouds

Test 1 – 1 pixel GIF image
Response time
Caching

Test 2 – 2 MByte GIF image
Network throughput
Congestion

Test 3 – CPU-intensive task

Test 4 – I/O intensive task

Heterogeneity in Virtualized Environments
VM technology isolates CPU and memory, but disk and network are shared
Full bandwidth when no contention
Equal shares when there is contention
2.5x performance difference
EC2 small instances

Isolation Research
Need predictable variance over raw performance
Some resources that people have run into problems with:
Power, disk space, disk I/O rate (drive, bus), memory space (user/kernel), memory bus, cache at all levels (TLB, etc), hyperthreading/etc, CPU rate, interrupts
Network: NIC (Rx/Tx), Switch, cross-datacenter, cross-country
OS resources: File descriptors, ports, sockets

Autoscaling
Pouvoir réagir à des montées (ou décroissances) en besoins de puissance de calcul ou en capacité de stockage
Utilisation d’outils de monitoring comme
CloudWatch
CPUUtilization, DiskReadOps, DiskWriteOps, DiskReadBytes, DiskWriteBytes, NetworkIn, NetworkOut
VolumeReadBytes, VolumeWriteBytes, VolumeReadOps, VolumeWriteOps, VolumeTotalReadTime, VolumeTotalWriteTime, VolumeIdleTime, VolumeQueueLength
http://aws.amazon.com/fr/cloudwatch/
AzureWatch
CPU utilization, amount of requests per second, number of concurrent users, amounts of bytestransferred, or amount of memoryused by your application
http://www.paraleap.com/
Nécessité d’agréger les données parfois différentes

Réagiràune variation de charge
Générerunecommanded’augmentation du nombre de ressourceslorsqu’unpicrisqued’apparaître
Variations
Prévisibles
Non-prévisibles
Baséessurl’heure de la journée

AzureWatch

Standards et Programmation

Standards
Actuellement, surtoutuneutilisation des normes de l’Internet et des architectures Web Services et SOA
Besoins de standards pour assurél’intéropérabilité entre les plates-formes et les applications
API de gestion des ressources
OGF : Open Grid Forum
DMTF : Distributed Management Task Force
OCCI : Open Cloud Computing Interface
API stockage Cloud
SNIA : Storage Networking Industry Association
Intercloud
GICTF : Global Intercloud Technology Forum
Aspects sécurité
CSA: Cloud Security Alliance
Et d’autres
OMG, TM Forum, OASIS, ISO IEC-JTC 1, ITU-T, W3C, IETF, …

Google MapReduce
Developed by Google in 2003
Programming model: dataflow programming
Input & Output: each a set of key/value pairs
Programmer specifies two functions:
map (in_key, in_value) -> list(out_key, intermediate_value)
Processes input key/value pair
Produces set of intermediate pairs
reduce (out_key, list(intermediate_value)) -> list(out_value)
Combines all intermediate values for a particular key
Produces a set of merged output values (usually just one)
Inspired by similar primitives in LISP and other languages
Example uses:
distributed grep web link-graph reversal
distributed sort web access log stats
term-vector per host inverted index construction
document clustering machine learning
statistical machine translation …
Open-source versions:
Hadoop (java implementation of MapReduce + GFS + Bigtable)
http://hadoop.apache.org/
Credits: J. Dean, S. Ghemawat, Google, Inc.

MapReduce
3
A hash function maps the results of the map tasks to r reduce tasks
Data is split into mparts
1
D1
map
5
O1
reduce
A combinetask may be necessary to combine all the outputs of the reduce functions together
D2
map
Data
O2
reduce
Dm
map
2
data split
map
reduce
mapfunction is performed on each of these data parts concurrently
4
Once all the results for a particular reducetask is available, the framework executes thereducetask

Google MapReduce: execution

Google MapReduce: parallel execution

Google MapReduce: Task Granularity And Pipelining
Fine granularity tasks: many more map tasks than machines
Minimizes time for fault recovery
Can pipeline shuffling with map execution
Better dynamic load balancing
Often use 200,000 map/5000 reduce tasks w/ 2000 machines

Google File System
Built for Google large scale data management
One big problem: hardware failure !
GFS concepts
Data spread evenly throughout cluster
Replicated 3x (locality aware replication, replica migrates)
Master machine detects failure and rebalances data on the fly
Some features
Data automaticallydistributed to nodesat load time
Loss of nodes causesautomatic datarebalance
Credits: A. kimball

Google Bigtable
A Google database layer
Data model: a big map
<Row, Column, Timestamp> triple for key - lookup, insert, and delete API

Google Pregel
Presented by Google in 2010 during SIGMOD’10
Computational model: graph processing
Programs are sets of iterations on a graph
In each iteration, a vertex can
Receive messages sent in previous iteration
Perform calculations
Modify its state
Send messages to neighbouring vertexes
Mutate the graph topology
Application examples
Website graph
Social networks
Transportation routes

Google Pregel – Computation Model
Each vertex
Has a unique identifier
Has a modifiable user-defined value
Is not a first-class citizen – has no associated computation
Executes a generic computation that is characteristic of the algorithm
Can modify its value, the value of its edges, graph topology
Each edge
Associated to its source vertex
Has a modifiable user-defined value
Has a target vertex

Google Pregel – Computation Model
Typical computation
Input
Superstep 1
Global synchronization 1
...
Superstep n
Global synchronization n
Output
Execution terminates when all vertexes vote to halt
Ex.: calculating the maximum value
* Source: Grzegorz Malewicz , Matthew H. Austern , Aart J.C Bik , James C. Dehnert , Ilan Horn , Naty Leiser , Grzegorz Czajkowski, Pregel: a system for large-scale graph processing, Proceedings of the 2010 international conference on Management of data, June 06-10, 2010, Indianapolis, Indiana, USA [doi>10.1145/1807167.1807184]

Google Pregel – Experiments
Single-source shortest path algorithm on a cluster of 300 multicore commodity PCs
Binary tree
Random graph with
mean out degree 127.1
* Source: Grzegorz Malewicz , Matthew H. Austern , Aart J.C Bik , James C. Dehnert , Ilan Horn , Naty Leiser , Grzegorz Czajkowski, Pregel: a system for large-scale graph processing, Proceedings of the 2010 international conference on Management of data, June 06-10, 2010, Indianapolis, Indiana, USA [doi>10.1145/1807167.1807184]

Securité et pannes

Sécurité et pannes

Quelques problèmes de sécurité
Un des principaux freins à l’adoption !
Quelques défis
Problèmes juridiques
Localisation des données et des calculs
Propriété des données
Lois internationales
Gestion de l’isolation
Attraction des hackers
Besoin de chiffrement à plusieurs niveaux
Déplacements de données
Perte de contrôle
Mais aussi des avantages
Gestion des fautes et des pannes par un fournisseur externe
Gestion automatisée de la sécurité
Relative homogénéité des plates-formes

Get off my cloud !
Comment un utilisateur peut « attaquer » un autre utilisateur sur la même infrastructure
Pour quelques $, être capable de voir ce que fait l’autre !
Amazon EC2 comme cible
Le modèle d’attaque
Déterminer où est la machine virtuelle qui contient le service à attaquer
Déterminer si la machine virtuelle de l’attaquant co-réside avec la machine virtuelle à attaquer
Si non, essayer de lancer des nouvelles machines virtuelles jusqu’à être co-résident avec la machine virtuelle à attaquer
Exploiter les fuites d’information (CPU caches, branchtarget buffers, network queues, ...)
T. Ristenpart, E. Tromer, H. Shacham, S. Savage, Hey, You, Get Off of My Cloud! Exploring Information Leakage in Third-PartyCompute Clouds, ACM Conf. on Computer and Communications Security (CCS) 2009, 199-212, ACM, 2009.

Quelquesrecommandations pour pour la tolérance aux pannessur les Clouds publiques
Dupliquer les services
Eviter le “single point of failure”
Sur Amazon, répartir les applications sensibles entre les régions
Avoir des zones d’isolation des fautes
Sur des matérielsdifférents (data centers)
Eviter les communications synchrones entre zones
Mettre des time-out sur les communications asynchrones
Utiliserdifférents Clouds ?

Et la recherche ?

Et la recherchedans tout çà ?
Explosion du nombre de travaux de rechercheautour des Clouds et de la virtualisation !
Quelques challenges de recherche
Composition de services
Service Level Agreement (SLA)
Sécurité
Résistance aux fautes/pannes
Gestion de l’infrastructure
Ordonnancement et gestion élastique des ressources
Gestion de données
Accès transparent à des plateformes hybrides
Multi-clouds
Nouveaux modèles
économiques, énergie
Programmation des applications
Nouveaux langages, nouveaux modèles

« Nouveaux » paradigmes de programmation ?
Les applications de grandes tailles utilisent encore les paradigmes de programmation des grappes et des supercalculateurs (MPI, OpenMP)
Nouvelles applications avec nouveaux besoins
Manipulation de données,
Workflows (dynamiques),
composants logiciels, …
Prise en compte de l’architecture
Maîtrise de la grande échelle et de hétérogénéité, élasticité,
Tolérance aux pannes,
Nouvelles architectures fortement hiérarchiques, …
Input
SPMDs

MapReduce
Modèle (ré)-introduit par Google
“MapReduceis a programming model and an associatedimplementation for processing and generating large data sets. Usersspecify a mapfunctionthatprocesses a key/value pair to generate a set of intermediatekey/value pairs, and a reducefunctionthatmerges all intermediate values associatedwith the sameintermediatekey.”MapReduce: Simplified Data Processing on Large Clusters Jeffrey Dean and Sanjay Ghemawat
Version open-source: Hadoop
Nombreux travaux de recherche
Extensions du langage
Systèmes de fichiers distribués
Réplication des données
Gestion des ressources
Nouvelles applications
Nouvelles plates-formes (multicores, GPU)
Tolérance aux pannes

OS Grid/Cloud-aware
Des systèmes et des plates-formes hétérogènes
Grappes, grilles, clouds
Une utilisation compliquée
intergiciels multiples, OS différents, gestion de ressources, de données, fichiers, tolérance aux pannes, sécurité, …
Vers des OS pour les grilles et les clouds ?
Des challenges !
Maîtrise de la grande échelle
Nombre de ressources
Sites et domaines multiples
Dynamicité
Charge, pannes, ajouts de ressources
Difficulté à prédire le comportement des plates-formes et de leurs utilisateurs

Gestionoptimisée de l’énergie
Les grilles et les Clouds participent au changement climatique !
Approches « vertes » pour les grilles
Optimisation : améliorer la conception des matériels et logiciels pour réduire leur consommation d’énergie
Eteindre / Shutdown : réduire le nombres de ressources et d’équipements alimentés et inutiles : nœuds de calculs, de stockage, de communication, périphériques, …
Adaptation / Slowdown : adapter la vitesse des ressources à l’usage réel : DVFS, ALR, …
Coordination : proposer des solutions à grande échelle afin de bénéficier de leviers de réduction énergétique plus importants
Crédits: Laurent Lefèvre (INRIA/LIP)

Gestion de la virtualisationàgrandeéchelle
Quelques problématiques liées à l’utilisation de machines virtuelles à grande échelle
Gérer les tâches dynamiquement (SALINE)
Utiliser les capacités des machines virtuelles pour suspendre une tâche et l’exécuter (potentiellement) ailleurs
Sauver des snapshots et gérer leur sauvegarde de manière extensible
Combiner la virtualisation des ressources et du réseau (HiperNet)
Donner à l’utilisateur l’illusion qu’il utilise un système privé
Un langage de reconfiguration pour les infrastructures virtualisées (VMScript)
pour décrire les jobs, les VOs, les architectures physiques
Migrer une image virtuelle ou un cluster entier entre des datacenters (Shrinker)
Réduire le coût de déplacement (ne transférer que le strict minimum)
Tirer partie de la bande-passante d’un réseau WAN
Crédits: AdrienLèbre (LINA, EMN)

Gestion de ressources à grande échelle
Comment ordonnancer les tâches à grande échelle
Workflows, tâches hétérogènes, liens avec la gestion de données, la réplication, modèles énergétiques, …
Comment gérer l’allocation de machines virtuelles
Modéliser les plates-formes, prédire?
Gestion élastique des ressources
Maîtriser les pics de charge
Déplacer les VMs, les tâches
Modèles économiques, énergétiques, …
Self-*
Méta-schedulers
Ordonnancer et gérer les ressources dans un monde multi-batch et multi-gestionnaires
Pilot jobs
DIRAC, Condor

Combiner grilles et Clouds
SysFera-DS : une pile logicielle complète pour le HPC
... et un accès simple et transparent aux infrastructures de Cloud
Inside the Cloud
+ DIET platform is virtualized inside the cloud. (as Xen image for example)
+ Very flexible and scalable as DIET nodes can be launched
+ Dynamic adaptation % charge
Cloud manager
+ EC2 interface
+ EC2 is treated as a new Batch System
+ Automatic deployment of VMs with associated services
http://www.sysfera.fr/

Grid Application
Grid Middleware
OS (…)
Grid BIOS
Grid’5000
Une vision originale
Pouvoir effectuer des expérimentations à tous les niveaux de la pile logicielle d’une grille (ou d’un Cloud) avec
La possibilité de reproduire les conditions d’expérimentation
Isoler les expériences entre elles
Avoir une grande flexibilité
Comprendre ce qu’il se passe sur la plate-forme
Injections de conditions expérimentales (fautes, charge)
Un instrument pour l’informatique distribuée
9 sites en France connectés par Renater pour un total de 5600 cœurs
Un exemple (FutureGrid aux USA)
Un des premiers Clouds de type IaaS

Grid’5000 vu comme un Cloud
Quelques caractéristiques de Cloud
Possibilité de gérer vos propres images disques (installées via kDeploy)
Réservation de ressources transparente (via OAR)
Plateforme complètement contrôlée
Images de machines virtuelles (Xen, kvm, Vmware)
Isolement d’applications (KaVLAN)
Grid’5000 pourrait devenir Cloud’5000?
Plateforme parfaite pour la validation de résultats de recherche sur les Clouds
Instances de machines virtuelles connectées via un WAN dédié
Plusieurs projets autour de Clouds open source, MapReduce et de la virtualisation

conclusions

Conclusion
De nombreuses applications prêtes à être déployées sur les Clouds à différents niveaux
Les ressources sont disponibles en quantité !
Nombreuses offres de Clouds publics et privés
Notion de virtualisation et piles logicielles « mature »
« Quelques » problèmes à traiter encore mieux
extensibilité, sécurité, gestion de données à grande échelle, tolérance aux fautes, API entre Clouds, standards, …
Notion de confiance dans cette nouvelle technologie !
Le Cloud n’est pas prêt d’enterrer les supercalculateurs pour autant pour les grosses applications de simulation (architectures petascales et bientôt exascales)
Gros potentiel pour de nombreuses applications avec différentes approches (IaaS, PaaS, SaaS) voir une combinaison de ces approches

DES QUESTIONS ?

Quelquesréférences
European Commission report on The Future of Cloud Computing
http://cordis.europa.eu/fp7/ict/ssai/docs/cloud-report-final.pdf
Cloud Strategy and Innovation Blog (I. Llorrente)
http://blog.cloudplan.org/
Above the Clouds: A Berkeley View of Cloud Computing
http://www.eecs.berkeley.edu/Pubs/TechRpts/2009/EECS-2009-28.html
http://berkeleyclouds.blogspot.com/
The NIST Definition of Cloud Computing
http://csrc.nist.gov/publications/drafts/800-145/Draft-SP-800-145_cloud-definition.pdf
DRAFT Cloud Computing Synopsis and Recommendations
http://csrc.nist.gov/publications/drafts/800-146/Draft-NIST-SP800-146.pdf
Cloud Computing Bible,
B. Sosinsky, Wiley
SIENA European Roadmap on Grid and Cloud Standards for e-Science and Beyond
http://www.sienainitiative.eu/Repository/FileScaricati/8ee3587a-f255-4e5c-aed4-9c2dc7b626f6.pdf

Les Clouds: Buzzword ou révolution technologique

by Frederic Desprez on Jun 07, 2011

Accessibility

Categories

Upload Details

Usage Rights

Statistics

Les Clouds: Buzzword ou révolution technologique — Presentation Transcript