SlideShare a Scribd company logo
Rudie Ekkelenkamp
Gert-Jan Schotmeijer
Wat & Hoe
22 juni 2021
Delft-FEWS in de cloud
Delft-FEWS
in
de
cloud
2
“Eenvoudig gezegd is cloudcomputing het leveren van computingservices, inclusief servers, opslag,
databases, netwerkfuncties, software, analysefuncties en intelligentie via internet ('de cloud') waarmee u
een snellere innovatie, flexibele resources en schaalvoordelen krijgt. U betaalt doorgaans alleen voor de
cloudservices die u gebruikt, waardoor u minder bedrijfskosten hebt, uw infrastructuur efficiënter draait en
u kunt schalen al naar gelang uw bedrijf wijzigingen nodig heeft.“
(bron: Microsoft Azure).
“Cloud computing is het via een netwerk – vaak het internet – op aanvraag beschikbaar stellen van
hardware, software en gegevens, ongeveer zoals elektriciteit uit het lichtnet. De term is afkomstig uit de
schematechnieken uit de informatica, waar een groot, decentraal netwerk (zoals het internet) met behulp
van een wolk wordt aangeduid.” (bron: wikipedia)
V.S.
Delft-FEWS
in
de
cloud
Delft-FEWS
in
de
cloud
PRO’s en CON’s van de cloud
PRO’s:
• Kostenbesparing
• Gebruik
• Beheer
• Investeringen
• Gemak: Schaalbaarheid en flexibiliteit
• Altijd up to date (updates & techniek) (met name public)
CON’s:
• Vereist goede governance (sluipverbruik)
• Onverwachte (verborgen) kosten
• Afhankelijkheden (provider, connectie naar de cloud)
• Opt-out
• Verlies aan specifieke IT-kennis
Delft-FEWS in de cloud
Uitgangspunten
• Cloud onafhankelijk; Cloud agnostic
• Gebruik makend van specifieke Cloud services
(bijv. Managed Database, DR, HA opties)
Delft-FEWS
in
de
cloud
5
Delft-FEWS cloud installaties (April 2021)
• Delft-FEWS in de cloud > 17
• >95% Microsoft Azure
Delft-FEWS in de cloud - overzicht
1. Delft-FEWS componenten cloud ready
2. Schaalbaarheid / opschalen in de cloud
3. DR in de cloud
4. HA in de cloud
5. Deployment in de cloud
6. Operator client
7. Gebruikersbeheer in de cloud
8. Monitoring en loging in de cloud
9. Security
Delft-FEWS
in
de
cloud
6
Delft-FEWS componenten cloud ready
Delft-FEWS
in
de
cloud
7
1. Deployment geschikt voor de cloud (Environment variabelen).
2. Delft-FEWS componenten zijn alleen afhankelijk van de database. (Geen state).
1. MC/AI config uploaden in database. Geen locale configuratie files meer. Ontwikkeld voor
Rijkswaterstaat
2. WebServices gebruiken nu ook ENV variabelen en een ws_clientConfig.xml
3. Master Controller en FSS met en zonder launcher. Voor Rijkswaterstaat is het mogelijk
gemaakt om ook zonder launchers te kunnen werken. Dit past beter bij het
Kubernetes/docker model
4. Model software kan met module data sets “on the fly” worden geïnstalleerd
5. Ondersteuning voor cloud managed databases.
1. Azure SQL Server
2. Azure SQL Managed Instance
Schaalbaarheid/opschalen in de cloud
• Delft-FEWS kan zelf niet opschalen / nieuwe virtual machines starten.
− Dit kan wel in de cloud worden ingericht. Toevoegen van een extra FSS vergt geen configuratie aan de kant
van Delft-FEWS.
• Opschalen van een Forecasting Shell Server:
− Handmatig een nieuwe VM maken en de Delft-FEWS software zelf installeren
− ARM template deployen om een nieuwe FSS te starten
− Kubernetes replica sets
− Azure Scale sets: vereist een Virtual Machine Image.
• Automatisch bepalen wanneer moet worden opgeschaald is complex.
• Dit is eenvoudiger voor web applicaties (zoals de Delft-FEWS Web Services), waarbij het aantal
HTTP connecties een trigger kan zijn om op te schalen.
• Database kan worden opgeschaald door een Systeem beheerder
Delft-FEWS
in
de
cloud
8
DR in de cloud (Disaster Recovery)
1. In de cloud zijn er een aantal concepten die het herstellen na een ramp (disaster recovery) mogelijk
maken:
1. “Availability Zones” (AZ) Dit zijn fysiek gescheiden data centers die onderling een snelle verbinding hebben.
2. “Regions” Geografisch van elkaar gescheiden data centers.
2. File opslag kan automatisch worden gerepliceerd naar “Availability Zones” en “Regions”.
3. Back-ups kunnen in verschillende AZs en Regions worden opgeslagen.
4. Virtual machines kunnen automatisch worden gerepliceerd tussen verschillende AZs en Regions.
Met name ASR (Azure Site Recovery) kan hiervoor worden gebruikt.
Delft-FEWS
in
de
cloud
9
High Availability in de cloud (HA)
1. Hoog beschikbaar in de cloud is het vermijden van een “Single Point of Failure”.
Mogelijke maatregelen zijn:
− 1 of meerdere “Availability Zones”
− 1 of meerdere “Regions”
− Gebruik van load balancers voor web applicaties
− “Availability Sets”
− Managed Database
− 1 of meerdere MC Databases in meerdere regios. (=FEWS functionaliteit)
2. Hierna 2 voorbeeld architecturen.
Delft-FEWS
in
de
cloud
10
Azure HA in de cloud
1 MC
1 Regio
Delft-FEWS
in
de
cloud
11
• Managed database
• Azure File Services
• VMs Availability Sets
HA in de cloud
2 MCs
2 AZs
Delft-FEWS
in
de
cloud
12
Deployment in de cloud
Delft-FEWS
in
de
cloud
13
1. Handmatige installaties van Virtual Machines
2. Automatische installatie van infrastructuur en
Delft-FEWS software
1. ARM templates Microsoft Azure
2. CloudFormation Amazon AWS
3. Kubernetes/Docker
Deployment in de cloud – ARM template
Delft-FEWS
in
de
cloud
14
• Azure Resource Manager (infrastructuur als code)
• Ontwikkeld in samenwerking met MDBA
• Maak automatisch infrastructuur, virtual machines
en installeer software
• Gebruik parameters om eenvoudig voor
verschillende omgevingen te kunnen deployen.
• Deployment:
− Handmatig met de Azure Portal
− Maak gebruik van powershell scripts
− Azure DevOps pipeline
− ….
• Installeer automatisch de Delft-FEWS software
zodra de VM is gecreëerd. (customData).
• Zowel Windows als Linux
Operator Client in de cloud
Delft-FEWS
in
de
cloud
15
• De operator client kan on-premise draaien waarbij de database in de cloud draait.
• De operator client kan in Azure in een virtual machine draaien en als een ”Remote App”
beschikbaar worden gesteld .
− Remote app streaming
− https://azure.microsoft.com/nl-nl/services/virtual-desktop/
• Voordeel remote app / Windows Virtual Desktop:
− Beheergemak
− Geschikt voor kleine bandbreedtes (performance)
− “Device” onafhankelijk
• Nadeel:
− Kost geld
Gebruikersbeheer in de cloud
1. Operator Client gebruikers zijn afhankelijk van Windows login. Identiek aan on premise. Geen
ondersteuning voor Azure AD login (is dit gewenst vanuit de community?)
2. Admin Interface ondersteunt Oauth2. Dit betekent in de praktijk dat er zowel met Microsoft Azure AD
als met Amazon AWS Cognito kan worden ingelogd.
Delft-FEWS
in
de
cloud
16
Monitoring en logging in de cloud
1. De meeste Delft-FEWS componenten schrijven naar de Windows Event Logger of Linux syslog en
naar het file systeem.
1. Azure Log Analytics kan worden gekoppeld aan de windows event logger of kan lezen van het file system
2. Log Analytics kan worden gebruikt om alerts te genereren.
2. Op een virtual machine kan een Monitoring Agent worden geïnstalleerd om te kunnen koppelen
met logging
3. In de Admin interface kunnen event codes worden gekoppeld aan event actions die specifieke log
codes kunnen sturen naar de Azure Service Bus. Ontwikkeld voor de Environment Agency.
1. https://publicwiki.deltares.nl/display/FEWSDOC/Azure+Service+Bus+Alerts
2. https://azure.microsoft.com/nl-nl/services/service-bus/
Delft-FEWS
in
de
cloud
17
Security
1. Security eisen kunnen met cloud componenten worden ingevuld:
1) HTTPS verbindingen naar web applicaties. Bijvoorbeeld Application Gateways of API Gateways
2) Gebruik van Azure AD:
• Virtual machines die een system assigned managed identity hebben, kunnen een database
connectie opzetten op basis van Azure AD.
• De Admin Interface kan worden geconfigureerd zodat logins door Oauth2/Azure AD worden
afgehandeld.
3) Firewall regels kunnen met Security Groups worden ingericht.
4) Encryptie “in transit” en “at rest”
Delft-FEWS
in
de
cloud
18
Migreren naar de cloud - stappenplan
19
Requirements Design
Implementation
Plan
• Connectivity
• Disaster Recovery
• High availability
• Performance
• Welke modellen
• Etc.
• Cloud options/functionality
• Local/On Prem limitations
• General cloud strategy
• ARM templates
• Powershell
• Test
• Acceptance
Implementation
• Test
• Acceptance
• Hand over to??
Phase 1
Architectural Design
Cost estimate Phase 2
4 weken
2 - 4 weken
4 weken
2 - 4 weken
doorlooptijd
Delft-FEWS
in
de
cloud
Take away’s (ervaringen uit het veld)
1. Handig als er al cloudstrategie bestaat binnen de organisatie maar praktijk vaak minder ver dan de cloud
wensen Delft-FEWS gebruikers/eigenaren
2. De kunst van het weglaten; cloud biedt veel mooie features maar heb je die ook nodig?
3. Je kunt relatief eenvoudig opschalen dus je kunt ook klein starten om iets te proberen
4. Afweging kosten on-premise v.s. de cloud lastig te maken. Cloud vaak goedkoper (AHB)
5. Goede cloud kennis/ondersteuning van IT-support binnen de organisatie is een pré
6. Bij grote organisaties extra aandacht nodig voor overdracht van “IT-projects” naar “IT-implementation” + beheer
7. Al je onderliggende modules/modelsoftware neem die mee in je ontwerp (licenties, packages etc.) dus niet
alleen Delft-FEWS componenten
8. Eenvoudiger dan het lijkt
Delft-FEWS
in
de
cloud
20
Vragen & Discussie
Contact
www.deltares.nl
info@deltares.nl
@deltares
@deltares
linkedin.com/company/deltares
facebook.com/deltaresNL

More Related Content

Similar to DSD-NL 2021 Delft-FEWS in de cloud - Schotmeijer en Ekkelenkamp

Cloud Computing
Cloud ComputingCloud Computing
Cloud Computing
leenderthinds
 
Cloud Computing
Cloud ComputingCloud Computing
Cloud Computing
Richard Claassens CIPPE
 
Cloud computing en records management workshop
Cloud computing en records management workshopCloud computing en records management workshop
Cloud computing en records management workshop
Theo Reichgelt
 
De cloud als platform Azure IaaS - Cloud Seminar
De cloud als platform Azure IaaS - Cloud SeminarDe cloud als platform Azure IaaS - Cloud Seminar
De cloud als platform Azure IaaS - Cloud Seminar
Delta-N
 
Cloud computing en records management (id 419)
Cloud computing en records management (id 419)Cloud computing en records management (id 419)
Cloud computing en records management (id 419)
theore
 
Cloud computing lunchsessie (v2)
Cloud computing lunchsessie (v2)Cloud computing lunchsessie (v2)
Cloud computing lunchsessie (v2)
Richard Claassens CIPPE
 
SURF Lego - SURFwired - Edwin Verheul - NWD23
SURF Lego - SURFwired - Edwin Verheul - NWD23SURF Lego - SURFwired - Edwin Verheul - NWD23
SURF Lego - SURFwired - Edwin Verheul - NWD23
SURFevents
 
Cloud computing for dummies
Cloud computing for dummiesCloud computing for dummies
Cloud computing for dummiesHarold Teunissen
 
Virtualizatie: de 'big picture'
Virtualizatie: de 'big picture'Virtualizatie: de 'big picture'
Virtualizatie: de 'big picture'
Peter HJ van Eijk
 
Management van cloud-diensten nog zeer onvolwassen (2014)
Management van cloud-diensten nog zeer onvolwassen (2014)Management van cloud-diensten nog zeer onvolwassen (2014)
Management van cloud-diensten nog zeer onvolwassen (2014)
Rob Akershoek
 
Dutch NEXT on Tour Keynote and Technical Deck
Dutch NEXT on Tour Keynote and Technical DeckDutch NEXT on Tour Keynote and Technical Deck
Dutch NEXT on Tour Keynote and Technical Deck
NEXTtour
 
Cloud computing overzicht
Cloud computing overzichtCloud computing overzicht
Cloud computing overzicht
Richard Claassens CIPPE
 
Citrix Workspace Suite: De werkplekimplementatie die niet kan mislukken!
Citrix Workspace Suite: De werkplekimplementatie die niet kan mislukken!Citrix Workspace Suite: De werkplekimplementatie die niet kan mislukken!
Citrix Workspace Suite: De werkplekimplementatie die niet kan mislukken!
ICT-Partners
 
Hybrid Cloud training on Amazon Azure VMware
Hybrid Cloud training on Amazon Azure VMwareHybrid Cloud training on Amazon Azure VMware
Hybrid Cloud training on Amazon Azure VMware
Weolcan
 
Technische betekenis van_cloud_computing
Technische betekenis van_cloud_computingTechnische betekenis van_cloud_computing
Technische betekenis van_cloud_computing
Focus To B.V.
 
Starten met Azure 20 mei 2022.pptx
Starten met Azure 20 mei 2022.pptxStarten met Azure 20 mei 2022.pptx
Starten met Azure 20 mei 2022.pptx
Delta-N
 
New features cognos10.2
New features cognos10.2New features cognos10.2
New features cognos10.2
Jan van Otten
 
Pilootproject CollectiveAcces & cloud hosting
Pilootproject CollectiveAcces & cloud hostingPilootproject CollectiveAcces & cloud hosting
Pilootproject CollectiveAcces & cloud hosting
FARO
 
ConXioN cloud - vcloud - office365
ConXioN   cloud - vcloud - office365ConXioN   cloud - vcloud - office365
ConXioN cloud - vcloud - office365CXN-BE
 

Similar to DSD-NL 2021 Delft-FEWS in de cloud - Schotmeijer en Ekkelenkamp (20)

Cloud Computing
Cloud ComputingCloud Computing
Cloud Computing
 
Cloud Computing
Cloud ComputingCloud Computing
Cloud Computing
 
Cloud computing en records management workshop
Cloud computing en records management workshopCloud computing en records management workshop
Cloud computing en records management workshop
 
De cloud als platform Azure IaaS - Cloud Seminar
De cloud als platform Azure IaaS - Cloud SeminarDe cloud als platform Azure IaaS - Cloud Seminar
De cloud als platform Azure IaaS - Cloud Seminar
 
Cloud computing en records management (id 419)
Cloud computing en records management (id 419)Cloud computing en records management (id 419)
Cloud computing en records management (id 419)
 
Cloud computing lunchsessie (v2)
Cloud computing lunchsessie (v2)Cloud computing lunchsessie (v2)
Cloud computing lunchsessie (v2)
 
Rhodix-the-journey-to-the-Cloud
Rhodix-the-journey-to-the-CloudRhodix-the-journey-to-the-Cloud
Rhodix-the-journey-to-the-Cloud
 
SURF Lego - SURFwired - Edwin Verheul - NWD23
SURF Lego - SURFwired - Edwin Verheul - NWD23SURF Lego - SURFwired - Edwin Verheul - NWD23
SURF Lego - SURFwired - Edwin Verheul - NWD23
 
Cloud computing for dummies
Cloud computing for dummiesCloud computing for dummies
Cloud computing for dummies
 
Virtualizatie: de 'big picture'
Virtualizatie: de 'big picture'Virtualizatie: de 'big picture'
Virtualizatie: de 'big picture'
 
Management van cloud-diensten nog zeer onvolwassen (2014)
Management van cloud-diensten nog zeer onvolwassen (2014)Management van cloud-diensten nog zeer onvolwassen (2014)
Management van cloud-diensten nog zeer onvolwassen (2014)
 
Dutch NEXT on Tour Keynote and Technical Deck
Dutch NEXT on Tour Keynote and Technical DeckDutch NEXT on Tour Keynote and Technical Deck
Dutch NEXT on Tour Keynote and Technical Deck
 
Cloud computing overzicht
Cloud computing overzichtCloud computing overzicht
Cloud computing overzicht
 
Citrix Workspace Suite: De werkplekimplementatie die niet kan mislukken!
Citrix Workspace Suite: De werkplekimplementatie die niet kan mislukken!Citrix Workspace Suite: De werkplekimplementatie die niet kan mislukken!
Citrix Workspace Suite: De werkplekimplementatie die niet kan mislukken!
 
Hybrid Cloud training on Amazon Azure VMware
Hybrid Cloud training on Amazon Azure VMwareHybrid Cloud training on Amazon Azure VMware
Hybrid Cloud training on Amazon Azure VMware
 
Technische betekenis van_cloud_computing
Technische betekenis van_cloud_computingTechnische betekenis van_cloud_computing
Technische betekenis van_cloud_computing
 
Starten met Azure 20 mei 2022.pptx
Starten met Azure 20 mei 2022.pptxStarten met Azure 20 mei 2022.pptx
Starten met Azure 20 mei 2022.pptx
 
New features cognos10.2
New features cognos10.2New features cognos10.2
New features cognos10.2
 
Pilootproject CollectiveAcces & cloud hosting
Pilootproject CollectiveAcces & cloud hostingPilootproject CollectiveAcces & cloud hosting
Pilootproject CollectiveAcces & cloud hosting
 
ConXioN cloud - vcloud - office365
ConXioN   cloud - vcloud - office365ConXioN   cloud - vcloud - office365
ConXioN cloud - vcloud - office365
 

More from Deltares

DSD-NL 2023 Ontwikkeling van een bias Kalman filter - Laagfrequente correctie...
DSD-NL 2023 Ontwikkeling van een bias Kalman filter - Laagfrequente correctie...DSD-NL 2023 Ontwikkeling van een bias Kalman filter - Laagfrequente correctie...
DSD-NL 2023 Ontwikkeling van een bias Kalman filter - Laagfrequente correctie...
Deltares
 
DSD-NL 2023 Hoogwatertoetsingen met D-HYDRO Suite 1D2D - Bosch
DSD-NL 2023 Hoogwatertoetsingen met D-HYDRO Suite 1D2D - BoschDSD-NL 2023 Hoogwatertoetsingen met D-HYDRO Suite 1D2D - Bosch
DSD-NL 2023 Hoogwatertoetsingen met D-HYDRO Suite 1D2D - Bosch
Deltares
 
DSD-NL 2023 Hydraulisch Modelinstrumentarium Aa en Maas - de Keijzer
DSD-NL 2023 Hydraulisch Modelinstrumentarium Aa en Maas - de KeijzerDSD-NL 2023 Hydraulisch Modelinstrumentarium Aa en Maas - de Keijzer
DSD-NL 2023 Hydraulisch Modelinstrumentarium Aa en Maas - de Keijzer
Deltares
 
DSD-NL 2022 D-GEO Gebruikersdag - van der Meij
DSD-NL 2022 D-GEO Gebruikersdag - van der MeijDSD-NL 2022 D-GEO Gebruikersdag - van der Meij
DSD-NL 2022 D-GEO Gebruikersdag - van der Meij
Deltares
 
DSD-NL 2022 Keuzes - een workshop voor modelbouwers - Wesselius - Melsen
DSD-NL 2022 Keuzes - een workshop voor modelbouwers - Wesselius - MelsenDSD-NL 2022 Keuzes - een workshop voor modelbouwers - Wesselius - Melsen
DSD-NL 2022 Keuzes - een workshop voor modelbouwers - Wesselius - Melsen
Deltares
 
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff2
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff2DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff2
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff2
Deltares
 
DSD-NL 2022 Waterkwaliteitsmodellering met D-HYDRO Suite 1D2D - Meijers
DSD-NL 2022 Waterkwaliteitsmodellering met D-HYDRO Suite 1D2D - MeijersDSD-NL 2022 Waterkwaliteitsmodellering met D-HYDRO Suite 1D2D - Meijers
DSD-NL 2022 Waterkwaliteitsmodellering met D-HYDRO Suite 1D2D - Meijers
Deltares
 
DSD-NL 2022 D-HYDRO Suite 1D2D, stand van zaken en vooruitblik - Verhoeven - ...
DSD-NL 2022 D-HYDRO Suite 1D2D, stand van zaken en vooruitblik - Verhoeven - ...DSD-NL 2022 D-HYDRO Suite 1D2D, stand van zaken en vooruitblik - Verhoeven - ...
DSD-NL 2022 D-HYDRO Suite 1D2D, stand van zaken en vooruitblik - Verhoeven - ...
Deltares
 
DSD-NL 2022 Highlights van de zesde-generatie RWS modelschematisaties - Spruyt
DSD-NL 2022 Highlights van de zesde-generatie RWS modelschematisaties - SpruytDSD-NL 2022 Highlights van de zesde-generatie RWS modelschematisaties - Spruyt
DSD-NL 2022 Highlights van de zesde-generatie RWS modelschematisaties - Spruyt
Deltares
 
DSD-NL 2022 Proactief watermanagement systeem van Bangkok - Hutten
DSD-NL 2022 Proactief watermanagement systeem van Bangkok - HuttenDSD-NL 2022 Proactief watermanagement systeem van Bangkok - Hutten
DSD-NL 2022 Proactief watermanagement systeem van Bangkok - Hutten
Deltares
 
DSD-NL 2022 Toetsing op wateroverlast voor de Barneveldse en Lunterse Beek - ...
DSD-NL 2022 Toetsing op wateroverlast voor de Barneveldse en Lunterse Beek - ...DSD-NL 2022 Toetsing op wateroverlast voor de Barneveldse en Lunterse Beek - ...
DSD-NL 2022 Toetsing op wateroverlast voor de Barneveldse en Lunterse Beek - ...
Deltares
 
DSD-NL 2022 Overstromingsberekeningen met D-HYDRO Suite 1D2D - de Lange
DSD-NL 2022 Overstromingsberekeningen met D-HYDRO Suite 1D2D - de LangeDSD-NL 2022 Overstromingsberekeningen met D-HYDRO Suite 1D2D - de Lange
DSD-NL 2022 Overstromingsberekeningen met D-HYDRO Suite 1D2D - de Lange
Deltares
 
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de GraaffDSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff
Deltares
 
DSD-NL 2022 D-HYDRO Gebruikersdag - Programma - Melger
DSD-NL 2022 D-HYDRO Gebruikersdag - Programma - MelgerDSD-NL 2022 D-HYDRO Gebruikersdag - Programma - Melger
DSD-NL 2022 D-HYDRO Gebruikersdag - Programma - Melger
Deltares
 
DSD-NL 2021 Watersysteemanalyses-toetsingen - Horn, Weerts
DSD-NL 2021 Watersysteemanalyses-toetsingen - Horn, WeertsDSD-NL 2021 Watersysteemanalyses-toetsingen - Horn, Weerts
DSD-NL 2021 Watersysteemanalyses-toetsingen - Horn, Weerts
Deltares
 
DSD-NL 2021 D-HyDAMO import en verificatie met D-HYDRO Suite
DSD-NL 2021 D-HyDAMO import en verificatie met D-HYDRO SuiteDSD-NL 2021 D-HyDAMO import en verificatie met D-HYDRO Suite
DSD-NL 2021 D-HyDAMO import en verificatie met D-HYDRO Suite
Deltares
 
DSD-NL 2021 Toepassing (semi-)gedistribueerde hydrologie met D-HYDRO Suite - ...
DSD-NL 2021 Toepassing (semi-)gedistribueerde hydrologie met D-HYDRO Suite - ...DSD-NL 2021 Toepassing (semi-)gedistribueerde hydrologie met D-HYDRO Suite - ...
DSD-NL 2021 Toepassing (semi-)gedistribueerde hydrologie met D-HYDRO Suite - ...
Deltares
 
DSD-NL 2021 Omzetten boezemmodel WS Hunze en Aa’s van SOBEK 2 naar D-HYDRO Su...
DSD-NL 2021 Omzetten boezemmodel WS Hunze en Aa’s van SOBEK 2 naar D-HYDRO Su...DSD-NL 2021 Omzetten boezemmodel WS Hunze en Aa’s van SOBEK 2 naar D-HYDRO Su...
DSD-NL 2021 Omzetten boezemmodel WS Hunze en Aa’s van SOBEK 2 naar D-HYDRO Su...
Deltares
 
DSD-NL 2021 Casus Stellendam Goeree-Overflakkee - Stigter, Coster
DSD-NL 2021 Casus Stellendam Goeree-Overflakkee - Stigter, CosterDSD-NL 2021 Casus Stellendam Goeree-Overflakkee - Stigter, Coster
DSD-NL 2021 Casus Stellendam Goeree-Overflakkee - Stigter, Coster
Deltares
 
DSD-NL 2021 Casus Leiderdorp - de Waard, Vlaar
DSD-NL 2021 Casus Leiderdorp - de Waard, VlaarDSD-NL 2021 Casus Leiderdorp - de Waard, Vlaar
DSD-NL 2021 Casus Leiderdorp - de Waard, Vlaar
Deltares
 

More from Deltares (20)

DSD-NL 2023 Ontwikkeling van een bias Kalman filter - Laagfrequente correctie...
DSD-NL 2023 Ontwikkeling van een bias Kalman filter - Laagfrequente correctie...DSD-NL 2023 Ontwikkeling van een bias Kalman filter - Laagfrequente correctie...
DSD-NL 2023 Ontwikkeling van een bias Kalman filter - Laagfrequente correctie...
 
DSD-NL 2023 Hoogwatertoetsingen met D-HYDRO Suite 1D2D - Bosch
DSD-NL 2023 Hoogwatertoetsingen met D-HYDRO Suite 1D2D - BoschDSD-NL 2023 Hoogwatertoetsingen met D-HYDRO Suite 1D2D - Bosch
DSD-NL 2023 Hoogwatertoetsingen met D-HYDRO Suite 1D2D - Bosch
 
DSD-NL 2023 Hydraulisch Modelinstrumentarium Aa en Maas - de Keijzer
DSD-NL 2023 Hydraulisch Modelinstrumentarium Aa en Maas - de KeijzerDSD-NL 2023 Hydraulisch Modelinstrumentarium Aa en Maas - de Keijzer
DSD-NL 2023 Hydraulisch Modelinstrumentarium Aa en Maas - de Keijzer
 
DSD-NL 2022 D-GEO Gebruikersdag - van der Meij
DSD-NL 2022 D-GEO Gebruikersdag - van der MeijDSD-NL 2022 D-GEO Gebruikersdag - van der Meij
DSD-NL 2022 D-GEO Gebruikersdag - van der Meij
 
DSD-NL 2022 Keuzes - een workshop voor modelbouwers - Wesselius - Melsen
DSD-NL 2022 Keuzes - een workshop voor modelbouwers - Wesselius - MelsenDSD-NL 2022 Keuzes - een workshop voor modelbouwers - Wesselius - Melsen
DSD-NL 2022 Keuzes - een workshop voor modelbouwers - Wesselius - Melsen
 
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff2
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff2DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff2
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff2
 
DSD-NL 2022 Waterkwaliteitsmodellering met D-HYDRO Suite 1D2D - Meijers
DSD-NL 2022 Waterkwaliteitsmodellering met D-HYDRO Suite 1D2D - MeijersDSD-NL 2022 Waterkwaliteitsmodellering met D-HYDRO Suite 1D2D - Meijers
DSD-NL 2022 Waterkwaliteitsmodellering met D-HYDRO Suite 1D2D - Meijers
 
DSD-NL 2022 D-HYDRO Suite 1D2D, stand van zaken en vooruitblik - Verhoeven - ...
DSD-NL 2022 D-HYDRO Suite 1D2D, stand van zaken en vooruitblik - Verhoeven - ...DSD-NL 2022 D-HYDRO Suite 1D2D, stand van zaken en vooruitblik - Verhoeven - ...
DSD-NL 2022 D-HYDRO Suite 1D2D, stand van zaken en vooruitblik - Verhoeven - ...
 
DSD-NL 2022 Highlights van de zesde-generatie RWS modelschematisaties - Spruyt
DSD-NL 2022 Highlights van de zesde-generatie RWS modelschematisaties - SpruytDSD-NL 2022 Highlights van de zesde-generatie RWS modelschematisaties - Spruyt
DSD-NL 2022 Highlights van de zesde-generatie RWS modelschematisaties - Spruyt
 
DSD-NL 2022 Proactief watermanagement systeem van Bangkok - Hutten
DSD-NL 2022 Proactief watermanagement systeem van Bangkok - HuttenDSD-NL 2022 Proactief watermanagement systeem van Bangkok - Hutten
DSD-NL 2022 Proactief watermanagement systeem van Bangkok - Hutten
 
DSD-NL 2022 Toetsing op wateroverlast voor de Barneveldse en Lunterse Beek - ...
DSD-NL 2022 Toetsing op wateroverlast voor de Barneveldse en Lunterse Beek - ...DSD-NL 2022 Toetsing op wateroverlast voor de Barneveldse en Lunterse Beek - ...
DSD-NL 2022 Toetsing op wateroverlast voor de Barneveldse en Lunterse Beek - ...
 
DSD-NL 2022 Overstromingsberekeningen met D-HYDRO Suite 1D2D - de Lange
DSD-NL 2022 Overstromingsberekeningen met D-HYDRO Suite 1D2D - de LangeDSD-NL 2022 Overstromingsberekeningen met D-HYDRO Suite 1D2D - de Lange
DSD-NL 2022 Overstromingsberekeningen met D-HYDRO Suite 1D2D - de Lange
 
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de GraaffDSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff
DSD-NL 2022 D-HYDRO modelgeneratie in Limburg - de Graaff
 
DSD-NL 2022 D-HYDRO Gebruikersdag - Programma - Melger
DSD-NL 2022 D-HYDRO Gebruikersdag - Programma - MelgerDSD-NL 2022 D-HYDRO Gebruikersdag - Programma - Melger
DSD-NL 2022 D-HYDRO Gebruikersdag - Programma - Melger
 
DSD-NL 2021 Watersysteemanalyses-toetsingen - Horn, Weerts
DSD-NL 2021 Watersysteemanalyses-toetsingen - Horn, WeertsDSD-NL 2021 Watersysteemanalyses-toetsingen - Horn, Weerts
DSD-NL 2021 Watersysteemanalyses-toetsingen - Horn, Weerts
 
DSD-NL 2021 D-HyDAMO import en verificatie met D-HYDRO Suite
DSD-NL 2021 D-HyDAMO import en verificatie met D-HYDRO SuiteDSD-NL 2021 D-HyDAMO import en verificatie met D-HYDRO Suite
DSD-NL 2021 D-HyDAMO import en verificatie met D-HYDRO Suite
 
DSD-NL 2021 Toepassing (semi-)gedistribueerde hydrologie met D-HYDRO Suite - ...
DSD-NL 2021 Toepassing (semi-)gedistribueerde hydrologie met D-HYDRO Suite - ...DSD-NL 2021 Toepassing (semi-)gedistribueerde hydrologie met D-HYDRO Suite - ...
DSD-NL 2021 Toepassing (semi-)gedistribueerde hydrologie met D-HYDRO Suite - ...
 
DSD-NL 2021 Omzetten boezemmodel WS Hunze en Aa’s van SOBEK 2 naar D-HYDRO Su...
DSD-NL 2021 Omzetten boezemmodel WS Hunze en Aa’s van SOBEK 2 naar D-HYDRO Su...DSD-NL 2021 Omzetten boezemmodel WS Hunze en Aa’s van SOBEK 2 naar D-HYDRO Su...
DSD-NL 2021 Omzetten boezemmodel WS Hunze en Aa’s van SOBEK 2 naar D-HYDRO Su...
 
DSD-NL 2021 Casus Stellendam Goeree-Overflakkee - Stigter, Coster
DSD-NL 2021 Casus Stellendam Goeree-Overflakkee - Stigter, CosterDSD-NL 2021 Casus Stellendam Goeree-Overflakkee - Stigter, Coster
DSD-NL 2021 Casus Stellendam Goeree-Overflakkee - Stigter, Coster
 
DSD-NL 2021 Casus Leiderdorp - de Waard, Vlaar
DSD-NL 2021 Casus Leiderdorp - de Waard, VlaarDSD-NL 2021 Casus Leiderdorp - de Waard, Vlaar
DSD-NL 2021 Casus Leiderdorp - de Waard, Vlaar
 

DSD-NL 2021 Delft-FEWS in de cloud - Schotmeijer en Ekkelenkamp

  • 1. Rudie Ekkelenkamp Gert-Jan Schotmeijer Wat & Hoe 22 juni 2021 Delft-FEWS in de cloud
  • 2. Delft-FEWS in de cloud 2 “Eenvoudig gezegd is cloudcomputing het leveren van computingservices, inclusief servers, opslag, databases, netwerkfuncties, software, analysefuncties en intelligentie via internet ('de cloud') waarmee u een snellere innovatie, flexibele resources en schaalvoordelen krijgt. U betaalt doorgaans alleen voor de cloudservices die u gebruikt, waardoor u minder bedrijfskosten hebt, uw infrastructuur efficiënter draait en u kunt schalen al naar gelang uw bedrijf wijzigingen nodig heeft.“ (bron: Microsoft Azure). “Cloud computing is het via een netwerk – vaak het internet – op aanvraag beschikbaar stellen van hardware, software en gegevens, ongeveer zoals elektriciteit uit het lichtnet. De term is afkomstig uit de schematechnieken uit de informatica, waar een groot, decentraal netwerk (zoals het internet) met behulp van een wolk wordt aangeduid.” (bron: wikipedia) V.S.
  • 4. Delft-FEWS in de cloud PRO’s en CON’s van de cloud PRO’s: • Kostenbesparing • Gebruik • Beheer • Investeringen • Gemak: Schaalbaarheid en flexibiliteit • Altijd up to date (updates & techniek) (met name public) CON’s: • Vereist goede governance (sluipverbruik) • Onverwachte (verborgen) kosten • Afhankelijkheden (provider, connectie naar de cloud) • Opt-out • Verlies aan specifieke IT-kennis
  • 5. Delft-FEWS in de cloud Uitgangspunten • Cloud onafhankelijk; Cloud agnostic • Gebruik makend van specifieke Cloud services (bijv. Managed Database, DR, HA opties) Delft-FEWS in de cloud 5 Delft-FEWS cloud installaties (April 2021) • Delft-FEWS in de cloud > 17 • >95% Microsoft Azure
  • 6. Delft-FEWS in de cloud - overzicht 1. Delft-FEWS componenten cloud ready 2. Schaalbaarheid / opschalen in de cloud 3. DR in de cloud 4. HA in de cloud 5. Deployment in de cloud 6. Operator client 7. Gebruikersbeheer in de cloud 8. Monitoring en loging in de cloud 9. Security Delft-FEWS in de cloud 6
  • 7. Delft-FEWS componenten cloud ready Delft-FEWS in de cloud 7 1. Deployment geschikt voor de cloud (Environment variabelen). 2. Delft-FEWS componenten zijn alleen afhankelijk van de database. (Geen state). 1. MC/AI config uploaden in database. Geen locale configuratie files meer. Ontwikkeld voor Rijkswaterstaat 2. WebServices gebruiken nu ook ENV variabelen en een ws_clientConfig.xml 3. Master Controller en FSS met en zonder launcher. Voor Rijkswaterstaat is het mogelijk gemaakt om ook zonder launchers te kunnen werken. Dit past beter bij het Kubernetes/docker model 4. Model software kan met module data sets “on the fly” worden geïnstalleerd 5. Ondersteuning voor cloud managed databases. 1. Azure SQL Server 2. Azure SQL Managed Instance
  • 8. Schaalbaarheid/opschalen in de cloud • Delft-FEWS kan zelf niet opschalen / nieuwe virtual machines starten. − Dit kan wel in de cloud worden ingericht. Toevoegen van een extra FSS vergt geen configuratie aan de kant van Delft-FEWS. • Opschalen van een Forecasting Shell Server: − Handmatig een nieuwe VM maken en de Delft-FEWS software zelf installeren − ARM template deployen om een nieuwe FSS te starten − Kubernetes replica sets − Azure Scale sets: vereist een Virtual Machine Image. • Automatisch bepalen wanneer moet worden opgeschaald is complex. • Dit is eenvoudiger voor web applicaties (zoals de Delft-FEWS Web Services), waarbij het aantal HTTP connecties een trigger kan zijn om op te schalen. • Database kan worden opgeschaald door een Systeem beheerder Delft-FEWS in de cloud 8
  • 9. DR in de cloud (Disaster Recovery) 1. In de cloud zijn er een aantal concepten die het herstellen na een ramp (disaster recovery) mogelijk maken: 1. “Availability Zones” (AZ) Dit zijn fysiek gescheiden data centers die onderling een snelle verbinding hebben. 2. “Regions” Geografisch van elkaar gescheiden data centers. 2. File opslag kan automatisch worden gerepliceerd naar “Availability Zones” en “Regions”. 3. Back-ups kunnen in verschillende AZs en Regions worden opgeslagen. 4. Virtual machines kunnen automatisch worden gerepliceerd tussen verschillende AZs en Regions. Met name ASR (Azure Site Recovery) kan hiervoor worden gebruikt. Delft-FEWS in de cloud 9
  • 10. High Availability in de cloud (HA) 1. Hoog beschikbaar in de cloud is het vermijden van een “Single Point of Failure”. Mogelijke maatregelen zijn: − 1 of meerdere “Availability Zones” − 1 of meerdere “Regions” − Gebruik van load balancers voor web applicaties − “Availability Sets” − Managed Database − 1 of meerdere MC Databases in meerdere regios. (=FEWS functionaliteit) 2. Hierna 2 voorbeeld architecturen. Delft-FEWS in de cloud 10
  • 11. Azure HA in de cloud 1 MC 1 Regio Delft-FEWS in de cloud 11 • Managed database • Azure File Services • VMs Availability Sets
  • 12. HA in de cloud 2 MCs 2 AZs Delft-FEWS in de cloud 12
  • 13. Deployment in de cloud Delft-FEWS in de cloud 13 1. Handmatige installaties van Virtual Machines 2. Automatische installatie van infrastructuur en Delft-FEWS software 1. ARM templates Microsoft Azure 2. CloudFormation Amazon AWS 3. Kubernetes/Docker
  • 14. Deployment in de cloud – ARM template Delft-FEWS in de cloud 14 • Azure Resource Manager (infrastructuur als code) • Ontwikkeld in samenwerking met MDBA • Maak automatisch infrastructuur, virtual machines en installeer software • Gebruik parameters om eenvoudig voor verschillende omgevingen te kunnen deployen. • Deployment: − Handmatig met de Azure Portal − Maak gebruik van powershell scripts − Azure DevOps pipeline − …. • Installeer automatisch de Delft-FEWS software zodra de VM is gecreëerd. (customData). • Zowel Windows als Linux
  • 15. Operator Client in de cloud Delft-FEWS in de cloud 15 • De operator client kan on-premise draaien waarbij de database in de cloud draait. • De operator client kan in Azure in een virtual machine draaien en als een ”Remote App” beschikbaar worden gesteld . − Remote app streaming − https://azure.microsoft.com/nl-nl/services/virtual-desktop/ • Voordeel remote app / Windows Virtual Desktop: − Beheergemak − Geschikt voor kleine bandbreedtes (performance) − “Device” onafhankelijk • Nadeel: − Kost geld
  • 16. Gebruikersbeheer in de cloud 1. Operator Client gebruikers zijn afhankelijk van Windows login. Identiek aan on premise. Geen ondersteuning voor Azure AD login (is dit gewenst vanuit de community?) 2. Admin Interface ondersteunt Oauth2. Dit betekent in de praktijk dat er zowel met Microsoft Azure AD als met Amazon AWS Cognito kan worden ingelogd. Delft-FEWS in de cloud 16
  • 17. Monitoring en logging in de cloud 1. De meeste Delft-FEWS componenten schrijven naar de Windows Event Logger of Linux syslog en naar het file systeem. 1. Azure Log Analytics kan worden gekoppeld aan de windows event logger of kan lezen van het file system 2. Log Analytics kan worden gebruikt om alerts te genereren. 2. Op een virtual machine kan een Monitoring Agent worden geïnstalleerd om te kunnen koppelen met logging 3. In de Admin interface kunnen event codes worden gekoppeld aan event actions die specifieke log codes kunnen sturen naar de Azure Service Bus. Ontwikkeld voor de Environment Agency. 1. https://publicwiki.deltares.nl/display/FEWSDOC/Azure+Service+Bus+Alerts 2. https://azure.microsoft.com/nl-nl/services/service-bus/ Delft-FEWS in de cloud 17
  • 18. Security 1. Security eisen kunnen met cloud componenten worden ingevuld: 1) HTTPS verbindingen naar web applicaties. Bijvoorbeeld Application Gateways of API Gateways 2) Gebruik van Azure AD: • Virtual machines die een system assigned managed identity hebben, kunnen een database connectie opzetten op basis van Azure AD. • De Admin Interface kan worden geconfigureerd zodat logins door Oauth2/Azure AD worden afgehandeld. 3) Firewall regels kunnen met Security Groups worden ingericht. 4) Encryptie “in transit” en “at rest” Delft-FEWS in de cloud 18
  • 19. Migreren naar de cloud - stappenplan 19 Requirements Design Implementation Plan • Connectivity • Disaster Recovery • High availability • Performance • Welke modellen • Etc. • Cloud options/functionality • Local/On Prem limitations • General cloud strategy • ARM templates • Powershell • Test • Acceptance Implementation • Test • Acceptance • Hand over to?? Phase 1 Architectural Design Cost estimate Phase 2 4 weken 2 - 4 weken 4 weken 2 - 4 weken doorlooptijd Delft-FEWS in de cloud
  • 20. Take away’s (ervaringen uit het veld) 1. Handig als er al cloudstrategie bestaat binnen de organisatie maar praktijk vaak minder ver dan de cloud wensen Delft-FEWS gebruikers/eigenaren 2. De kunst van het weglaten; cloud biedt veel mooie features maar heb je die ook nodig? 3. Je kunt relatief eenvoudig opschalen dus je kunt ook klein starten om iets te proberen 4. Afweging kosten on-premise v.s. de cloud lastig te maken. Cloud vaak goedkoper (AHB) 5. Goede cloud kennis/ondersteuning van IT-support binnen de organisatie is een pré 6. Bij grote organisaties extra aandacht nodig voor overdracht van “IT-projects” naar “IT-implementation” + beheer 7. Al je onderliggende modules/modelsoftware neem die mee in je ontwerp (licenties, packages etc.) dus niet alleen Delft-FEWS componenten 8. Eenvoudiger dan het lijkt Delft-FEWS in de cloud 20 Vragen & Discussie