RDBMS oder NoSQL – warum nicht beides?

1,203 views

Published on

The presentation focuses on the question how to choose the right database and focuses on RDBMS and NoSQL databases.

Published in: Technology
0 Comments
0 Likes
Statistics
Notes
  • Be the first to comment

  • Be the first to like this

No Downloads
Views
Total views
1,203
On SlideShare
0
From Embeds
0
Number of Embeds
6
Actions
Shares
0
Downloads
10
Comments
0
Likes
0
Embeds 0
No embeds

No notes for slide

RDBMS oder NoSQL – warum nicht beides?

  1. 1. RDBMS oder NoSQL – warum nicht beides? München, den 22. Juni 2016 Julian Endres & Daniel Schulz Public – Company Confidential – Customer Confidential – Sensitive
  2. 2. Die Referenten Julian Endres Applications Consultant bei Capgemini Julian Endres ist Applications Consultant bei Capgemini im Bereich Big Data & Analytics. Er ist dabei im gesamten BI-Stack mit derzeitigem Fokus auf Technologien wie Qlik, Tableau, Hadoop und NoSQL-Datenbanken tätig. Im Bereich der nicht-relationalen Datenbanken widmet er sich besonders der Marktreife und Einsetzbarkeit von einzelnen Lösungen im Unternehmenskontext sowie Architekturen im Big-Data-Kontext. Daniel Schulz Senior Solution Architect bei Capgemini Daniel Schulz ist Senior Solution Architect bei Capgemini. Er arbeitet seit fünf Jahren im Big-Data-Bereich mit besonderem Fokus auf der Automotive-Branche. Er interessiert sich seit seiner Schulzeit für Statistik, seit dem Studium auch für Machine Learning und deren Einsatz in der Datenanalyse. Sein besonderes Interesse gilt Markovmodellen und der Performanceoptimierung von Software und Datenbanken. © Capgemini 2016. All Rights Reserved TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 2
  3. 3. Agenda © Capgemini 2016. All Rights Reserved 3TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 1. Einführung in NoSQL-Datenbanken 2. Diverse Anwendungsfälle 3. Big-Data-Referenzarchitektur 4. NoSQL-Evaluierungsframework 5. Innovation Dilemma & Résumé
  4. 4. Einführung
  5. 5. NoSQL-Datenbanken – Historie • RDBMS wurden zwischen den 1960er und 1980er Jahren als Wertschöpfung gegenüber Dateisystemen eingeführt • Daten werden in Spalten und Reihen abgespeichert • Tabellen werden über Primär- und Fremdschlüssel miteinander verknüpft • RDBMs Vorteile: • Stellen v.a. Struktur sicher • Nutzer/Rollen-Konzept und Gewährleistung von Datensicherheit • Sicherstellung der Konsistenz und Transaktionssicherheit • Optimierung der Anfrage durch SQL • und weitere • dieser Hintergrund ist wichtig • bei Betrachtung der Entwicklung von NoSQL sowie • bei Prognosen über die Zukunft des Datenbankenmarktes © Capgemini 2016. All Rights Reserved TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 5 NoSQL-Datenbanken
  6. 6. NoSQL = „Not only SQL“ Eine einheitliche Definition existiert nicht. NoSQL – Datenbanken erfüllen vielmehr charakteristische Eigenschaften in unterschiedlichem Maße. Definition NoSQL-Datenbanken – Begriff © Capgemini 2016. All Rights Reserved TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 6 NoSQL-Datenbanken
  7. 7. NoSQL-Datenbanken – Charakteristiken • Betrieb in verteilten Clusterumgebungen für native horizontale Skalierung (Partitionierung und Replikation der Daten über mehrere Knoten) • „Eventual consistency“ / gelockerte Konsistenz: Zugunsten von Verfügbarkeit und Performance ist die Konsistenz der Daten über die verteilten Partitionen nicht zu jedem Zeitpunkt sichergestellt. Eine verteilte Datenbank kann nur zwei der drei Anforderungen von Konsistenz, Verfügbarkeit und Partitionstoleranz gleichzeitig garantieren. (CAP-Theorem von Brewer)* • Gelockerte Schemarestriktionen und unterschiedliche Möglichkeiten der Datenstrukturierung • Datenbankspezifische Abfragesprachen und APIs • Häufig open-source Produkte mit Wurzeln in Web-Firmen • Polyglotte Architekturen (z.B. zusammen mit Hadoop, RDBMS oder DW) oft in Big-Data-Lösungen umgesetzt Consistency Availability Partition Tolerance * Vereinfachte Darstellung. Mehr Informationen: http://www.infoq.com/articles/cap-twelve-years-later-how-the-rules-have-changed © Capgemini 2016. All Rights Reserved TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 7 CAP-Theorem NoSQL-Datenbanken
  8. 8. Fokus von Datenlösungen im Big Data Kontext © Capgemini 2016. All Rights Reserved 8TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Velocity VarietyVolume Hadoop (HDFS) NoSQL Data Warehouses (OLAP) In-memory & event processing tools Filesysteme NoSQL-Datenbanken
  9. 9. NoSQL-Datenbanken – Typische fachliche Anwendungsfälle © Capgemini 2016. All Rights Reserved 9TDWI-2016-RDBMS-vs-NoSQL-Master.pptx • Web & Mobile Applikationen (Caching, Leaderboards, Latency kritische Anwendungen, Online Games, Sessions, Personalisierung) • Soziale Netzwerke • Log- und Sensordaten aus dem Internet-of-Things-Bereich (z.B. real-time Tracking von Maschinendaten) • Customer 360° View • Analytics (Datenanalyse, Betrugserkennung, MapReduce) • … und mehr NoSQL-Datenbanken
  10. 10. NoSQL-Datenbanken – Typische technische Anwendungsfälle © Capgemini 2016. All Rights Reserved 10TDWI-2016-RDBMS-vs-NoSQL-Master.pptx • Hohes Datenvolumen und lineare Skalierbarkeit • Einsatz von Commodity Hardware • Flexible Datenschemata (z.B. Änderungen am Datenmodell in agilen Umfeldern) • Spezielle Abfragen (z.B. Geoqueries) • Globale Verteilung der Daten (Replikation) 1 0 0 1 01 0 0 1 0 1 1 1 0 1 0 1 1 0 0 1 1 1 0 1 0 1 0 0 1 1 0 1 1 0 1 0 1 1 0 0 1 0 1 1 NoSQL-Datenbanken
  11. 11. NoSQL-Datenbanken – Datenschemata Dokumentorientiert SpaltenorientiertKey-Value Graph © Capgemini 2016. All Rights Reserved TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 11 Relational NoSQL NoSQL-Datenbanken
  12. 12. Map Reduce: Parallelisierte und verteilte Verarbeitung, bei der Daten in gruppierte Key-Value Paare aufgeteilt und zusammengeführt (map) und sortiert (reduce) werden. Dies erfordert häufig speziell auf den Anwendungsfall abgestimmte Skripte. Proprietäre Abfragesprachen: Sind dem jeweiligen Datenschema angepasst und um spezifische Funktionen erweitert. Zur Integration in Systeme werden proprietäre APIs und Frameworks benötigt. Beispiele: RESTful HTTP Argumente: URL kodierte HTTP Anfragen mittels GET und POST. Austauschformat häufig JSON. GET http://127.0.0.1:5984/database/document SQL: Spezifische Übersetzungsframeworks existieren oder Abfragesprachen sind daran angelehnt z.B. CQL von Cassandra. NoSQL-Datenbanken – Abfragen © Capgemini 2016. All Rights Reserved 12TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Bildquelle: https://de.wikipedia.org/wiki/Datei:MapReduce2.svg Besetzung der Filme beginnend mit ‚T‘ / Graph-DB Neo4j: db.restaurants.find({ location: { $geoWithin: { $centerSphere: [ [ -73.93414657, 40.82302903 ], 5 / 3963.2 ] } } }) MATCH (actor:Person)-[:ACTED_IN]->(movie:Movie) WHERE movie.title STARTS WITH "T“ RETURN movie.title AS title, collect(actor.name) AS cast ORDER BY title ASC LIMIT 10; Restaurants im Umkreis / MongoDB: NoSQL-Datenbanken
  13. 13. Googles Trend für “NoSQL” – Interesse stieg ~2010 sprunghaft an Realisierungen könnten zeitlich versetzt nachziehen © Capgemini 2016. All Rights Reserved 13TDWI-2016-RDBMS-vs-NoSQL-Master.pptx NoSQL-Datenbanken
  14. 14. Googles Trend für Terme NoSQL & RDBMS Gezeitenwechsel zwischen RDBMS und NoSQL bei Interesse erkennbar © Capgemini 2016. All Rights Reserved 14TDWI-2016-RDBMS-vs-NoSQL-Master.pptx NoSQL-Datenbanken
  15. 15. NoSQL - Datenbanken – Pro & Contra Pro + Con - zu viele DB Produkte, Einsetzbarkeit in Unternehmen häufig unklar oft knappe Verfügbarkeit von erfahrenen Kollegen & mangelhafte Dokumentation fehlende Standards, Abfragesprachen & Best Practices gelockerte Konsistenz Vielfalt an Produkten oft Lizenz-freie Software vielfältige und flexible Datenschemata native Skalierbarkeit, hohe Performance & Fehlerresistenz © Capgemini 2016. All Rights Reserved TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 15 NoSQL-Datenbanken
  16. 16. Knowledge-Management für Automotive-Wissenschaft
  17. 17. Vision des Kunden war Übersicht in großem Dokumentenfundus Ziel war schnelles Finden von R&D-Papern nach Schlagwörtern & Inhaltsbeziehungen in Automotivedomäne © Capgemini 2016. All Rights Reserved 18TDWI-2016-RDBMS-vs-NoSQL-Master.pptx • Parsen, Indizierung und Persistieren von Forschungsberichten aus Automobilbau • Finden von Dokumenten nach Suchtermen • Graph von untereinander abhängigen Dokumenten • Aufdecken von inhaltlichen Beziehungen – sog. „Content-derived Metadata“, wie • Autoren, • Forschungsfeldern, • Abteilungen, • explizite Referenzen und inhaltliche, implizite Verweise, • zeitliche Abhängigkeiten, • etc. Anwendungsfälle Knowledge-Management für Automotive-Wissenschaft
  18. 18. Data Hub kommt ohne RDBMS zur Steicherung aus Ziel war schnelles Finden von Wissenschaftspapern nach Schlagwörtern und Inhaltsbeziehungen für R&D © Capgemini 2016. All Rights Reserved 19TDWI-2016-RDBMS-vs-NoSQL-Master.pptx menschliche Anwender Dokumente Data Hub Anwendungsfälle Knowledge-Management für Automotive-Wissenschaft
  19. 19. Lessons Learned © Capgemini 2016. All Rights Reserved 20TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Hadoop ist • günstiger, skalierbarer, ausfall-sicherer Massenspeicher • mächtiges Framework zur Speicherung von riesigen Mengen an Rohdaten  als OLAP-System • entscheidendes Bottleneck war damals Nahe-Echtzeitanfrage der Daten  kein OLTP-System • relativ komplex – auch damals, als es deutlich weniger Komponenten dafür gab • weniger Anwender-freundlich als BI-Tools Anwendungsfälle Knowledge-Management für Automotive-Wissenschaft
  20. 20. Rechencluster für Vorhersagen, Applikationen & Automotive-Simulationen
  21. 21. Automotive-Kunde wollte riesige Datenmenge diverser Struktur verarbeiten können Lösung ist Data Lake: RDBMS + NoSQL-System • gesucht ist • skalierbares, ausfallsicheres, hoch-performantes System, • günstigem Massenspeicher für Rohdaten, • auch mit Tabellen-artiger Struktur, • mit geringen, laufenden Kosten, • welches weitestgehend zukunftssicher für kommende 30 Jahre ist • Anforderungen für eine zentrale Umgebung v.a. für • Sales-Prognosen, • Aftersales-Analysen, • Simulationen für operative Planungen, • Datenimport von diversen, bestehenden, internen und externen Datenquellen sowie • generische Möglichkeit Applikationen auf eigenem Datenbestand auszuführen © Capgemini 2016. All Rights Reserved TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 22 Anwendungsfälle Rechencluster für Vorhersagen, Applikationen & Automotive-Simulationen
  22. 22. Job-Offloading: RDBMS schickt große Datenmengen zur Aggregation in Hive ans Hadoop; Datenfluss mit Sqoop realisiert Datenmengen zu groß für Auswertung in RDBMS – daher Auswertung in skalierbarem Hadoop-System TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Anwendungsfälle Rechencluster für Vorhersagen, Applikationen & Automotive-Simulationen Aggregate Detaildaten © Capgemini 2016. All Rights Reserved 23
  23. 23. Ausführung eigenen Java-Codes auf Spark auf Detaildaten in Hadoops HDFS System kann MPP-ähnlich beliebige Algorithmen in Spark, YARN und MapReduce ausführen TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Anwendungsfälle Rechencluster für Vorhersagen, Applikationen & Automotive-Simulationen Aggregate Detaildaten Teilevorhersagen © Capgemini 2016. All Rights Reserved 24
  24. 24. Hadoop-Plattform zur Speicherung von Daten sowie zur Ausführung von Applikationen & Algorithmen darauf Oozie steuert gesamten Datenfluss (ETL) und Ausführung der Applikationen & Algorithmen TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Anwendungsfälle Rechencluster für Vorhersagen, Applikationen & Automotive-Simulationen Aggregate Detaildaten Teilevorhersagen © Capgemini 2016. All Rights Reserved 25
  25. 25. Anwender können mittels BI-Tool Tableau auf Daten in RDBMS und Hadoop zugreifen — Data Lake fühlt sich an, wie ein Datenpool arbeiten i.d.R. auf RDBMS, da Antworten in Naheechtzeit; Drill-Through referenzierte Daten im Hadoop deutlich langsamer (im Minutenbereich) dafür Arbeit auf riesigen Datenmengen (Terabyte-Bereich) möglich TDWI-2016-RDBMS-vs-NoSQL-Master.pptx menschliche Anwender Anwendungsfälle Rechencluster für Vorhersagen, Applikationen & Automotive-Simulationen Aggregate Detaildaten Teilevorhersagen © Capgemini 2016. All Rights Reserved 26
  26. 26. Externe Quellsysteme können Daten in Streams und Batches einfügen alle Datenformate sind beliebig strukturierbar, da Hadoops HDFS ein Rohdatenspeicher ist TDWI-2016-RDBMS-vs-NoSQL-Master.pptx menschliche Anwender Anwendungsfälle Rechencluster für Vorhersagen, Applikationen & Automotive-Simulationen Aggregate Detaildaten Teilevorhersagen © Capgemini 2016. All Rights Reserved 27
  27. 27. Weitere Evolution dieses Data Lake’s nutzt diverse RDBMS-Quellsysteme & NoSQL-Systeme RDBMS und NoSQL sollen jeweilige Stärken ausspielen © Capgemini 2016. All Rights Reserved 28TDWI-2016-RDBMS-vs-NoSQL-Master.pptx einige menschliche & viele technische Anwender beigestelltes, erweiterndes RDBMS zum Data Lake RDBMS-Quellsysteme Data Lake Anwendungsfälle Rechencluster für Vorhersagen, Applikationen & Automotive-Simulationen
  28. 28. Lessons Learned kritisch beim Einsatz von Hadoop und Cassandra © Capgemini 2016. All Rights Reserved 29TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Hadoop • ist immer noch relativ komplex • ist weniger Anwender-freundlich als BI-Tools • sehr gute Integration von Tableau in Hadoop und Cassandra • gute Integration in DWH-Systeme • ist deutliche Schwierigkeiten es Datenschutz-konform zu betreiben • ist deutlich langsamer als Cassandra in Beantwortung von Anfragen durch Latenz im Master/Slave-Design Anwendungsfälle Rechencluster für Vorhersagen, Applikationen & Automotive-Simulationen
  29. 29. Lessons Learned weitere Aspekte von Hadoop und Cassandra © Capgemini 2016. All Rights Reserved 30TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Hadoop • ist günstiger, skalierbarer, ausfall-sicherer, durchgehend verfügbarer Massenspeicher • ist mächtiges Framework zur Speicherung von riesigen Mengen an Rohdaten  als OLAP-System • Caches, Datenbanken und Komponenten ermöglichen auch Nahe-Echtzeitanfragen  als OLTP-System • Komponenten, wie Hive, Impala & Spark SQL, ermöglichen • nahezu den Ersatz eines DWH durch Hadoop • Job-Offloading vom DWH nach Hadoop • ist relativ Linux-affin in Nutzung Cassandra • benötigt vorher bekanntes Schema und mglw. Spiegeltabellen je Anfragemuster  führt mglw. zu doppelter Replikation der Daten: • Replikationsfaktor im Design und • Spiegeltabellen / Materialisierte Sichten auf Anwendungsebene • ist relativ Linux-affin in Nutzung Anwendungsfälle Rechencluster für Vorhersagen, Applikationen & Automotive-Simulationen
  30. 30. Qualitätssicherung auf Geodaten
  31. 31. Vision des Kunden • Auswertung von Massenpositionsdaten aus GPS-Signalen • Geräte aus ganzem Monitoringgebiet liefern Daten an ein zentrales System über Mobilfunknetze • Nachverfolgung aller Bewegungen aller Geräte kurzfristig möglich • Auswertung tabellenartiger und graphenartiger Daten • Anwendung von Advanced-Analytics- resp. Machine-Learning-Methoden auf gesamtem Datenbestand und seiner Historie • Kunde war Neueinsteiger in Big-Data-Analysen © Capgemini 2016. All Rights Reserved TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 32 Anwendungsfälle Qualitätssicherung auf Geodaten Eingehende Daten sind… • 1 TB bis 10 TB je Tag • OLAP-Analysen in ¼-Stunden-Batches • strukturiert oder unstrukturiert im Binärformat • ungleich verteilt • Datenlieferungen durch vier Systeme, teilweise voneinander abhängige und unabhängige Systeme
  32. 32. Der Speicher- & Rechencluster ist in jedem Knoten datenlokal aufgebaut Ring-Architektur mit deckungsgleichem, datenlokalem Spark-Verbund © Capgemini 2016. All Rights Reserved 33TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Ausführungsschicht Datenhaltung Anwendungsfälle Qualitätssicherung auf Geodaten
  33. 33. Datenfluss von den Quellen zur Qualitätssicherung Datenhaltung in bestenfalls zwei verbundenen Spark-on-Cassandra-Ringen zur Analyse © Capgemini 2016. All Rights Reserved 34TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Vorverarbeitung OLTP-Ring für hohen Data Ingest Sensordaten von Transportmitteln OLAP-Ring für Data Science GPS-Daten Anwendungsfälle Qualitätssicherung auf Geodaten
  34. 34. Austausch mit RDBMS Sqoop überträgt Daten bidirektional zw. Relationalen Datenbanken und Cassandra © Capgemini 2016. All Rights Reserved 35TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Datenintegration Ausführungsschicht Datenhaltung RDBMS Anwendungsfälle Qualitätssicherung auf Geodaten
  35. 35. Zugriffsschicht für Datenanalysten Nutzung von SQL, R, Python, SQL, Scala und Java möglich © Capgemini 2016. All Rights Reserved 36TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Analyselayer Ausführungsschicht Datenhaltung Datenanalyst Zeppelin Anwendungsfälle Qualitätssicherung auf Geodaten
  36. 36. Abschied von Oracle Oracle-ähnliche Technologie gesucht • Oracle bei Kunden weitestgehend gesetzte, erprobte Technologie • Cassandra sehr viel ähnlicher als Hadoop zu Oracle-Lösungen • SQL-Developer  DevCenter • Enterprise Manager  OpsCenter • u.a. Backup-Verfahren, Nutzer/Rechte/Rollen-Konzept, PreparedStatements sehr ähnlich zu Oracle • Umstellungen im Detail © Capgemini 2016. All Rights Reserved TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 37 Anwendungsfälle Qualitätssicherung auf Geodaten
  37. 37. Aufbau Spark-on-Cassandra-Cluster Cassandra bevorzugte Wahl gegenüber Oracle und Hadoop © Capgemini 2016. All Rights Reserved 38TDWI-2016-RDBMS-vs-NoSQL-Master.pptx • Cassandra bevorzugte Datenbank durch Einfachheit • Distribution DSE (DataStax Enterprise) enthält viele Machine-Learning-Lösungen aus Hadoop-Distributionen • schlanker, schneller und mächtiger Technologiestack • Aufbau Cluster mit 1 aktivem & 1 passivem Ring – synchronisieren sich fortlaufend gegenseitig Anwendungsfälle Qualitätssicherung auf Geodaten
  38. 38. Aufbau Netzwerktopologie der Speicher- & Rechenknoten über Rechenzentren und Umgebungen © Capgemini 2016. All Rights Reserved 39TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Sampledaten bei Bedarf Produktion mit Standby-Cluster 24/7 automatische Synchronisation der Daten zweier Rechenzentren Data Science & Entwicklung 24/7 automatische Synchronisation der Daten zweier Rechenzentren Quell- systeme Anwendungsfälle Qualitätssicherung auf Geodaten
  39. 39. Lessons Learned – so far kritisch bei Einsatz von NoSQL © Capgemini 2016. All Rights Reserved 40TDWI-2016-RDBMS-vs-NoSQL-Master.pptx vor allem Cassandra und HBase • können oft ähnlich hohes Datenschutzlevel erreichen, wie RDBMS • erfordern damit auch Kenntnis der Zugriffsmuster auf Daten – vor Realisierungsbeginn • erfordern oftmals Commodity-Hardware – Netzwerkspeicher, wie SAN oder NAS, kann ein Antipattern sein DSE als Big-Data-Distribution ist • weniger komplex als Hadoop, da nur relevanteste Komponenten für Data Science enthalten sind • deutlich einfacher Datenschutz-konform bettreibbar • strukturierte und umfassende Herangehensweise zur Beurteilung von NoSQL-Datenbanken benötigt  Lösung folgt gleich Anwendungsfälle Qualitätssicherung auf Geodaten
  40. 40. Neo4j im UK-Public-Sektor
  41. 41. Neo4j im UK-Public-Sektor © Capgemini 2016. All Rights Reserved 43TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Zielsetzung: Erkennung und Visualisierung von Zusammenhängen in Daten aus externen, internen und kommerziellen Quellen Anwendergruppen: Experten Datenanalysten (ca. 6 Nutzer), Ermittler (ca. 1000 Nutzer in einem Jahr). Kurze Trainingszeit. Technologien: Isoliertes, globales Behördennetzwerk, Greenplum PostgreSQL, Neo4j, Elasticsearch, node.js, nginx, Webapplikation DB Größe: Millionen von neuen Datensätzen pro Tag Hardware: Commoditiy, 4 Hexa Core Prozessoren, 128 GB RAM. Keine Cloud Umgebung. Anwendungsfälle Neo4j im UK-Public-Sektor
  42. 42. POLE: Party, Object, Location, Event © Capgemini 2016. All Rights Reserved 44TDWI-2016-RDBMS-vs-NoSQL-Master.pptx POLE enthält alle Objekte und ihre Verbindungen. Party: Logische Repräsentation eines Individuums Object: Logische Repräsentation eines physischen Objekts Location: Logische Repräsentation einer Ortes Event: Logische Repräsentation eines Ereignisses Party Object Location Event MATCH (P1:person {name:’John’})-[R1:goes_to]->(L1:’conference’) RETURN L1; Anwendungsfälle Neo4j im UK-Public-Sektor
  43. 43. POLE: Party, Object, Location, Event in RDBMS © Capgemini 2016. All Rights Reserved 45TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Atomare Rohdaten werden erhalten Daten werden transformiert und in POLE geladen Atomare Daten POLE Datenhaltung Daten Matching (MDM) Daten Quellen LandingArea AnalytischeDatenin MPPDatenbank (Greenplum) Semantischer Layer (virtuelle Views) POLE Party Object Location Event EL ETL Views Anwendungsfälle Neo4j im UK-Public-Sektor CSV, TXT, XLS, Oracle, SQL
  44. 44. CentOS Development Server 2 Architektur © Capgemini 2016. All Rights Reserved 46TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Staging CentOS Development Server 1 Web Front End CSVs POLE subset POLE Verbindungen POLE Attribute JSON DI Studio Anwendungsfälle Neo4j im UK-Public-Sektor
  45. 45. Herausforderungen © Capgemini 2016. All Rights Reserved 47TDWI-2016-RDBMS-vs-NoSQL-Master.pptx POLE reduziert Entwicklungszeit und Fehleranfälligkeit und ist einfach verständlich, da die Komplexität nicht mit der Datentiefe oder Datenbreite zunimmt. Es gibt aber viele POLE Objekte als Duplikate. Diese müssen zusammengeführt werden. Hierfür wird ein probabilistisches Abgleichungsverfahren eingesetzt. Das Verfahren vergleicht viele Charakteristiken der Objekte und errechnet einen Übereinstimmungswert. Die Regeln zur Berechnung können von einem Algorithmus basierend auf allen Datensätzen bestimmt werden. Ähnlich einem Gerichtsverfahren beurteilen die Regeln ( = Richter) unabhängig voneinander und kommen zu einer gemeinsamen Entscheidung. „Namen-Richter“ „Tel. Nr.-Richter“ „Teilnehmer-ID Richter“ Record 1 Name: Tom K. Klausen Tel. Nr. (089) 872-1277 Teilnehmer-ID 872312318 Record 2 Name: Thomas Klaussen Tel. Nr. (089) 872-1727 Teilnehmer-ID 872412318 Anwendungsfälle Neo4j im UK-Public-Sektor
  46. 46. Datenhaltung © Capgemini 2016. All Rights Reserved 48TDWI-2016-RDBMS-vs-NoSQL-Master.pptx • GreenPlum • Enthält als relationale Datenbank alle Daten. • Es ist sehr ineffizient Verbindungen zwischen Datenobjekten zu finden da mehrere Joins nötig wären. Eine „real-time“ Performance wäre nicht gegeben. • Neo4J: • Ist ideal zur Identifizierung von Verbindungen zwischen Objekten. • Auch die Skalierung wird als sehr gut empfunden. • Daten werden zwischen den Server repliziert. Eine Partitionierung findet nicht statt. • Herausforderung: Automatisches, zeitbezogenes Löschen von Daten. • Um verschiedene Sichten auf die Daten zu ermöglichen muss die Graphdatenbank dupliziert werden. • Für eine Freitextsuche ist Neo4j nicht ideal. Hierfür wird Elasticsearch verwendet. Anwendungsfälle Neo4j im UK-Public-Sektor
  47. 47. Lessons-Learned © Capgemini 2016. All Rights Reserved 49TDWI-2016-RDBMS-vs-NoSQL-Master.pptx NoSQL-Datenbanken… • sind i.d.R. stark wo RDBMS schwach sind – Marktnische muss für das Produkt existieren • hybrider Technologiestack kann Vorteile beider Systeme gewinnbringend nutzen • ein Datenmodell und Datenschema sind immer noch unerlässlich • RDBMS haben häufig Vorteile im Bereich der Sicherheit (Authentifizierung & Autorisierung) Anwendungsfälle Neo4j im UK-Public-Sektor
  48. 48. Big-Data-Referenz-Architektur
  49. 49. Big-Data-Referenz-Architektur © Capgemini 2016. All Rights Reserved 51TDWI-2016-RDBMS-vs-NoSQL-Master.pptx • Zweck ist es existierende, interne und externe Architekturentwürfe im Big Data Umfeld zu konsolidieren. • Die standardisierte Architektur dient als Vorlage für globale Big Data Projekte von Capgemini. • Sie listet die wichtigsten Bausteine für Big Data Architekturen auf. • Sie vermittelt einen breiten und umfassenden Blick auf die Fragestellungen im Big Data Umfeld und adressiert alle Stakeholder wie Endanwender, IT-Architekten, Data Scientists und Entwickler in drei verschiedenen Sichten. Big-Data-Referenz-Architektur
  50. 50. Big-Data-Referenz-Architektur — Analytics © Capgemini 2016. All Rights Reserved 52TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Der Zweck von Analytics ist es…  zusätzlichen Wert zu schaffen (value)  indem basierend auf Erkenntnissen gehandelt wird (insights & act)  welche aus der Analyse von Informationen gewonnen werden (analyzing information)  die auf Datenverarbeitungsprozessen aus verschiedenen Quellen aufbauen (process & source data) ValueActInsightAnalyzeInformationProcessSource data Data flow Requirements Big-Data-Referenz-Architektur
  51. 51. Big-Data-Referenz-Architektur — Technische Sicht © Capgemini 2016. All Rights Reserved 54TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Manage Process Analyze Information Source data Data ExplorationReporting Ad-hoc Querying Search, Retrieval Structured data  tables Unstructured Data  Text, speech, … Semistructured data  JSON, XML, … Data WarehouseData Asset Catalog  Index  Tags  Metadata Data Lake Analytical Sandbox NoSQL databases Key value store Document store Column store Graph store NLP SQL databases Row based Column based Streaming, Event Processing File system Analytics Base Tables Data Mining, Machine Learning Next Best Action High level ingestion and data preparation Low level ingestion ETL/ELT Adv. Visualization SQL SQL Java Scala Python R Batch Processing Data virtualization Big-Data-Referenz-Architektur
  52. 52. NoSQL-Evaluierungsframework
  53. 53. NoSQL-Evaluierungsframework — Herausforderungen bei der Beurteilung von NoSQL Datenbanken © Capgemini 2016. All Rights Reserved 56TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Herausforderungen Schnelle technologische Veränderungen im NoSQL Bereich Benchmarks häufig von Herstellern beeinflusst Dokumentationen vernachlässigen Informationen Informationen über weniger populäre Datenbanken schwer zugänglich I/O Benchmarks als Entscheidungs- grundlage zu wenig NoSQL-Evaluierungsframework
  54. 54. NoSQL-Evaluierungsframework © Capgemini 2016. All Rights Reserved 57TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Beispiel für I/O Benchmarks; Yahoo! Cloud Serving Benchmark. NoSQL Datenbanken werden von den Herstellern häufig nur im Bereich der Skalierbarkeit und Performance von Lese- und Schreibvorgängen (I/O) verglichen. NoSQL-Evaluierungsframework
  55. 55. NoSQL-Evaluierungsframework © Capgemini 2016. All Rights Reserved 58TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Auf der Suche nach der richtigen NoSQL Datenbank kann man sich nicht nur an I/O Performance Benchmarks orientieren. Zur umfassenden Bewertung gehören u.a. auch das Architekturumfeld, die erwarteten Daten oder die nötigen Abfragen. NoSQL-Evaluierungsframework
  56. 56. NoSQL-Evaluierungsframework — Berechnung des NoSQL Enterprise Readiness Index (NERI) © Capgemini 2016. All Rights Reserved 59TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 1 – Anforderungen im Anwendungsfall bestimmen das Gewicht einzelner Evaluierungskriterien 2 – Definition der Evaluierungskriterien und ihrer vier Leistungsstufen 3 – Bewertung der Kriterienerfüllung der Datenbanken 4 – Summe der gewichteten Bewertungen ergibt den vergleichbaren NERI NoSQL-Evaluierungsframework
  57. 57. NoSQL-Evaluierungsframework — Kriteriencluster © Capgemini 2016. All Rights Reserved 60TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Clustername Cluster Kriterien (zusammengefasst) Globale Kriterien Verfügbarkeit bei verschiedenen Cloud Anbietern; Angebot an Service Levels; Qualität der Dokumentation; Generelles Interesse am Arbeitsmarkt (Anzahl an LinkedIn Stellen mit dieser Technologie); Mögliche Kosten Datenmodell- und Speicherungskriterien Flexibilität des Datenschemas während der Laufzeit; Verfügbarkeit von verschiedenen Datentypen, von Speichermöglichkeiten (Disk, in-memory) und Indizes sowie von Kompression; Wege des Datenimports und Begrenzungen in der Datenbank- und Datensatzgröße. Laufzeitkriterien (Dev Ops) Authorisierung und Authentifizierung; Backupmöglichkeiten; Logging; Monitoring des Datenbankzustands (z.B. in einem GUI) Abfragekriterien Mächtigkeit der Abfragesprache(n) und der APIs; Schnittstellen zu populären Programmiersprachen; Erfüllung von Konsistenzkriterien Kriterien zur verteilten Datenhaltung Verfügbarkeit, Konfigurierbarkeit und Ausfalltoleranz der Replikations- und Partitionierungsmechanismen; Mögliche Hardwareanforderungen Performanzkritierien Verhalten der Latenz von Lese- und Schreibvorgängen unter sich erhöhender Last 1 0 0 1 01 0 0 1 0 1 1 1 0
  58. 58. NoSQL-Evaluierungsframework — Beispiel Leistungsstufen © Capgemini 2016. All Rights Reserved 61TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Code Kriteriumname Kriterium Beschreibung Leistungsstufen 0 – nicht erfüllt 1 – schlecht erfüllt 2 – gut erfüllt 3 – sehr gut erfüllt CM8 Indizierung Bewertet, ob es die Möglichkeit gibt die Daten zu indizieren. Keine Indizes verfügbar. Nur ein primär Index ist möglich. Ein primär und ein sekundär Index sind möglich. Ein primär und mehrere sekundäre Indizes sind möglich. NoSQL-Evaluierungsframework
  59. 59. NoSQL-Evaluierungsframework — Beispiel Ergebnisse © Capgemini 2016. All Rights Reserved 62TDWI-2016-RDBMS-vs-NoSQL-Master.pptx 0.598 0.413 0.441 0.455 0.356 0.634 0.513 0.518 0.430 0.291 0.484 0.351 0.351 0.238 0.133 0.655 0.442 0.570 0.394 0.309 0.485 0.400 0.371 0.329 0.014 0.144 0.124 0.000 0.048 0.000 0.000 0.500 1.000 1.500 2.000 2.500 3.000 3 NERI 2,243 NERI 2,252 NERI 1,893 NERI 1,104 Possible max. weighed Rating Apache Cassandra (2.1.8) Riak KV (2.0) Redis (3.0.3) Memcached (1.4.24) Key-Value Databases Performance Criteria - CP* Distributed Database Criteria - CD* CRUD Query Criteria - CQ* Run-Time Management Criteria - CR* Data Model and Storage Criteria - CM* Global Criteria - CG* NoSQL-Evaluierungsframework
  60. 60. NoSQL-Evaluierungsframework — Zusammenfassung © Capgemini 2016. All Rights Reserved 63TDWI-2016-RDBMS-vs-NoSQL-Master.pptx NoSQL Evaluation Framework ✓ theoriebasiert ✓ umfassend ✓ wiederholbar ✓ anpassbar und erweiterbar ✓ermöglicht eine strukturierte Analyse ✓ gibt eine klare und nachvollziehbare Entscheidung NoSQL-Evaluierungsframework
  61. 61. Innovators Dilemma
  62. 62. „Disruptive Innovation“ führt zu Technologie- & Marktwechsel – NoSQL-DBs sind Disruptive Innovationen gegenüber RDBMS interessant ist vor allem Beispielanwender b da er aus beiden Märkten / Lösungstechnologien wählen kann © Capgemini 2016. All Rights Reserved 65TDWI-2016-RDBMS-vs-NoSQL-Master.pptx technischeLeistung Zeit Beispiele wo sich Anwendungsfälle heute befinden ⦿ a ⦿ b ⦿ c Innovators Dilemma
  63. 63. Résumé RDBMS oder NoSQL – wer wird gewinnen? © Capgemini 2016. All Rights Reserved 69TDWI-2016-RDBMS-vs-NoSQL-Master.pptx Gewinner sind die jeweiligen Anwender mit sinnvollen NoSQL-Anwendungsfällen – schon heute
  64. 64. Wir beantworten gerne Ihre Fragen! Ihre Fragen? © Capgemini 2016. All Rights Reserved 70TDWI-2016-RDBMS-vs-NoSQL-Master.pptx
  65. 65. The information contained in this presentation is proprietary. Copyright © 2015 Capgemini. All rights reserved. www.capgemini.com About Capgemini Mit 180.000 Mitarbeitern in über 40 Ländern ist Capgemini einer der weltweit führenden Anbieter von Management- und IT- Beratung, Technologie-Services sowie Outsourcing- Dienstleistungen. Im Jahr 2014 betrug der Umsatz der Capgemini-Gruppe 10,573 Milliarden Euro. Gemeinsam mit seinen Kunden entwickelt Capgemini Geschäfts-, Technologie- sowie Digitallösungen, die auf die individuellen Kundenanforderungen zugeschnitten sind. Damit sollen Innovationen ermöglicht sowie die Wettbewerbsfähigkeit gestärkt werden. Als multinationale Organisation und mit seinem weltweiten Liefermodell Rightshore® zeichnet sich Capgemini durch seine besondere Art der Zusammenarbeit aus – die Collaborative Business ExperienceTM. Erfahren Sie mehr unter http://www.de.capgemini.com.

×