Recommended
More Related Content
What's hot
What's hot (17)
Similar to gRPC, échange à haute fréquence !
Similar to gRPC, échange à haute fréquence ! (20)
Recently uploaded
Recently uploaded (20)
gRPC, échange à haute fréquence !
- 1. #DevoxxFR Devoxx France 2018 @David_Caramelo @CarlesSistare 1 gRPC, ECHANGES A HAUTE FREQUENCE !
- 2. #DevoxxFR Carles Sistaré Co-Founder - Tribe IT manager Ogury 2 @CarlesSistare https://github.com/carlessistare carles.sistare@gmail.com
- 3. #DevoxxFR David Caramelo CTO Incubateur Societe Generale Corporate and Investment Banking 3 @David_Caramelo https://github.com/dcaramelo david.caramelo83@gmail.com
- 4. #DevoxxFR Plateforme Data Mobile 50 micro services > 2 Milliards requêtes par jour 4
- 5. #DevoxxFR API Rest/Json 5 - Gourmand en bande passante - Pas de contrat d'API formel - Pas conçu pour faire du streaming
- 6. #DevoxxFR Bande passante 2TB bande passante 6
- 8. #DevoxxFR 8 Modèle OSI (Open Systems Interconnection) Unités Couches Couches Hautes Couches Matérielles Segment Paquet Trame BitDonnéeDonnéeDonnée 7-Application 6-Présentation 5-Session 4-Transport 3-Réseau 2-Liaison 1-Physique
- 9. #DevoxxFR 9 Modèle OSI (Open Systems Interconnection) Unités Couches Couches Hautes Couches Matérielles Segment Paquet Trame BitDonnéeDonnéeDonnée 7-Application 6-Présentation 5-Session 4-Transport 3-Réseau 2-Liaison 1-Physique
- 10. #DevoxxFR 10 Donnée 7- Application Donnée 6 - Présentation Donnée 5 - Session RPC
- 12. #DevoxxFR HTTP évolution HTTP 1.0 HTTP 1.1 Retard 12 HTTP 2
- 13. #DevoxxFR 13 HTTP 1 HTTP 2 1 TCP conn per HTTP req (hors Keep-Alive) Head of line blocking Connections 1 TCP conn -> Multiplexed Requests Headers Header Text Plain Header et Data dans le même frame Chaque Request renvoie le meme header Header comprimé codage Huffman Header et Data frames differents Première Request envoie tous les headers
- 15. #DevoxxFR 15 Principe Data Contrat (*.proto) Marshal 0101010010 Unmarshal Contrat (*.proto) Data Les données sont composées d’une en-tête et de la donnée sérialisée.
- 16. #DevoxxFR Exemple de fichier *.proto syntax = "proto3"; service Example { rpc Ping (stream MessageRequest) returns (stream MessageReply) {} } message MessageRequest { string name = 1; } message MessageReply { enum EnumStatus { UNKNOWN = 0; OK = 1; KO = 2; } EnumStatus status = 1; string message = 2; } 16
- 17. #DevoxxFR Data to JSON 17 message MessageRequest { int32 ma_variable = 1; } 17 octets {ma_variable:150} JSON 7b 6d 61 5f 76 61 72 69 61 62 6c 65 3a 31 35 30 7d HEXA
- 18. #DevoxxFR 18 message MessageRequest { int32 ma_variable = 1; } Data to binary // position = 1 // type = 0 - Varint // (position << 3) | type (1 << 3) | 0 = 0000 1000 Résultat : 0x08
- 19. #DevoxxFR 19 VARINT 150 = 1001 0110 // Step 1: Groupe de 7 bits 000 0001 001 0110 // Step 2: Inverse (Least significant group first) 001 0110 000 0001 // Step 3: Add MSB 1001 0110 0000 0001 Résultat : 0x9601 - Least significant group first. - Un octet = 1 bit MSB (Most Significant Bit) 7 bits pour le stockage Quand le MSB = 1, c’est qu’il y a un octet supplémentaire.
- 20. #DevoxxFR 20 Protobuf bilan 82 % de gain // {ma_variable:150} 7b 6d 61 5f 76 61 72 69 61 62 6c 65 3a 31 35 30 7d // 17 Octets JSON 08 96 01 // 3 Octets PROTOBUF
- 21. #DevoxxFR 21 Second exemple 61 % de gain // {ma_variable:150, mon_string:“Hello world”} 7b 6d 61 5f 76 61 72 69 61 62 6c 65 3a 31 35 30 2c 6d 6f 6e 5f 73 74 72 69 6e 67 3a 93 48 65 6c 6c 6f 20 77 6f 72 6c 64 94 7d // 42 octets JSON 08 96 01 12 0B 48 65 6c 6c 6f 20 77 6f 72 6c 64 // 16 octets PROTOBUF message PingRequest { int32 ma_variable = 1; string mon_string = 2; }
- 22. #DevoxxFR Démarche message PingRequest { int32 ma_variable = 1; string mon_string = 2; } // {ma_variable:150, mon_string:“Hello world”} >> 08 96 01 12 0B 48 65 6c 6c 6f 20 77 6f 72 6c 64 >> 0x089601 = 150 // (vu précédemment, 08 : header, 9601 : 150) 22
- 23. #DevoxxFR Démarche message PingRequest { int32 ma_variable = 1; string mon_string = 2; } // {ma_variable:150, mon_string:“Hello world”} >> 08 96 01 12 0B 48 65 6c 6c 6f 20 77 6f 72 6c 64 >> 0x089601 = 150 // (vu précédemment, 08 : header, 9601 : 150) // Step 1: Header (string) // TYPE : 2 (010) - POSITION : 2 (0010) // (2 << 3) | 2 = 0001 0010 >> 0x12 23
- 24. #DevoxxFR Démarche message PingRequest { int32 ma_variable = 1; string mon_string = 2; } // {ma_variable:150, mon_string:“Hello world”} >> 08 96 01 12 0B 48 65 6c 6c 6f 20 77 6f 72 6c 64 >> 0x089601 = 150 // (vu précédemment, 08 : header, 9601 : 150) // Step 1: Header (string) // TYPE : 2 (010) - POSITION : 2 (0010) // (2 << 3) | 2 = 0001 0010 >> 0x12 // Step 2: String Length // 11 = 0000 1101 >> 0x0B 24
- 25. #DevoxxFR Démarche message PingRequest { int32 ma_variable = 1; string mon_string = 2; } // {ma_variable:150, mon_string:“Hello world”} >> 08 96 01 12 0B 48 65 6c 6c 6f 20 77 6f 72 6c 64 >> 0x089601 = 150 // (vu précédemment, 08 : header, 9601 : 150) // Step 1: Header (string) // TYPE : 2 (010) - POSITION : 2 (0010) // (2 << 3) | 2 = 0001 0010 >> 0x12 // Step 2: String Length // 11 = 0000 1101 >> 0x0B // Step 3: Text // 48 65 6c 6c 6f 20 77 6f 72 6c 64 // H e l l o w o r l d >> 08 96 01 12 0B 48 65 6c 6c 6f 20 77 6f 72 6c 64 25
- 26. #DevoxxFR Démarche message PingRequest { int32 ma_variable = 1; string mon_string = 2; } // {ma_variable:150, mon_string:“Hello world”} >> 08 96 01 12 0B 48 65 6c 6c 6f 20 77 6f 72 6c 64 >> 0x089601 = 150 // (vu précédemment, 08 : header, 9601 : 150) // Step 1: Header (string) // TYPE : 2 (010) - POSITION : 2 (0010) // (2 << 3) | 2 = 0001 0010 >> 0x12 // Step 2: String Length // 11 = 0000 1101 >> 0x0B // Step 3: Text // 48 65 6c 6c 6f 20 77 6f 72 6c 64 // H e l l o w o r l d >> 08 96 01 12 0B 48 65 6c 6c 6f 20 77 6f 72 6c 64 26 _______________________
- 27. #DevoxxFR 27 Protobuf Gain limité s’il y a beaucoup de chaînes de caractère. message MessageReply { enum EnumStatus { UNKNOWN = 0; OK = 1; KO = 2; } enum EnumErrorMessage { UNKNOWN = 0; USER_NOT_FOUND = 1; ASSET_NOT_FOUND = 2; } EnumStatus status = 1; EnumErrorMessage message = 2; } Favoriser les Enums
- 29. #DevoxxFR 29 RPC / IDL public class HelloWorldClient { public HelloWorld() { return HelloWorldServer.sayHello(); } } public class HelloWorldServeur { public static String HelloWorld() { return "Hello World"; } } (Remote Procedure Call / Interface Description Language) RPC permet de faire des appels de procédures sur un ordinateur distant. Client Serveur
- 30. #DevoxxFR Types de requêtes SIMPLE RPC REQ STREAM 30 RESP STREAM FULL DUPLEX
- 31. #DevoxxFR gRPC : Définition des services 31 syntax = "proto3"; service Example { rpc MessageSimple (MessageRequest) returns (MessageReply) {} rpc MessageStreamReq (stream MessageRequest) returns (MessageReply) {} rpc MessageStreamRes (MessageRequest) returns (stream MessageReply) {} rpc MessageFullDuplex (stream MessageRequest) returns (stream MessageReply) {} } message MessageRequest { string name = 1; } message MessageReply { enum EnumStatus { UNKNOWN = 0; OK = 1; KO = 2; } EnumStatus status = 1; string message = 2; }
- 33. #DevoxxFR 33 Protocole de test Temps Response #message/sec I/O bytes
- 34. #DevoxxFR Résultats 34 Message HTTP (keep-alive) gRPC (Simple Connection) Simple 2200 msg/s 15 ms/95p 33 Mo I/O 3700 msg/s 7 ms/95p 28 Mo I/O +32% msg/s -50% response time Complexe 2200 msg/s 15 ms/95p 138 Mo I/O 3700 msg/s 7 ms/95p 80 Mo I/O +318% octets +185% octets
- 35. #DevoxxF R Load Balancing • Client Load Balancing (external load balancing) • ENVOY • LINKERD • NGINX (très recent) 35
- 36. #DevoxxFR 36 Mise en oeuvre
- 38. #DevoxxFR 38 Java >> protoc —-java_out=src/main/java/ ./exemple.proto Les classes sont générés. Maven Ligne de commande
- 42. #DevoxxFR TAKE AWAY 42 - Optimisation du traffic réseau inter machine. - Diminution des temps de latence - Travailler votre monitoring - Debug plus compliqué (curl, proxy http-grpc, double entrée http-grpc, ...)
- 43. #DevoxxFR Merci à vous ! Merci à la team #DevoxxFR ! 43 @David_Caramelo @CarlesSistare