Taller Redis

1,914 views

Published on

Taller Redis

  1. 1. Introducción y casos de uso @betabeers – Barcelona 17 de enero 2012
  2. 2. ¿Quién soy? Ronny López @ronnylt Desarrollador @pricebetsDescubrí Redis cuando una consulta como esta hacia que unapágina demorara +15 segundos en cargar:SELECT value FROM odds INNER JOIN outcomes ON ... INNER JOIN bets ON ... INNER JOIN markets ON ... ...WHERE ... ORDER BY ...
  3. 3. Antes de continuar...¿Qué hay de malo en lossistemas tradicionales de BD relacionales? Nada...
  4. 4. Pero...• Hay tareas que no necesitan tanta complejidad• El modelo relacional actual es difícil de escalar horizontalmente• No se pueden modelar problemas comunes lo suficientemente bien
  5. 5. ¿Qué es Redis?• Remote dictionary server• Motor de almacenamiento clave-valor avanzado, rápido y persistente• Servidor de estructuras de datos• NoSQL (Not-only SQL)• Open source
  6. 6. ¿Quién está detrás de Redis?• Creado por Salvatore Sanfilippo @antirez• Release inicial en marzo del 2009• Actualmente el desarrollo es patrocinado por VMWare• Comunidad activa y amigable
  7. 7. ¿Quién usa Redis?• Usado hoy en el mundo real por grandes y pequeñas empresas• Resolviendo grandes y pequeños problemas
  8. 8. ¿Quién usa Redis?Y muchos más... http://redis.io/topics/whos-using-redis
  9. 9. ¿Para qué lo usan?• github.com: motor de almacenamiento clave/valor, cola de trabajos (resque)• guardian.co.uk: servidor de estructuras de datos persistente• disqus.com: sistema estádistico desarrollado sobre Redis• stackoverflow.com: capa de cache para toda su red• flickr.com: lista de trabajos• pricebets.es: almacenamiento primario (conjuntos, listas, hashes, etc...), routing, cache, sessions
  10. 10. Características principales• Escrito en C• Muy pocas dependencias• Super rápido• Single-threaded• Clientes disponibles para varios lenguajes
  11. 11. Características principales• Alto rendimiento en escritura y lectura• Soporte de operaciones atómicas• Soporte de transacciones
  12. 12. Características Simplicidad• Fácil instalación• Curva de aprendizaje relativamente baja• Lenguage de comandos fácil de utilizar y aprender
  13. 13. Características Previsibilidad• La memoria es rápida, y permite a Redis tener un redimiento muy fiable• Operaciones sobre datasets de 10 mil claves tendrán el mismo rendimiento que sobre datasets de 50 millones de claves• La complejidad algorítmica de todos los comandos está documentada
  14. 14. Características Confiabilidad• Todos los datos residen en memoria, y son persistidos a disco eventualmente (snapshots, append-only log)• Replication system (master-slave) , pueden configurarse múltiples esclavos. Un esclavo puede ser el master de otro esclavo
  15. 15. Características Persistencia• RDB, Point-in-time snapshots en intervalos configurados• AOF (append-only file) cada operación de escritura• Es posible combinar RDB y AOF en la misma instancia• Se puede deshabilitar la persistencia del todo
  16. 16. Características Versatilidad• Adaptable a varios tipos de aplicaciones• Modelado de los datos a partir de estructuras de datos como listas, conjuntos, conjuntos ordenados y hashes
  17. 17. Tipos de datos• Redis NO es simplemente un motor de almacenamiento clave-valor• Es un servidor de estructuras de datos que incluye varios tipos de datos predefinidos (strings, lists, sets, sorted sets, hashes)
  18. 18. Claves• Puede usarse cualquier cadena de caracteres como clave• Es recomendable tener organizadas las claves en namespaces (keyspaces) de la forma: object-type:id:field Ejemplo: user:123:password user:456:friends
  19. 19. Claves• NO es recomendable que las claves sean demasiado grandes (memoria, localización en el keyspace)• Tampoco es recomendable que las claves sean demasiado cortas por cuestiones de legibilidad Ejemplo: u:123:pw
  20. 20. Tipos de datos Strings• Es el tipo de dato más simple• Si solamente usa este tipo de dato es similar a usar un servidor memcached pero con persistencia
  21. 21. Operaciones con Strings$ redis-cli SET mykey “binary-safe string”OK$redis-cli GET mykeybinary-safe string
  22. 22. Operaciones Strings• Comandos SET/GET para escribir/leer• Los valores pueden ser cualquier string no mayor que 1 GB• Si necesita almacenar algo más grande, Redis is NOT for you ;)
  23. 23. Operaciones atómicas StringsAtomic increment$ redis-cli SET counter 100OK$ redis-cli INCR counter(integer) 101$ redis-cli INCR counter(integer) 102$ redis-cli INCRBY counter 10(integer) 112
  24. 24. ¿Por qué atómico?Aún cuando hayan varios clientes ejecuntandooperaciones sobre la misma clave, no se va a incurriren una condición de carrera (race condition)
  25. 25. Otras operaciones Strings• APPEND, GETRANGE, STRLEN, ...• MSET, MGET, ...• SETNX, MSETNX, GETSET, ... http://redis.io/commands#string
  26. 26. Tipos de datos Lists• Son simplemente una secuencia de elementos (strings) ordenados• Son implementadas como listas enlazadas
  27. 27. Tipos de datos Lists• Listas doblemente enlazadas garantizan la inserción en cualquier extremo en un tiempo constante O(1)• Con estas caterísticas también puede modelarse una “cola”
  28. 28. Operaciones Lists• LPUSH agrega un elemento en el extremo izquierdo de la lista• RPUSH en el extremo derecho• LRANGE extrae elementos de la lista en cierto rango
  29. 29. Operaciones Lists• LPUSH, RPUSH, LPOP, RPOP, ...• LINDEX, LINSERT, LLEN, ...• LTRIM, LREM, ... http://redis.io/commands#list
  30. 30. Variantes “blocking”• BLPOP, BRPOP, BRPOPLPUSH• Bloquean la conexión (del cliente) cuando no hay elementos en la lista• Ideal para implementar colas de trabajos/mensajes
  31. 31. Operaciones Lists $ redis-cli RPUSH messages "Hola, ¿qué tal?"OK$ redis-cli RPUSH messages "Bien, gracias"OK$ redis-cli RPUSH messages "Muy grande Redis"OK$ redis-cli LRANGE messages 0 21. Hola, ¿qué tal?2. Bien, gracias3. Muy grande Redis
  32. 32. Usos de las listas• Utilice listas cada vez que requiera acceder a los datos en el mismo orden en que se agregan• Ideal para casos en los que se requiere un ORDER BY de SQL• Escalable a millones de elementos manteniendo el mismo rendimiento
  33. 33. Ejemplos de uso de las listas• Mantener un listado cronológico de los comentarios publicados en un blog• Es posible paginar usando LRANGE de forma trivial $ redis-cli RPOP post:123:comments 456 $ redis-cli RPOP post:123:comments 789 $ redis-cli LRANGE post:123:comments 50 60
  34. 34. Tipos de datos Sets• Colección NO–ordenada de datos (conjuntos)• Permite operaciones típicas sobre conjuntos como unión, intersección, diferencia, etc...• Estas operaciones son difíciles de implementar en un modelo relacional
  35. 35. Ejemplos Sets $ redis-cli SADD user:123:friends 456(integer) 1$ redis-cli SADD user:123:friends 789(integer) 1$ redis-cli SADD user:123:friends 123(integer) 1$ redis-cli SMEMBERS user:123:friends1. 1232. 4563. 789$ redis-cli SISMEMBER user:123:friends 789(integer) 1
  36. 36. Ejemplos Sets Etiquetado de noticias $ redis-cli SADD news:123:tags 1(integer) 1$ redis-cli SADD tags:1:objects 123(integer) 1Obtener todos los tags de una noticia estrivial$ redis-cli SMEMBERS news:123:tags
  37. 37. Operaciones Sets• SADD, SREM, SCARD, SMEMBERS, SISMEMBER, ...• SUNION, SDIFF, SINTER, ...• SPOP, SRAND, .... O(1) http://redis.io/commands#set
  38. 38. Tipos de datos Sorted Sets• Un conjunto ordenado es un conjunto donde a cada elemento se le asocia una puntuación (score)• Este valor (score) determina el orden de los elementos dentro del conjunto
  39. 39. Tipos de datos Sorted Sets• ZADD es usado para agregar nuevos elementos o para actualizar el score de uno ya existente $ redis-cli ZADD top-sites: 4 “pricebets” (integer) 1 $ redis-cli ZADD top-sites: 6 “betabeers” (integer) 1 $ redis-cli ZRANGE top-sites 0 -1 1. betabeers 2. pricebets
  40. 40. Operaciones Sorted Sets• ZADD, ZREM, ZCARD, ZCOUNT, ZINCR, ...• ZSCORE, ZINCRBY, ZRANK, ...• ZCOUNT, .... http://redis.io/commands#sorted_set
  41. 41. Tipos de datos Hashes• Permiten que objetos compuestos se almacenen en una clave específica• Tipo de dato ideal para almacenar objetos complejos en Redis, usando los atributos del objeto como claves del hash
  42. 42. Operaciones Hashes$ redis-cli HSET event:1 name betabeers$ redis-cli HSET event:1 date 2012-01-17$ redis-cli HSET event:1 where Barcelona$ redis-cli HGETALL event:11) name2) betabeers3) date4) 2012-01-175) where6) Barcelona
  43. 43. Operaciones Hashes• HSET, HGET, HDEL, HEXIST, ...• HKEYS, HGETALL, HVALS, ...• HMGET, HMSET, ... http://redis.io/commands#hash
  44. 44. Casos de usoContadores
  45. 45. Contadores• Gran cantidad de escrituras/lecturas• Datos valiosos, pero NO críticos• Insertar una fila en MySQL o actualizar un contador en cada petición será sin dudas difícil de escalar
  46. 46. Contadores$ redis-cli INCR active:sports:spain$ redis-cli INCR active:sports:italy$ redis-cli GET active:sports:spain$ redis-cli GETSET active:sports:spain 0
  47. 47. Casos de uso Presencia ¿Quién está online?¿Cuáles de mis amigos están online?
  48. 48. Presencia• Mantener en un conjunto los usuarios que se han detectado online en cada minuto $ redis-cli SADD online:15:01 123 $ redis-cli SADD online:15:01 456 $ redis-cli SADD online:15:02 123
  49. 49. Presencia• El conjunto de usuarios online se puede obtener de la UNION de los conjuntos relativos a los últimos ¿5? minutos. A las 15:05 $ redis-cli SUNION online:15:01 online:15:02 online:15:03 online: 15:04 online:15:05
  50. 50. Presencia• El conjunto de “amigos” online es otra operación sobre conjuntos $ redis-cli SUNION online:15:01 online:15:02 online:15:03 online: 15:04 online:15:05 user:123:friends• Puede almacenarse en otra clave: $ redis-cli SUNIONSTORE friends:online:123 online:15:01 online:15:02 online:15:03 online: 15:04 online:15:05 user:123:friends
  51. 51. Casos de usoTabla de posiciones
  52. 52. Tabla de posiciones• Se necesita listar elementos ordenados por una puntuación• Las puntuaciones se actualizan en tiempo real• Consultas lentas por naturaleza SELECT * FROM ... WHERE ... ORDER BY ... LIMIT 10
  53. 53. Tabla de posiciones• Mantener un conjunto ordenado (sorted set) con los elementos y su score $ redis-cli ZADD popular:sports 10 football $ redis-cli ZADD popular:sports 6 basketball $ redis-cli ZADD popular:sports 12 football $ redis-cli ZREVRANGE popular:sports 0 9
  54. 54. Casos de usoURL Routing
  55. 55. URL Routing• Convertir alias de URL a paths internos de la aplicación Ejemplo: http://www.apuestas.com/futbol => /sport/1 http://www.apuestas.com/futbol/espana/copa-del-rey => /competition/3120
  56. 56. URL Routing• Convertir paths internos a friendly URLs Ejemplo: /sport/1 => http://www.apuestas.com/futbol /competition/3120 http://www.apuestas.com/futbol/espana/copa-del-rey
  57. 57. URL Routing• Mantener un hash con el routing y otro con los alias $ redis-cli HSET routing /futbol /sport/1 $ redis-cli HSET alias /sport/1 /futbol• Tiempo constante O(1) para cualquier número de rutas/alias
  58. 58. Otras características...• Pipelining• Transactions• Pub/Sub
  59. 59. ¿Qué se espera para próximas vesiones?• Scripting (con LUA) (Redis 2.6)• High resolution expires (Redis 2.6)• Mejoras en el rendimiento de la escritura/lectura de grandes objetos (Redis 2.6)• Redis Cluster (Redis 3.0)
  60. 60. Algunos consejos• Instancias de Redis en 64 bits consumen más RAM• No usar el comando KEYS en producción• Comando MONITOR para observar y monitorear
  61. 61. Benchmarks Processor 2.2 GHz Intel Core i7redis-benchmark -q -n 100000 Memory 8 GB 1333 MHz DDR3PING (inline): 108459.87 requests per secondPING: 89766.61 requests per secondMSET (10 keys): 48053.82 requests per secondSET: 80064.05 requests per secondGET: 87108.02 requests per secondINCR: 82644.62 requests per secondLPUSH: 82169.27 requests per secondLPOP: 78802.20 requests per secondSADD: 71890.73 requests per secondSPOP: 93283.58 requests per secondLPUSH (again, in order to bench LRANGE): 86880.97 requests per secondLRANGE (first 100 elements): 64061.50 requests per secondLRANGE (first 300 elements): 40064.10 requests per secondLRANGE (first 450 elements): 30478.51 requests per secondLRANGE (first 600 elements): 25873.22 requests per second
  62. 62. Muchas gracias...$ redis-cli HGETALL pricebets1. Buscamos2. Programadores3. PHP4. jobs@pricebets.com

×