Sistema monitorización con Symfony2, RabbitMQ, MongoDB y ExtJS4

Nos presentamos Joan Valduvieco joan.valduvieco@ofertix.com Jordi Llonch jordi.llonch@ofertix.com @jordillonch

¿Qué es?

vendemos productos y servicios a precios interesantes por internet

cada día abrimos 2-6 pequeñas tiendas durante 3-4 días

vendemosoportunidades de ocio

perfumería y cosmética

productos de temporada

hasta tenemos unatienda de las de toda la vida...

en todos los proyectos IT está en el camino crítico

vale pues tendréis unequipo de IT grande y a picar código, no?

bueno...

venimos de un equipo pequeño...

que hacía software...

rápido

barato

luego el proyecto fue creciendo

pero no queríamosperder los orígenes...

por eso empezamos con...

continuous deployment

requisitos ágiles

pequeños pasos hacia el objetivo

test mínimopero suficiente para nosotros

pero hoy hablaremos de...

MONITORIZACIÓN

y de cómo y porqué monitorizamos

Para nosotros es vital

nuestro proyecto está vivo

cada día cambia MUCHOen un año hemos añadido 3 líneas de negocio

así que los tests quedan obsoletos muy rápido

Cuando algo va mal

si no lo vemos no pasa para nosotros ...

en producción SIEMPRE hay fallosAunque hayamucho test

las cosas se estropean

pero al ﬁnal losusuarios son los que lo “sufren”

y normalmente nollaman para quejarse

si sabemos que lascosas se rompen o que a veces la liamos...

como mínimointentemos tardar poco en arreglarlo

podriamos ser instaladores de antenas...

y eso nos haría poco ágiles

pero tenemos la suerte de desarrollar webs

así que podemos...

actualizar el código de la web en minutos

y hacer rollback en segundos... si algo va mal...

tenemos la mayoría de código en un mismo sitio

sólo una versión delcódigo en producción

tenemos conexióndirecta con los clientes

y miles de clientesusando nuestro código

¡usemos esasventajas para ser más eﬁcientes!

un día decidimos que...

íbamos a buscar elbalance entre test y monitorización

actualizaríamos produccióncon mucha frecuencia

haríamos cambios pequeños

y si algo iba mal, loarreglaríamos rápido

pero para darnoscuenta, necesitábamos...

¡MONITORIZAR!

vaaaale,¡monitorizaremos!

al monitorizar nosdamos cuenta de que...

¿3.2 es normal?

si no tenemos histórico no sabemos si lo que vemos es normal

así que es mejorempezar temprano a monitorizar

también tendremos falsas alarmas...

realmenteinoportunas

pero si no monitorizas no te das cuenta

hasta que es demasiado tarde

“Ui, al reiniciar algo no va bien”

es mejor que

“Ui, se nos ha caído todo”

al principio se ven muchos fallos¡paciencia y a solventarlos!

vale, usamos nagios, munin, etc...y ya lo tenemos, ¿no?

bueno...

nosotros usamos estasherramientas pero no nos sirven para todo

vamos a hablar denuestro sistema de monitorización

¿pero por qué os hacéis un nuevo sistema de monitorización?

Sobretodo paraconocer los eventos de la aplicación y enlazarlos con los eventos del sistema

minimizar tecnologías KISS

adaptado a nuestras necesidades:

monitorizar logsparsear y actuar rápido!

deploy continuomonitorización en tiempo real y aviso sonoro

relacionar eventos con medidas gráﬁcas con ﬂags de eventos

todo el equipo tiene acceso a la monitorización

Miquel monitoriza

Jordi monitoriza

Dani también monitoriza

todosmonitorizamos

¡venga al lío!

Componentes del sistema

obtien LogMonitor PublisherCli en datos PUB PUBRabbitMQ SUB SUBCollector WebUIMonitor utiliza n los da tos WebUIStats MongoDB

LogMonitor obtien LogMonitor PublisherCli en datos PUB PUB PUB PUB RabbitMQ SUB SUB SUB SUB Collector WebUIMonitor utiliza n los da tos WebUIStats MongoDB

¿qué es?

parsea archivos de log

publica errores y valores estadísticos

¿cómo funciona?

kernel tail -farchivo.log parser actores

¿qué necesita para funcionar?

test_error_access_log.yml upstreamerrors: file: test/error.log file_stat: test/error.log.sdf parser: LogMonitorParsersNginxErrorParser actors: - LogMonitorActorsErrorsErrorPhpActor - LogMonitorActorsErrorsErrorSqlActor - LogMonitorActorsErrorsErrorSymfonyActor actor_config: name: [test] error.log publishers: publisher_1: class: LogMonitorPublishersRabbitMQ config: host: localhost port: 5672 user: guest pass: guest vhost: / exchange: myproject_errors

ejemplo de código

Parser

PublisherCli obtien LogMonitor PublisherCli en datos PUB PUB PUB PUB RabbitMQ SUB SUB SUB SUB Collector WebUIMonitor utiliza n los da tos WebUIStats MongoDB

¿qué es?

publica eventos o valores desde la línea de comandos

está autocontenido en:publisher_cli.phar

unos ejemplos

evento: ¡OJO iniciamos backup!php publisher_cli.phar --name="backup started" --event

publicar valor desde shell script php publisher_cli.phar --name=log_length --types=value --value=”$(cat /tmp/file.log|grep error|wc -l)”

publicar valor desde STDIN while true; do ls | wc -l | php publisher_cli.phar --name=num_files --types=time --value=STDIN;sleep 5;done

obtien enCollector LogMonitor PublisherCli datos PUB PUB PUB PUB RabbitMQ SUB SUB SUB SUB Collector WebUIMonitor utiliza n los da tos WebUIStats MongoDB

¿qué es?

se suscribe al canal dónde sepublican los valores estadísticos

almacena valores estadísticos

ofrece una API para consultar estadística

un ejemplo

storage: storage_1: class: StatsStorageMongoFactory config: server: mongodb://localhost:27017 default_database: stats_myproject autorotate: false events_time_to_store: 365 # daysoutput: storage: storage_1channel: class: StatsChannelRabbitMQ config: debug: false host: localhost port: 5672 user: guest pass: guest vhost: / exchanges: - myproject_stats

stats: default_types: time: operations: - median - percentile_95 - max - min retentions: - 60s:1d counter: operations: - count retentions: - 60s:1d - 1h:15d

obtien enWebUIStats LogMonitor PublisherCli datos PUB PUB PUB PUB RabbitMQ SUB SUB SUB SUB Collector WebUIMonitor utiliza n los da tos WebUIStats MongoDB

¿qué es?

genera un UI web congráﬁcos interactivos de tus estadísticas

un ejemplo

charts: chart1: title: Sentinel 7 days options: xAxis: maxZoom: 3600000 # 1h tooltip: yDecimals: 2 series: serie1: title: myweb average time (s) url: http://localhost/Collector/web/stats_events/ sys_myweb_sentinel_myweb_60s_7d/median/2/0 serie2: title: google average time (s) url: http://localhost/Collector/web/stats_events/ sys_myweb_sentinel_google_60s_7d/median/2/0 interval: 10display: title: Sentinel template: tpl_1_1 charts: - chart1

WebUIMonitor obtien LogMonitor PublisherCli en datos PUB PUB PUB PUB RabbitMQ SUB SUB SUB SUB Collector WebUIMonitor utiliza n los da tos WebUIStats MongoDB

¿qué es?

UI que muestra errores y eventos en tiempo real y reproduce un sonido para errores críticos

2 partes

servidor websocket en PHP atendiendo a los clientes websocket y suscrito al canal de errores (RabbitMQ)

cliente Javascript que conecta con elservidor websocket y muestra los errores y reproduce sonidos

¿qué pinta tiene?

WebUIMonitor

Tecnologías utilizadas O... qué juguetes nuevos tendré...

nuestro lenguaje base

ClassLoader

Console

mecanismo estándar de comunicación entre componentes

almacenamos valores estadísticos

pantallas de usuario ricas

comunicación bidireccional

enviamos errores yeventos en tiempo real al navegador

gráﬁcas interactivas

permite mostrarmarcas de eventos

y hacer zoom

¿Qué monitorizamos?

errores php, php-fpm,symfony, mysql, redis, 404...

tiempo de login

tiempo renderizado de páginas clave

número de logins por minuto

número de productosañadidos al carrito por minuto

número compras por minuto

etc...

¿de qué nos ha servido todo esto?

nos dice cuando esimportante no fallar...

picos de compra

nos damos cuentacuando nos pasamos...

el deploy satura algo

previene desastres

algo se está rompiendo por momentos...

en general nos avisa de que hay algo para investigar

y nos conecta con la realidad de nuestro sistema

componente de alertas

persistenciaen el LogMonitor

errores producidos en el navegador

métricas desde elpunto de vista del navegador

mejoras en laarquitectura

conclusión

¡MONITORIZA!

https://github.com/ofertix ¡muchas gracias!

Fuentes imágeneshttp://all-that-is-interesting.com/ﬁxing-an-antennae-on-the-empire-state-buildinghttp://fountainxm.en.alibaba.com/column/207827945/Quality.htmlhttp://gooddeedaday.wordpress.com/2010/02/23/day-540-once-was-blind-but-now-i-see/http://www.squidoo.com/dangerous-bugshttp://www.veryicon.com/icons/object/lifesaver/red-life-saver.htmlhttp://www.etsy.com/listing/38951509/white-beach-pebbles-engraved-stone-triohttp://www.fastinternetbrowser.net/http://livewareis.blogspot.com.es/2011/07/mejora-de-procesos-una-opcion-para.htmlhttp://www.asianhealthsecrets.com/letha/?p=2314http://chocolatey.org/packages/mongodb

http://www.symfony.es	684
http://blog.liip.ch	670
http://desymfony.com	366
https://blog.liip.ch	210
http://www.desymfony.com	40
http://desymfony.es	18
https://twitter.com	15
http://www.sfexception.com	12
http://192.168.11.11	6
http://www.linkedin.com	4
http://symfony.es	4
http://192.168.11.10	3
http://www.newsblur.com	3
http://www.aggregator.ch	3
http://desymfony.local	2
http://www.desymfony.es	2
http://ranksit.com	1
https://si0.twimg.com	1
http://translate.googleusercontent.com	1

Sistema monitorización con Symfony2, RabbitMQ, MongoDB y ExtJS4

by Jordi Llonch on Jun 16, 2012

Accessibility

Categories

Upload Details

Usage Rights

19 Embeds 2,045

Statistics

Sistema monitorización con Symfony2, RabbitMQ, MongoDB y ExtJS4 Presentation Transcript