CQRS perspective over Infinispan and A-MQ

Cuándo avanzamos hacia la integración de sistemas son muchas las barreras con las cuales nos encontramos y son muchas las tecnologías a las cuales podemos acudir para dar sustento a la estrategia. Los paradigmas ideales sobre el cuál se basa una estrategia de integración son SOA (Service oriented architecture) y EDA (Event Driven Architecture). Ambos paradigmas presentan una situación nueva a la cuál administradores y desarrolladores deben enfrentarse. Compartir datos ya no es concurrir en una base de datos, replicaciones nocturnas o procesar ETLs. Ahora cuando desarrollo mi aplicación debo pensar también que mi universo de usuarios se expande a todos los procesos de la compañía que necesitan de la información administrada por mí.

El problema

El definir un responsable de la información presenta un problema:

La administración del impacto de la integración.

  ¿Es responsabilidad de un transaccional servir de sustento a otro para brindarle servicio? ¿Es la aplicación consumidora del servicio responsable del uso que hace? ¿Puede el gobierno controlar y limitar eso?

Una alternativa

Independientemente de que el gobierno permita establecer reglas de convivencia existe la posibilidad de deslindar esas responsabilidades.  Casualmente a través de un patrón arquitectónico que se basa en la segregación de responsabilidades CQRS. Fue a través de un artículo de Greg Young que me encontré con este concepto. Ahora, sería simple pedirle a las aplicaciones que diseñen, armen y mantengan una segunda estructura de datos (no tanto que lo hagan), y ¿qué pasa con las aplicaciones no desarrolladas por nosotros?, ¿qué pasa con las aplicaciones ya productivas?. Aquí el planteo que nos hacemos es que modificarlas tiene un impacto muy alto o es imposible hacerlo. pero puedo aprovechar puntos de integración como….. eventos.

¿Como aplicamos este patrón?

Podemos extender el patrón y delegar la responsabilidad en una aplicación externa. Esta aplicación debería estar enfocada puramente en la consulta y tener la capacidad de escalar fuertemente en ese aspecto.
¿Como escalaríamos en datos?, apostando a la innovación y aprovechar una tecnología como bases de datos en memoria para la cual la escalabilidad es una fortaleza. En mi experiencia he usado Infinispan, es fácil de usar y realmente permite la escalar muy fácilmente. Las últimas versiones corrigieron problemas de manejo transaccional y solucionaron problemas de locks en la sincronización de instancias. Esto me permite tener una base de datos con plena capacidad de escalamiento horizontal estructurada de tal manera que puedo satisfacer las necesidades de consulta. La alimentación de la estructura de consultas se realiza mediante eventos lo que comúnmente se denomina event sourcing, las ventajas claras de este diseño son:

  • Componentización de datos que permite armar estructuras a partir de múltiples orígenes
  • Desacople total

Como todo tiene sus desventajas

  • Inconsistencia temporal, es decir podemos tener lecturas durante un período de tiempo.

Infinispan

Infinispan es una base de datos en memoria bajo el esquema clave/valor. Su poder reside en la velocidad de acceso a los datos no solo por estar en memoria si no por el acceso directo por clave. El acceso por clave representa una clara ventaja si los servicios que exponemos tienen en cuenta que la clave de búsqueda corresponda con la clave de almacenamiento del dato.
Infinispan puede utilizarse como API o como servidor.
En esta arquitectura vemos ISPN como un punto de concurrencia de muchas aplicaciones donde una escribe y todas las demás leen. De modo tal que hay una serie de servicios exponiendo la información.
Como API obtenemos
  • Menor uso de la red
  • Mayor flexibilidad para hacer procesamiento de datos combinados
  • Las lógicas de procesamiento de los datos escala con los nodos.
  • No genero carga sobre el ESB o una capa extra para accede a los datos.
  Como servidor obtenemos
  • Integración vía hotrod
  • Flexibilidad en el escalamiento de la infraestructura
  • Problemas, reinicio o deploy de nuevas versiones de la capa de servicios son independientes de la capa de persistencia en Infinispan.

Integración de aplicación legacy

    • Si la aplicación es comercial debemos analizar los puntos de integración que brinde. En caso de no tenerlos existe la posibilidad (aunque desagradable) de implementar un mecanismo de pooling sobre la base de datos (trigger, pooling daemon, etc) que permita informar las novedades.
    • ¿Cómo garantizamos la llegada de la totalidad de las novedades?
      1. Podemos hacer que la persistencia en la plataforma de eventos forme parte de la transacción.
      2. Podemos definir algún mecanismo de reintento manual o automático para la persistencia del evento.

 A partir del momento en que tenemos el mecanismo de carga de los datos, la configuración del cluster de datos en memoria es totalmente independiente.

  • Puede ser replicado o distribuido, dependiendo de la cantidad de datos a almacenar, la robustez que pretendamos y los tiempos de rehidratación.
  • El cache store asegura la posibilidad de recuperación ante caída o error en algún nodo o el cluster completo. Normalmente es ineficiente o imposible hacerlo desde el origen.

Bus de eventos

Por más que evalúo alternativas siempre llego a la misma conclusión, la mejor manera de implementarlo es a través de alguna plataforma JMS. El bus debe funcionar como buffer de eventos permitiendo cierto grado de elasticidad a los consumidores y logrando que la persistencia del evento tenga un mínimo impacto en la performance y costo de recursos del productor.

Para garantizar la llegada de los eventos al bus tenemos dos estrategias:
  1. Quién publica incorpora la publicación como parte de la transacción, lo cual implica:
    • Si el bus de eventos no está disponible la transacción no puede llevarse a cabo
    • La transacción se alarga
  2. Quién publica tiene un mecanismo de persistencia y reintento, esto implica:
    • Mayor infraestructura
    • Aumento de las responsabilidades de la aplicación que publica
Cualquiera sea la alternativa cuanto más podamos garantizar la disponibilidad de la plataforma y su escalabilidad mejor.Esto permitirá soportar el aumento del volumen de mensajería y su tiempo de disponibilidad (availability).
Estrategia JMS:
Esquema public-subscriber: permite escalar en el consumo de mensajes y permite también la incorporar consumidores sin reiniciar o configurar la infraestructura.
Subscriptores durables: garantiza la conservación del mensaje hasta que el consumidor lo tome.
Mensajes persistentes: garantiza la permanencia del mensaje aunque se reinicie la plataforma.
La estrategia consiste en armar un esquema pub-sub donde un publisher envía un mensaje a un tópico y n subscriptores lo toman. Esto permite escalabilidad en los subscriptores al registrarse con el mismo client-id y al ser persistente nos permite garantizar la llegada del mensaje.

Conclusión

La integración de aplicaciones mediante servicios y/o eventos genera problemas de impacto entre aplicaciones. El problema de administrar el impacto de la integración encuentra un buen atenuante en la segregación de responsabilidades. Las bases de datos en memoria y JMS son tecnologías que brindan las funcionalidades adecuadas para la implementación de una arquitectura CQRS y permiten abstraer consumidores de productores y almacenar estructuras de consulta. Particularmente mi experiencia con Infinispan para brindar servicios de consulta y JBoss A-MQ para administrar la mensajería ha sido más que satisfactoria permitiendo tener una infraestructura 7×24 con garantía de delivery de mensajes y brindar servicios de alto volumen reduciendo los tiempos de respuesta entre 10 y 100 veces.

Advertisements

One thought on “CQRS perspective over Infinispan and A-MQ

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google+ photo

You are commenting using your Google+ account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s