Amazon MSK

Servicio de streaming completamente administrado que proporciona construcción y operación de clústeres Apache Kafka, permitiendo utilizar directamente la API compatible con Kafka

Descripción general

Amazon MSK (Managed Streaming for Apache Kafka) es un servicio completamente administrado que facilita la construcción y operación de clústeres Apache Kafka en AWS. Reduce la complejidad operativa de gestionar brokers Kafka, ZooKeeper, almacenamiento y seguridad, mientras mantiene compatibilidad con la API de Kafka. Las aplicaciones existentes que utilizan productores y consumidores Kafka pueden migrar a MSK sin cambios de código. Soporta tanto clústeres provisionados como MSK Serverless para diferentes patrones de carga.

Diseño de brokers y estrategia de particiones

El diseño de un clúster MSK comienza con la selección del número de brokers y tipo de instancia. MSK distribuye brokers uniformemente entre las zonas de disponibilidad seleccionadas (mínimo 2, recomendado 3 para producción). El número de particiones por topic determina el paralelismo máximo de consumidores: un topic con 12 particiones permite hasta 12 consumidores procesando en paralelo. La estrategia de particionamiento debe considerar el throughput esperado, el orden de mensajes (garantizado solo dentro de una partición) y la distribución uniforme de datos. El factor de replicación (la guía de prácticas recomendadas para brokers Standard aconseja al menos 3) determina cuántas copias de cada partición se mantienen en diferentes brokers, proporcionando tolerancia a fallos. Con brokers Standard, el almacenamiento utiliza EBS; con brokers Express no es necesario aprovisionar ni gestionar el almacenamiento de datos, según la guía para desarrolladores. AWS indica en la guía para desarrolladores que MSK admite el modo KRaft, que sustituye a ZooKeeper en la gestión de metadatos, que los clústeres basados en ZooKeeper con Kafka 3.9.x tienen un procedimiento de migración a KRaft sin mover datos y que los clústeres con una versión de Kafka que ha superado su fecha de fin de soporte se actualizan automáticamente a la versión recomendada (a octubre de 2026).

Reducción de carga operativa con MSK Serverless y MSK Connect

MSK Serverless permite ejecutar Apache Kafka sin gestionar ni escalar la capacidad del clúster: no se seleccionan tipos de instancia ni número de brokers. El servicio aprovisiona y escala la capacidad automáticamente. La guía para desarrolladores sugiere considerarlo cuando las aplicaciones necesitan capacidad de streaming bajo demanda que escala automáticamente. MSK Connect es un servicio complementario que ejecuta conectores Kafka Connect de forma administrada, permitiendo ingerir datos desde fuentes externas (bases de datos, S3, APIs) y exportar a destinos (S3, OpenSearch, Redshift) sin código personalizado. Los conectores de la comunidad Kafka (Debezium para CDC, S3 Sink, Elasticsearch Sink, etc.) se despliegan como plugins, y MSK Connect gestiona el escalado y la tolerancia a fallos de los workers.

Criterios de selección frente a Kinesis Data Streams

MSK y Kinesis Data Streams son servicios de streaming pero con filosofías diferentes. MSK es una opción cuando: se tiene experiencia existente con Kafka, se necesita compatibilidad con el ecosistema Kafka (Kafka Streams, ksqlDB, Schema Registry, Connect), se requiere una retención de datos más allá del máximo de 365 días de Kinesis Data Streams (con tiered storage, el almacenamiento de MSK escala de forma prácticamente ilimitada según la guía para desarrolladores), o se migra una aplicación Kafka existente. Kinesis es una opción cuando: se busca integración nativa con servicios AWS (Lambda triggers, Firehose, Analytics) o el equipo no tiene experiencia con Kafka. Los modelos de precios de ambos servicios son distintos y se describen en la página de precios de cada uno. La función de tiered storage de MSK permite retener datos históricos en S3 a bajo costo mientras mantiene datos recientes en brokers para acceso de baja latencia.

Referencias (recursos oficiales de AWS)

Las fuentes primarias de esta página son el sitio web y la documentación oficiales de AWS. Consulta las páginas oficiales siguientes para conocer las especificaciones y los precios más recientes.

Si esta página y la documentación oficial difieren, prevalece la documentación oficial.

Compartir