AWS Primeros Pasos
Seguridad

Amazon Bedrock Guardrails

Mecanismo de seguridad que controla las entradas y salidas de aplicaciones de IA generativa, realizando filtrado de contenido dañino y enmascaramiento de información personal

Unos 4 min de lectura

Descripción general

Amazon Bedrock Guardrails es un servicio que aplica controles de seguridad como filtrado de contenido, restricción de temas, enmascaramiento de información personal (PII) y detección de alucinaciones sobre los prompts de entrada y las respuestas de salida de aplicaciones de IA generativa. Opera independientemente del modelo fundacional utilizado en Bedrock, aplicando la misma política de guardrails incluso al cambiar de modelo, lo que favorece una gobernanza de seguridad consistente en estrategias multi-modelo. Cada guardrail se puede versionar y gestionar de forma independiente, permitiendo probar nuevas políticas en entornos de desarrollo antes de aplicarlas en producción.

Filtros de contenido y control de temas

Los filtros de contenido de Guardrails evalúan tanto los prompts de entrada como las respuestas de salida en categorías como odio, insultos, contenido sexual y violencia, con niveles de sensibilidad configurables (NONE, LOW, MEDIUM, HIGH). Al establecer un nivel alto, incluso expresiones sutiles se bloquean, pero esto puede generar falsos positivos que afecten la experiencia del usuario, por lo que es necesario ajustar según el caso de uso. El control de temas permite definir temas específicos que el modelo no debe abordar (por ejemplo, asesoramiento de inversión, diagnóstico médico), bloqueando las respuestas cuando se detectan estos temas. Azure AI Content Safety opera como un servicio independiente; Guardrails está integrado en la API de Bedrock, lo que reduce los cambios de código necesarios para aplicar políticas de seguridad.

Enmascaramiento de PII y verificación de grounding

La función de enmascaramiento de PII detecta automáticamente información personal como nombres, direcciones de correo electrónico, números de teléfono y números de tarjetas de crédito en las entradas y salidas, reemplazándolos con marcadores de posición. Se puede configurar por tipo de entidad si se enmascara o se bloquea completamente, permitiendo un diseño flexible según los requisitos de compliance. La verificación de grounding evalúa si la respuesta del modelo se basa en la información de referencia proporcionada, detectando alucinaciones (información fabricada). Cuando la puntuación de grounding cae por debajo del umbral, la respuesta se bloquea y se devuelve un mensaje alternativo.

Diseño operativo y monitoreo

En la operación de Guardrails, el ajuste de umbrales y el monitoreo de métricas son clave. Las métricas de invocación de Guardrails se publican en CloudWatch, permitiendo monitorear la tasa de bloqueo, la distribución de categorías de contenido detectadas y la latencia. Si la tasa de bloqueo es demasiado alta, puede indicar que los umbrales son excesivamente estrictos, requiriendo ajustes. El versionado permite gestionar múltiples versiones de un guardrail, probando nuevas políticas en desarrollo antes de aplicarlas en producción. En cuanto a costos, se cobra por unidad de texto evaluada, por lo que para aplicaciones con alto volumen de tráfico es importante estimar el costo de Guardrails como parte del costo total. La combinación con CloudTrail permite auditar quién cambió qué política y cuándo, cumpliendo con los requisitos de trazabilidad empresarial.

Referencias (recursos oficiales de AWS)

Las fuentes primarias de esta página son el sitio web y la documentación oficiales de AWS. Consulta las páginas oficiales siguientes para conocer las especificaciones y los precios más recientes.

Si esta página y la documentación oficial difieren, prevalece la documentación oficial.

Compartir

Términos relacionados

Amazon BedrockAWS IAMAmazon CloudWatchAWS Lambda

Servicios relacionados

Amazon BedrockAWS IAMAmazon CloudWatchAWS Lambda

Artículos relacionados

Uso de Claude en Amazon Bedrock - Selección de modelos, diseño de prompts y optimización de costosComparamos los modelos Anthropic Claude disponibles en Amazon Bedrock, proporcionamos directrices de selección de modelos por caso de uso y cubrimos mejores prácticas de diseño de prompts y optimización de costos.Monitoreo integrado con Amazon CloudWatch - Diseño de métricas, logs y alarmasConstruya un monitoreo integrado con los 3 pilares de métricas, logs y alarmas. Presentamos el análisis interactivo con Logs Insights, notificaciones de alta precisión con alarmas compuestas y el uso de Embedded Metric Format.La escala y el impacto económico de re:Invent - El interior de una de las mayores conferencias de TI del mundo con 50.000 asistentesExplicamos las cifras poco conocidas y el interior de una de las mayores conferencias de TI del mundo: número de asistentes de AWS re:Invent, escala de las sedes, impacto económico en Las Vegas, audiencia de los keynotes y número de servicios anunciados.La esencia del Undifferentiated Heavy Lifting - La línea divisoria entre los problemas que AWS resuelve y los que noProfundizamos en el verdadero significado de la frase Undifferentiated Heavy Lifting que AWS usa repetidamente, y explicamos los límites de responsabilidad de los servicios gestionados, la realidad del modelo de responsabilidad compartida, y la ilusión y realidad del fully managed.Acceso Zero Trust con AWS Verified Access - Conexión a aplicaciones sin VPNEliminación de VPN y acceso zero trust que verifica la identidad del usuario y el estado de seguridad del dispositivo en cada acceso. Presentamos el control granular con políticas Cedar.

Términos y artículos similares

Seguridad, cumplimiento y gobernanza para las soluciones de IA (AWS Certified AI Practitioner)En este dominio se aprenden los riesgos de seguridad propios de los sistemas de IA y la gobernanza necesaria para que una organización controle la IA. El objetivo es comprender técnicas de ataque como la inyección de prompts, el robo de modelos y el envenenamiento de datos, así como medios de defensa como IAM, los puntos de conexión de VPC, Bedrock Guardrails y SageMaker Role Manager.AWS Control TowerServicio que automatiza la configuración y gobernanza de entornos AWS multi-cuenta, gestionando centralmente las líneas base de seguridad y compliancePlataforma de IA generativa - Construcción de una base de IA empresarial con Amazon BedrockAprende a construir aplicaciones de IA generativa usando Amazon Bedrock. Esta guía cubre la selección de modelos fundacionales, la implementación del patrón RAG, las barreras de seguridad y la integración con SageMaker para diseñar infraestructura de IA de nivel empresarial.Aplicaciones de los modelos fundacionales (AWS Certified AI Practitioner)En este dominio se aprenden los principales servicios de IA/ML que ofrece AWS. El tema central es saber cuándo usar Amazon Bedrock (API de modelos fundacionales), Amazon SageMaker (plataforma de aprendizaje automático), Amazon Q (asistente para empresas) y los servicios de IA de uso específico (Comprehend, Rekognition, Transcribe, etc.). Es el dominio de mayor tamaño, ya que representa el 28 % de las preguntas del AIF-C01.