Pautas para una IA responsable
Qué aprenderá
En este dominio se aprenden las directrices para desarrollar y operar los sistemas de IA de forma responsable con la sociedad y los usuarios. El objetivo es comprender las 8 dimensiones centrales de la "IA responsable" que defiende AWS (equidad, explicabilidad, privacidad y seguridad, protección, controlabilidad, veracidad y robustez, gobernanza y transparencia) y las herramientas de implementación, como SageMaker Clarify y SageMaker Model Monitor.
Puntos clave
- Las 8 dimensiones centrales de la IA responsable: equidad (Fairness), explicabilidad (Explainability), privacidad y seguridad, protección (Safety), controlabilidad (Controllability), veracidad y robustez (Veracity and Robustness), gobernanza y transparencia (Transparency)
- Sesgo: problema por el cual, debido a desviaciones en los datos de entrenamiento o en el diseño, el modelo realiza predicciones injustas hacia determinados atributos (sexo, raza, etc.)
- Explicabilidad (Explainability): capacidad de mostrar los fundamentos de las predicciones del modelo de forma comprensible para las personas. Influye en la aceptación de las decisiones
- Diseño centrado en las personas: mostrar al usuario los fundamentos de las decisiones de la IA y aprovechar los mecanismos que recogen su retroalimentación para mejorar
- SageMaker Clarify: herramienta que detecta los sesgos de los datos y del modelo y aporta explicabilidad mediante la importancia de las características
- SageMaker Model Monitor: monitoriza si un modelo en producción muestra un comportamiento distinto al del entrenamiento (deriva de datos)
- Herramientas de transparencia: SageMaker Model Cards (registro), SageMaker Clarify (sesgo y explicación), la evaluación de modelos de Bedrock, los modelos de código abierto y la divulgación de datos y licencias
- Privacidad: es importante diseñar para no introducir información personal en los datos de entrenamiento ni hacer que se genere durante la inferencia
- AWS AI Service Cards: tarjetas que documentan el uso previsto y las limitaciones de cada servicio de IA de AWS
Términos y conceptos
Las 8 dimensiones centrales de la IA responsable
AWS organiza la IA responsable en 8 dimensiones centrales: equidad (eliminación de la discriminación), explicabilidad (explicación de los fundamentos de las decisiones), privacidad y seguridad (protección de la información personal y prevención del uso malintencionado), protección (contención de las salidas dañinas), controlabilidad (mecanismos para monitorizar y controlar el comportamiento de la IA), veracidad y robustez (salidas exactas y resistencia a entradas anómalas), gobernanza (gestión organizativa) y transparencia (divulgación de las capacidades y las limitaciones). Son pautas que se deben tener presentes en todo desarrollo de IA.
Sesgo y equidad
Si los datos de entrenamiento presentan desviaciones, surge un "sesgo" por el cual el modelo realiza predicciones injustas hacia determinados atributos (sexo, raza, edad, etc.). Por ejemplo, si en los datos históricos de contratación la proporción de hombres es alta, el modelo podría evaluar favorablemente a los hombres. Se previene reequilibrando los datos, evaluando con métricas de equidad y revisando los datos de entrenamiento.
Explicabilidad (Explainability)
Es la capacidad de mostrar, de forma comprensible para las personas, por qué el modelo realizó una determinada predicción. En la evaluación de préstamos o el diagnóstico médico, si no se puede explicar "por qué fue rechazado / por qué ese diagnóstico", no se obtiene aceptación. A menudo se explica con valores SHAP o con la importancia de las características, y SageMaker Clarify es la herramienta principal de AWS.
Diseño centrado en las personas
En el diseño centrado en las personas de la IA explicable, se da importancia a que quienes usan la IA puedan entender los resultados, darse cuenta de los errores y corregirlos. Se muestra por qué la IA tomó una decisión junto con sus fundamentos y su grado de confianza, y se deja claro al usuario que el resultado lo ha generado una IA. Se preparan mecanismos para recibir la retroalimentación de los usuarios, como botones para valorar las respuestas o campos para introducir correcciones, y las opiniones recogidas se usan para mejorar el modelo o los prompts.
SageMaker Clarify y Model Monitor
Clarify ofrece la detección de sesgos en los datos antes del entrenamiento, la detección de sesgos del modelo después del entrenamiento y la explicabilidad mediante la importancia de las características. Model Monitor monitoriza de forma continua si un modelo en producción muestra un comportamiento distinto al del entrenamiento (deriva de datos o deriva de predicción). Ambas son herramientas centrales en la implementación de la IA responsable. Cabe señalar que, a octubre de 2026, SageMaker Clarify ha dejado de aceptar nuevos usuarios y solo pueden usarlo los usuarios existentes.
Herramientas de transparencia y explicabilidad
La transparencia de un modelo se comprueba por lo que se ha registrado y publicado sobre él. SageMaker Model Cards es un documento que registra en un solo lugar el uso del modelo, su clasificación de riesgo, los detalles del entrenamiento y los resultados de la evaluación. SageMaker Clarify es la herramienta que genera métricas de sesgo e informes que muestran qué características influyeron en la predicción, y la evaluación de modelos de Amazon Bedrock es la herramienta que deja constancia de los resultados de medir la calidad de las respuestas de los modelos fundacionales. En los modelos de código abierto, es más fácil comprobar su contenido en la medida en que los pesos, los datos de entrenamiento y las condiciones de licencia son públicos, y el alcance de uso permitido también se determina por la licencia.
→ Amazon SageMaker Glosario / → Desarrollo de ML con SageMaker
AWS AI Service Cards
AWS publica, para cada servicio de IA, una "AI Service Card" que recoge el uso previsto, las limitaciones y las directrices de uso responsable. Por ejemplo, la función de comparación facial de Rekognition incluye claramente limitaciones como "no se recomienda su uso para la aplicación de la ley". Es un documento importante que conviene consultar antes de adoptar el servicio.