Directrices para una IA responsable
Qué aprenderá
En este dominio se aprenden las directrices para desarrollar y operar los sistemas de IA de forma responsable con la sociedad y los usuarios. El objetivo es comprender los 6 aspectos de la "IA responsable" que defiende AWS (equidad, explicabilidad, privacidad, seguridad, robustez y gobernanza) y las herramientas de implementación, como SageMaker Clarify y SageMaker Model Monitor.
Puntos clave
- Los 6 aspectos de la IA responsable: equidad (Fairness), explicabilidad (Explainability), privacidad, protección / seguridad, robustez (Robustness) y gobernanza
- Sesgo: problema por el cual, debido a desviaciones en los datos de entrenamiento o en el diseño, el modelo realiza predicciones injustas hacia determinados atributos (sexo, raza, etc.)
- Explicabilidad (Explainability): capacidad de mostrar los fundamentos de las predicciones del modelo de forma comprensible para las personas. Influye en la aceptación de las decisiones
- SageMaker Clarify: herramienta que detecta los sesgos de los datos y del modelo y aporta explicabilidad mediante la importancia de las características
- SageMaker Model Monitor: monitoriza si un modelo en producción muestra un comportamiento distinto al del entrenamiento (deriva de datos)
- Privacidad: es importante diseñar para no introducir información personal en los datos de entrenamiento ni hacer que se genere durante la inferencia
- AWS AI Service Cards: tarjetas que documentan el uso previsto y las limitaciones de cada servicio de IA de AWS
Términos y conceptos
Los 6 aspectos de la IA responsable
AWS organiza la IA responsable en 6 aspectos: equidad (eliminación de la discriminación), explicabilidad (explicación de los fundamentos de las decisiones), privacidad (protección de la información personal), protección / seguridad (prevención del uso malintencionado), robustez (resistencia a entradas anómalas) y gobernanza (gestión organizativa). Son pautas que se deben tener presentes en todo desarrollo de IA.
Sesgo y equidad
Si los datos de entrenamiento presentan desviaciones, surge un "sesgo" por el cual el modelo realiza predicciones injustas hacia determinados atributos (sexo, raza, edad, etc.). Por ejemplo, si en los datos históricos de contratación la proporción de hombres es alta, el modelo podría evaluar favorablemente a los hombres. Se previene reequilibrando los datos, evaluando con métricas de equidad y revisando los datos de entrenamiento.
Explicabilidad (Explainability)
Es la capacidad de mostrar, de forma comprensible para las personas, por qué el modelo realizó una determinada predicción. En la evaluación de préstamos o el diagnóstico médico, si no se puede explicar "por qué fue rechazado / por qué ese diagnóstico", no se obtiene aceptación. A menudo se explica con valores SHAP o con la importancia de las características, y SageMaker Clarify es la herramienta principal de AWS.
SageMaker Clarify y Model Monitor
Clarify ofrece la detección de sesgos en los datos antes del entrenamiento, la detección de sesgos del modelo después del entrenamiento y la explicabilidad mediante la importancia de las características. Model Monitor monitoriza de forma continua si un modelo en producción muestra un comportamiento distinto al del entrenamiento (deriva de datos o deriva de predicción). Ambas son herramientas centrales en la implementación de la IA responsable.
AWS AI Service Cards
AWS publica, para cada servicio de IA, una "AI Service Card" que recoge el uso previsto, las limitaciones y las directrices de uso responsable. Por ejemplo, la función de comparación facial de Rekognition incluye claramente limitaciones como "no se recomienda su uso para la aplicación de la ley". Es un documento importante que conviene consultar antes de adoptar el servicio.
Compruebe su comprensión
Compruebe lo aprendido con 5 preguntas