Machine Learning Interpretable & White-Box Models
Autumn 2025
¿Por qué importa la Interpretability?
¿Por qué importa la Interpretability?
- Toma de decisiones en dominios de alto riesgo (salud, derecho, finanzas)
¿Por qué importa la Interpretability?
- Toma de decisiones en dominios de alto riesgo (salud, derecho, finanzas)
- Confianza, rendición de cuentas, y AI ético
¿Por qué importa la Interpretability?
- Toma de decisiones en dominios de alto riesgo (salud, derecho, finanzas)
- Confianza, rendición de cuentas, y AI ético
- Cumplimiento legal (por ejemplo, GDPR: “derecho a una explicación”)
¿Por qué importa la Interpretability?
- Toma de decisiones en dominios de alto riesgo (salud, derecho, finanzas)
- Confianza, rendición de cuentas, y AI ético
- Cumplimiento legal (por ejemplo, GDPR: “derecho a una explicación”)
- Cita o estadística sobre la falta de confianza en el AI
¿Qué es Interpretability?
¿Qué es Interpretability?
- Definición: el grado en que un humano puede predecir consistentemente el output del modelo a partir de sus inputs.
¿Qué es Interpretability?
- Definición: el grado en que un humano puede predecir consistentemente el output del modelo a partir de sus inputs.
- Intuición: “¿Puedo entender por qué se tomó esta decisión?”
¿Qué es Interpretability?
- Definición: el grado en que un humano puede predecir consistentemente el output del modelo a partir de sus inputs.
- Intuición: “¿Puedo entender por qué se tomó esta decisión?”
- Ejemplo: importancia de las características (feature importance) en modelos lineales.
Interpretability
- Se refiere a qué tan comprensible es un modelo por sí mismo.
Interpretability
- Se refiere a qué tan comprensible es un modelo por sí mismo.
- Tiene que ver con la transparencia del modelo.
Interpretability
- Se refiere a qué tan comprensible es un modelo por sí mismo.
- Tiene que ver con la transparencia del modelo.
- Puedes mirar el modelo y entender directamente cómo toma sus decisiones.
Interpretability
- Se refiere a qué tan comprensible es un modelo por sí mismo.
- Tiene que ver con la transparencia del modelo.
- Puedes mirar el modelo y entender directamente cómo toma sus decisiones.
- Típicamente se aplica a modelos simples como: regresión lineal, decision trees, etc.
Tradeoff entre Accuracy e Interpretability
Glass boxes
Interpretable vs Explainable
Interpretable vs Explainable
- Explainable: se refiere a la capacidad de explicar el comportamiento de un modelo (posiblemente complejo u opaco) a los humanos.
Interpretable vs Explainable
- Explainable: se refiere a la capacidad de explicar el comportamiento de un modelo (posiblemente complejo u opaco) a los humanos.
¿Qué es un White-Box Model?
¿Qué es un White-Box Model?
- Definición: un modelo cuyo funcionamiento interno es completamente visible y comprensible.
¿Qué es un White-Box Model?
- Definición: un modelo cuyo funcionamiento interno es completamente visible y comprensible.
- Intuición: es un tipo de modelo de machine learning cuya lógica interna, estructura, y proceso de toma de decisiones son completamente transparentes y comprensibles para los humanos.
White-Box Model - características
- Puedes ver exactamente cómo los inputs se transforman en outputs.
White-Box Model - características
- Puedes ver exactamente cómo los inputs se transforman en outputs.
- Típicamente son interpretables por diseño.
White-Box Model - características
- Puedes ver exactamente cómo los inputs se transforman en outputs.
- Típicamente son interpretables por diseño.
- Más fáciles de depurar, auditar, y confiar en ellos.
¿Cuándo Usar White-Box Models?
¿Cuándo Usar White-Box Models?
- Cuando la interpretability es crítica (proceso transparente)
¿Cuándo Usar White-Box Models?
- Cuando la interpretability es crítica (proceso transparente)
- Datasets pequeños o medianos (fáciles de analizar)
¿Cuándo Usar White-Box Models?
- Cuando la interpretability es crítica (proceso transparente)
- Datasets pequeños o medianos (fáciles de analizar)
- Prueba de concepto (Proof-of-Concept) (para entender el problema)
White-Box vs Black-Box Models
White-Box vs Black-Box Models
- Black-Box Models: es un tipo de modelo de machine learning cuyo funcionamiento interno no es fácilmente comprensible para los humanos, incluso si tienes acceso al código o a los parámetros.
White-Box vs Black-Box Models
Resumen
- El ML interpretable es esencial para la transparencia y la confianza.
- Los white-box models son intrínsecamente interpretables y útiles en contextos críticos.
