Machine Learning Interpretável & White-Box Models
Autumn 2025
Por que a Interpretability importa?
Por que a Interpretability importa?
- Tomada de decisão em domínios de alto risco (saúde, direito, finanças)
Por que a Interpretability importa?
- Tomada de decisão em domínios de alto risco (saúde, direito, finanças)
- Confiança, prestação de contas, e AI ético
Por que a Interpretability importa?
- Tomada de decisão em domínios de alto risco (saúde, direito, finanças)
- Confiança, prestação de contas, e AI ético
- Conformidade legal (por exemplo, GDPR: “direito à explicação”)
Por que a Interpretability importa?
- Tomada de decisão em domínios de alto risco (saúde, direito, finanças)
- Confiança, prestação de contas, e AI ético
- Conformidade legal (por exemplo, GDPR: “direito à explicação”)
- Citação ou estatística sobre a falta de confiança em AI
O que é Interpretability?
O que é Interpretability?
- Definição: o grau em que um humano consegue prever consistentemente o output do modelo a partir de seus inputs.
O que é Interpretability?
- Definição: o grau em que um humano consegue prever consistentemente o output do modelo a partir de seus inputs.
- Intuição: “Consigo entender por que essa decisão foi tomada?”
O que é Interpretability?
- Definição: o grau em que um humano consegue prever consistentemente o output do modelo a partir de seus inputs.
- Intuição: “Consigo entender por que essa decisão foi tomada?”
- Exemplo: importância das características (feature importance) em modelos lineares.
Interpretability
- Refere-se a quão compreensível um modelo é por si só.
Interpretability
- Refere-se a quão compreensível um modelo é por si só.
- Tem a ver com a transparência do modelo.
Interpretability
- Refere-se a quão compreensível um modelo é por si só.
- Tem a ver com a transparência do modelo.
- Você pode olhar para o modelo e entender diretamente como ele toma decisões.
Interpretability
- Refere-se a quão compreensível um modelo é por si só.
- Tem a ver com a transparência do modelo.
- Você pode olhar para o modelo e entender diretamente como ele toma decisões.
- Tipicamente se aplica a modelos simples como: regressão linear, decision trees, etc.
Tradeoff entre Accuracy e Interpretability
Glass boxes
Interpretable vs Explainable
Interpretable vs Explainable
- Explainable: refere-se à capacidade de explicar o comportamento de um modelo (possivelmente complexo ou opaco) para humanos.
Interpretable vs Explainable
- Explainable: refere-se à capacidade de explicar o comportamento de um modelo (possivelmente complexo ou opaco) para humanos.
O Que É um White-Box Model?
O Que É um White-Box Model?
- Definição: um modelo cujo funcionamento interno é totalmente visível e compreensível.
O Que É um White-Box Model?
- Definição: um modelo cujo funcionamento interno é totalmente visível e compreensível.
- Intuição: é um tipo de modelo de machine learning cuja lógica interna, estrutura, e processo de tomada de decisão são totalmente transparentes e compreensíveis para humanos.
White-Box Model - características
- Você pode ver exatamente como os inputs são transformados em outputs.
White-Box Model - características
- Você pode ver exatamente como os inputs são transformados em outputs.
- Geralmente são interpretáveis por design.
White-Box Model - características
- Você pode ver exatamente como os inputs são transformados em outputs.
- Geralmente são interpretáveis por design.
- Mais fáceis de depurar, auditar, e confiar.
Quando Usar White-Box Models?
Quando Usar White-Box Models?
- Quando a interpretability é crítica (processo transparente)
Quando Usar White-Box Models?
- Quando a interpretability é crítica (processo transparente)
- Datasets pequenos ou médios (fáceis de analisar)
Quando Usar White-Box Models?
- Quando a interpretability é crítica (processo transparente)
- Datasets pequenos ou médios (fáceis de analisar)
- Teste de prova de conceito (Proof-of-Concept) (entende o problema)
White-Box vs Black-Box Models
White-Box vs Black-Box Models
- Black-Box Models: é um tipo de modelo de machine learning cujo funcionamento interno não é facilmente compreensível para humanos, mesmo com acesso ao código ou aos parâmetros.
White-Box vs Black-Box Models
Resumo
- ML interpretável é essencial para transparência e confiança.
- White-box models são inerentemente interpretáveis e úteis em contextos críticos.
