¿Qué es Interpretabilidad de modelos?
La interpretabilidad de un modelo describe hasta qué punto las personas pueden entender cómo llega un modelo de IA a sus resultados. Los modelos sencillos, como los árboles de decisión, se leen con facilidad; en redes neuronales complejas ayudan técnicas que muestran, por ejemplo, la influencia de cada variable. Es importante para encontrar errores, generar confianza y cumplir requisitos normativos, por ejemplo cuando hay que justificar la denegación de un crédito.