Proyectos
Integración de la predicción conformal con métodos de explicabilidad para la cuantificación e interpretación de la incertidumbre en modelos de aprendizaje automático.
Resumen
En los últimos años, el auge de los modelos de aprendizaje automático ha transformado la forma en que se abordan problemas predictivos en múltiples disciplinas. Sin embargo, su creciente complejidad ha planteado un desafío importante: la falta de interpretabilidad y de mecanismos que permitan cuantificar la incertidumbre asociada a sus predicciones. En contextos donde las decisiones automatizadas tienen consecuencias relevantes, la comprensión de la incertidumbre predictiva resulta esencial para garantizar confianza, transparencia y uso responsable de los modelos. Aunque las técnicas de explicabilidad (XAI) han permitido describir y justificar el comportamiento de los modelos, en general no cuantifican el grado de incertidumbre en sus predicciones. Por su parte, la predicción conformal (CP) proporciona un marco estadístico robusto para cuantificar la incertidumbre mediante intervalos con garantías de cobertura, pero carece de mecanismos interpretativos que expliquen su variabilidad. Este vacío metodológico limita la comprensión de cómo las variables de entrada influyen en la amplitud o fiabilidad de dichos intervalos. Ante esta limitación, la presente investigación tiene como propósito desarrollar un marco metodológico que integre la predicción conformal con técnicas de explicabilidad, para interpretar y explicar la incertidumbre asociada a las predicciones de modelos de tipo caja negra. Metodológicamente, el estudio contempla cuatro fases principales: revisión sistemática de la literatura, diseño del marco integrado CP–XAI, validación experimental mediante simulaciones y casos reales y análisis de sensibilidad para evaluar estabilidad y coherencia de las explicaciones.
Convocatoria
Nombre de la convocatoria:Registro único de proyectos
Modalidad:Registro único de proyectos
Responsable