Captum · Model Interpretability for PyTorch

Captum es una herramienta integral para la interpretabilidad del modelo, diseñada para facilitar la comprensión de modelos complejos de PyTorch. Ofrece una amplia gama de algoritmos y herramientas de visualización para ayudar a los investigadores y desarrolladores a identificar las características clave que impulsan las predicciones del modelo. Captum es compatible con la mayoría de los tipos de modelos de PyTorch y se puede utilizar con modificaciones mínimas en la red neuronal original.