PyTorch library for model interpretability across modalities.
什么是Captum?
Captum是一个用于模型可解释性的PyTorch库。它提供了理解和归因PyTorch模型预测的工具和技术,涵盖不同的数据类型,包括视觉和文本。Captum支持大多数PyTorch模型,并允许轻松实现和基准测试新的可解释性算法。
如何使用 Captum?
通过conda或pip安装Captum。导入必要的库,如numpy,torch,以及来自captum.attr的IntegratedGradients。定义并准备你的PyTorch模型。实例化一个可解释性算法(如IntegratedGradients)。将算法应用于你的输入数据和基线,以获得归因和收敛增量。
Captum 的核心功能
多模态可解释性支持
基于PyTorch
可扩展和开源
captum.ai