Explainable Image Classification with Improved Trustworthiness for Tissue Characterisation

摘要

机器学习模型进行组织表征可以帮助决策并指导安全的肿瘤切除。为了让外科医生信任该模型，需要提供生成的预测的可解释性。对于图像分类模型，像素归因 （PA） 和风险估计是推断可解释性的常用方法。然而，前一种方法缺乏可信度，而后者无法提供模型注意力的视觉解释。

本文提出了第一种方法，该方法将风险估计纳入PA方法，以提高图像分类的可解释性，使其更可信。所提出的方法迭代地应用带有PA方法的分类模型来创建大量PA图。
介绍了一种通过估计像素分布的期望值来生成增强型PA图的方法。此外，变异系数 （CV） 用于估计此增强 PA 地图的像素级风险。因此，所提方法不仅提供了改进的PA图，而且对输出PA值进行了风险估计。

本文方法

使用 ResNet18 在脑膜瘤 pCLE 数据上生成的 PA 图。

目的是生成分类模型的改进 PA 图，同时提供模型可解释性的风险估计，以提高术中组织表征过程中决策的可信度。

沿第三维的期望值和方差值为：

变异系数CV

提出的方法提高了可解释性的可信度，因为它允许可视化分类模型的可解释性（由增强的 PA 图提供）以及该图的像素级风险（由 CV 图提供）。例如，除非 CV 值较低，否则不应信任 PA 地图上的突出区域。图3显示了使用所提出的方法生成的增强PA和风险图的示例。这表明所提方法不仅提高了可解释性，而且提供了相关的风险信息，提高了可信度。

评估指标。评估PA方法并非易事，因为PA图可能不需要符合人类认为的“合理”。可以谨慎使用分割分数，如交集并集 （IoU），将阈值 PA 图与具有注释显着区域的地面实况图进行比较。通过这样做，我们可以衡量模型对特定类的知情程度。为了量化一个模型的误导性程度，我们可以估计它的平均下降

由于发现平均下降本身是不够的，因此引入了统一方法ADCC ，该方法是平均下降、相干性和复杂性的谐波平均值，定义为：

实验结果