反事实扩散模型为病理学中的人工智能模型提供可解释的解释

深度学习可以从组织病理学全切片图像中提取预测性和预后性生物标志物。然而，数字病理学中广泛使用的可解释人工智能方法，如注意力热图和类别激活映射，对与分类器输出相关的图像特征提供的见解有限。在本研究中，我们开发了Morphing histoPathology Diffusion（MoPaDi），一个为组织病理学图像生成反事实解释的框架，有助于识别与模型预测相关的形态或染色特征。MoPaDi将扩散自编码器与任务特定的多实例学习分类器相结合，通过修改与分类器相关的特征来操纵图像并诱导预测转变。该框架在多个数据集上进行了评估，涵盖结直肠癌、乳腺癌、肝癌和肺癌，包括组织类型、癌症亚型和生物标志物[微卫星不稳定性（MSI）]分类等任务。MoPaDi生成了感知上逼真的反事实组织病理学图像，使病理学家能够识别与模型预测变化相关的形态特征，补充了数字病理学中对高度关注区域的常规检查。在MSI状态预测任务中，MoPaDi突出了与分类器预测相关的形态特征，包括黏液样分化、腺体结构改变和淋巴细胞浸润，与先前文献一致。将染色相关与形态相关成分分开的分析表明，在这种情况下，预测变化主要与形态相关而非染色相关的改变有关。总的来说，MoPaDi是计算病理学中反事实解释的实用框架，支持评估模型特定的决策线索和假设生成。