基于大型多模态模型、具有置信度的病理报告标准化方法及其预后意义

Large multimodal model-based standardisation of pathology reports with confidence and its prognostic significance

作者信息Ethar Alzaid, Gabriele Pergola, Harriet Evans, David Snead, Fayyaz Minhas
PMID39545631
发布时间2024-11
DOI10.1002/2056-4538.70010

摘要

尽管病理学报告已有既定标准和指南,许多报告仍以非结构化的自由文本形式书写。从这些报告中提取信息并按标准格式化,对于保持解读一致性至关重要。从非结构化病理报告中自动提取信息是一项具有挑战性的任务,因为它需要准确解读医学术语和上下文相关的细节。在这项工作中,我们提出了一种利用大型多模态模型自动从非结构化病理报告或扫描纸质报告中提取信息的实用方法。该框架使用上下文感知的提示策略,从病理报告中提取单个字段(如分级、分期等)的值。该方法的一个独特之处在于,它为每个字段分配一个置信值,指示模型提取结果的正确性,并生成符合国家病理指南的结构化报告,格式可供人类和机器读取。我们分析了模型在准确性和卡帕分数方面的提取性能,以及模型分配的置信分数的质量。我们还评估了提取字段和原始文本特征嵌入的预后价值。结果表明,该模型能够准确提取信息,准确性和卡帕分数分别高达0.99和0.98。我们的结果表明,置信分数是提取信息正确性的有效指标,其接收者操作特征曲线下面积高达0.93,从而能够自动标记提取错误。我们的分析进一步揭示,正如预期的那样,从病理报告中提取的信息具有高度的预后相关性。框架演示可在 https://labieb.dcs.warwick.ac.uk/ 获取。使用所提方法从癌症基因组图谱结直肠癌病例病理报告中提取的信息及其代码可在 https://github.com/EtharZaid/Labieb 获取。

实验方法

产品清单

名称品牌货号
GPT-4 Vision 模型----
GPT-4-Turbo----