人类评估者与GPT-4o在基于视频的心肺复苏技能评估中的互补错误模式:对人工智能辅助二次解读的启示

Complementary Error Patterns Between Human Evaluators and GPT-4o in Video-Based Cardiopulmonary Resuscitation Skills Assessment: Implications for Artificial Intelligence-Assisted Second Reading

作者信息Hye Ji Park, Daun Choi, Choung Ah Lee
PMID42355604
发布时间2026-06-08
DOI10.3390/jcm15124436

实验完整度

高

研究包含对照实验(专家与GPT-4o独立评估)、参考标准(模拟人传感器数据)、多项统计比较,并进行了两轮专家评估(现场和视频)。

主要模型

非专业护理人员(成年人) 模拟人(带传感器)

重点核对

评估者:7名认证AHA BLS导师 vs GPT-4o 视频拍摄:侧面视角,相机位于救援者肘部高度,水平方向 评估清单:12个项目,4个领域 参考标准:模拟人传感器数据(手位置、按压频率、按压深度、胸廓回弹) 统计方法:Gwet's AC1, ICC(2,1), McNemar检验

摘要

背景/目标:心肺复苏(CPR)技能评估易受评估者主观性、认知疲劳和观察限制的影响。尽管多模态人工智能的最新进展增加了基于视频的自动化评估的可能性,但其在临床技能评估中的有效性仍未得到充分检验。方法:在这项横断面研究中,我们招募了130名接受基础生命支持培训并参加技能测试的非专业人员。20条记录用于提示开发,110条记录用于分析。专家评估者和GPT-4o使用包含12个项目的检查表独立评估参与者的技能。模拟人传感器数据作为四项胸外按压指标的参考标准。使用Gwet's agreement coefficient 1 (AC1)和组内相关系数(2,1)评估一致性。使用McNemar检验比较诊断准确性、灵敏度和特异性。结果:程序性项目,如确认心脏骤停、拨打119和请求自动体外除颤器,在专家和GPT-4o之间显示出一致性接近完美(AC1 > 0.8)。然而,按压深度(AC1 = 0.374)和胸廓完全回弹(AC1 = 0.355)的一致性较差。专家表现出高灵敏度(77.8%–84.3%)但低特异性(24.6%–47.8%),而GPT-4o表现出低灵敏度(35.6%–40.6%)但高特异性(69.2%–76.1%)。结论:由于GPT-4o在从二维视频推断三维空间信息方面的固有局限性,它不能作为独立的评估者。然而,其在程序性项目上的高一致性以及与人类评估者在按压指标上的互补错误模式表明,它有可能作为一种决策支持工具,以减轻CPR教育中专家宽松偏倚的影响。

实验结论

提炼研究问题、关键发现与证据,快速把握文章的核心贡献。

研究问题
GPT-4o是否能够作为视频CPR技能评估的独立评估者,其评估结果与专家评估者及客观传感器数据的比较如何?
核心机制
在按压深度和胸廓回弹方面,人类评估者表现出宽松偏倚(高灵敏度、低特异性),而GPT-4o表现出保守偏倚(低灵敏度、高特异性),这些互补的错误模式表明AI可作为二次阅读工具以减轻人类评估者的宽松偏倚。
主要证据
通过110名非专业人员模拟人CPR测试的12项检查表评估,专家现场和视频评估以及GPT-4o评估,以模拟人传感器数据为参考标准,使用Gwet's AC1和McNemar检验进行统计。结果显示程序性项目一致性接近完美,但压缩指标一致性差,且专家和GPT-4o的敏感性和特异性呈互补模式。
研究意义
GPT-4o可作为辅助评估工具(二次阅读者)用于CPR教育,以识别潜在的宽松人类评分,但不能作为独立评估者。

研究路径

按研究推进顺序梳理实验设计、验证步骤与关键观察。

1

参与者招募和训练

招募符合条件的非专业人员并接受基础生命支持培训

130名成年人(≥18岁,无专业医疗执照)参加了BLS培训和技能测试。

2

CPR技能测试和视频记录

对参与者进行CPR技能测试并记录视频

参与者在模拟人上完成技能测试,同时从两个视角录制视频(侧面视角,相机位于救援者肘部高度,水平方向)。模拟人传感器记录按压数据作为参考标准。

3

专家评估

由专家评估者对技能表现进行评分

7名认证AHA BLS讲师在培训后使用12项检查表进行现场评估,并在2周后对视频进行再次评估。

4

GPT-4o评估

使用GPT-4o对同一视频进行评估,并与专家评估比较

将110个视频逐一上传至ChatGPT界面,使用统一提示词让GPT-4o评分12个项目并提供理由。

5

统计分析和比较

比较专家与GPT-4o评估的一致性及与传感器数据的诊断性能

使用Gwet's AC1评估一致性,ICC评估总分一致性,诊断性能比较使用McNemar检验。

研究方法

按研究目的归类文中使用的方法,便于定位所需技术。

产品清单

实验环节名称品牌货号
模拟人(配备传感器)----
摄像机----
GPT-4oOpenAI--

关键环节

汇总复现实验时建议重点确认的条件及原文阅读提示。

环节核对要点
参与者招募
参与者年龄、性别、既往CPR培训情况
阅读提示:Methods, Section 2.1
CPR技能测试
模拟人设备类型和传感器设置
阅读提示:Methods, Section 2.2
视频记录设置
相机位置(肘部高度、水平方向)、视角
阅读提示:Methods, Section 2.2
专家评估
评估者资格、培训、评估时间点(现场和视频)
阅读提示:Methods, Section 2.3
GPT-4o评估
GPT-4o版本、模型接口(web界面)、提示词内容
阅读提示:Methods, Section 2.4