自动语音识别在正畸临床记录中的转录准确性

Transcription Accuracy of Automatic Speech Recognition for Orthodontic Clinical Records

作者信息R O'Kane, D Stonehouse-Smith, L C U Ota, R Patel, N Johnson, C Slipper, J Seehra, S N Papageorgiou, M T Cobourne
PMID41178647
发布时间2026-06
DOI10.1177/00220345251382452

实验完整度

高

基于200份正畸记录音频,比较10种ASR系统,含转录、词汇、语义及定性错误分析等多层验证

主要模型

正畸诊断与治疗计划总结转录文本(n=200) 叙述录音音频(6小时)

重点核对

10种ASR系统:4种商业系统、5种API、1种ASR-LLM两阶段流程 正畸诊断与治疗计划总结n=200,10个主题领域,43,408词,6小时音频 主要结局DWER基于SNOMED-CT数据库评估临床术语转录错误 背景噪声有无及叙述者口音变异亚组评估 定性错误分析按Kanal分型,重点class 3临床显著错误

摘要

准确的临床记录是牙科实践的基础。自动语音识别(ASR)能够在电子健康记录中将口语临床语言转换为书面文本;然而,ASR在临床牙科自然语言处理中的准确性仍不确定。本研究旨在以正畸临床记录作为实验模型,探讨ASR系统的转录准确性。具体而言,我们使用了4种商业ASR系统(Heidi Health、DigitalTCO、Dragon Medical One、Dragon Professional Anywhere)、5种应用程序编程接口(Amazon、Google、Speechmatics、Whisper、GPT4oTranscribe),以及一个将GPT4oTranscribe与GPT4o大语言模型(LLM)耦合用于生成式纠错的两阶段流程(GPT4oTranscribeCorrected)。对正畸诊断和治疗计划总结(n=200;10个主题领域;43,408词;6小时音频)进行叙述和录音以供分析。主要结局是领域词错误率(DWER),其针对医学系统命名法临床术语(SNOMED-CT)数据库研究临床术语转录错误。次要结局包括非领域WER(N-DWER)、词汇准确性(面向召回的字词评估替代研究[ROUGE]评分)、语义相似性(来自变换器的双向编码器表示[BERT]和双向自回归变换器[BART]评分)、幻觉(转录文本未出现在口语输入中)以及定性错误分析。GPT4oTranscribeCorrected转录最准确(DWER=3.5%;WER=3.7%),与GPT4oTranscribe相比DWER降低54.9%。Heidi Health是表现最好的商业系统(DWER=6.2%;WER=5.4%),Dragon Professional Anywhere最差(WER=33.9%)。除GPT4oTranscribeCorrected外,所有系统对技术词汇的准确性较低(DWER>N-DWER;P<0.001)。ROUGE、BERT和BART评分在各系统间存在显著差异(P<0.001)。基于事后两两比较,GPT4oTranscribeCorrected表现最佳,Dragon Professional Anywhere在词汇和语义错误方面始终最差。除Whisper(n=57)和DigitalTCO(n=1)外,未出现幻觉。在各系统中,背景噪声增加了DWER和WER(P<0.001)。重要的是,所有系统均出现临床显著错误,范围为2%至66%(分别为GPT4oTranscribeCorrected干净条件和Dragon Medical One背景噪声)。叙述者口音变异在干净条件下无影响(P=0.65),在背景噪声下有小影响(P=0.001)。ASR系统可实现个位数转录错误率,尤其是与基于LLM的纠错耦合时,但临床显著错误仍然存在。使用当前ASR系统时,临床记录的验证至关重要。

实验结论

提炼研究问题、关键发现与证据,快速把握文章的核心贡献。

研究问题
自动语音识别系统在正畸临床记录转录中的转录、词汇和语义准确性如何,包括幻觉和误转录情况?
核心机制
将GPT4oTranscribe与GPT4o大语言模型耦合进行生成式纠错的两阶段流程可降低转录错误率;背景噪声增加错误率,而口音影响较小。
主要证据
基于200份正畸诊断与治疗计划总结的叙述音频,比较10种ASR系统,GPT4oTranscribeCorrected的DWER=3.5%、WER=3.7%,显著优于其他系统;所有系统均出现临床显著错误(2%至66%)。
研究意义
ASR系统可实现个位数转录错误率,尤其是结合LLM纠错时,但临床显著错误持续存在,使用当前ASR系统时临床记录的验证至关重要。

研究路径

按研究推进顺序梳理实验设计、验证步骤与关键观察。

1

构建正畸临床记录实验模型

建立涵盖广泛牙科技术语言的地面真值转录文本和音频库

基于样本量计算生成200份正畸诊断与治疗计划总结转录文本,叙述录制为音频文件,作为评估各ASR系统的地面真值

2

ASR系统转录与两阶段纠错流程

比较不同ASR系统及LLM生成式纠错对转录准确性的影响

使用4种商业ASR系统、5种API及GPT4oTranscribe与GPT4o LLM耦合的两阶段流程对音频进行转录,LLM步骤温度0、top_p=1

3

转录准确性定量评估

评估各系统转录、词汇和语义准确性

计算DWER、N-DWER、WER、uWER、CER,以及ROUGE、BERT、BART评分,并进行统计学比较

4

幻觉与定性错误分析

识别幻觉和临床显著误转录

人工审查转录文本,识别幻觉并按Kanal分型分类误转录,重点分析class 3临床显著错误

5

背景噪声与口音影响评估

评估环境噪声和叙述者口音对转录准确性的影响

在各系统中有无背景噪声条件下评估,并在部分样本中评估叙述者口音变异

研究方法

按研究目的归类文中使用的方法,便于定位所需技术。

关键环节

汇总复现实验时建议重点确认的条件及原文阅读提示。

环节核对要点
实验模型构建
正畸诊断与治疗计划总结样本量n=200、10个主题领域、43,408词、6小时音频;叙述者信息及录音条件文中未明确说明
阅读提示:Methods中实验模型段落及Appendix
ASR系统转录
10种ASR系统的具体版本与配置;GPT4oTranscribeCorrected的LLM温度0、top_p=1;提示词构建与验证见Appendix Tables 3和4
阅读提示:Methods中系统选择段落、Figure 1及Appendix Tables 3和4
背景噪声与口音评估
背景噪声类型与强度文中未明确说明;口音变异亚组样本量文中未明确说明
阅读提示:Methods中实验模型段落及Appendix Tables 12和13
转录准确性评估
DWER基于SNOMED-CT数据库的匹配规则;ROUGE、BERT、BART评分计算参数文中未明确说明;统计检验方法
阅读提示:Methods中结局评估段落、Tables 1至3及Appendix Tables 5至7
定性错误分析
Kanal分型分类标准;class 3错误判定由共识完成;分析者数量文中未明确说明
阅读提示:Results中定性错误分析段落及Appendix Tables 9至11