
亮点
这项采用盲法专家评分的研究比较了11种人工智能(Artificial Intelligence,AI)系统——包括9种通用大语言模型(Large Language Models,LLMs)和2种检索增强平台——在标准化合成牙周临床病例情景中的表现。检索增强系统,尤其是 Perplexity 和 OpenEvidence,在准确性和安全性指标上优于通用 LLMs。尽管平均得分令人鼓舞,但相当比例的AI生成回答包含潜在危险信息,提示这些工具应谨慎用于临床,仅作为辅助工具,而非专科判断的替代品。
研究背景
牙周疾病因其慢性病程、与全身性疾病的关联以及对口腔健康相关生活质量的影响,已成为重大的全球公共卫生问题。准确诊断与管理依赖复杂的临床评估,因此可从先进的决策支持工具中获益。人工智能(AI),尤其是大语言模型(LLMs)和检索增强平台,已在医学应用中显示出通过整合知识并支持临床推理的潜力。然而,针对牙周疾病,这类AI系统的比较评价仍较少。本研究旨在评估AI在牙周诊断与管理中的准确性、安全性和可靠性,以为未来临床整合提供依据。
研究设计
本研究采用盲法、随机区组设计,评估11种AI系统,包括9种通用 LLMs(如 Claude 4.7 Opus)、1种通用检索增强平台(Perplexity)以及1种医学领域检索增强平台(OpenEvidence)。向每个AI系统提供30个标准化合成牙周临床病例情景,涵盖急性、慢性及复杂情况,以生成回答。6名盲法专家牙周病学家依据经验证的5分 Likert 量表对回答进行独立评分,评分维度包括:信息准确性、安全性(不存在有害建议)、无幻觉性(不存在不准确或虚构内容)以及答案完整性。
统计分析采用 Friedman 检验和 Conover–Iman 检验,并进行 Holm 校正以处理多重比较;同时补充采用混合效应模型和有序模型进行敏感性分析。研究旨在识别各AI平台在不同性能指标上的差异,并筛选出临床适用性最佳者。
主要发现
总体而言,各AI系统的平均综合评分为3.28至4.86分(满分5分),均高于3.0的中点基准,提示其整体表现尚可。然而,一个值得关注且具有临床意义的发现是:不同平台中,单条AI回答被评为“危险”或具有潜在危害的比例介于3.3%至46.7%之间(评分≤2)。这种差异提示,如果不加审查地使用这些工具,存在误导性建议的真实风险。
统计检验显示,各AI系统之间存在显著性能差异(p<0.001)。Kendall’s W 系数提示总体效应量较小至中等(W=0.17),反映出系统间一致性处于中等水平。然而,在慢性或复杂牙周情景等子类别中,效应量明显更大(最高 W=0.82),说明平台能力会随临床复杂程度而显著分化。
在各平台中,通用检索增强系统 Perplexity、医学领域检索增强平台 OpenEvidence 以及 LLM Claude 4.7 Opus 在所有维度上均表现最佳,尤其在安全性和准确性方面更为突出。检索增强系统看似更优的表现,部分可能受其回答通常更长、内容更全面的特征影响。
尽管结果令人期待,但安全评分范围较大且存在幻觉内容,提示在牙周临床实践中若缺乏稳健的专家监督,不宜对这些AI工具进行不加区分的应用。
专家点评
本研究首次针对牙周疾病临床推理这一领域对AI工具进行基准评估;该领域融合了症状评估、影像学判读与细致的治疗规划。采用盲法专家评分的设计具有方法学优势,可降低偏倚,并模拟真实世界中的专科评估。纳入检索增强系统亦属创新,反映了将语言模型与外部知识库结合的AI发展趋势,并似乎增强了事实可靠性。
不过,回答长度对质量评分的影响引出方法学上的疑问。较长的回答可能提供更多信息,从而抬高完整性与安全性评分,但也可能带来冗长或无关内容,进而影响实际临床应用。此外,尽管合成病例情景有助于标准化病例呈现,但无法涵盖真实患者就诊中的全部复杂性与不可预测性,因此其外部效度仍有待进一步验证。
研究结果强化了当前AI医疗文献中的共识:这些系统应作为决策支持辅助工具,而非专科临床医生的替代。要实现广泛应用,必须将其与临床专业判断紧密结合,并进行批判性评估,且可能需要基于领域特异性数据持续训练AI。
结论
本项针对牙周疾病诊断与管理的11种AI平台比较评估显示,在专家评分的准确性与安全性方面,检索增强系统目前优于通用 LLMs。尽管如此,危险或幻觉性回答的显著存在,提醒临床应用不应缺乏监督。这些AI工具有望作为专科判断的辅助支持,但不能替代专科医生。未来研究应进一步优化检索增强方法,提升输出简洁性,并在真实世界临床环境中验证其性能,以安全释放AI在牙周病学中的潜力。
经费与临床试验
未注明本研究获得外部经费支持。未报告临床试验注册信息。
参考文献
1. Mayer Y, Demetriou B, Rasperini G, et al. Large Language Models and Retrieval-Augmented Platforms for the Diagnosis and Management of Periodontal Diseases: A Blinded Expert-Rated Comparative Study of 11 Systems. J Clin Periodontol. 2026 Jul;53(10):1546-1556. PMID: 42402252.
2. Tonetti MS, Jepsen S, Jin L, Otomo-Corgel J. Impact of the global burden of periodontal diseases on health, nutrition, and wellbeing of mankind: A call for global action. J Clin Periodontol. 2017 May;44(5):456-462.
3. Topol EJ. High-performance medicine: the convergence of human and artificial intelligence. Nat Med. 2019 Jan;25(1):44-56.
4. Esteva A, Robicquet A, Ramsundar B, et al. A guide to deep learning in healthcare. Nat Med. 2019 Jan;25(1):24-29.