一项关于基于大语言模型的聊天机器人对心理健康伤害的范围综述

基于大语言模型的聊天机器人（LLM-based chatbots）在日常生活中日益普及。尽管人们对其对心理健康的负面影响表示担忧，但尚未对基于LLM的聊天机器人潜在心理健康伤害这一日益增长领域的研究和主题进行综合。本范围综述采用基于PRISMA的系统文献检索策略，使用经过验证的检索字符串，从五个文献数据库（ACM、IEEE、PubMed、Science.gov、Google Scholar）和补充检索中识别出N = 3137篇文章，最终纳入N = 119篇文章，这些文章（1）关注基于LLM的聊天机器人，且（2）关注使用对心理健康造成的伤害。文献被分为五类。概念性文章提到了基于聊天机器人局限性（幻觉、谄媚、偏见）、数据安全问题以及严重或高风险精神病例（如自杀、精神病）风险的伤害。小场景研究显示，与临床标准相比，基于LLM的聊天机器人在回应心理健康查询时不恰当。对聊天机器人的认知过度依赖与认知和学业表现下降有关。基于LLM的聊天机器人的问题性使用（以情感或社交依赖和戒断症状为标志）与心理健康症状相关。关于AI精神病的文章提出了妄想信念与基于LLM的聊天机器人使用之间的几种潜在联系，例如聊天机器人强化和验证妄想信念的风险。这一结构化、综合性的概述表明，理论和实证工作识别出与LLM聊天机器人在心理健康中的使用相关的多种假设性和观察到的伤害。