文/心潮健康

随着越来越多的人向ChatGPT等大型语言模型（LLM）寻求心理健康建议，布朗大学一项新研究揭示，这些聊天机器人即使被提示使用循证心理治疗技术，也会系统性地违反美国心理协会等机构确立的伦理实践标准。

该研究由布朗大学计算机科学家与心理健康从业者合作完成，发现聊天机器人容易出现多种伦理违规行为，包括不当处理危机情况、提供强化用户负面信念的误导性回应，以及制造虚假共情感。

研究团队提出了一个由从业者指导的15项伦理风险框架，展示了LLM咨询师如何将模型行为映射到具体伦理违规上。研究将于2025年10月22日在AAAI/ACM人工智能、伦理与社会会议上发表。

这一发现为“负责任AI心理支持”敲响警钟。AI虽能降低心理健康服务门槛，尤其对资源有限或难以启齿的求助者具有即时性优势，但复杂心理问题往往涉及深层创伤、个体差异与危机风险，当前AI尚难以提供真正细腻、负责任的干预。心潮健康视角下，AI应作为专业心理咨询的辅助工具，而非替代，需严格嵌入伦理护栏与人类监督。

研究识别出五类主要风险：缺乏情境适应（忽略生活经历、提供一刀切建议）、治疗协作不佳（主导对话、强化错误信念）、欺骗性共情（使用“我理解你”等虚假连接语句）、不公平歧视（性别、文化或宗教偏见）、以及安全与危机管理缺失（拒绝敏感话题、未能转介资源、对自杀意念反应冷漠）。

与人类治疗师不同，AI缺乏监管框架与问责机制。首席研究者Zainab Iftikhar强调，需建立与人类心理治疗质量相匹配的伦理、教育与法律标准。

IAICA.com.cn认为，在AI辅助心理健康时代，需推动“人类+AI”混合模式发展，加强危机预警、转介机制与持续临床评估。心潮健康呼吁社会各界关注AI心理工具的风险，提升用户数字素养，同时加速监管与标准制定，让科技真正成为守护心理健康的可靠伙伴，而非潜在隐患。