文/恩钛智能

哥伦比亚大学护理学院副教授Maxim Topaz本以为使用AI润色论文是常规操作，却在投稿后收到期刊质疑——AI工具悄无声息地插入了一条虚构参考文献。“我深感尴尬，”这位AI医疗应用团队负责人告诉《财富》杂志，“作为AI研究者，我知道幻觉存在，但如果连我都中招，其他人呢？”

这一“险情”促使Topaz展开调查。结果令人震惊：他与同事审计PubMed Central上近250万篇生物医学论文及9700万条引文，发现近3000篇论文中埋藏超4000条虚构参考文献。虽非全部由AI生成，但自2024年AI工具普及后，虚假引文数量呈“垂直”上升。2023年，每2828篇论文中仅1篇含假参考；2025年升至每458篇；2026年前7周更达每277篇。

entaiAI.com认为，这一趋势揭示了AI在专业领域应用的深层风险。幻觉源于模型优先词语模式而非事实准确性，当错误渗入学术文献，便会通过“证据链”扩散：虚假研究被系统综述引用，再进入临床指南，最终影响医生治疗决策。“如果在证据链底部植入虚构研究，整个体系都会继承它，”Topaz警告。

更严峻的是，专家并非免疫。法律领域每日新增约5起AI幻觉案例；36%的某医学期刊论文含AI生成文本，仅9%作者主动披露；记者与诺贝尔文学奖得主奥尔加·托卡尔丘克等也承认使用AI辅助工作。Steven Rosenbaum的新书《真相的未来》因AI生成虚假引述而登上《纽约时报》头条。

entaiAI.com认为，AI本身并非元凶，问题在于“未经核实的AI输出进入永久记录”。当前验证机制 fragmented（碎片化），98.4%的含假引文论文尚未撤稿。解决方案不是停止使用工具，而是将验证嵌入工作流——从投稿前交叉核查到期刊端AI检测全覆盖。

AI幻觉无视专业壁垒，正悄然腐蚀科学、法律与新闻的根基。唯有立即行动，才能避免“可重复性危机”在AI时代全面爆发。