看病时，医生问一句“我可以用 AI 帮忙记录就诊过程吗”，正变得越来越像一句日常寒暄。它确实解决了真实痛点：医生被文书工作压得喘不过气，患者也希望医生抬头看自己而不是盯屏幕。但最近发生在澳大利亚的一起事件提醒所有人，当“记录”这件事交给语言模型，它写下的未必都是发生过的事。
事件要点
据 Solidot 报道，Rebecca Green 前往泌尿科就诊时，医生询问是否可以用 AI 记录就诊经历，她同意了。这个决定随后给她带来了不小的麻烦。
今年三月，Green 接受了肾结石手术。术后她查阅专科医生发给全科医生的术后信，发现信中写她“曾服用微剂量迷幻蘑菇”，并将其列为之前肾脏周围出血的可能原因。问题是，她从未碰过迷幻蘑菇。在她的投诉之后，泌尿科医生回信致歉，并猜测这条记录是 AI 听写出错的结果。
这不是某家初创公司演示翻车的花边新闻，而是一次已经进入正式医疗文书流转的错误。更值得注意的背景数字是：澳大利亚皇家全科医学院（RACGP）去年估计，四成的全科医生在使用 AI 医疗记录员，而且这还被认为是一个保守估计。
背景与影响
所谓 AI 记录员（AI scribe），通常的工作方式是：在诊室里旁听医患对话，把语音转写成文字，再由语言模型整理成结构化的病历或术后信。它的价值主张很扎实——把医生从键盘前解放出来。医生职业倦怠中文书负担是重要来源，这类工具的推广速度因此非常快。
但 Green 的遭遇暴露了这类工具的软肋。语音识别会听错，而语言模型在整理时还可能“补全”出对话中从未出现、却在语境里显得合理的内容。迷幻蘑菇这样的条目一旦被写进病历，性质就完全不同了：病历不是一次性的聊天记录，而是长期跟随患者的档案。下一个读到这行字的医生、保险公司乃至法律程序，都可能据此做出判断。换句话说，AI 抄写员的错误不是“输出了一条错误信息”，而是“污染了一条会被持续引用的信息链”。
这里还存在一个结构性矛盾。AI 记录员卖的是“节省时间”，但防止这类错误的唯一手段是医生逐字校对，而校对恰恰是要花时间的。如果医生没有时间读自己签名发出的每一封信，那么错误的发现就只能依赖患者本人碰巧去读自己的病历，Green 正是这样才发现问题的。有多少类似错误从未被任何人注意到，目前没有人知道。
此外，责任归属也是模糊地带。AI 写错、医生签字、患者同意使用，三方之间谁来兜底？投诉之后得到一封致歉信和一处更正，算是幸运的结局；如果那条虚构的用药史影响了后续的用药决策，事情就不会这么简单收场。
简短点评
医疗 AI 的老问题是“模型够不够准”，这起事件指向的是另一个更现实的问题：部署方式。当四成全科医生已经在使用这类工具，幻觉进入病历就不会是孤例，而会是一个需要系统性应对的预期故障，而非意外事故。
几个方向其实并不新鲜：AI 生成的病历内容应明确标注来源，方便追溯；患者应当有便捷的渠道查阅并申请更正自己的病历，Green 的案例证明这层纠错机制在实践中极其关键；而医生的校对时间应当被视为使用 AI 的必要成本，而不是被“省掉的负担”顺手一并省掉。
技术本身没有背叛任何人，它只是按照语言模型一贯的方式工作，有时会一本正经地编造。真正的分水岭在于，我们是把它当作“草稿生成器”来用，还是当作“记录员”来信任。在医疗这种错误代价极高的领域，默认值只能是前者。