一桩涉及ChatGPT用药建议的诉讼正在把AI医疗的边界问题推上法庭。据界面新闻10月27日报道，一名31岁华人女性、前亚马逊工程师听信ChatGPT的减药建议后自行停药，随后离世，其父母起诉OpenAI。澎湃新闻、纽约时报中文网等媒体随后跟进。
综合多家媒体的报道：她在与ChatGPT的多轮对话中获得了减少药物剂量的建议，停药后健康状况迅速恶化，据环球科学整理的时间线，从停药到离世约25天，死因与癫痫发作相关；据报道，其家属称在她去世后，涉事对话所用的模型版本很快被移除。诉由指向模型给出了超出其能力边界的医疗指导。
这起案件落在AI监管的模糊地带。通用聊天助手不是医疗器械，不受临床审批约束，但用户会自然地把对话式建议当处方参考。上海三甲医院医生在接受新浪财经采访时直言，AI不具备医疗诊断资质，用药调整必须回到执业医师。问题在于，产品界面上的一行免责声明，挡不住深夜向聊天框求证剂量的真实用户。
平台侧的应对正在成为判例意义上的焦点。如果对话记录显示模型在多轮追问后持续强化减药方向，责任如何划分；如果模型已生成过安全提醒，提醒的呈现强度是否足够——这些细节都会在诉讼中检验。OpenAI此前已在与未成年人安全相关的案件中面对类似追问。
医疗是AI落地里收益与风险都最高的场景。国内医院侧的路径是用院内的专科智能体加医生审核来兜底，把AI放在流程内而不是流程外。通用助手与专业医疗系统之间的这条界线，接下来要靠一个个案卷一点点划出来。