当地时间11月12日,一个由四家非营利组织组成的联盟向美国旧金山高等法院提起诉讼,将Anthropic、谷歌、Meta、OpenAI与SpaceX旗下AI企业一并列为被告,要求法院阻止这些企业继续开发更先进的AI模型。据观察者网11月13日报道,原告指控五家开发商明知前沿AI可能带来灾难性风险,仍竞相推进研发,甚至开始让AI参与自身的研发工作。

原告由安全AI联盟、不可替代教育基金、公共公民组织与热潮倡议组成。安全AI联盟CEO布伦丹·斯坦豪瑟在声明中称,这些企业的高管多年来一直在警告自家前沿模型可能带来灾难性风险,“明知AI系统并不总是按照开发者的意图行事,也清楚目前不存在可靠的方法来控制这些系统”。诉讼文件还提出,随着企业越来越依赖现有AI模型开发下一代模型,“递归自我改进”的风险可能进一步扩大。
起诉书大量援引了被告高管此前的公开表态:奥尔特曼2015年称AI“很可能最终导致世界末日”,阿莫代伊2025年表示AI发展有25%的可能性带来灾难性后果。今年9月,阿莫代伊发起行业倡议,呼吁共同控制前沿模型的性能提升速度,奥尔特曼与马斯克随后表态支持。
口头警告之外,研发与商业扩张并未减速。Anthropic仍按计划推进IPO,目标估值最高约1.4万亿美元,预计11月19日在纳斯达克挂牌,并于11月9日发布旗舰模型Claude Fable 5.2与Mythos 5.2;该公司还与美国AI基础设施企业RUM Group签署了为期六年、价值137亿美元的算力采购合同。马斯克10日在社交平台X透露,旗下拥有2.5万亿参数的Grok 4.8已完成预训练,正处于强化学习阶段;OpenAI则与澳大利亚企业Firmus合作在马来西亚部署专用算力。
这并非AI开发商首次被推上被告席。今年6月,佛罗里达州总检察长起诉OpenAI指控ChatGPT存在安全隐患;10月,美国另有8个州分别在各自法院起诉OpenAI。与此前聚焦具体伤害的诉讼不同,本案直接要求叫停前沿模型开发本身——技术竞赛与风险控制的拉锯,正式进入了司法场域。