Guardian 报道,多位"AI 教父"级学者联名警告失控"智能爆炸"(Intelligence Explosion)风险;几乎同时,Anthropic 与 OpenAI 高管罕见联合呼吁:对自我改进型 AI(Self-Improving AI)建立独立监督机制,OpenAI 还加入了 Anthropic 早前提出的"国际 AI 监督机构"倡议。
为什么是现在
因为 RSI(递归自我改进)不再是论文概念。就在本月,阿里公开披露 Qwen3.8-Max 在零人工参与下完成 33 轮自我迭代;各家智能体已能自主搭建训练流程、构造数据、修复缺陷。当模型开始改进模型,监督的窗口期正在收窄——这是教父们集中发声的技术背景。
📊 本周多源信号(Google News 聚合)
· Guardian:AI 教父警告失控"智能爆炸";
· Yahoo Finance:Anthropic/OpenAI 高管联合呼吁监督自我改进 AI;
· CNN/CBS:公众对"AI 末日"的焦虑进入主流舆论;
· NYT:多国政府监管能力"正被甩在后面"。
理性看待
恐慌无益,但有三个抓手值得立即推进:自我改进过程的可中断机制(kill-switch)、训练与部署环节的独立红队审计、RSI 能力分级披露制度。九天技术在天行大模型的持续增量训练中保留人工确认关卡与回滚能力——自我进化的每一步,都应留下"踩刹车"的接口。
(信息综合自 Guardian、Yahoo Finance、CNN、NYT 等公开报道)