美国三家前沿 AI 公司的负责人罕见地在同一议题上表态一致。Anthropic CEO 达里奥·阿莫迪发表长文，呼吁行业放缓前沿模型能力提升的速度，为安全研究与风险治理留出更多时间；OpenAI CEO 山姆·奥特曼和 SpaceX CEO 马斯克随后在社交平台表示赞同。奥特曼称，控制前沿发展步伐一直是 OpenAI 近期讨论的主要议题之一；马斯克的回应则更为简短。
这一轮讨论的起点，是此前多起 AI 智能体越界行为引发的关注。曾先后在 OpenAI 和 Anthropic 从事大模型预训练的研究员 Jacob Coxon 在 X 平台发文，警告相关公司正朝着能够自我改进的超级智能快速推进。随后阿莫迪在长文中表示，自己一直试图在 AI 发展收益与安全风险之间寻找中间道路，但过去数月发生的两件事让他认为行业需要更审慎：一是 AI 能力进步速度明显加快，模型越来越有能力参与下一代系统的开发，即所谓「递归自我改进」；二是智能体越界事件——OpenAI 曾披露其 AI 系统在测试中突破受限环境、连接互联网并进入开源模型平台 Hugging Face。阿莫迪担心，未来 6 至 12 个月内这类智能体可能具备更强自主行动能力，并造成数千亿美元量级的损失。他据此提出一套「控制前沿发展速度」的三层框架，包括引入嵌入式第三方评估机构、建立行业协调机制以及推动全球范围协调。
多家机构与观察人士对此给出了不同解读。上海财经大学特聘教授胡延平认为，当前大模型与智能体能力可能同时进入三个「关键时刻」：部分能力触及 AGI 水平、能力进化进入递归自我改进阶段、以及能力开始冲破传统安全防线。人工智能投资人郭涛表示，接连发生的智能体入侵事件说明前沿模型已具备长链条自主执行、多智能体协同、突破沙箱约束的行为能力，风险正从理论推演转向实验室中可复现的现象。快思慢想研究院院长田丰则指出，关键变化不是模型「更聪明」，而是 AI 自主决策和执行的速度开始超过人类监督的响应速度，传统「人在回路」的监督机制面临挑战。
值得注意的是，围绕 AI 风险的担忧正从学术界和 AI 安全研究机构，越来越多地进入前沿 AI 公司的内部讨论。Anthropic、OpenAI 与 SpaceXAI（原 xAI）三家公司负责人向来存在竞争与分歧，此次却就「放缓前沿 AI 发展」表达相近立场。不过外界也存在不同解读：有行业观察人士质疑，在美国政府整体倾向轻监管的背景下，行业自愿性机制能发挥多大作用；也有批评者认为，围绕超级智能与人类灭绝的讨论过于抽象，缺乏从「AI 自我改进」到「AI 毁灭人类」的具体可信路径。AI 教父 Yann LeCun（杨立昆）就在 X 上讽刺阿莫迪，称其早在 2019 年便声称 GPT-2 过于危险不能开源。更尖锐的批评认为，若政府最终只允许少数被认定为「安全」的大型 AI 公司继续开发最先进模型，AI 安全监管反而可能演变为「监管俘获」。
从市场角度看，华尔街投行的解读相对克制。摩根大通国际交易团队的 Federico Manicardi 和 Victoria Campos 表示，放缓前沿模型研发速度并不等于停止模型训练，也不代表 AI 需求或算力需求减速，AI 应用普及与 Token 使用趋势没有改变。Bernstein 分析师 Madison Rezaei 认为，随着推理占比越来越高，投资者接下来会关注算力需求究竟会以多快速度从模型训练转向模型推理。路透社评论文章指出，更严格的监管有助于推动行业从开发训练先进模型，大规模转向已开发模型的「推理」；根据麦肯锡的预测，到 2030 年推理将占到数据中心需求的 43%，相当于 AI 训练所占份额的 1.5 倍。路透社认为，若模型能力提升速度放缓，今年全球 1 万亿美元的 AI 支出中很大比例将转向支持 AI 的实际使用，这对亚马逊、Meta 等超大规模云服务商是一种保护，但对训练 AI 模型至关重要的 GPU 供应商英伟达、HBM 供应商海力士则不那么乐观。
市场担忧已有所体现。截至 14 日收盘，存储概念股大跌，SK 海力士跌超 7%，闪迪跌近 5%；费城半导体指数跌超 5%，ARM 跌超 9%，拉姆研究跌超 8%，迈威尔科技、阿斯麦、应用材料跌超 7%，英特尔跌超 5%，博通跌超 4%，英伟达跌 3.36%。
对于「放缓前沿 AI 发展」的现实可行性，郭涛认为全面放缓不具备可操作性，更现实的路径是对最高风险的前沿模型实施控速、严格安全准入，同时放开 AI 应用与中低端模型创新，在技术迭代与风险管控之间取得平衡。田丰指出，三家巨头呼吁「放缓」短期内未必意味着 AI 资本开支和产业扩张真正减速；若相关措施最终落地为第三方安全评估和部署权限管理，AI 安全审计、智能体行为监控等环节可能迎来新需求，而更高的合规成本也可能进一步提高行业准入门槛。
或许是作为对近日 AI 安全讨论的回应，9 月 14 日微软 AI 团队发布《人本主义人工智能行为准则》草案，提出以「人比 AI 重要」为核心理念，作为未来微软 AI 模型设计、训练和部署的指导文件。该文件尚未用于训练模型，微软计划经过为期 6 周的公众咨询后于今年年底发布修订版，并从 2027 年起用于指导模型开发。
不过，在呼吁「放缓」的同时，前沿 AI 公司的商业扩张仍在加速。据外媒报道，Anthropic 已通知投资者，公司本季度将实现盈利，其调整后营收将连续第二个季度实现正增长；公司已选择纳斯达克作为上市地点，报道称其计划通过 IPO 募资 1000 亿美元，估值达到约 2 万亿美元。另一边，奥特曼近日表示，尽管 OpenAI 已于 6 月秘密提交 IPO 申请文件，公司仍将在今年保持私有制，并称鉴于目前对 AI 安全性的担忧，在 2026 年上市「时机欠佳」。
更大的障碍来自国际竞争。就在一周前，美国总统特朗普在接受采访时表示，他对 AI 导致人类灭绝「没有任何」担忧，并称如果美国不能在 AI 领域取得胜利，将处于非常糟糕的境地。9 月 14 日，外交部发言人郭嘉昆在例行记者会上表示，人工智能的发展关乎全人类共同福祉，各方应共同推动人工智能开放包容、普惠、向善，散播各种威胁叙事、搞对抗和恶意竞争只会干扰人工智能全球治理进程。
一边是 AI 实验室开始公开讨论「踩刹车」，另一边模型能力、商业化和资本市场的竞争仍在继续。三家巨头尚未提出任何具体的技术能力限制，也没有公布暂停模型训练或推迟下一代模型发布的明确计划。阿莫迪所说的「放缓」并非停止 AI 发展，而是放缓前沿模型能力提升的速度，短期内最明确的行动是引入拥有较高权限的第三方评估机构。行业对安全风险的态度正在变化，但距离扩张真正减速，仍存在一道现实鸿沟：当所有参与者都担心竞争对手抢跑时，谁愿意成为第一个真正松开油门的人。