9月30日,特朗普在白宫东厅与约二十余位AI高管共进午餐后,向记者宣布了一份自愿性「AI协议」。签署方为六家公司:Anthropic、OpenAI、谷歌、Meta、SpaceXAI(原xAI)和英伟达。特朗普称这份文件「几乎像一部宪法」,是应对AI风险的一种保护形式。但据英国《金融时报》报道,这份仅两页纸的文件在东厅仓促起草,其中甚至包含一处拼写错误。

协议要求签署方履行三项核心义务:建立「多层控制与审计」机制,持续监控先进模型带来的网络安全与生物安全威胁,确保模型不会以非预期方式入侵其他系统;与独立外部审计机构合作,由第三方核验内部控制是否有效;在董事会层面设立独立委员会,监督上述两项机制。三项义务指向同一结果:每一次模型发布都须经历测试、监控与外部核验的完整流程。

不过,真正的新增约束有限。据报道,Anthropic、OpenAI和谷歌DeepMind此前已在发布前对先进模型进行能力评估,除英伟达外,其余公司均在2024年首尔AI峰会后签署过类似承诺。有媒体评价称,协议可能迫使此前尚未开放独立评估访问权限的签署方——尤其是英伟达——跟进外部审计要求;对头部实验室意义有限,对其他公司则是新约束。

协议不具法律效力,特朗普本人将其称为「道德约束」。批评者并不客气。科技监督项目的Sacha Haworth认为,这份协议让CEO们「自己给自己的作业打分」,绕开了真正有意义的AI安全护栏。保守派律师Joel Thayer则从另一角度指出,公开承诺却不实质兑现,对消费者本质上是一种欺骗,并注意到联邦贸易委员会(FTC)主席Andrew Ferguson出席了当天午宴。协议发布次日,FTC即扩大了对AI公司的调查范围,将Anthropic、OpenAI等纳入审查。

「安全」不等于「放缓」

市场对安全监管的本能反应是定价放缓:测试拖慢发布节奏,发布节奏放慢压缩算力需求。InvestorPlace分析师Luke Lango认为这个逻辑是反的。白宫协议未要求企业放慢模型开发,而是把重点放在内部评估、外部审计和风险控制上。如果每次模型发布都必须触发一轮测试、监控和同行评审,那么「安全合规」本身就是一笔持续的算力支出,而非对算力支出的压制。

英伟达近期的动作与此呼应。9月28日,英伟达联合逾100家合作伙伴推出Open Agent Safety Platform,将开源访问控制与运行在独立芯片上的监控层相结合,该监控层可在不嵌入AI系统内部的情况下对其进行监控。黄仁勋表示,AI的潜力只有在安全与能力同步解决的前提下才能实现。英伟达还承诺向光互联企业Lumentum投入20亿美元,用于扩大产能并深化数据中心光学联合研发,把安全叙事直接转化为硬件合同。

Lango进一步指出,需求结构正在发生方向性转变:从GPU密集的预训练,转向推理与测试阶段,后者更依赖数据传输效率和多任务协调,而非原始算力。他预计这一转变将在未来6至12个月内主导需求走向,并认为自我监管不会终结AI资本开支周期,只是改变了钱的流向——从预训练GPU流向推理、测试和互联基础设施。他关注的受益方向包括专注数据中心网络互联的Marvell、今年3月推出首款自研量产芯片AGI CPU的Arm,以及专注数据中心光互联的Lumentum。

幕后交锋

镜头前,各家CEO站在特朗普身旁,呈现团结一致的行业形象;镜头后则是一场正面交锋。据《华尔街日报》援引知情人士消息,午餐结束后,在罗斯福厅一个更小范围的会议中,包括英伟达CEO黄仁勋在内的多位高管,当面质问Anthropic CEO Dario Amodei:为什么要在公开场合对AI能力和风险发出如此极端的警告?Amodei的回应是,对公众诚实地说明模型能力、不淡化风险,这很重要。

Amodei此前多次公开批评白宫和竞争对手淡化安全问题,并警告AI模型可能发动网络攻击、造成大规模失业,这让他在华盛顿和硅谷都成了众矢之的。当天午宴上,当Amodei再次提出安全顾虑时,扎克伯格的回应是:解决这些问题最好的方式,就是作为一个行业切实落实这些原则。

扎克伯格与黄仁勋:真正的推手

这场白宫午宴并非偶然。据《华尔街日报》知情人士透露,起点是上周的国宴——扎克伯格和众议院议长Mike Johnson在宴会上相邻而坐,谈起了AI政策。随后,扎克伯格和黄仁勋开始协调各家CEO,特朗普和Johnson则组织了这场午宴。扎克伯格是协议最终成形的关键人物,他频繁与特朗普及商务部长Howard Lutnick沟通,后者主管政府的一个关键AI测试部门。

他与黄仁勋共同主导了更重要的一件事:否决此前的强监管方案。今年夏天,Anthropic、OpenAI和谷歌曾联合推动一个类似FINRA(金融业监管局)的AI自律组织方案。但据报道,扎克伯格、黄仁勋和马斯克告诉特朗普,他们担心这会将过多权力集中在头部AI公司手中,该方案随即被放弃。最终落地的,是这份更轻、更软的自愿协议。值得注意的是,被否决的FINRA式方案其实也包含与最终协议类似的内容——更强的内部评审和外部测试机制。两套方案在技术要求上高度重叠,真正的分歧在于由谁掌控这套机制,黄仁勋和扎克伯格选择的答案是:行业自己。

Anthropic的处境

Amodei当天对记者表示,如果行业和政府携手合作,可以安全地赢。特朗普称赞他「很棒」,两人周日刚在白宫共进晚餐,这是两人的首次面对面会面。但Anthropic的处境并不轻松。据报道,该公司正在为IPO做准备,目标估值约2万亿美元。与此同时,它今年早些时候经历了两场与政府的正面冲突:两款模型因安全问题被迫下线长达两周半,以及因AI军事用途争议遭五角大楼列入黑名单。此次协议的直接背景,是Anthropic的Mythos等模型发布后引发的一系列AI网络攻击事件。