美国 AI 公司 Anthropic 因一份私下推动的联邦监管草案陷入信任危机。据 Politico 援引三名知情人士报道，Anthropic 正私下向美国国会议员推介一份联邦 AI 安全立法草案，路透社随后跟进确认。这份长达 37 页、暂名为《人工智能评估、治理与事件安全法》（AEGIS Act）的讨论稿随后在网上流传，其中一条规定成为争议焦点：政府若想叫停危险 AI 模型，必须证明其可能造成 50 人以上死亡或重伤，或 10 亿美元以上财产损失。
草案还要求大型前沿模型开发者公开风险报告、接受第三方评估，并向政府报告重大安全事件。对于可能造成灾难性后果的模型，草案设计了一套由联邦政府申请司法禁令的干预程序，但同时对政府行动施加多重约束：商务部长需亲自批准相关申请，政府须说明危险预计何时发生、为何其他干预手段不足，临时禁令最长只有 45 天。此外，草案提出在联邦法律覆盖的领域以统一规则取代州级监管，措辞可能限制各州独立暂停模型开发或部署的权限。
50 人门槛并非 Anthropic 首创。2025 年加州通过的《前沿人工智能透明法》（SB 53）同样采用 50 人伤亡或 10 亿美元损失的灾难性风险标准。但两者法律效果不同：加州法案主要用该标准界定企业需要披露和评估的重大风险，而 Anthropic 参与推动的联邦方案将其进一步用于特定模型的禁令程序。批评者认为，这相当于给政府叫停模型设定了极高的举证门槛。
质疑声来自 Anthropic 曾经的盟友。AI 安全倡导组织 Encode 首席战略官 Nathan Calvin 曾与 Anthropic 共同推动加州 AI 安全立法，他在 10 月 19 日发表长文，直言 Anthropic 联邦事务负责人 Anthony Cimino 的解释未触及核心担忧，并抛出质问：“Anthropic，你到底是一家怎样的公司？”Calvin 列出三种可能：追求商业回报的科技公司、真正以 AI 安全为使命的组织，或首先想赢得超级智能竞赛的公司。他认为 Anthropic 过去一年的行为越来越符合第三种，并列出九项论据，包括据报道已签署超过 5000 亿美元的算力合作协议、组建自研芯片团队，以及 Claude 参与内部 AI 研发的比例从 3 月的 0% 升至 8 月的 26%。他还批评 Anthropic 今年 2 月更新的《负责任扩展政策》第三版削弱了此前在安全条件不满足时不推进开发的硬性约束。
10 月 21 日，Anthropic CEO 达里奥（Dario Amodei） 在 X 上发表近 2000 词长文回应。他肯定 Calvin 的监督工作，但明确表示不同意其核心观点。达里奥承认三处问题本可处理得更好：提交给国会后又撤回的信件、关于“第二名无法做好安全”的公开表述，以及这份联邦监管草案；他将原因归结为政策沟通措辞不严谨和公司快速扩张中的团队信息同步不足，并称“我是 CEO，我负责”。对于算力、芯片和内部研发等前四项质疑，他态度明确：这是参与前沿 AI 竞争的正常做法，Anthropic 从未承诺退出竞争。他重申“向上竞赛”理念，认为只有站在最前沿，才能证明强大模型可以负责任地开发，进而推动行业安全标准。
为回应商业利益质疑，达里奥列出九项据称让公司付出商业代价却有利于安全的决定，包括推动加州 SB 53 立法、坚持生物安全防护、支持政府获得阻止危险模型的权力、限制向中国相关受控实体提供服务，以及承诺将公司 5% 的股份用于公共利益基金。其中最受关注的是他首次披露：Anthropic 在 今年 2 月已具备 Mythos 级别模型能力，但因担心其网络攻击能力被滥用，先向少量网络防御合作伙伴开放，直到 6 月更强防护措施就绪才扩大访问，相当于推迟约 四个月。达里奥称这可能让公司损失了数月技术领先优势中的相当一部分。不过，该时间点与损失规模目前主要来自其本人陈述，缺乏独立量化证据。
截至目前，Anthropic 尚未公开足以全面解决争议的修订版法案，也未明确承诺降低 50 人伤亡门槛。Cimino 表示会修改草案中不够精确的措辞并重新研究部分争议条款。这场风波的核心分歧在于：Calvin 担心公司为赢得竞争而放松安全约束，达里奥则认为落后于竞争更难推动行业重视安全。对观察者而言，一家 AI 公司是否愿意为安全作出牺牲，与其提出的监管规则是否足够严格，仍是需要分别检验的两件事。