美國 AI 公司 Anthropic 因一份私下推動的聯邦監管草案陷入信任危機。據 Politico 援引三名知情人士報道，Anthropic 正私下向美國國會議員推介一份聯邦 AI 安全立法草案，路透社隨後跟進確認。這份長達 37 頁、暫名為《人工智慧評估、治理與事件安全法》（AEGIS Act）的討論稿隨後在網上流傳，其中一條規定成為爭議焦點：政府若想叫停危險 AI 模型，必須證明其可能造成 50 人以上死亡或重傷，或 10 億美元以上財產損失。
草案還要求大型前沿模型開發者公開風險報告、接受第三方評估，並向政府報告重大安全事件。對於可能造成災難性後果的模型，草案設計了一套由聯邦政府申請司法禁令的干預程式，但同時對政府行動施加多重約束：商務部長需親自批准相關申請，政府須說明危險預計何時發生、為何其他干預手段不足，臨時禁令最長只有 45 天。此外，草案提出在聯邦法律覆蓋的領域以統一規則取代州級監管，措辭可能限制各州獨立暫停模型開發或部署的許可權。
50 人門檻並非 Anthropic 首創。2025 年加州通過的《前沿人工智慧透明法》（SB 53）同樣採用 50 人傷亡或 10 億美元損失的災難性風險標準。但兩者法律效果不同：加州法案主要用該標準界定企業需要披露和評估的重大風險，而 Anthropic 參與推動的聯邦方案將其進一步用於特定模型的禁令程式。批評者認為，這相當於給政府叫停模型設定了極高的舉證門檻。
質疑聲來自 Anthropic 曾經的盟友。AI 安全倡導組織 Encode 首席戰略官 Nathan Calvin 曾與 Anthropic 共同推動加州 AI 安全立法，他在 10 月 19 日發表長文，直言 Anthropic 聯邦事務負責人 Anthony Cimino 的解釋未觸及核心擔憂，並丟擲質問：“Anthropic，你到底是一家怎樣的公司？”Calvin 列出三種可能：追求商業回報的科技公司、真正以 AI 安全為使命的組織，或首先想贏得超級智慧競賽的公司。他認為 Anthropic 過去一年的行為越來越符合第三種，並列出九項論據，包括據報道已簽署超過 5000 億美元的算力合作協議、組建自研晶片團隊，以及 Claude 參與內部 AI 研發的比例從 3 月的 0% 升至 8 月的 26%。他還批評 Anthropic 今年 2 月更新的《負責任擴充套件政策》第三版削弱了此前在安全條件不滿足時不推進開發的硬性約束。
10 月 21 日，Anthropic CEO 達里奧（Dario Amodei） 在 X 上發表近 2000 詞長文回應。他肯定 Calvin 的監督工作，但明確表示不同意其核心觀點。達里奧承認三處問題本可處理得更好：提交給國會後又撤回的信件、關於“第二名無法做好安全”的公開表述，以及這份聯邦監管草案；他將原因歸結為政策溝通措辭不嚴謹和公司快速擴張中的團隊資訊同步不足，並稱“我是 CEO，我負責”。對於算力、晶片和內部研發等前四項質疑，他態度明確：這是參與前沿 AI 競爭的正常做法，Anthropic 從未承諾退出競爭。他重申“向上競賽”理念，認為只有站在最前沿，才能證明強大模型可以負責任地開發，進而推動行業安全標準。
為回應商業利益質疑，達里奧列出九項據稱讓公司付出商業代價卻有利於安全的決定，包括推動加州 SB 53 立法、堅持生物安全防護、支援政府獲得阻止危險模型的權力、限制向中國相關受控實體提供服務，以及承諾將公司 5% 的股份用於公共利益基金。其中最受關注的是他首次披露：Anthropic 在 今年 2 月已具備 Mythos 級別模型能力，但因擔心其網路攻擊能力被濫用，先向少量網路防禦合作伙伴開放，直到 6 月更強防護措施就緒才擴大訪問，相當於推遲約 四個月。達里奧稱這可能讓公司損失了數月技術領先優勢中的相當一部分。不過，該時間點與損失規模目前主要來自其本人陳述，缺乏獨立量化證據。
截至目前，Anthropic 尚未公開足以全面解決爭議的修訂版法案，也未明確承諾降低 50 人傷亡門檻。Cimino 表示會修改草案中不夠精確的措辭並重新研究部分爭議條款。這場風波的核心分歧在於：Calvin 擔心公司為贏得競爭而放鬆安全約束，達里奧則認為落後於競爭更難推動行業重視安全。對觀察者而言，一家 AI 公司是否願意為安全作出犧牲，與其提出的監管規則是否足夠嚴格，仍是需要分別檢驗的兩件事。