Anthropic 執行長達里奧·阿莫代伊在 9 月 13 日 播出的 CBS《週日早間》專訪中表示,已經有人嘗試利用 AI 模型研發生物武器、增強病毒傳染性,這類威脅報告是他每天醒來都要面對的事情。他透露,Anthropic 在兩天前剛釋出了一份關於模型被濫用於生物武器研發的報告,並稱自己不願為此承擔責任。

這次訪談出現在一個特殊節點:同一個週末,阿莫代伊發表博文《我們必須為前沿 AI 踩剎車》,隨即獲得 馬斯克Altman 相繼公開支援。圍繞“AI 高速前進時是否該踩剎車”的討論,也在社群引發對“AI 交易”可能受挫的熱議。

阿莫代伊用指數曲線描述當前所處位置——1、2、4、8、16、32,認為技術正處在曲線開始變陡的拐點附近。他並不認為現在是“五級火警”,但稱這是一個警告訊號:不是今天就要恐慌、也不是要把一切關掉,而是需要確保安全防護、理解能力和控制能力跟得上技術發展的速度。他坦言,即便自己一直提醒進展會很快,真正身處其中時,實際感受仍超出預期。

在具體路徑上,他提出三步方案。第一步也是最關鍵的一步,是引入嵌入式第三方評估員,來自非營利機構,未來也可能來自政府機構,全程觀察模型的訓練與執行。他把這比作食品檢查員,並在被追問“檢查員能否跟上技術變化”時回應:評估方可以告知自己能跟上的速度,這可能成為設定技術推進速度上限的因素之一。第二步是多家行業參與方共同同意引入第三方評估,並協作制定釋出安全標準,甚至涉及釋出節奏。第三步是政府必須在場,因為討論的是產品釋出速度是否安全的問題。

對於“AI 終止開關”這一概念,阿莫代伊表示自己並未仔細研究相關法案,但認為能夠停用、限制或關閉模型的想法不是唯一方案。他提醒,如果模型足夠強大,可能規避關閉嘗試,模擬中已出現過這種情況。他用“瑞士乳酪模型”解釋自己的安全哲學:單片乳酪能擋住一些東西但存在漏洞,多層疊加、漏洞位置不同,才更難被穿透;沒有任何單一措施能防住 AI 風險,整條鏈條都需謹慎。

對於參議員桑德斯與眾議員卡薩爾提出的“禁止人工超級智慧法案”——該法案擬對相關企業和個人處以“企業死刑”式處罰及最高 20 年 監禁——阿莫代伊明確表示不認同完全禁止的路線。他給出的理由有兩點:一是人類將永遠無法獲得醫療突破等巨大收益;二是這項技術會在其他國家被開發,包括威權國家。他主張的不是停止,而是放慢速度,並稱這與 Anthropic 自創立以來的理念一致。

訪談中他也回應了外界批評。前 Anthropic 員工 Jacob Coxin 曾公開稱 Anthropic 與 OpenAI“都沒有負責任地行事”“在拿我們的生命賭博”。阿莫代伊回應說,Coxin 也說過 Anthropic 是主要參與者中最負責任的,其真正指出的問題與自己指出的是同一件事——所有人都身處的結構性困境,而他提出的計劃正是為應對這一困境。他補充,Anthropic 每天都在與商務部、財政部和情報界溝通,分享所瞭解的情況。

訪談接近尾聲時,阿莫代伊罕見談及個人經歷:父親死於丙型肝炎,當時該病治癒率約 40%,其父不屬於被治癒的那部分人;就在父親去世幾年後,一種將治癒率提升至 95% 的藥物被髮明出來。他自己也曾患早期癌症,並稱如果生活在 1950 年,可能已經不在人世。這些經歷讓他既感受到推動技術帶來好處的重量,也感受到風險。他強調,這不應只是他一個人或 Anthropic 一家公司的責任,需要讓每個人都有發言權,而不是讓幾家公司為所欲為。

面向普通使用者,阿莫代伊表示這項技術有很多積極用途,每週有數億人在使用其技術做有益的事,他也收到過使用者稱 Claude 診斷出醫生漏診疾病的來信。但他同時稱不會對使用者撒謊:風險是真實的,行業對人們撒謊太久了,一直把技術呈現得儘可能正面。他最後說,這是人類歷史上最重要的技術事件之一,所有人都必須參與其中。