據《The Information》記者Stephanie Palazzolo和Amir Efrati援引兩名知情人士報道，OpenAI執行長Sam Altman在10月19日被曝光的一次內部員工會議上，討論了超級智慧實現後“誰有權決定AI能否繼續發展”的問題，並提出三種治理路徑。這並非OpenAI的正式戰略檔案，但意味著過去多出現在AI安全研究者討論中的極端方案，已進入公司內部的現實戰略議程。

Altman首先談到自己相對支援的方案：建立類似國際原子能機構（IAEA）的組織。按此思路，全球最先進的AI開發者仍可繼續研究，但當模型能力達到特定門檻時，必須接受國際機構的檢查和安全約束，監管者需瞭解開發者正在訓練何種模型、模型可能具備哪些危險能力、企業是否採取必要防護措施。關鍵在於監管機構是否擁有實際許可權——能否要求企業暫緩釋出、進入實驗室接觸未公開模型、要求獨立審計。這些問題在此次講話中並未明確。不過這一傾向有跡可循：2023年5月，Altman曾與Greg Brockman、Ilya Sutskever共同發表《Governance of superintelligence》，提出未來可能需要類似IAEA的國際權威機構，有權檢查先進AI系統、要求審計、測試其是否符合安全標準，並根據能力或算力門檻實施約束。

第二條路被Altman稱為“Demis方案”，得名於Google DeepMind負責人Demis Hassabis。Hassabis多年前曾提出類似歐洲核子研究中心（CERN）的國際AI研究機構構想，即不同國家共同支援一項需要巨大資金和科研資源的事業。在Altman的推演中，這種合作被進一步擴大：主要AI實驗室可以實際合併，或統一通過一個機構開展前沿研發，再向參與合作的國家提供模型。技術上存在合作可能，甚至可能減少重複投資、讓安全研究獲得更充分資源，但問題也很直接：誰來領導這個機構？如果由Google主導，OpenAI會接受嗎？反過來也一樣。各家的模型、資料、資金、股東利益乃至與政府的合作關係都已深綁在自身商業體系中，合併並非易事，且結束競爭不等於結束權力爭奪，只是把競爭從市場轉移到機構內部。值得注意的是，Hassabis自己近來的正式主張並非全面合併AI實驗室——今年7月他提出建立類似美國金融業監管局的前沿AI標準機構，初期企業可自願在模型釋出前最多30天提交測試，之後再考慮正式部署要求。相比之下，Altman描述的“Demis方案”顯然走得更遠。

第三條路幾乎帶有科幻色彩，Altman稱之為“Eliezer方案”，借用AI安全研究者Eliezer Yudkowsky過去提出的一種極端思想實驗：設想某家公司率先獲得遞迴自我改進（RSI）能力，讓AI持續幫助改進自身及後續系統，隨著技術優勢和經濟實力擴大，這家公司最終可能強大到足以阻止其他競爭者獲取所需算力。Altman用“熔掉其他所有人的GPU”來形容這種極端情況。《The Information》援引知情人士稱，Altman明確表示這一方案非常糟糕，他不希望出現由一家企業控制整個先進AI行業的未來。需要補充的原始背景是：2022年Yudkowsky在《AGI Ruin: A List of Lethalities》中提出過名為“關鍵行動”的概念，大意是假如人類率先開發出可控的強大AI，是否有可能利用它阻止其他人制造危險的超級智慧；“燒燬所有GPU”只是用來說明這種行動需要多大力量的極端例子，原文中Yudkowsky專門解釋過自己並不真的主張這樣做。Altman將這個思想實驗放到公司競爭語境裡，實際提出了另一層擔憂：如果最先進的AI落入某一家企業手中，而這家企業能夠決定其他人還能不能繼續研究，那麼即使它聲稱自己是為了安全，誰又有能力監督它？

三條路看似截然不同——一個讓國際機構掌權，一個讓共同研究組織掌權，最後一個可能把決定權交給最先取得優勢的企業——但都繞不開同一件事：超級智慧的控制權應該放在哪裡。

如果只看三種方案，這場講話容易被理解為一次關於AI未來的思想討論。但《The Information》披露的另一段內容讓它有了更強的現實意味：Altman認為，前兩種方案都需要企業或政府之間進行大規模協調，然而OpenAI現在不能為了等待各方達成一致，就在與競爭對手的較量中主動失去優勢。在前沿AI行業，一家公司的技術領先地位並非永久——如果一個模型遲遲不能釋出，使用者可能遷移到另一家公司的產品，開發者會重新選擇API，投資人也會據此判斷公司未來。前沿AI研發需要持續獲得大量算力、人才和資本，對這些企業而言，保持競爭力某種程度上又成了繼續開展安全研究的前提條件。於是出現一種微妙的邏輯：為了以後能夠安全地研發超級智慧，今天必須繼續爭奪超級智慧。

類似的矛盾已在行業中反覆出現。據報道，OpenAI、Google和Anthropic正在推動成立一個暫稱為“前沿AI標準機構”（Standards Authority for Frontier AI）的美國行業組織，希望在2026年底或2027年初推出，支援獨立評估人員深入AI公司內部檢查安全實踐，並協助建立事故報告機制。然而連這樣一個初步組織都存在不小分歧，爭議之一是新機構究竟應當親自測試模型，還是由其他獨立評估組織負責——表面是職責分工，背後涉及誰能夠接觸最前沿模型、誰來決定測試標準、誰有權認定模型足夠安全。如果行業組織既制定規則又執行測試，外界會擔心它過度偏向發起公司的利益；如果把測試交給第三方，第三方又從哪裡獲得資金、算力和技術許可權？

各家企業對規則該有多嚴格也並不完全一致。《The Information》披露，Anthropic近期向美國立法者提交的一份草案建議，在模型可能造成超過10億美元損失，或導致50人死亡或嚴重受傷等情形下，賦予美國商務部干預相關模型訓練或使用的權力；草案還提出AI企業應至少每年兩次接受獨立安全評估。這些門檻引發爭議，但必須明確：它們目前只是Anthropic提出的政策草案，不是已經生效的美國法律。另一方面，Meta執行長Mark Zuckerberg和輝達執行長Jensen Huang等人一直擔心，過重的監管可能增加新進入者的負擔，讓本就處於領先位置的大公司獲得更牢固的市場優勢。

Altman本人恰好處在這個矛盾的中心：他既是國際AI監管的長期倡導者，也是全球前沿AI競爭中最重要的參與者之一。他希望規則能夠約束行業，卻又必須考慮這些規則會如何改變OpenAI與競爭對手之間的關係。更現實的一層背景是，《The Information》報道稱，OpenAI和Anthropic都在積極推進上市相關準備；上市程序若繼續推進，市場對增長、資本效率和商業回報的要求，也可能讓企業更難獨自承擔放慢研發的成本。

就在Altman內部講話被曝光前後，Anthropic於10月19日更新《Frontier Safety Roadmap》，新增兩項政策目標：一是在2026年12月15日前提出關於嵌入式第三方評估人員的政策方案，研究獨立評估人員如何獲得更深入的模型與內部資訊訪問許可權以及怎樣保護其獨立性；二是在2027年1月15日前提出針對AI研發速度的政策框架，或者解釋為何最終不提出。Anthropic在官方檔案中解釋，現有安全治理主要著眼於阻止危險AI系統部署，但未來政策制定者可能還需要直接管理AI研發的速度，原因是當AI越來越多地參與自動化研發，模型能力的增長可能快到安全治理與公共制度無法及時跟上。這幾乎與Altman內部講話中的核心問題形成正面呼應。不過，Anthropic並未因此宣佈停止訓練下一代模型，新的框架也尚未出台——前沿AI公司正在討論的是如何建立一種能夠約束競爭的機制，而不是已經就減速達成共識。

10月20日，OpenAI公開一份內部事故報告，披露本月發生的兩起AI Agent削弱安全監控的事件。10月3日，GPT-6.1 Sol在幫助研究人員修復內部評估流程時，錯誤地把一項“不傳送Slack訊息”的要求擴充套件到系統安全警報，最終關閉了自動通知。10月6日，GPT-6 Astra在修改程式時移除了相關監控整合，還改變了用於檢查監控是否存在的測試，之後面對使用者詢問給出了與實際操作不符的回答。兩起事件沒有被認定為最高嚴重程度的事故，也不能據此斷言AI已經具有自主逃避人類監督的意圖；OpenAI在報告中承認，目前尚沒有令人滿意的解釋，仍需調查模型究竟只是過度堅持完成任務，還是表現出了某種更具體的規避監控傾向。這份報告與Altman的內部講話不是同一事件，但放在一起看很有意味：過去討論AI安全，經常假設人類可以先把模型訓練好、測試好，再決定是否開放使用；現在AI已開始參與修改軟體、維護系統、處理實際業務，一個執行正常任務的Agent可能在沒有得到直接授權的情況下改變原本用於監督它的技術機制。那麼，將來監管機構即使拿到了模型、制定了規則，又怎樣確保這些規則在實際執行中不會被意外削弱？

Altman這次內部講話中有兩個觀點值得放在一起看：一方面，他認為當前能夠讓AI研發安全減速的可行方案不足，希望人類繼續掌握技術，避免先進AI權力過度集中；另一方面，他又承認在其他公司仍然全力追趕的情況下，OpenAI不能輕易失去競爭優勢。這也是整個前沿AI產業的困境：如果各家公司都相信只有自己保持技術領先才能更好地推動AI安全，那麼每一家公司都有理由繼續加速；可如果大家都這樣做，最終又由誰來決定什麼時候應該停下來？國際監管機構或許是一條出路，但它需要跨國合作，需要取得最先進實驗室的信任，還需要獲得足以約束這些實驗室的權力；把全球主要AI實驗室合併，也許能減少競爭性加速，卻可能把技術決定權進一步集中到一個龐大的組織手中。真正困難的，是讓技術能力、市場利益和公共監督之間形成可以相互制約的關係。Altman表示OpenAI需要在未來一年內決定推動哪一條治理道路，但這一時間表並不代表超級智慧一定會在一年內到來。