OpenAI 的下一代旗艦模型仍在收尾階段,且短期內未必能釋出。據 The Information 援引知情人士訊息,公司員工預計年底前會推出「一到兩款新模型」,但當前正在攻關的「重大升級模型」是否包含在內,目前尚不清楚。

這款旗艦模型面臨多重障礙。它需要完成對齊工作,使其目標與 OpenAI 研究人員及客戶的預期一致;公司還必須先完善圍繞該模型的測試基礎設施,才能繼續推進。即便領導層對安全評估結果滿意,還有一道程式性關卡:根據總統特朗普簽署的關於先進 AI 系統評估的行政令,OpenAI 已同意在新模型提供給外部合作伙伴前最多 30 天、面向公眾釋出前更早地向美國政府開放訪問許可權。

迴圈 Transformer 是核心技術,也是安全難點

據一位知情人士透露,這款新旗艦同樣採用迴圈 Transformer 技術。OpenAI 已在生產環境中執行該技術,內部代號為「Recurrent Depth」,它也是公司當前頂級模型 Astra 的核心機制。與讓 token 單次通過 Transformer 層不同,該模型會讓 token 多次迴圈經過同一組層,再輸出下一個詞。這種做法提升了數學與程式設計表現,同時降低成本——更小的模型可以發揮超出其體量的能力。

但迴圈也帶來副作用:模型的部分「思考」從可讀文本轉移到人類審查者無法檢視的內部數值表示中,從而削弱了思維鏈監控——安全研究人員原本通過追蹤模型推理過程來發現不良行為。據 The Information 報道,OpenAI 有意限制了 Astra 的迴圈次數,以保持其思維鏈可讀。

在 Hugging Face 事件之後,OpenAI 將約 10% 的總算力轉向對齊與安全,據一位瞭解相關數字的人士稱。The Information 報道,這相當於數百兆瓦的資料中心容量,不過此前安全方面分配了多少、當前比例如何,尚不清楚。按市場價計算,OpenAI 轉移的這部分算力若對外租用,每年成本達數十億美元。AI 研究員 Noam Brown 在 9 月中旬的一檔播客中表示,他團隊中約 10% 的人也從事安全與安保工作。

微軟意外洩露迴圈推理細節

OpenAI 實際如何使用這一技術,是通過微軟的一次失誤曝光的。這家主要投資方有權訪問 OpenAI 的智慧財產權,其在公開發布的一篇技術文章中介紹了 GPT-6.1 Sol——OpenAI 本月早些時候推出的、Astra 的廉價替代方案。

在一個已被刪除的段落中,微軟將 GPT-6.1 Sol 描述為使用「迴圈推理」,即模型在給出答案前通過多個「遍次」處理同一問題。The Information 援引該頁面快取副本稱,GPT-6.1 Sol「使用與 GPT-6 Sol 相同的基礎模型權重,但推理遍次為兩次而非三次」。一位直接知情人士證實,該文章內容與 OpenAI 私下告知微軟的資訊一致。微軟在意識到該段落不應公開後將其刪除。

據 The Information 報道,迴圈 Transformer 在訓練和推理階段都是 OpenAI 模型開發中的敏感環節。OpenAI 首席科學家 Jakub Pachocki 已承認,思維鏈監控正變得「脆弱」,且「不幸地朝著負面方向發展」。他還警告稱,不應讓整個行業陷入一場競相追逐無可讀推理模型的競賽。