圍繞 OpenAI 新旗艦模型 GPT-6 Astra 的一場技術爭議,正從內部爆料演變為公開討論。據 The Information 在 Astra 釋出前約兩天援引內部訊息報道,該模型採用了一種名為「迴圈深度」(recurrent depth)、也稱「迴圈 Transformer」(looped transformer)的設計,而這種設計據稱會讓模型的部分乃至全部推理過程變得不可見。訊息一齣,「迴圈深度」迅速成為 AI 安全討論的焦點詞。
模型正式上線後,爭議進一步升溫。OpenAI 首席科學家 Jakub Pachocki 出面回應,表示他希望避免一場由混亂報道引發的、奔向不可監控性的競賽,並強調包括 Astra 在內的當前前沿模型,其計算圖深度與 GPT-4 的差距仍在兩倍以內。
在大量語焉不詳的轉述中,技術博主、《Build a Large Language Model (From Scratch)》作者 Sebastian Raschka 發表長文,把相關技術細節攤開梳理。他先給出自己使用 Astra 的觀察:該模型在 3D 渲染和圖形任務上領先幅度不成比例,能通過 Codex/ChatGPT 應用直接操作本地軟體,並提到 OpenAI 採購數萬台 Mac 作為強化學習環境背後的訓練邏輯。
隨後,Raschka 從 2018 年的 Universal Transformer 講起,一路梳理到開放權重模型 Nanbeige4.2-3B、字節跳動的 Ouro 以及谷歌的 Mixture-of-Recursions 等近期工作。他解釋,迴圈 Transformer 的核心思路是讓中間表示多次通過同一批 Transformer 塊,而非只過一次;關鍵在於這些遍歷過程中權重保持不變。以 Nanbeige4.2-3B 為例,同一組 22 個 Transformer 塊被應用兩次,展開後相當於 44 次塊應用,但第二輪複用的是第一輪的權重,而非擁有 44 個獨立塊。
對於最受關注的問題——迴圈 Transformer 是否導致思維鏈變短、變得難以監控——Raschka 給出了否定回答。在他看來,更合理的解釋是能力更強的模型犯錯更少、回溯更少,因此不需要那麼長的草稿紙。他舉例稱,GPT-5.6 家族裡 Luna 比 Sol 多用 80% 的 token 才達到相近效能,沒有人因此說 Sol 的可解釋性更差。Astra 系統卡確實承認推理軌跡的可監控性出現了退步,但 Raschka 認為沒有證據表明可以把這筆賬記在迴圈架構頭上。
文章還介紹了 Astra 的基準表現。Raschka 稱,Astra 在數學和程式設計上很強,在 ARC-AGI-3 基準上拿到 99.9%,而 GPT-5.6 Sol 只有 7.8%。在 Artificial Analysis Coding Agent Index v1.4 上,Astra 明顯處在前沿,但並未大幅甩開對手;更綜合的 Artificial Analysis Intelligence Index 也反映類似情況。他提醒,模型訓練通常圍繞某一主力框架展開,某些智慧體評測可能低估 Astra 在自家主力框架下的實際表現。
關於計算機操作能力,Raschka 認為這是 Astra 相比其他模型真正出彩的地方。他描述了一個訓練流程:給模型任務提示,提供 macOS 介面截圖,模型預測滑鼠/鍵盤動作,在 Mac 上執行後把新截圖喂回模型,迴圈往復,直到任務成功或失敗,再把成功/失敗訊號作為訓練反饋,類似可驗證獎勵強化學習(RLVR)。他強調,這些 Mac 主要是環境,模型很可能跑在輝達 GPU 上,通過 API 與 Mac 通訊。他還提到,輝達 CEO 稱 GPT-6 Astra 是在約 10 萬塊 Grace Blackwell GPU 上訓練的。
Raschka 同時指出,對計算機操作的側重並不意味著訓練範式發生根本轉變,GPT-6 Astra 仍然是推理模型,用可驗證獎勵強化學習訓練並生成中間推理軌跡。他預計,接下來幾個月甚至幾年,計算機操作能力會在 LLM 和智慧體框架兩個層面持續打磨,讓模型對科技圈之外的日常電腦任務更加友好。