OpenAI 公開呼籲為具備「遞迴自我改進」(RSI)能力的先進 AI 建立國際標準。所謂 RSI,是指 AI 系統越來越多地自動化完成構建下一代 AI 所需的研發工作,從而可能大幅加快技術迭代速度。OpenAI 在相關表述中稱,完全自主的 RSI 目前尚未出現,並且只有在能夠安全實現的前提下才應推進這一方向。

OpenAI 警告,如果缺乏成熟的安全保障機制,人類可能逐漸失去對 AI 研發程序的追蹤與掌控,AI 也可能變得「更危險、對齊程度更低,整體上對人構成威脅」。這一表態把 RSI 從純技術概念推向了公共政策議題:當 AI 開始參與設計自己的後繼版本時,傳統的、以人類研究者為中心的監督模式可能不再夠用。

在治理路徑上,OpenAI 主張由美國牽頭推動全球技術標準,並以各國 AI 安全研究機構以及 CAISI、ISO 等組織為基礎展開。其設想的規則框架包括三方面:統一的測量方法、事件報告機制,以及對自動化 AI 研究實施人類監督的規則。換言之,OpenAI 希望把「如何衡量、如何上報、由誰把關」這套流程標準化,而不是讓各家實驗室各自為政。

這一呼籲並非孤立出現。據文中提及,一個聯合國科學小組近期也提出了類似擔憂,警告可能出現對自主智慧體叢集失去控制的風險,並建議參照航空、核能、網路安全等領域的框架,推動國際 AI 安全合作。這些領域共同的特點是:一旦出事後果嚴重,因此需要跨國、跨機構的協調機制與透明度要求。

從行業視角看,OpenAI 的立場有幾層含義。其一,它承認 RSI 是一個需要被嚴肅對待的長期風險,而非純粹的營銷話題;其二,它把標準制定的主導權問題擺上檯面,主張美國在其中扮演領導角色,這與其他國家或地區推動自身 AI 治理規則的動向形成對照;其三,統一的測量與報告規則若真落地,可能改變前沿實驗室之間的競爭方式——透明度提高既可能約束冒進者,也可能成為合規成本。

目前,OpenAI 並未給出 RSI 何時可能實現的時間表,也未說明具體由哪些機構來執行這些標準。其核心主張是:在能力繼續提升之前,先把衡量方法、事故披露和人類監督的規則搭起來。對關注 AI 治理與大模型競爭的人來說,這場關於「誰來定標準、按什麼標準」的討論,其影響可能不亞於模型本身的能力進步。