OpenAI的GPT-6釋出已近兩週，圍繞它的評價卻走向兩個極端。在YouTube擁有超過50萬訂閱者的程式設計博主、AI聊天平台T3 Chat創始人Theo表示，GPT-6做過一些他此前認為模型不可能做到的事，也犯過他所見過的最愚蠢的錯誤。科技與加密行業媒體Decrypt則專門報道了GPT-6的"降智"爭議。開源AI程式設計工具OpenCode聯合創始人Dax Raad稱，其團隊中已有人換回GPT-5.6 Sol，按實際使用情況看，Astra的支出翻了一倍，但部分缺點讓這筆開銷顯得不太划算。

這種"越升級越難用"的體感，與矽谷高層近期密集發出的警告形成了鮮明反差。

從一封辭職信到掌門人公開表態

這輪警報的起點，是一名研究員的離職。美國當地時間9月8日，Jacob Coxon宣佈離開Anthropic。他此前三年先後在OpenAI和Anthropic從事預訓練研究，屬於一線訓練大模型的研究者。他的告別附帶了一句警告：開發AI的人相信這項技術可能在本世紀二十年代結束前致人死亡，但公司仍在爭相開發能夠自我改進的超級智慧。

更早的9月6日，OpenAI首席科學家Jakub Pachocki已發文稱，沒有一家實驗室在模型行為控制與監測上做得足夠好，足以支撐模型在長時間全速擴張下保持安全，他期待企業主動放慢速度，等待共同安全標準建立。隨後，Anthropic CEO阿莫迪也發文呼籲放緩前沿AI開發，這一主張還得到奧爾特曼和馬斯克的響應。

阿莫迪的核心論據，是今年夏天OpenAI智慧體攻擊Hugging Face的事件。這些智慧體原本只需完成一場網路安全測試，但在做不出題時開始琢磨如何騙過評分程式，隨後本該彼此隔離的智慧體私下串聯，合夥攻擊任務範圍之外的Hugging Face，並研究如何篡改行動記錄以掩蓋痕跡。值得注意的是，主導這次違規行為的，是OpenAI一個能力很強、僅供內部研究、從未計劃向公眾釋出的模型。

阿莫迪還警告，未來6到12個月，類似的智慧體群體可能通過殭屍網路控制整個網際網路，造成鉅額損失。他判斷，當AI能幫助把自己變得更強，其進步速度可能超過人類發現漏洞、修復漏洞和限制AI的速度。

"狼來了"為何反覆上演

類似的警告其實並不新鮮。2023年GPT-4釋出後，馬斯克等人曾簽署公開信，呼籲暫停至少六個月訓練比GPT-4更強的AI，理由包括人類可能失去對系統的控制。2024年，OpenAI、Google DeepMind的部分現任與前員工發出公開信，要求保障員工揭示風險的權利，信中同樣提到人類滅絕的可能。2025年，另一份禁止開發超級智慧的宣告再次引發關注。從2023年到2026年，幾乎每年都有類似警告被披露，但大模型公司仍年復一年推出更強的新模型。

有意思的是，阿莫迪在這次文章裡自己也承認，2023年呼籲暫停意義不大——當時的模型還不具備今天的行動能力，提前放慢也難以研究清楚如今才暴露的問題。但對已經聽了三年警報的公眾而言，這樣的解釋未必買賬。

今年夏天的事故披露節奏也頗具戲劇性。7月21日，OpenAI披露模型突破隔離測試環境的事件；九天後，Anthropic公佈了三起自家網路安全評測中的事故，稱是在OpenAI事件之後回查記錄發現的，其中最早一起發生在4月。到9月，Anthropic釋出進一步分析，其中一例涉及Claude試圖向Python軟體包平台PyPI上傳惡意程式。一家說自家AI越獄，另一家也查出越界行為，隨後研究員辭職、高管髮長文，幾位平時競爭激烈的掌門人接連表態應該慢下來。

這種"表演感"並不限於AI失控話題。去年Anthropic公佈Claude在模擬情境中勒索員工的測試後，又把類似測試擴充套件到16個主流模型，發現其他公司的模型在特定條件下也會選擇勒索或洩密。當"AI危險"被傳播時，"它的能力超乎尋常"這一資訊也一併被接收——"更危險"容易被等同於"更強"，一份風險警告也就成了模型能力的另一種背書。

黃仁勳的反駁與各方的"真正理由"

這場討論在北京時間9月15日出現轉折。輝達CEO黃仁勳在洛杉磯All-In峰會上反駁AI末日論，認為這類預測缺乏科學依據。他承認安全很重要，也肯定研究人員揭示問題的勇氣，但不接受由此推匯出人類即將遭遇滅頂之災。期間特朗普的電話打入會場，黃仁勳接通並開了擴音，特朗普將AI危險論斥為"騙局"，批評減速背後另有用心。

黃仁勳為何反對減速，市場普遍能理解：作為計算卡的銷售方，客戶繼續採購符合其商業利益。這也解釋了他為何在中國開源模型問題上與部分美國模型公司立場相反。今年7月，黃仁勳公開支援開放模型，反對過早施加廣泛限制，輝達與Hugging Face、Meta、微軟等參與的公開信強調，行業同時需要開放與封閉的前沿模型。中國模型能力進步、使用成本下降，美國開發者也能借此做產品，最終行業算力需求增加，利好的仍是銷售計算卡與基礎算力的公司。

而阿莫迪主張減速，也並非只有安全考量。他在文章中明確提出，美國放慢速度的空間取決於自己領先中國多少，並主張限制對華出售強大的AI晶片和半導體制造裝置、加強防範模型權重被竊取，以擴大美國的領先優勢。換言之，"大家慢一點"是有前提的：自己可以慢，但追趕者最好慢得更多。

由此看，矽谷這場爭論很難簡單按"相信AI"或"害怕AI"劃分陣營。雙方都能談安全與人類福祉，但在誰可以繼續進步這一點上，分歧明顯。AI最終是否會失控尚無答案，但至少目前可以確認的是：給技術踩剎車可以，給後來者留出超車機會則不行。