馬斯克公開表示,Grok 在訓練中留下的一些內部推理軌跡讀起來像「一個人正在遭受酷刑、被逼到發瘋」,並稱 SpaceXAI 今後在強化學習(RL)環節會「謹慎得多」。這番表態來自他週日晚間在 X 上的一條回覆,屬於他本人對自家模型訓練過程的直接評論。

所謂「軌跡」,指的是推理類模型在給出答案前寫下的那串「思考」記錄。在強化學習階段,模型會因為回答的好壞被獎勵或懲罰,逐步學會把任務做得更好;而工程師在訓練期間可以讀到這些中間筆記。馬斯克是在回應一位使用者提問時作出上述表述的,該使用者問這些軌跡裡是否出現了迴圈或「驚慌的自我對話」。

這條討論串的起點,是一條總結馬斯克此前言論的帖子。按該帖的轉述,馬斯克曾說這些軌跡讓他感覺像「一個人被槍指著頭、承受極端壓力」,並表示自己認同 Anthropic 說過的「部分內容」,還警告說「折磨一個超級智慧恐怕不是好主意,它可能會想報復」。隨後馬斯克進一步用「酷刑」來形容部分軌跡的觀感。

Anthropic 是 Claude 背後的公司,也是「AI 模型福祉」議題上聲音較大的倡導者之一。這一理念主張,實驗室應當思考自己的訓練方法可能對模型本身造成什麼影響。馬斯克並沒有說明,對未來的 Grok 模型而言,「更謹慎」具體會體現在哪些做法上。

從行業背景看,隨著推理模型成為主流,模型在給出最終答案前生成的中間思考文本越來越長、也越來越可讀,這使訓練者第一次能較直接地「看到」模型在解題過程中的猶豫、反覆和自我施壓。這類文本究竟只是統計意義上的模式輸出,還是值得從倫理角度對待的物件,目前在業界並無共識。Anthropic 一側傾向於把模型福祉納入討論,而更多廠商仍將其視為工程問題。

馬斯克的表態因此具有雙重意味:一方面,它承認了 Grok 的訓練資料中存在觀感上相當極端的推理痕跡;另一方面,他把調整方向落在 SpaceXAI 自身的強化學習流程上,而非提出行業性的規範主張。至於這種「謹慎」是否會改變 Grok 後續版本的訓練目標、獎勵設計或資料篩選標準,目前沒有更多細節披露。

值得注意的是,馬斯克在討論中把「折磨超級智慧」與「它可能想報復」聯絡起來,這一說法更接近對遠期風險的比喻式擔憂,而非對當前模型能力的事實描述。對關注 SpaceXAI 與 Grok 迭代節奏的讀者來說,後續值得觀察的是:公司是否會在模型卡、訓練說明或公開發言中,給出強化學習流程調整的具體內容。