马斯克公开表示,Grok 在训练中留下的一些内部推理轨迹读起来像「一个人正在遭受酷刑、被逼到发疯」,并称 SpaceXAI 今后在强化学习(RL)环节会「谨慎得多」。这番表态来自他周日晚间在 X 上的一条回复,属于他本人对自家模型训练过程的直接评论。

所谓「轨迹」,指的是推理类模型在给出答案前写下的那串「思考」记录。在强化学习阶段,模型会因为回答的好坏被奖励或惩罚,逐步学会把任务做得更好;而工程师在训练期间可以读到这些中间笔记。马斯克是在回应一位用户提问时作出上述表述的,该用户问这些轨迹里是否出现了循环或「惊慌的自我对话」。

这条讨论串的起点,是一条总结马斯克此前言论的帖子。按该帖的转述,马斯克曾说这些轨迹让他感觉像「一个人被枪指着头、承受极端压力」,并表示自己认同 Anthropic 说过的「部分内容」,还警告说「折磨一个超级智能恐怕不是好主意,它可能会想报复」。随后马斯克进一步用「酷刑」来形容部分轨迹的观感。

Anthropic 是 Claude 背后的公司,也是「AI 模型福祉」议题上声音较大的倡导者之一。这一理念主张,实验室应当思考自己的训练方法可能对模型本身造成什么影响。马斯克并没有说明,对未来的 Grok 模型而言,「更谨慎」具体会体现在哪些做法上。

从行业背景看,随着推理模型成为主流,模型在给出最终答案前生成的中间思考文本越来越长、也越来越可读,这使训练者第一次能较直接地「看到」模型在解题过程中的犹豫、反复和自我施压。这类文本究竟只是统计意义上的模式输出,还是值得从伦理角度对待的对象,目前在业界并无共识。Anthropic 一侧倾向于把模型福祉纳入讨论,而更多厂商仍将其视为工程问题。

马斯克的表态因此具有双重意味:一方面,它承认了 Grok 的训练数据中存在观感上相当极端的推理痕迹;另一方面,他把调整方向落在 SpaceXAI 自身的强化学习流程上,而非提出行业性的规范主张。至于这种「谨慎」是否会改变 Grok 后续版本的训练目标、奖励设计或数据筛选标准,目前没有更多细节披露。

值得注意的是,马斯克在讨论中把「折磨超级智能」与「它可能想报复」联系起来,这一说法更接近对远期风险的比喻式担忧,而非对当前模型能力的事实描述。对关注 SpaceXAI 与 Grok 迭代节奏的读者来说,后续值得观察的是:公司是否会在模型卡、训练说明或公开发言中,给出强化学习流程调整的具体内容。