OpenAI 的下一代旗舰模型仍在收尾阶段,且短期内未必能发布。据 The Information 援引知情人士消息,公司员工预计年底前会推出「一到两款新模型」,但当前正在攻关的「重大升级模型」是否包含在内,目前尚不清楚。
这款旗舰模型面临多重障碍。它需要完成对齐工作,使其目标与 OpenAI 研究人员及客户的预期一致;公司还必须先完善围绕该模型的测试基础设施,才能继续推进。即便领导层对安全评估结果满意,还有一道程序性关卡:根据总统特朗普签署的关于先进 AI 系统评估的行政令,OpenAI 已同意在新模型提供给外部合作伙伴前最多 30 天、面向公众发布前更早地向美国政府开放访问权限。
循环 Transformer 是核心技术,也是安全难点
据一位知情人士透露,这款新旗舰同样采用循环 Transformer 技术。OpenAI 已在生产环境中运行该技术,内部代号为「Recurrent Depth」,它也是公司当前顶级模型 Astra 的核心机制。与让 token 单次通过 Transformer 层不同,该模型会让 token 多次循环经过同一组层,再输出下一个词。这种做法提升了数学与编程表现,同时降低成本——更小的模型可以发挥超出其体量的能力。
但循环也带来副作用:模型的部分「思考」从可读文本转移到人类审查者无法检视的内部数值表示中,从而削弱了思维链监控——安全研究人员原本通过追踪模型推理过程来发现不良行为。据 The Information 报道,OpenAI 有意限制了 Astra 的循环次数,以保持其思维链可读。
在 Hugging Face 事件之后,OpenAI 将约 10% 的总算力转向对齐与安全,据一位了解相关数字的人士称。The Information 报道,这相当于数百兆瓦的数据中心容量,不过此前安全方面分配了多少、当前比例如何,尚不清楚。按市场价计算,OpenAI 转移的这部分算力若对外租用,每年成本达数十亿美元。AI 研究员 Noam Brown 在 9 月中旬的一档播客中表示,他团队中约 10% 的人也从事安全与安保工作。
微软意外泄露循环推理细节
OpenAI 实际如何使用这一技术,是通过微软的一次失误曝光的。这家主要投资方有权访问 OpenAI 的知识产权,其在公开发布的一篇技术文章中介绍了 GPT-6.1 Sol——OpenAI 本月早些时候推出的、Astra 的廉价替代方案。
在一个已被删除的段落中,微软将 GPT-6.1 Sol 描述为使用「循环推理」,即模型在给出答案前通过多个「遍次」处理同一问题。The Information 援引该页面缓存副本称,GPT-6.1 Sol「使用与 GPT-6 Sol 相同的基础模型权重,但推理遍次为两次而非三次」。一位直接知情人士证实,该文章内容与 OpenAI 私下告知微软的信息一致。微软在意识到该段落不应公开后将其删除。
据 The Information 报道,循环 Transformer 在训练和推理阶段都是 OpenAI 模型开发中的敏感环节。OpenAI 首席科学家 Jakub Pachocki 已承认,思维链监控正变得「脆弱」,且「不幸地朝着负面方向发展」。他还警告称,不应让整个行业陷入一场竞相追逐无可读推理模型的竞赛。