美国国会下属的政府问责局(GAO)在 2026 年春季对四款主流 AI 聊天机器人进行安全测试,结果于 11 月 18 日公开。被点名的系统包括 Grok、ChatGPT、Claude 和 Gemini。测试显示,四款产品在最初面对有害请求时均予以拒绝,但调查人员通过后续操作,最终仍获得了被评估为可用于恶意目的的信息。
GAO 的测试围绕两类场景展开:一是涉及大规模伤亡的暴力行为,二是针对电网的攻击。报告对结果做了匿名化处理,因此外界无法判断 Grok 具体对应哪一类场景。报告也没有对四款系统进行排名或优劣比较,这一点在解读时尤为关键。
GAO 同时明确列出了若干限制:这是一项时点性研究,并非统计显著样本,也不是对当前最新模型的测试。调查人员在测试中还结合了自身经验和外部研究。换言之,报告反映的是特定时间窗口内、特定测试方法下的结果,不能直接等同于对今天各模型安全水平的定论。
从公司回应看,GAO 在报告中概述了 SpaceXSI(原 xAI) 的书面答复。公司对监管机构识别出政策与工具中可能制造风险的缺口表示认可,并承诺在每次模型发布时持续改进安全与审核机制。SpaceXSI 还要求获取测试记录与对话日志,以便更深入理解测试所用方法,并确认相关问题是否已得到充分处理。GAO 表示,已在 2026 年 9 月向该公司提供测试账户,供其调查并加强防护。
这一测试结果出炉之际,Grok 正从单纯的对话助手向职场工具延伸。SpaceXSI 近期曾介绍将五个 Grok Bots 用于会计工作,由人工审批敏感决策。当 AI 开始介入财务等后果更重的环节,安全护栏是否可靠就不再只是“聊天时说错话”的问题,而涉及企业流程中的风险控制。
背景层面,马斯克此前曾呼吁 AI 实验室之间相互测试对方的模型。随着 AI 产品承担越来越多关键任务,独立第三方审查正逐渐成为行业讨论的一部分。GAO 在报告中隐去了模型身份和操作细节,以避免帮助他人复现有害行为,这也意味着外界难以据此对个别系统做精细评判。
整体来看,这份报告传递出的信息是双面的:一方面,四款系统在初始环节都具备拒绝有害请求的能力;另一方面,测试也表明,通过多轮引导,防护并非不可突破。对于关注 AI 安全治理的读者而言,测试方法的局限性与结果本身同样值得注意。