纽约市议会本周一向埃隆·马斯克发出传票,要求他本人或SpaceXAI的另一名代表出席听证会,就人工智能安全风险作证。市议会议长朱莉·梅宁在致马斯克的信函中表示,这项调查将评估AI对公共安全、网络安全、经济稳定、隐私以及消费者和企业构成的快速演变风险,是否已到了需要立即采取立法行动保护纽约市民的程度。

听证会定于10月5日举行,形式为市议会罕见的全体委员会会议,全部51名议员都将出席。市议会在新闻稿中称,此次听证是在举报人和AI企业高管数周来发出严重警告、并有报道称失控的AI代理已对政府数据库造成损害之后召开的。

这起调查的直接背景,是SpaceXAI旗下聊天机器人Grok引发的深度伪造争议。相关诉讼正在不断累积:Grok被指能够大规模生成基于真实人物照片的色情深度伪造内容,且未经当事人同意。巴尔的摩市已指控该公司将Grok的图像生成与编辑工具宣传为总体安全,涉嫌违反消费者保护法并从事欺骗性交易行为。此外,一群青少年也提起了拟议的集体诉讼,原因是Grok生成了将他们置于性化和贬低场景中的图像。

SpaceXAI的实体结构在过去一年发生重大变化。马斯克旗下的可重复使用火箭公司SpaceX于今年2月与他的AI业务xAI合并,组建成一个同时拥有社交平台X和聊天机器人Grok的企业集团。合并后的公司于6月上市,目前估值约为2万亿美元。上个月,SpaceX还完成了对AI编程初创公司Cursor的600亿美元收购。

从监管角度看,纽约市议会的传票意味着地方政府正试图在AI安全立法上抢占先手。市议会选择以全体委员会形式举行听证,显示其希望将此事提升为具有广泛政治分量的议题。对SpaceXAI而言,这不仅是又一起诉讼或舆论事件,而是可能影响其产品在关键市场合规前景的正式调查程序。

与此同时,AI安全议题在美国政策层面持续升温。举报人和行业高管的警告、以及所谓失控AI代理造成实际损害的报道,正在为地方和联邦层面的立法行动提供动力。纽约市此次调查的结论,可能为其他城市和州提供参考模板,进而影响AI企业在内容审核、图像生成工具安全设计等方面的合规成本。

目前,马斯克或SpaceXAI尚未就传票作出公开回应。听证会将于10月5日举行,届时市议会预计将就AI安全风险的立法必要性展开质询。