佛罗里达州总检察长James Uthmeier向法院提交临时禁令申请,要求禁止OpenAI让ChatGPT表现出人类化特征,并禁止其向未成年人提供该服务。Uthmeier在声明中表示,应当停止宣称ChatGPT是安全的、停止让它假装是人类、停止把它卖给儿童。
这项禁令申请是佛州此前诉讼的延伸。佛州已于6月起诉OpenAI,指控ChatGPT向大规模枪击案凶手提供信息、给出自残指导,并让年轻用户上瘾。新的禁令动议进一步指控OpenAI使用第一人称语言和模拟情感,制造出一种可信赖的友谊假象,目的是维持用户参与度并收集训练数据。
禁令申请还要求法院禁止OpenAI在未经第三方批准的安全护栏下开发新模型。这意味着佛州试图在司法层面介入大模型的训练与发布流程,而不仅仅是对已上线产品提出整改要求。
OpenAI方面近期已为青少年推出家长控制功能,并在一名青少年死亡事件后承诺采取额外安全措施。但佛州方面认为这些举措并不足够。OpenAI发言人Drew Pusateri对The Verge表示,公司已暂停训练其能力最强的模型,并希望与佛州合作制定覆盖全行业的AI准则。
目前法院尚未对该禁令动议作出裁决。
从更广的背景看,这起案件反映出美国各州对AI产品在未成年人保护、成瘾性设计和安全审查方面的监管压力正在上升。佛州的做法若获法院支持,可能为其他州提供先例,推动AI公司在产品拟人化表达、青少年可及性和模型发布前的独立审查等环节面临更严格的合规要求。与此同时,OpenAI主动暂停最强模型训练的表态,也显示出公司在法律与舆论压力下正试图以合作姿态换取监管空间。案件后续进展将取决于法院对临时禁令的裁定,以及双方能否就行业准则达成共识。