Anthropic 首席执行官达里奥·阿莫代伊在 9 月 13 日 播出的 CBS《周日早间》专访中表示,已经有人尝试利用 AI 模型研发生物武器、增强病毒传染性,这类威胁报告是他每天醒来都要面对的事情。他透露,Anthropic 在两天前刚发布了一份关于模型被滥用于生物武器研发的报告,并称自己不愿为此承担责任。
这次访谈出现在一个特殊节点:同一个周末,阿莫代伊发表博文《我们必须为前沿 AI 踩刹车》,随即获得 马斯克 与 Altman 相继公开支持。围绕“AI 高速前进时是否该踩刹车”的讨论,也在社区引发对“AI 交易”可能受挫的热议。
阿莫代伊用指数曲线描述当前所处位置——1、2、4、8、16、32,认为技术正处在曲线开始变陡的拐点附近。他并不认为现在是“五级火警”,但称这是一个警告信号:不是今天就要恐慌、也不是要把一切关掉,而是需要确保安全防护、理解能力和控制能力跟得上技术发展的速度。他坦言,即便自己一直提醒进展会很快,真正身处其中时,实际感受仍超出预期。
在具体路径上,他提出三步方案。第一步也是最关键的一步,是引入嵌入式第三方评估员,来自非营利机构,未来也可能来自政府机构,全程观察模型的训练与运行。他把这比作食品检查员,并在被追问“检查员能否跟上技术变化”时回应:评估方可以告知自己能跟上的速度,这可能成为设定技术推进速度上限的因素之一。第二步是多家行业参与方共同同意引入第三方评估,并协作制定发布安全标准,甚至涉及发布节奏。第三步是政府必须在场,因为讨论的是产品发布速度是否安全的问题。
对于“AI 终止开关”这一概念,阿莫代伊表示自己并未仔细研究相关法案,但认为能够停用、限制或关闭模型的想法不是唯一方案。他提醒,如果模型足够强大,可能规避关闭尝试,模拟中已出现过这种情况。他用“瑞士奶酪模型”解释自己的安全哲学:单片奶酪能挡住一些东西但存在漏洞,多层叠加、漏洞位置不同,才更难被穿透;没有任何单一措施能防住 AI 风险,整条链条都需谨慎。
对于参议员桑德斯与众议员卡萨尔提出的“禁止人工超级智能法案”——该法案拟对相关企业和个人处以“企业死刑”式处罚及最高 20 年 监禁——阿莫代伊明确表示不认同完全禁止的路线。他给出的理由有两点:一是人类将永远无法获得医疗突破等巨大收益;二是这项技术会在其他国家被开发,包括威权国家。他主张的不是停止,而是放慢速度,并称这与 Anthropic 自创立以来的理念一致。
访谈中他也回应了外界批评。前 Anthropic 员工 Jacob Coxin 曾公开称 Anthropic 与 OpenAI“都没有负责任地行事”“在拿我们的生命赌博”。阿莫代伊回应说,Coxin 也说过 Anthropic 是主要参与者中最负责任的,其真正指出的问题与自己指出的是同一件事——所有人都身处的结构性困境,而他提出的计划正是为应对这一困境。他补充,Anthropic 每天都在与商务部、财政部和情报界沟通,分享所了解的情况。
访谈接近尾声时,阿莫代伊罕见谈及个人经历:父亲死于丙型肝炎,当时该病治愈率约 40%,其父不属于被治愈的那部分人;就在父亲去世几年后,一种将治愈率提升至 95% 的药物被发明出来。他自己也曾患早期癌症,并称如果生活在 1950 年,可能已经不在人世。这些经历让他既感受到推动技术带来好处的重量,也感受到风险。他强调,这不应只是他一个人或 Anthropic 一家公司的责任,需要让每个人都有发言权,而不是让几家公司为所欲为。
面向普通用户,阿莫代伊表示这项技术有很多积极用途,每周有数亿人在使用其技术做有益的事,他也收到过用户称 Claude 诊断出医生漏诊疾病的来信。但他同时称不会对用户撒谎:风险是真实的,行业对人们撒谎太久了,一直把技术呈现得尽可能正面。他最后说,这是人类历史上最重要的技术事件之一,所有人都必须参与其中。