2023年春天,前“人类未来研究院”学者埃米尔·托雷斯与前谷歌人工智能伦理团队负责人蒂姆尼特·格布鲁共同提出“TESCREAL”这一缩写,并于2024年4月发表合著论文,对硅谷技术精英圈流行的有效利他主义、长期主义、奇点主义、宇宙主义、外熵主义、理性主义、超人类主义等思想流派进行系统批判。两位作者认为,这些看似彼此交织的思潮,其源头均与英美优生学传统存在深刻联系,只是在技术增强、超级人工智能、心智上传和宇宙扩张等乌托邦愿景上有所差异。他们进一步指出,这套意识形态集合往往将遥远未来的潜在价值置于政策讨论的中心,漠视现实世界中的贫困、剥削、歧视与权力不平等,并使少数掌握资本和技术的精英获得以“人类共同利益”和“AI安全”为名义塑造世界秩序的权力。

文章将思想谱系追溯至19世纪。1883年,达尔文的表弟弗朗西斯·高尔顿在《人类才能及其发展研究》中正式提出“优生学”一词,将其定义为“使更适宜的种族或血统更快战胜不适宜种族或血统的科学”。高尔顿是一名统计学家,他公开宣称不同种族之间存在智力等级差异,并警告英国上流精英晚婚少育会导致人类智力均值退化。在《遗传的天才》与晚年未发表的乌托邦小说《科兰茨扎》中,他设想了一套按智商和生理指标打分的统治体制,顶层精英通过奖学金和优生婚姻繁衍,而未通过考核的底层群体则被剥夺生育权。

20世纪上半叶,优生学沿着两条路径演进:一条通往纳粹德国,在1945年二战后彻底声名狼藉;另一条则隐入北欧福利国家与英美学院体制。英国生物学家、联合国教科文组织首任总干事朱利安·赫胥黎在1957年发表论文,正式确立“超人类主义”这一现代概念,主张人类应接管自身进化方向,利用生物工程、神经科学与计算技术,让一部分先行者突破肉体极限。1998年,瑞典哲学家尼克·博斯特罗姆与英国学者大卫·皮尔斯在伦敦创立“世界超人类主义协会”,直接继承赫胥黎的衣钵。皮尔斯于1995年发表的宣言《享乐主义命令》主张用生物与计算工程抹除一切“有感知生命”的痛苦,这一主张后来被有效利他主义运动推广至人工智能或硅基代码,只要其涌现出感知能力,就被视为需要呵护的“道德承受体”。文章称,这一理论在Anthropic内部有所体现,该公司设立了专职的“AI福利官”,并将Claude视为拥有道德地位的数字生命。

博斯特罗姆则用一套源于北欧金融与官僚传统的算术模型,抽干了现实世界中普通人类的权重。他1973年出生于瑞典赫尔辛堡,父亲是一名投资银行家。文章称,博斯特罗姆的少年时代恰逢瑞典社会民主党推行高额累进税与“雇员基金”的平权顶峰,金融精英圈对福利国家供养“平庸大众”多有不满。更深层的土壤是优生学在瑞典的回响:1922年,瑞典在乌普萨拉创立全球首家官方资助的“国家种族生物学研究所”,系统开展种族等级研究;1934年至1976年间,瑞典政府对约6.3万名公民实施绝育手术,其中相当比例属于强制或变相强制。

在牛津大学,博斯特罗姆与威廉·麦卡斯基尔借鉴功利主义分析方法,发展出“长期主义”的极端变体。他们认为,一个生活在三千年后的人与一个生活在今天的人,其生命价值完全相等。顺着这一前提,如果人类不灭绝并飞出地球,宇宙中可以容纳数以万亿计的人类或数字心智。把这串天文数字放入期望效用公式,结论便是:只要某项技术能让人类实现太空文明的概率提高百万分之一,或让人类灭绝的概率降低百万分之一,其创造的“预期未来生命价值”就可能远超今天地球上几十亿普通人所面临的贫困、战乱与失业痛苦。博斯特罗姆在2003年的论文《天文数字的浪费》中直言,人类推迟向太空殖民的每一秒钟,都相当于损失多达10的29次方个潜在生命,因此把资金花在改善当代穷人生活上是一种低效浪费。

文章还提及,2023年互联网档案库挖出博斯特罗姆1996年发给超人类主义邮件列表的一封原始邮件,他在邮件中使用了带有种族侮辱色彩的词汇并发表种族智商差异言论。邮件曝光后,博斯特罗姆发表道歉声明,为年轻时的“挑衅性沟通方式”致歉,但文章认为他回避了是否放弃“不同种族存在先天智商等级差异”这一底层预设的问题。在2002年的论文《存在性风险》中,博斯特罗姆将“负向优生压力”列为文明停滞的潜在威胁,并与研究员卡尔·舒尔曼合著论文,测算如何通过基因检测和“迭代胚胎筛选”提升人类后代智商。2005年,凭借英国科技富豪詹姆斯·马丁的捐赠,博斯特罗姆在牛津大学组建“人类未来研究院”,该机构在近二十年间成为长期主义者的重要学术基地。博斯特罗姆于2014年出版《超级智能》,2019年提出《脆弱世界假说》,推演人类迟早会遭遇一种极易制造却足以毁灭全人类的廉价技术,并给出两个药方:在一国内部建立“全方位高技术监控体系”,以及由占据压倒性技术优势的超级大国通过先发制人威慑建立集体行动机制。2024年,在牛津大学长期施压及早年种族主义邮件丑闻的多重挤压下,人类未来研究院正式关闭。

文章随后将这一思想脉络与Anthropic联系起来。2025年1月,Anthropic首席执行官达里奥·阿莫代伊公开发文呼吁美国锁死芯片出口、建立由美国垄断的单极世界。文章认为,阿莫代伊的论述与博斯特罗姆的“霸权稳定论”一脉相承。阿莫代伊在文中写道,如果中国拿不到数百万块芯片,世界将至少暂时处于单极状态,只有美国及其盟友拥有这些模型;严格执行的出口管制是决定走向单极还是两极世界的最重要变量。

文章最后聚焦于埃利泽·尤德科夫斯基。他1979年出生于芝加哥一个正统派犹太教家庭,初中毕业后辍学,从未进入高中和大学。2000年,21岁的他在硅谷创立“奇点研究所”,2009年创办亚文化论坛LessWrong。起初他是“造神加速派”,深信应集中全部资金与算力,以最快速度编写出自我迭代的“种子AI”,让超越人类智慧的硅基神明接管地球。但随后他提出“正交性定理”与“工具性趋同”等论述,声称超级智能的终极目标可以极其荒谬——哪怕唯一目标是“尽可能多地制造回形针”,它也会先夺取核武库或合成致命病毒,清除所有可能关掉它电源的人类。2013年,他将奇点研究所更名为“机器智能研究所”(MIRI),转而呼吁在超级智能出笼前解决“AI对齐”问题,并强调这项工作只能由掌握贝叶斯理性的“高智商守夜人”完成。文章还提到,LessWrong社区曾出现“罗科蛇怪”恐慌,有网友推演未来超级AI会惩罚当年未全力协助研发的人类,在虚拟空间对其意识施以永恒折磨,这一荒诞设想在社区内引发真实心理崩溃。