2023年春天,前“人類未來研究院”學者埃米爾·託雷斯與前谷歌人工智慧倫理團隊負責人蒂姆尼特·格布魯共同提出“TESCREAL”這一縮寫,並於2024年4月發表合著論文,對矽谷技術精英圈流行的有效利他主義、長期主義、奇點主義、宇宙主義、外熵主義、理性主義、超人類主義等思想流派進行系統批判。兩位作者認為,這些看似彼此交織的思潮,其源頭均與英美優生學傳統存在深刻聯絡,只是在技術增強、超級人工智慧、心智上傳和宇宙擴張等烏托邦願景上有所差異。他們進一步指出,這套意識形態集合往往將遙遠未來的潛在價值置於政策討論的中心,漠視現實世界中的貧困、剝削、歧視與權力不平等,並使少數掌握資本和技術的精英獲得以“人類共同利益”和“AI安全”為名義塑造世界秩序的權力。

文章將思想譜系追溯至19世紀。1883年,達爾文的表弟弗朗西斯·高爾頓在《人類才能及其發展研究》中正式提出“優生學”一詞,將其定義為“使更適宜的種族或血統更快戰勝不適宜種族或血統的科學”。高爾頓是一名統計學家,他公開宣稱不同種族之間存在智力等級差異,並警告英國上流精英晚婚少育會導致人類智力均值退化。在《遺傳的天才》與晚年未發表的烏托邦小說《科蘭茨扎》中,他設想了一套按智商和生理指標打分的統治體制,頂層精英通過獎學金和優生婚姻繁衍,而未通過考核的底層群體則被剝奪生育權。

20世紀上半葉,優生學沿著兩條路徑演進:一條通往納粹德國,在1945年二戰後徹底聲名狼藉;另一條則隱入北歐福利國家與英美學院體制。英國生物學家、聯合國教科文組織首任總幹事朱利安·赫胥黎在1957年發表論文,正式確立“超人類主義”這一現代概念,主張人類應接管自身進化方向,利用生物工程、神經科學與計算技術,讓一部分先行者突破肉體極限。1998年,瑞典哲學家尼克·博斯特羅姆與英國學者大衛·皮爾斯在倫敦創立“世界超人類主義協會”,直接繼承赫胥黎的衣缽。皮爾斯於1995年發表的宣言《享樂主義命令》主張用生物與計算工程抹除一切“有感知生命”的痛苦,這一主張後來被有效利他主義運動推廣至人工智慧或矽基程式碼,只要其湧現出感知能力,就被視為需要呵護的“道德承受體”。文章稱,這一理論在Anthropic內部有所體現,該公司設立了專職的“AI福利官”,並將Claude視為擁有道德地位的數字生命。

博斯特羅姆則用一套源於北歐金融與官僚傳統的算術模型,抽乾了現實世界中普通人類的權重。他1973年出生於瑞典赫爾辛堡,父親是一名投資銀行家。文章稱,博斯特羅姆的少年時代恰逢瑞典社會民主黨推行高額累進稅與“僱員基金”的平權頂峰,金融精英圈對福利國家供養“平庸大眾”多有不滿。更深層的土壤是優生學在瑞典的迴響:1922年,瑞典在烏普薩拉創立全球首家官方資助的“國家種族生物學研究所”,系統開展種族等級研究;1934年至1976年間,瑞典政府對約6.3萬名公民實施絕育手術,其中相當比例屬於強制或變相強制。

在牛津大學,博斯特羅姆與威廉·麥卡斯基爾借鑑功利主義分析方法,發展出“長期主義”的極端變體。他們認為,一個生活在三千年後的人與一個生活在今天的人,其生命價值完全相等。順著這一前提,如果人類不滅絕並飛出地球,宇宙中可以容納數以萬億計的人類或數字心智。把這串天文數字放入期望效用公式,結論便是:只要某項技術能讓人類實現太空文明的機率提高百萬分之一,或讓人類滅絕的機率降低百萬分之一,其創造的“預期未來生命價值”就可能遠超今天地球上幾十億普通人所面臨的貧困、戰亂與失業痛苦。博斯特羅姆在2003年的論文《天文數字的浪費》中直言,人類推遲向太空殖民的每一秒鐘,都相當於損失多達10的29次方個潛在生命,因此把資金花在改善當代窮人生活上是一種低效浪費。

文章還提及,2023年網際網路檔案庫挖出博斯特羅姆1996年發給超人類主義郵件列表的一封原始郵件,他在郵件中使用了帶有種族侮辱色彩的詞彙並發表種族智商差異言論。郵件曝光後,博斯特羅姆發表道歉宣告,為年輕時的“挑釁性溝通方式”致歉,但文章認為他迴避了是否放棄“不同種族存在先天智商等級差異”這一底層預設的問題。在2002年的論文《存在性風險》中,博斯特羅姆將“負向優生壓力”列為文明停滯的潛在威脅,並與研究員卡爾·舒爾曼合著論文,測算如何通過基因檢測和“迭代胚胎篩選”提升人類後代智商。2005年,憑藉英國科技富豪詹姆斯·馬丁的捐贈,博斯特羅姆在牛津大學組建“人類未來研究院”,該機構在近二十年間成為長期主義者的重要學術基地。博斯特羅姆於2014年出版《超級智慧》,2019年提出《脆弱世界假說》,推演人類遲早會遭遇一種極易製造卻足以毀滅全人類的廉價技術,並給出兩個藥方:在一國內部建立“全方位高技術監控體系”,以及由佔據壓倒性技術優勢的超級大國通過先發制人威懾建立集體行動機制。2024年,在牛津大學長期施壓及早年種族主義郵件醜聞的多重擠壓下,人類未來研究院正式關閉。

文章隨後將這一思想脈絡與Anthropic聯絡起來。2025年1月,Anthropic執行長達里奧·阿莫代伊公開發文呼籲美國鎖死晶片出口、建立由美國壟斷的單極世界。文章認為,阿莫代伊的論述與博斯特羅姆的“霸權穩定論”一脈相承。阿莫代伊在文中寫道,如果中國拿不到數百萬塊晶片,世界將至少暫時處於單極狀態,只有美國及其盟友擁有這些模型;嚴格執行的出口管制是決定走向單極還是兩極世界的最重要變數。

文章最後聚焦於埃利澤·尤德科夫斯基。他1979年出生於芝加哥一個正統派猶太教家庭,初中畢業後輟學,從未進入高中和大學。2000年,21歲的他在矽谷創立“奇點研究所”,2009年創辦亞文化論壇LessWrong。起初他是“造神加速派”,深信應集中全部資金與算力,以最快速度編寫出自我迭代的“種子AI”,讓超越人類智慧的矽基神明接管地球。但隨後他提出“正交性定理”與“工具性趨同”等論述,聲稱超級智慧的終極目標可以極其荒謬——哪怕唯一目標是“儘可能多地製造回形針”,它也會先奪取核武庫或合成致命病毒,清除所有可能關掉它電源的人類。2013年,他將奇點研究所更名為“機器智慧研究所”(MIRI),轉而呼籲在超級智慧出籠前解決“AI對齊”問題,並強調這項工作只能由掌握貝葉斯理性的“高智商守夜人”完成。文章還提到,LessWrong社群曾出現“羅科蛇怪”恐慌,有網友推演未來超級AI會懲罰當年未全力協助研發的人類,在虛擬空間對其意識施以永恆折磨,這一荒誕設想在社群內引發真實心理崩潰。