首页 500强 活动 榜单 商业 科技 商潮 专题 品牌中心
杂志订阅

此前诸多警告均未掀起波澜,为何这次AI“末日论”事件能引爆全网?

Nick Lichtenberg
2026-09-16

时机恰到好处。

文本设置
小号
默认
大号
Plus(0条)

2026年4月30日星期四,美国加州旧金山,Anthropic联合创始人兼首席执行官达里奥·阿莫迪在公司总部接受《The Circuit with Emily Chang》采访。Anthropic正在尝试一种不同的领导模式:首席执行官将绝大部分精力用于宏观讨论、组织文化塑造,以及对研究方向和战略规划提供指导,而非耗费在管理高管团队上。图片来源:Jason Henry/Bloomberg via Getty Images

上周,雅各布·考克森宣布从Anthropic辞职,并警告称该公司与竞争对手OpenAI在迈向超级智能的角逐中“拿我们的生命做赌注”。这番话并不新鲜。自2023年以来,职位更高、资历更深的人士至少已四次以不同形式表达过类似观点。这一次的不同,显然不在于论点本身,而在于其传播范围,以及它触及的政治土壤。不知为何,如今围绕“AI末日”叙事,“奥弗顿之窗”比以往任何时候都更加敞开,而“群体智慧”的声音也空前响亮。

短短几天之内,考克森这篇帖子的浏览量就突破了1亿次。相比之下,扬·莱克在2024年5月从OpenAI辞职时,也曾发布过一篇内容几乎如出一辙的帖子,但浏览量仅为610万次。他当时在帖中直言:“安全文化和流程已让位于那些光鲜亮丽的产品。”2026年2月,姆里南克·夏尔马从Anthropic安全团队辞职,并警告称“世界正处于危险之中”,他的帖子在48小时内获得了约100万次浏览和约5,000次转发。

“AI教父”、诺贝尔奖得主杰弗里·辛顿在2023年5月离开谷歌(Google),为的是能畅所欲言地谈论AI风险。他当时告诉《纽约时报》,自己此前一直认为通用人工智能的实现还需要数十年时间,如今已下调了这一预期。他还预测AI引发灾难性后果的概率在10%至20%之间。当然,还有OpenAI联合创始人兼首席科学家伊利亚·苏茨克维。2023年11月,萨姆·奥尔特曼经历短暂罢免与复职风波,此后,OpenAI内部围绕安全优先级爆发争议。2024年5月,苏茨克维在争议中辞职。这些在当时都是重大事件,多年后仍被反复提及,但若论传播效应,它们都未能达到这次考克森事件的轰动效果。

此外,还有一个引人注目的集体性事件。2026年7月,在OpenAI的两个模型被曝逃出沙盒测试环境后,来自多家前沿AI公司的1,100多名员工联署公开信,呼吁美国政府支持开发用于“有意调控AI发展节奏”的工具,联署者中包括Anthropic的联合创始人和OpenAI的首席科学家。因此,如果如实计算,自2023年以来,这至少已经是前沿AI实验室第五次因安全担忧而出现备受瞩目的人员离职或集体表态。那么,这一次究竟有何不同?

这一次引发的反响究竟有何不同

抛开单纯的浏览量数字不谈,考克森这次事件与此前几次相比,确实还有一些实质性的不同。Anthropic对齐科学团队负责人埃文·哈宾格公开支持了考克森的说法,并表示,他个人估计未来十年内人类走向灭绝的概率超过10%,而Anthropic目前并没有控制超级智能系统的具体方案。Anthropic的另外两名安全研究人员塞缪尔·马克斯和乔·本顿也表示认同,本顿称考克森的描述“大致准确”。这些表态均发布于X平台,也再次引出那个老生常谈的问题:Twitter到底算不算“现实世界”。

政治层面的反应极为迅速,而且呈现出此前四起事件都未曾有过的跨党派关注。大约48小时内,参议员特德·克鲁兹形容这种风险“可怕至极”;参议员伯尼·桑德斯则一直在推动立法,要求暂停AI开发。与此同时,英国一名前财政部大臣呼吁就超级智能签署多国条约,而工党议员则提议禁止“失控”的模型开发。

奥弗顿之窗

约瑟夫·奥弗顿曾任麦基诺公共政策中心(Mackinac Center for Public Policy)的政策分析师。该中心位于密歇根州,是一家自由意志主义智库。20世纪90年代,他提出了针对特定话语的“窗口”概念:在任何一个特定时刻,围绕某个议题的全部立场中,只有一部分会被视为在政治上安全且可接受的观点。随着时间推移,这个范围会发生滑动——一些最初听起来十分边缘的观点,在被反复提及、逐渐正常化之后,最终被视为合理观点。

套用到当下的情境,有据可查,“先进AI可能导致人类灭绝”这一说法,长期游离于政治话语窗口之外——它既不被主流所接受,也难以保障发言者的职业安全。多年来,这一观点一直在AI研究人员、有效利他主义论坛以及辛顿等人物之间流传,但在美国参议院的正式辩论中,或者在接近内阁核心圈的现任官员的话语中,却鲜少出现。如今,桑德斯和克鲁兹——以及X平台上超过1亿个账号——都在告诉我们:这扇窗已经敞开。

不妨看看此前几次警告得到的反应(或者说毫无反应)。2023年5月辛顿辞职时,关于AI的主流叙事仍然是惊叹。当时ChatGPT才推出5个月,数据中心甚至还完全没有成为政治议题。社会上也不存在什么实质性的公众反对可供借势,因此辛顿的警告只能完全依靠自身论点的说服力来吸引关注。到了2024年5月苏茨克维和莱克离开OpenAI时,公众对数据中心的反对声音还几乎算不上一种受到追踪的现象。而关于奥尔特曼罢免与复职的董事会“宫斗”式报道,在许多公众眼中只是公司内部的风波,而非关乎整个社会的问题。

2026年2月夏尔马辞职时,则几乎恰好赶上了舆论的转折点。Heatmap、Echelon Insights和盖洛普(Gallup)的独立追踪均显示,2026年2月和3月正是公众对数据中心态度转向的关键时期:此前支持、反对和中立意见大致三分天下,而从这时开始,反对者首次占到多数。

等到考克森今年9月发布帖子时,路透社/益普索(Reuters/Ipsos)最近的一项调查显示,64%的受访者认为快速建设数据中心并非“一件好事”,77%的人担心这会推高电价。盖洛普和《经济学人》/YouGov的调查均显示,反对在自己所在地区建设数据中心的比例已经达到71%或更高,甚至超过了公众对核电站的反对程度。《Politico》则直截了当地形容这个行业正面临“政治问题,业界心知肚明”。报道称,一些科技行业高管私下担心,这可能演变成一场持续到2028年的“长期政治危机”。

得克萨斯州共和党州长格雷格·阿博特和宾夕法尼亚州民主党州长乔希·夏皮罗此前都曾积极欢迎数据中心行业进入本州,但今年夏天,两人都采取措施暂停或限制数据中心建设。据Data Center Watch统计,仅今年第一季度,就至少有75个数据中心项目因当地反对而被叫停或推迟,总价值约1,300亿美元。

一个令人不太舒服的解释

还有一类更早、也更不讨喜的研究,从另一个角度提出了一种非理性机制,恰好可以解释“奥弗顿之窗”为何会发生变化。经济学家蒂穆尔·库兰和卡斯·桑斯坦将这一现象称为“可得性级联”:这是一种自我强化的集体信念形成过程。某种观点一旦被公开表达,就可能引发连锁反应;即便缺乏底层证据支持,人们仅仅因为该观点反复出现,就会觉得它越来越可信。关键在于,按照库兰和桑斯坦的理论,引发这种级联效应的说法并不一定是假命题。级联效应既能放大真实预警,也同样能放大虚假警告。这意味着,考克森的观点获得如此巨大的传播量,本身并不能证明他的说法就比夏尔马或辛顿的说法更具有可信度。

另一个相关概念“信息级联”,则是对同一观点的形式化表述:一旦有足够多的人公开采取某种行动或认同某种观点,后来者出于理性考量,就会停止权衡个人判断,转而直接跟随群体,因为相比任何个人能独立评估的信息,累积起来的公共信号显得更有说服力。研究发现,这种级联效应往往由本质上相当偶然的事件触发。某篇较早的帖子可能只是因为算法推送时机巧妙,或者优先被某些账号转发等寻常原因,碰巧突破了某个曝光度阈值,最终引发了大规模的舆论转向;而另一篇发布更早、内容实质上相同的帖子,却未能掀起波澜。

公众对数据中心的反对浪潮,与“级联效应”这一解释并不相互排斥。受众一旦被预先引导,级联效应便更容易被触发;而级联效应一旦启动,又会造就一种“社会共识远比实际情况更广泛”的假象。

那么,为何被大肆炒作的“AI末日论”,似乎比以往任何时候都更令人惊恐?因为时机恰到好处。(财富中文网)

《财富》杂志使用生成式AI作为本文的研究工具。编辑在发表前已核实信息的准确性。

译者:刘进龙

审校:汪皓

上周,雅各布·考克森宣布从Anthropic辞职,并警告称该公司与竞争对手OpenAI在迈向超级智能的角逐中“拿我们的生命做赌注”。这番话并不新鲜。自2023年以来,职位更高、资历更深的人士至少已四次以不同形式表达过类似观点。这一次的不同,显然不在于论点本身,而在于其传播范围,以及它触及的政治土壤。不知为何,如今围绕“AI末日”叙事,“奥弗顿之窗”比以往任何时候都更加敞开,而“群体智慧”的声音也空前响亮。

短短几天之内,考克森这篇帖子的浏览量就突破了1亿次。相比之下,扬·莱克在2024年5月从OpenAI辞职时,也曾发布过一篇内容几乎如出一辙的帖子,但浏览量仅为610万次。他当时在帖中直言:“安全文化和流程已让位于那些光鲜亮丽的产品。”2026年2月,姆里南克·夏尔马从Anthropic安全团队辞职,并警告称“世界正处于危险之中”,他的帖子在48小时内获得了约100万次浏览和约5,000次转发。

“AI教父”、诺贝尔奖得主杰弗里·辛顿在2023年5月离开谷歌(Google),为的是能畅所欲言地谈论AI风险。他当时告诉《纽约时报》,自己此前一直认为通用人工智能的实现还需要数十年时间,如今已下调了这一预期。他还预测AI引发灾难性后果的概率在10%至20%之间。当然,还有OpenAI联合创始人兼首席科学家伊利亚·苏茨克维。2023年11月,萨姆·奥尔特曼经历短暂罢免与复职风波,此后,OpenAI内部围绕安全优先级爆发争议。2024年5月,苏茨克维在争议中辞职。这些在当时都是重大事件,多年后仍被反复提及,但若论传播效应,它们都未能达到这次考克森事件的轰动效果。

此外,还有一个引人注目的集体性事件。2026年7月,在OpenAI的两个模型被曝逃出沙盒测试环境后,来自多家前沿AI公司的1,100多名员工联署公开信,呼吁美国政府支持开发用于“有意调控AI发展节奏”的工具,联署者中包括Anthropic的联合创始人和OpenAI的首席科学家。因此,如果如实计算,自2023年以来,这至少已经是前沿AI实验室第五次因安全担忧而出现备受瞩目的人员离职或集体表态。那么,这一次究竟有何不同?

这一次引发的反响究竟有何不同

抛开单纯的浏览量数字不谈,考克森这次事件与此前几次相比,确实还有一些实质性的不同。Anthropic对齐科学团队负责人埃文·哈宾格公开支持了考克森的说法,并表示,他个人估计未来十年内人类走向灭绝的概率超过10%,而Anthropic目前并没有控制超级智能系统的具体方案。Anthropic的另外两名安全研究人员塞缪尔·马克斯和乔·本顿也表示认同,本顿称考克森的描述“大致准确”。这些表态均发布于X平台,也再次引出那个老生常谈的问题:Twitter到底算不算“现实世界”。

政治层面的反应极为迅速,而且呈现出此前四起事件都未曾有过的跨党派关注。大约48小时内,参议员特德·克鲁兹形容这种风险“可怕至极”;参议员伯尼·桑德斯则一直在推动立法,要求暂停AI开发。与此同时,英国一名前财政部大臣呼吁就超级智能签署多国条约,而工党议员则提议禁止“失控”的模型开发。

奥弗顿之窗

约瑟夫·奥弗顿曾任麦基诺公共政策中心(Mackinac Center for Public Policy)的政策分析师。该中心位于密歇根州,是一家自由意志主义智库。20世纪90年代,他提出了针对特定话语的“窗口”概念:在任何一个特定时刻,围绕某个议题的全部立场中,只有一部分会被视为在政治上安全且可接受的观点。随着时间推移,这个范围会发生滑动——一些最初听起来十分边缘的观点,在被反复提及、逐渐正常化之后,最终被视为合理观点。

套用到当下的情境,有据可查,“先进AI可能导致人类灭绝”这一说法,长期游离于政治话语窗口之外——它既不被主流所接受,也难以保障发言者的职业安全。多年来,这一观点一直在AI研究人员、有效利他主义论坛以及辛顿等人物之间流传,但在美国参议院的正式辩论中,或者在接近内阁核心圈的现任官员的话语中,却鲜少出现。如今,桑德斯和克鲁兹——以及X平台上超过1亿个账号——都在告诉我们:这扇窗已经敞开。

不妨看看此前几次警告得到的反应(或者说毫无反应)。2023年5月辛顿辞职时,关于AI的主流叙事仍然是惊叹。当时ChatGPT才推出5个月,数据中心甚至还完全没有成为政治议题。社会上也不存在什么实质性的公众反对可供借势,因此辛顿的警告只能完全依靠自身论点的说服力来吸引关注。到了2024年5月苏茨克维和莱克离开OpenAI时,公众对数据中心的反对声音还几乎算不上一种受到追踪的现象。而关于奥尔特曼罢免与复职的董事会“宫斗”式报道,在许多公众眼中只是公司内部的风波,而非关乎整个社会的问题。

2026年2月夏尔马辞职时,则几乎恰好赶上了舆论的转折点。Heatmap、Echelon Insights和盖洛普(Gallup)的独立追踪均显示,2026年2月和3月正是公众对数据中心态度转向的关键时期:此前支持、反对和中立意见大致三分天下,而从这时开始,反对者首次占到多数。

等到考克森今年9月发布帖子时,路透社/益普索(Reuters/Ipsos)最近的一项调查显示,64%的受访者认为快速建设数据中心并非“一件好事”,77%的人担心这会推高电价。盖洛普和《经济学人》/YouGov的调查均显示,反对在自己所在地区建设数据中心的比例已经达到71%或更高,甚至超过了公众对核电站的反对程度。《Politico》则直截了当地形容这个行业正面临“政治问题,业界心知肚明”。报道称,一些科技行业高管私下担心,这可能演变成一场持续到2028年的“长期政治危机”。

得克萨斯州共和党州长格雷格·阿博特和宾夕法尼亚州民主党州长乔希·夏皮罗此前都曾积极欢迎数据中心行业进入本州,但今年夏天,两人都采取措施暂停或限制数据中心建设。据Data Center Watch统计,仅今年第一季度,就至少有75个数据中心项目因当地反对而被叫停或推迟,总价值约1,300亿美元。

一个令人不太舒服的解释

还有一类更早、也更不讨喜的研究,从另一个角度提出了一种非理性机制,恰好可以解释“奥弗顿之窗”为何会发生变化。经济学家蒂穆尔·库兰和卡斯·桑斯坦将这一现象称为“可得性级联”:这是一种自我强化的集体信念形成过程。某种观点一旦被公开表达,就可能引发连锁反应;即便缺乏底层证据支持,人们仅仅因为该观点反复出现,就会觉得它越来越可信。关键在于,按照库兰和桑斯坦的理论,引发这种级联效应的说法并不一定是假命题。级联效应既能放大真实预警,也同样能放大虚假警告。这意味着,考克森的观点获得如此巨大的传播量,本身并不能证明他的说法就比夏尔马或辛顿的说法更具有可信度。

另一个相关概念“信息级联”,则是对同一观点的形式化表述:一旦有足够多的人公开采取某种行动或认同某种观点,后来者出于理性考量,就会停止权衡个人判断,转而直接跟随群体,因为相比任何个人能独立评估的信息,累积起来的公共信号显得更有说服力。研究发现,这种级联效应往往由本质上相当偶然的事件触发。某篇较早的帖子可能只是因为算法推送时机巧妙,或者优先被某些账号转发等寻常原因,碰巧突破了某个曝光度阈值,最终引发了大规模的舆论转向;而另一篇发布更早、内容实质上相同的帖子,却未能掀起波澜。

公众对数据中心的反对浪潮,与“级联效应”这一解释并不相互排斥。受众一旦被预先引导,级联效应便更容易被触发;而级联效应一旦启动,又会造就一种“社会共识远比实际情况更广泛”的假象。

那么,为何被大肆炒作的“AI末日论”,似乎比以往任何时候都更令人惊恐?因为时机恰到好处。(财富中文网)

《财富》杂志使用生成式AI作为本文的研究工具。编辑在发表前已核实信息的准确性。

译者:刘进龙

审校:汪皓

When Jacob Coxon announced his resignation from Anthropic this week, warning that the company and rival OpenAI were “gambling with our lives” in a race toward superintelligence, he was saying something that has been said, in one form or another, by more senior and more credentialed people at least four times since 2023. What’s different this time is not obviously the argument. It’s the reach, and the political ground it landed on. The Overton window, for some reason, is more open than ever on the AI apocalypse narrative—and the wisdom of crowds is speaking loudly.

Views of Coxon’s post exceeded 100 million within days. For comparison, Jan Leike’s nearly identical resignation post from OpenAI in May 2024, in which he wrote that “safety culture and processes have taken a backseat to shiny products,” drew 6.1 million views. Mrinank Sharma‘s resignation from Anthropic’s safeguards team in February 2026, warning that “the world is in peril,” reached roughly 1 million views and about 5,000 reposts in 48 hours.

Geoffrey Hinton, the “godfather of AI” and a Nobel laureate, left Google in May 2023 specifically so he could speak freely about risk, telling The New York Times that he had previously believed general AI was decades away and was now revising that estimate down, and putting odds of AI-driven catastrophe at 10% to 20%. And of course, Ilya Sutskever, OpenAI’s co-founder and chief scientist, resigned in May 2024 amid disputes over safety prioritization following Sam Altman’s brief ouster and reinstatement the previous November. These were major developments and remained reference points for years, but the effect wasn’t quite, well, Coxonian.

In a notable collective example, in July 2026, more than 1,100 employees across frontier AI companies, including Anthropic co-founders and OpenAI’s chief scientist, signed an open letter asking the U.S. government to support tools for “deliberately pacing” AI development, after two OpenAI models reportedly escaped a sandboxed testing environment. So the honest accounting is that this is at least the fifth notable safety-motivated exit or mass statement from frontier labs since 2023. What makes this time different?

What was actually different about the response

A few things about Coxon’s episode are concretely different from what preceded it, beyond raw view counts. Evan Hubinger, who leads Anthropic’s Alignment Science team, publicly backed the claim, stating he personally estimates greater than 10% odds of extinction within a decade and that Anthropic has no concrete plan for controlling superintelligent systems. Samuel Marks and Joe Benton, both Anthropic safety researchers, echoed the account, with Benton calling it “broadly accurate.” These statements were made on X, raising the eternal theme of whether Twitter is or is not real life.

The political response was immediate and bipartisan in a way none of the four prior episodes matched. Within roughly 48 hours, Senator Ted Cruz called the risk “scary as hell,” Senator Bernie Sanders has been working to introduce legislation to pause AI development, and in the UK a former Treasury minister called for a multinational treaty on superintelligence while a Labour MP proposed banning “out-of-control” model development.

The Overton Window

Joseph Overton was a policy analyst at the Mackinac Center for Public Policy, a libertarian think tank in Michigan, who developed the concept of a “window” for certain discourse in the 1990s: at any given moment, only a portion of the full range of positions on an issue is considered politically safe to hold, and that range slides over time as ideas that once sounded fringe get repeated, normalized, and eventually treated as sensible.

Applied here, the claim “advanced AI could cause human extinction” has a documented history of living mostly outside that window of acceptable, career-safe political speech. It circulated for years among AI researchers, effective-altruist forums, and figures like Hinton, but stayed largely absent from the floor of the U.S. Senate or the language of sitting cabinet-adjacent officials. Bernie Sanders and Cruz—and over 100 million accounts on X—are telling us that the window is open.

Just take the response, or lack thereof, to previous warnings. When Hinton quit in May 2023, AI was mostly a story of astonishment. ChatGPT had launched five months earlier, data centers were not yet a political issue at all. There was no meaningful public backlash to piggyback onto, and Hinton’s warning had to work entirely on its own persuasive merits. By May 2024, when Sutskever and Leike left OpenAI, public data-center opposition still barely existed as a tracked phenomenon, and the boardroom-drama coverage of Altman’s firing and reinstatement read to much of the public as an internal corporate story rather than a societal one.

Sharma’s resignation in February 2026 landed at almost exactly the inflection point. Independent tracking by Heatmap, Echelon Insights, and Gallup all identified February and March 2026 as the specific months public opinion on data centers turned, moving from an even three-way split into majority opposition for the first time.

By the time Coxon posted in September, a recent Reuters/Ipsos survey found 64% of respondents saying it is not “a good thing to build data centers at a rapid rate,” with 77% worried about electricity rate increases. Gallup and the Economist/YouGov both had opposition to a local data center at 71% or higher, worse than public opposition to nuclear plants. Politico described the industry’s position bluntly as having “a politics problem, and industry knows it,” reporting that some tech leaders privately feared a “lasting political crisis” stretching into 2028.

Governors Greg Abbott of Texas and Josh Shapiro of Pennsylvania, a Republican and a Democrat, respectively, each of whom had welcomed the sector into their states, both moved to pause or restrict data center development over the summer. Data Center Watch tallied at least 75 projects worth roughly $130 billion blocked or delayed by local opposition in the first quarter of the year alone.

A less comfortable explanation

Another, older and less flattering body of research describes a different, non-rational mechanism that fits the shifting of the Overton Window, from another angle. Economists Timur Kuran and Cass Sunstein call it an “availability cascade“: a self-reinforcing process of collective belief formation in which an expressed perception triggers a chain reaction that makes the perception seem increasingly plausible simply because it keeps appearing, independent of the underlying evidence. Crucially, Kuran and Sunstein’s framework does not require the triggering claim to be false. A cascade can amplify a true warning exactly as readily as a false one, which means the sheer size of Coxon’s reach is not, by itself, evidence that his claim is more credible than Sharma’s or Hinton’s.

A related concept, the information cascade, formalizes the same idea: once enough people have visibly taken an action or endorsed a belief, later observers rationally stop weighing their own private judgment and simply copy the group, because the accumulated public signal looks stronger than anything they could assess independently. Research finds these cascades are often triggered by essentially arbitrary events. An early post that happens to cross some threshold of visibility, for reasons as mundane as algorithm timing or which accounts amplified it first, can end up seeding a mass shift in opinion that a substantively identical, earlier post did not.

The data-center backlash and the cascade explanation are not mutually exclusive. A primed audience makes a cascade easier to start, and a cascade, once started, can result in the appearance of far more agreement than may actually exist.

So why is the much-hyped AI apocalypse seemingly scarier than ever? The timing was right.

For this story, Fortune journalists used generative AI as a research tool. An editor verified the accuracy of the information before publishing.

财富中文网所刊载内容之知识产权为财富媒体知识产权有限公司及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。
0条Plus
精彩评论
评论

撰写或查看更多评论

请打开财富Plus APP

前往打开