当前，人工智能（AI）以摧枯拉朽之势重塑全球地缘政治、经济结构与人类文明。然而，在算力狂飙、资本狂欢与万亿美元市值神话的背后，一道阴影正在悄然拉长。近日，全球前沿AI巨头Anthropic在流出的IPO招股书中公开警示：自主性更强的AI系统可能引发安全危机，甚至“给人类带来关乎生存的风险”。这一来自产业核心腹地的声音再次振聋发聩地表明：“AI或致人类灭绝”的警示绝不是危言耸听。我们必须以高度的政治清醒、理性的战略审视和人类命运共同体的历史担当，正视这一关乎文明存续的重大课题。

AI已切断一些人的生路，且有愈演愈烈之势

毋庸讳言，当前，AI已经切断一些人的生路，且有愈演愈烈之势。

回溯技术发展的历史，每一次生产力的飞跃都在创造新财富的同时带来结构性阵痛。然而，生成式AI与大语言模型的崛起，其冲击速度与广度远超以往任何一次工业革命。在当前的经济社会版图里，从传统的内容创作、软件编程、法律文书处理，到基础的客户服务、行政管理，乃至更广泛的蓝领与白领岗位，AI的替代效应正以几何级数扩散。无数普通劳动者面临着职业技能被瞬间贬值的残酷现实，传统的生计链条在算法的无情碾压下断裂。

这并非局部的、暂时的摩擦性失业，而是一场深刻的社会生存危机。当资本为了追求极致的效率与垄断利润，将数以百亿计的资金砸向算力与基础设施——正如Anthropic在招股书中所披露的那样，去年营收仅46亿美元却录得高达420亿美元的亏损，承诺未来承担总计5180亿美元的云服务义务——这种资本与算力的狂飙突进，在实体经济和劳动者层面投射出的，往往是生存空间的挤压。技术本应是解放人类的工具，但在资本逻辑的异化下，它却在局部率先成为了切断部分群体生路的利刃。这种苗头如果任由其野蛮蔓延，必将引发深重的社会撕裂与动荡。

见义勇为与力挽狂澜是题中之义

长期以来，面对AI狂飙带来的生存威胁与潜在的毁灭性风险，见义勇为、挺身而出并力挽狂澜的人士少之又少。

在过去的一段时间里，全球科学界、产业界与政界虽然不乏对AI伦理的零星讨论，但大多数声音被淹没在资本狂欢和技术乌托邦的盲目乐观之中。面对巨额的商业回报与地缘竞争压力，多数人选择做沉默的旁观者，甚至推波助澜。

然而，令人欣慰的是，近日，见义勇为、挺身而出的人士多了起来。我们看到，越来越多的顶尖科学家、前沿实验室的高管、伦理学者以及觉醒的政经界人士开始打破沉默。正如Anthropic部分高管及创始人因对治理理念的分歧而选择出走、并在招股与公开场合频频拉响生存警报一样，这种“吹哨人”现象正在增多。他们顶着商业利益与行业排挤的巨大压力，公开揭示前沿AI可能失控的深层隐患。这种勇于直面风险的浩然正气，正是当今变局中弥足珍贵的理性光芒。

为什么力挽狂澜的人士几乎为零？

尽管挺身而出的吹哨人正在增加，但我们必须清醒而严峻地指出：关于致人类灭绝难题，在世界上，力挽狂澜的人士几乎为零。

这是一个冷酷但必须直面的现实。为什么面对可能导致文明终结的系统性风险，真正能够力挽狂澜、从根本上化解危机的人依然近乎空白？其根本原因在于力量对比的极端不对称：人类利用为善事的能力，目前远远不足以抵消个别人利用AI为恶事的能力。

这恰恰是AI致人类灭绝的支点与杠杆。在这件事上，我们可以借用古希腊伟大的数学家、物理学家阿基米德的名言：“给我一个支点，我就能撬起整个地球”。在人工智能的时代，强大的算法、海量的算力和无孔不入的自主性，就是那个无比坚硬的“支点”；而少数恶意主体、极端势力或者技术失控所带来的破坏力，就是那根无限长的“杠杆”。

一个技术门槛被不断拉低的超级AI，其潜在的破坏力呈现出惊人的非对称性。AI导入、介入并旷日持久的战争对人类生存的挑战；威胁制造一场全球性的生物恐怖袭击、操纵金融市场引发经济崩溃、或是在关键基础设施中植入毁灭性漏洞，往往只需要极少数别有用心的人，或者仅仅是一次算法的“意外行为”（正如Anthropic招股书中所警告的那样）。相比之下，人类为了达成全球治理共识、建立万无一失的安全防线、确保每一个AI系统都绝对向善，所需调动的法律、政治、道德和技术资源是极其浩瀚且步履维艰的。善的力量在制度、国别和利益的扯皮中被严重内耗，而恶的破坏与系统的失控只需要一个瞬间。这种巨大的能力逆差，构成了人类头顶挥之不去的达摩克利斯之剑。

众志成城是人类打赢生存之战的不二法门

基于此，可以这样说，凡是正确预警AI风险的人士，善莫大焉！

无论是公开揭示财务与技术风险的科技公司，还是大声疾呼放缓研发节奏的远见之士，他们的每一次发声、每一次预警，都是在为人类敲响防范文明毁灭的警钟。这些声音唤醒了公众的忧患意识，为构建全球AI治理框架争取了宝贵的缓冲时间。理应获得全社会的高度敬意与坚定支持。

然而，必须清醒看到的是：距离众志成成的局面，还差很多！

当前的国际社会，在AI治理上依然面临着严重的碎片化与地缘博弈陷阱。一些国家为了在科技竞赛中争夺霸权，仍在盲目松绑监管、大搞算力军备竞赛；资本仍在无视长远生存风险，疯狂催生估值泡沫。如果世界各国不能超越零和博弈的狭隘思维，如果全人类不能凝聚起超越地缘与意识形态的命运共同体共识，那么纵然有再多的预警，也终将被下一次技术失控的洪流所吞没。

中国一贯主张发展与安全并重，倡导秉持人类命运共同体理念，积极推动全球AI治理。面对AI这一人类历史上从未有过的终极变量，我们呼吁国际社会立即行动起来：

打破狭隘竞争：建立全球性的前沿AI安全红线与强制性审查机制，绝不能让追求商业垄断的“现金消耗与估值狂欢”凌驾于人类生存安全之上。

弥补治理赤字：大幅提升人类利用集体智慧“向善”的治理能力，以强大的国际法治与技术防火墙，彻底对冲个别人利用AI“为恶”的杠杆效应。

凝聚全球合力：从学术界、产业界到主权国家，必须真正做到众志成城，把“预警”转化为切实可行的“全球协同防御行动”。

AI或致人类灭绝的警示绝不是危言耸听。时间已经不多，支点已经翘起，杠杆已经架设。人类能否在自我毁灭的边缘悬崖勒马，取决于我们今天是否有足够的智慧、勇气与团结，去合力打造那根能够拯救文明的“平衡之力”。

作者王衍行为财富中文网专栏作家，中国人民大学重阳金融研究院高级研究员、中国银行业协会前副秘书长、财政部内部控制标准委员会咨询专家

本内容为作者独立观点，不代表财富中文网立场。未经允许不得转载。

编辑：杜晓蕾