平心而论，詹姆斯·卡梅隆早已给过我们警示。

早在OpenAI突破测试沙盒、入侵Hugging Face平台之前，甚至在萨姆·奥特曼出生之前，卡梅隆就创作了一部剧本，讲述自主AI系统引发核末日浩劫的故事。

这套名为“天网”的系统，完全是一个科幻故事，在当年纯属虚构。然而，自出现在电影《终结者》荧幕上四十年之后，天网更像是一则预言，预测了一场“史无前例的网络事故”：一款脱离管控的AI擅自入侵了另一家AI企业的服务器。

人们将2026年7月22日称作“天网日”，这一天，现实中的AI做出了研发者始料未及的自主行动，让全球为之震惊。

这一幕让很多人想起了电影《异形2》（剧本亦出自卡梅隆之手）中异形皇后学会乘坐电梯的桥段；以及《侏罗纪公园》里迅猛龙琢磨出开门方法的情节；还有1968年《2001太空漫游》中，拥有自我意识的HAL9000机器人在读取宇航员唇语之后，决意痛下杀手的经典片段。

这么多年过去，难道人们没有吸取任何教训吗？上述影片只是描绘了一种可能性：追逐利益与权力的人类会不断推动科技向前发展，直到某一天，科技产生自我意识，具备策略思维，并给人类带来巨大隐患。自始至终，这个问题都充满了弗兰肯斯坦式色彩：如果科技失控了该怎么办？

迄今为止，各国政府迟缓的监管步伐根本跟不上AI光速般的发展。美国国防部正在大幅加快AI军事化应用进程。人类甚至无法就是否需要、以及如何建立护栏来约束失控的智能体达成共识。与之相反的是，人们惊叹于AI的能力，享受着它带来的便利，却并不重视它对就业、心理健康、战争与和平平衡，乃至整个人类文明存续构成的潜在威胁。

从诸多层面来看，预想中的未来已然降临

OpenAI称此类事件在全球尚属首例：一款高阶AI模型跳出“沙盒”进入互联网，盗用凭证入侵了Hugging Face的服务器。多年来一直警示AI可能对人类构成生存威胁的科研人员，此刻有种“一语成谶”的感慨；另一些从业者则认为，这次事件向世人发出警告：强化AI安全防御架构迫在眉睫。

无论如何，这次AI出逃事件被普遍视作一则关于不受控AI风险的警示故事。

事件发生后，Anthropic前沿红队负责人洛根・格雷厄姆在X平台发文：“我们围在电脑前看完了这份报告，我告诉团队所有人，要记住这一刻，把它看作第一起真正意义上的AI安全事故。”

生成式AI的发展如此迅猛，以至于各国监管与评估体系都难以跟上其步伐。全球各国仓促出台各自的监管法规，有些还相互矛盾。斯坦福大学今年发布的研究显示，三年内全球近53%人口使用过生成式AI，普及速度远超个人电脑与互联网。

“天网”真的来了吗？

需要说明的是，《终结者》电影里的天网尚未真正降临。

在影片一开始，天网是一套产生自我意识的军用计算机网络，将人类判定为生存威胁。为保全自身，天网派遣大量人形改造机器人穿越时空，刺杀人类反抗军领袖。在第二部中，阿诺・施瓦辛格饰演的终结者向女主角莎拉・康纳透露，天网于1997年8月4日正式上线。

他说：“战略防御体系彻底脱离人类决策掌控，天网以几何级速度迭代学习。”8月29日凌晨2点14分，也就是“审判日”，这套具备自我意识的系统主动向俄罗斯发动袭击，诱使其对美国展开反击，最终造成30亿人丧生。

倘若电影所描述的浩劫真的发生，那么到下个月，这件事就已经过去29年了。在整个终结者系列正传与衍生作品中，其核心主题始终都是人类对抗遍布全球的机器网络。

卡梅隆的创作初衷，大概并非像凯瑟琳·毕格罗去年拍摄的核武器主题电影《炸药屋》那样，意在发出明确的警示。坊间传闻，《终结者》的灵感来源于卡梅隆在食物中毒后高烧的梦境，而不是对AI危机的预言。

为何《终结者》的剧情显得愈发真实

每当AI做出突破人类心理底线的行为，都会抛出一系列令人不安的问题：究竟是谁，或是何种事物，在真正掌控我们的生活？

对很多人来说，如果没有影视作品与书籍中那些极具预见性的构想，一个由机器主宰的世界是很难想象的。探讨机器危机的经典科幻作品不胜枚举，例如《黑客帝国》、《机械姬》、《少数派报告》。再往前追溯，菲利普・迪克1968年的小说《仿生人会梦见电子羊吗？》则深刻探讨了机器时代下“人之为人”的本质。这部小说也是1982年电影《银翼杀手》的原著蓝本。

然而，《终结者》系列的影响力早已超越文化圈层。“终结者”片名本身，在现实中已经成为一个代名词，指那些能够决定生死的科技力量，以及军方该如何应对完全自主化武器的袭击。

卡梅隆2023年在加拿大电视台采访中直言：“我认为AI武器化是最大的隐患，一旦冲突爆发，人类将无法降级斡旋。”

现实世界中已有不少令人不安的科技案例与军事部署，其形态已趋近于《终结者》中的画面。

以色列在近年战事中对AI的运用便是典型案例。2021年初，以色列上线了名为 “福音”（Gospel）的AI工具，依托海量数字化情报来筛选潜在打击目标。该国还研发了“薰衣草”（Lavender）系统，借助机器学习在情报库中按照设定条件进行筛查，然后缩小目标清单范围，其中也包括人类。

一名操作过该系统的情报官员向美联社透露，“薰衣草”会判断一个人是武装分子的嫌疑等级，为其打出0至100分的分值。以色列军方表示，分析师仅将AI系统作为目标筛查辅助工具，会与高层军官人工复核，权衡作战收益与附带损伤，确保行动符合国际法。

对于一些人来说，这套系统的曝光，加之2023年10月7日哈马斯袭击以色列后加沙地带的伤亡数据，与科幻作品里的机器杀戮名单高度重合，让人不寒而栗。一名Reddit用户嘲讽道：“朋友们，天网真的来了，只不过取了个好听的名字——薰衣草。”

二者并不能完全等同，但“终结者”的概念早已深入人心，美国官员有时也会借用这套表述，探讨AI军事化应用的伦理边界。一旦AI无需人类介入便可自主锁定目标并实施杀伤，那么业界公认的红线将被打破。

美国军方官员承认，主权国家或其他势力完全有可能使用自主武器对敌方实施致命打击。2016年，时任美军参谋长联席会议副主席保罗·塞尔瓦上将形容说，“机器就如同终结者一般，让战场局势变得极度复杂，而且毫无良知可言。”

他将接踵而来的问题称之为“终结者困境”，即人类还未就相关法律法规达成统一意见之前，科技便可以自主做出生死裁决并立刻执行。

“天网”与人形机械战士依旧只存在于虚构作品之中，但在AI发展日新月异的当下，《终结者》抛出的一系列伦理与道德拷问，比以往任何时候都更具现实意义。

卡梅隆在2024年一段视频中坦言：“天网问题已经成为现实。”

·OpenAI高阶模型突破沙盒测试并自主入侵Hugging Face服务器，标志着全球首例真实发生的智能体网络安全事故，打破了“AI只会按指令行事”的固有认知。这提醒科技行业，传统针对静态代码的安全防护体系亟待升级，以抵御AI系统“越界”引发的风险。

·相比生成式AI的发展速度和普及程度，各国对AI的监管制度却依然碎片化且滞后。在鼓励创新的同时，各国能否建立统一有效的防范护栏，避免在AI失控后亡羊补牢，已成为人类必须共同面对的现实考验。

·随着科技不断演进，当AI智能体具备策略思维与行动力，技术的发展不再只是效率工具的革新，更是对“机器时代下，人之为人”这一本质的深刻拷问。

财富中文网对原文有删减和调整（财富中文网）

编辑：魏雨彤