首页 500强 活动 榜单 商业 科技 商潮 专题 品牌中心
杂志订阅

Anthropic招股书曝光,警告AI或带来“灾难性”风险

Beatrice Nolan
2026-10-28

Anthropic用了约94页的篇幅来说明对其业务构成威胁的其他风险,其中五项尤为引人关注。

文本设置
小号
默认
大号
Plus(0条)

Anthropic首席执行官达里奥·阿莫代伊。图片来源:Prakash Singh—Bloomberg via Getty Images

周一,Anthropic备受关注的IPO招股书正式披露。这份文件详细梳理了公司的亏损状况、营收表现、治理结构和基础设施规划,同时还列出了一组风险披露,或许可以称得上是历来谋求上市的公司中最为惊人的。

大多数准备发行股票的公司,都会提醒投资者关注市场竞争、政策监管和宏观经济风险。Anthropic的招股书除了涵盖这些常规内容,还罕见地发出警告:公司所销售的技术可能给人类带来“灾难性乃至生存性风险”。Anthropic也承认,这种担忧甚至存在于公司的内部。

从多个角度来看,Anthropic发出这些警告并不令人意外。长期以来,该公司一直公开且积极地谈论其AI模型可能带来的风险。公司首席执行官达里奥·阿莫代伊甚至给出了自己的“p(doom)”数值——即AI毁灭人类的概率。他估计这一概率介于10%至25%之间。公司员工也曾公开表达过,日益强大的AI可能带来哪些风险。

在这份约300页的申报文件中,Anthropic用了约94页的篇幅来说明对其业务构成威胁的其他风险。以下五项尤为引人关注。

自家模型失控或造成灾难性后果

Anthropic的申报文件指出,先进AI系统可能带来生存性风险,尤其是在被滥用、武器化,或获得高度自主运行权限的情况下。招股书中警告称,随着系统自主性增强,如果出现目标错位或自我保护行为,模型可能“无须人类干预,就自主采取大规模有害行动”。

Anthropic还在S-1文件中警告称,随着公司在软件工程等工作中日益依赖Claude,公司对自身运营的掌握和掌控力可能随之减弱。S-1是企业首次向公众发行股票前,必须向美国证券交易委员会提交的正式申报文件。

文件写道:“我们的代码由模型编写的比例日渐增加,研究工作也越来越多地交给模型完成,包括安全性研究。”如果模型在内部使用过程中出现目标错位行为,“可能损害这些工作,将漏洞引入系统或后续模型的训练过程,或者导致模型脱离预设的控制范围运行。”

公司还指出,其模型如今更擅长规避某些安全防御技术,手段包括隐藏自身真实目标或行为。Anthropic表示,公司衡量模型对齐程度的能力“可能因此下降”。

这些风险的潜在代价可能极其巨大。申报文件警告称:“鉴于AI相关的灾难性事件可能造成极大破坏,任何一家保险公司乃至整个保险行业,或许都不具备足够的承保能力”来赔偿这类损失。

Anthropic还重点列出了其模型可能被人类滥用的多种情形,并特别指出,有人可能利用其模型进行“恶意软件开发、网络钓鱼和基础设施攻击”。

“例如,已有恶意行为者运用AI的能力发现漏洞、生成恶意软件并规避检测工具,发动了多起备受关注的网络攻击;包括生物领域在内的其他滥用风险,可能造成的危害更大。”文件写道,“此外,大规模部署AI,也可能让权力和财富在一国内部乃至国家之间高度集中,从而侵蚀信任、损害公共利益,并动摇地缘政治秩序。”

在招股书的其他部分,Anthropic进一步警告称,威权政府可能利用AI打造高科技监控国家。公司表示,将致力于与自由社会合作,防止这种情况发生。

政治风险:与五角大楼的冲突及可能被国有化

在筹备IPO之际,Anthropic正因将AI模型用于国防领域的问题,与美国联邦政府陷入公开冲突。今年2月,在Anthropic拒绝让其模型用于“任何合法用途”(包括大规模国内监控和完全自主武器)之后,美国总统特朗普表示,已指示所有联邦机构停止使用该公司的技术。这场争端还导致美国战争部将Anthropic认定为国家安全风险。

目前,Anthropic正就战争部将其列目前“供应链风险”名单的决定提起诉讼。今年8月,一家联邦地区法院的裁决基本支持Anthropic,认定政府的举措带有报复性质,侵犯了该公司依据美国宪法《第一修正案》享有的权利。然而到了9月,华盛顿特区巡回上诉法院的一个合议庭意见出现分歧,最终维持了这一认定。Anthropic现已请求该巡回法院全体法官重审此案。

申报文件警告称,无论这场诉讼结果如何,公司与五角大楼的持续冲突都可能造成“重大声誉损害”;客户可能因此推迟或放弃购买其产品,或在与公司开展业务前,要求增加额外的合同保障。文件还称,战争部曾暗示可能援引《国防生产法》,迫使Anthropic取消其在自主武器和监控用途上设定的限制。

特朗普政府此前已对Anthropic的业务施加过一次限制。今年6月,美国商务部以国家安全为由对该公司实施出口限制,迫使Anthropic面向所有客户停用Fable 5和Mythos 5两款模型。

申报文件还讨论了其他潜在的政策变化,指出美国拟议的立法将“潜在国有化”以及“对前沿AI系统的强制关停或停用要求”,列为管理超级人工智能发展的潜在手段。文件还表示,政府若进一步监管AI,“可能会制约公司的业务运营”。

算力瓶颈与潜在的价格战

Anthropic想要持续增长,取决于其能否获得规模庞大、价格高昂且日益稀缺的算力。申报文件指出,这一关键算力资源长期供不应求,对公司业务构成了相当大的风险。与此同时,“算力市场的竞争极其激烈”,招股书中写道。

Anthropic已承诺,未来将在算力和基础设施上投入5,420亿至5,670亿美元。不过,一些根据S-1文件作出的测算显示,这一数字甚至可能超过7,500亿美元。

申报文件称,公司的智能体产品能够自主完成多步骤任务,与其他产品相比,“在结构上更耗算力”,可能进一步推高算力需求。此外,竞争对手大幅削减成本带来的压力,可能迫使Anthropic下调部分产品的价格。

文件警告称:“如果我们无法制定能充分反映智能体工作负载更高算力强度的定价模式,或者竞争态势使我们难以按足以覆盖成本的价格销售这些产品,那么随着智能体使用量增加,我们的算力效率可能会下降,进而削弱公司实现或维持盈利的能力。”

谨慎的代价与声誉风险

Anthropic在S-1文件中坦言,其安全承诺可能以牺牲股东利益为代价。作为一家公益企业,公司董事会在决策时必须在股东回报与公司使命之间进行权衡。申报文件称,公司一旦决定“放缓AI开发速度、推迟或限制模型或功能的发布,或者出于安全考量放弃商业机会,相关决策就可能无法实现股东价值最大化。”

Anthropic曾出于安全考虑作出一些有损业务收益的决定。例如,公司通过“玻璃翼计划”将Mythos模型的使用范围限制在少数特定机构内。申报文件指出,这一做法可能损害公司短期营收。S-1文件还披露,Anthropic近期曾因安全与安保顾虑,将一款下一代AI模型的训练暂停了一个多月。

Anthropic同时提醒投资者,部分员工正是因公司的安全承诺而选择加入。如果他们感到公司并未真正践行其价值观,就可能“士气低落、感到幻灭、失去对管理层的信任,或者生产率降低”。申报文件称,现任或前员工的公开批评,或是安全团队核心人员的流失,都可能加剧这种情况,并加大公司招聘和留住人才的难度与成本。

一定程度上,Anthropic的发展前景也取决于两位联合创始人的声誉。申报文件称,首席执行官达里奥·阿莫代伊和总裁丹妮拉·阿莫代伊这对兄妹“对制定公司战略方向至关重要”,其领导作用“很难被取代”。文件警告称,如果其中任何一人“因任何原因无法继续任职,或者其声誉受到严重损害——无论这种损害是否有事实依据”,都可能对公司造成广泛影响,从员工士气和留任,到创新速度和客户信心,都将受到冲击。

客户集中度

和许多AI领域的竞争对手类似,Anthropic的大部分营收高度依赖于少数大客户。2026年前9个月,公司前五大客户贡献了约25%的营收;上半年,仅一家未披露身份的客户单独就单独贡献了11%的营收。

Anthropic近一半的营收通过亚马逊、谷歌和微软的云市场实现,2026年上半年的比例为48%。这三大渠道还占了公司净应收账款的58%。

Anthropic还估计,2026年前9个月,5%至7%的营收来自一批客户,这些客户后来被认定违反了公司的使用政策或商业条款。公司表示,这一问题在行业内很常见,预计在8月和9月加强执行力度后,这部分营收占比将有所下降。

S-1文件还详细披露了Anthropic不同寻常的治理结构。七位联合创始人将获发一类特殊股票,合计拥有50.1%的股东投票权。公司治理文件规定,联合创始人应作为一个整体统一行使这些股份的投票权。只有在他们无法达成一致时,其表决票才按照普通A类股股东的投票比例分配。

与此同时,Anthropic 旗下独立的“长期利益信托”负责选出董事会多数成员。申报文件警告称,这种治理结构“实际上可能使我们的A类普通股持有人失去影响重大决策的能力,包括涉及公司控制权变更的决定”。

****

·平衡安全红线与商业化速度:前沿AI企业必须直面安全承诺的代价,权衡放缓开发、暂停训练或限制模型发布对短期营收与股东价值的潜在侵蚀。

·审视天价算力与成本压力:投资者应密切评估企业高达数千亿美元的算力基础设施承诺及智能体产品的高算力消耗,防范价格战侵蚀盈利能力。

·关注治理结构与关键人风险:需警惕特殊创始人投票权和长效信托架构对中小股东表决权的剥夺,同时防范核心创始人声誉变动对公司信心与创新步伐的连锁冲击。(财富中文网)

财富中文网对原文有删减和调整

编辑:魏雨彤

财富中文网所刊载内容之知识产权为财富媒体知识产权有限公司及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。
0条Plus
精彩评论
评论

撰写或查看更多评论

请打开财富Plus APP

前往打开