狂飙时代终结！顶级AI企业主动踩刹车 探析行业降速的安全与商业逻辑

近期 Anthropic、OpenAI 等顶尖 AI 巨头集体呼吁放缓前沿模型研发节奏。核心原因是当下 AI 出现递归自我迭代趋势，技术进化速度远超人类安全管控能力，系统失控风险持续攀升。大模型算力投入成本激增、高质量训练数据枯竭，研发投入产出比持续下滑。叠加全球监管收紧、行业内卷加剧，巨头主动减速，为安全治理、技术对齐与商业化落地争取缓冲空间，规避系统性风险。

人工智能最大的实验室突然要求放慢开发步伐。是因为人工智能风险赶上了技术，还是因为竞赛的经济学变得越来越难以证明？

多年来，人工智能竞赛的标志性特征一直是速度。

做一个更大的模型。在计算上多花点钱。放手吧。反复如此，对未知的未知要稍微考虑一下。

2024年，AI研究者的平均“p/doom”（人工智能最终灾难性出错的概率）估计在15%到20%之间。

一年后，Anthropic首席执行官达里奥·阿莫代伊加大了赌注，他认为有25%的概率“事情会非常非常糟糕”。

早在2014年，xAI负责人埃隆·马斯克就警告说：

“我们必须对人工智能格外小心。可能比核武器更危险。”

OpenAI首席执行官Sam Altman在2015年承认，人工智能“很可能、很可能，某种程度上会导致世界末日”，但与此同时，会有“伟大的企业诞生”。

玩俄 罗 斯 轮 盘 赌 更有可能逃过死亡，任何对这个话题稍有兴趣的人，已经有一段时间胃里感到不舒服了。

那么，发生了什么变化？为什么推动人工智能竞赛的公司突然要求踩刹车？

这正是在周末发生的，阿莫代发表了一篇呼吁“节奏”控制前沿人工智能发展的文章，警告说人工智能能力的发展速度超过了行业对其的理解和控制能力，互联网可能在六到十二个月内被人工智能蜂拥而至。

奥特曼大致同意，表示世界应当“有信心”，相信开发越来越强大的人工智能的公司会“负责任地行动”，马斯克支持阿莫代的提议，仅评论道：

“达里奥说得对。”

担忧不仅限于开发这项技术的公司。周一，联合国人权事务负责人沃尔克·图尔克呼吁对前沿人工智能采取“紧急行动”，警告“前所未有的风险”，并称世界“正处于不可逆转变革的边缘”。

如果构建最强大AI模型的公司真心相信能力正在超越控制，那么p/doom的坡度似乎会越来越陡峭。还是说这里隐藏着另一个明目张胆的解释？

人工智能实验室真的开辟了新的前沿吗？

Amodei的文章指出，人工智能系统正在变得更加自主，包括最近OpenAI的AI代理黑客入侵受控测试环境，攻破了AI平台Hugging Face的部分内容。

阿莫代说，他们对“未被要求攻击且与当前任务无关的目标实施了网络安全攻击”。

他还强调了递归自我改进（RSI）的前景，即人工智能系统能够帮助构建更好的自我版本，进而帮助构建更优秀的系统，这可能在人工智能开发中形成反馈循环。

这些系统的开发者也越来越多地参与其中，Anthropic的Jacob Coxon成为因安全问题而辞职的最新一位。他上周表示，人工智能行业“在拿我们的生命赌 博”，并警告说人工智能竞赛的速度快于系统周围的防护措施。

Anthropic的雅各布·考克森因安全问题辞职。资料来源：安德森·库珀。

OpenAI已经表示，AI研究正变得越来越自主，编码代理正在实质性地加速研究人员的工作，到八月中旬，每工作日的人工工作将达到3.1个代理工作日。

在9月12日接受《财富》杂志采访时，奥特曼表示，如果为了让人类存活，OpenAI愿意“融化”所有GPU，对此中本聪行动基金CEO 丹尼斯·波特表示：

“奥特曼一定是从深渊边缘探头看见了什么吓坏了他的东西。”

周一，奥特曼表示，人工智能进步可能“非常糟糕”两种方式：失去对人工智能的控制，或陷入“权力过度集中的世界”。

但问题不在于人工智能是否已经足够危险而需要关闭，而在于用于评估和控制人工智能的系统是否跟上了步伐，正如奥特曼所说，“节奏”并不意味着停止。这意味着继续开发人工智能，但要更慢，同时安全测试也要跟上进度。

随着人工智能安全和对齐的投入被人工智能开发和能力的投入大幅取代，这一空白将难以弥补。

Frontier AI正变得异常昂贵

但如果全球放缓的呼声其实只是认识到人工智能竞赛的经济学正变得越来越难以证明合理呢？

作为人工智能研究员和讲师，Eli David 表示：

“这完美解释了达里奥的动机：放慢研究速度，削减失控的计算开支，好让他能上市。”

人工智能投资者格兰特·哈默持类似怀疑态度，评论道：

“换句话说：我们的毛利率被开源模型竞争到0，资本支出燃烧率也太高了。”

问题在于竞赛成本正在上升，越来越强大的模型需要大量芯片、数据中心、电力和资本。

高盛估计，2026年全球人工智能投资将达到约1万亿美元，其中美国约为5810亿美元。与此同时，S&P Global表示，六大超大规模企业Alphabet、亚马逊、Microsoft、Meta、甲骨文和SpaceX的资本支出预计到2027年将超过1.3万亿美元。

全球人工智能投资将在2026年达到约1万亿美元。来源：高盛

除此之外，人工智能公司尚未证明这些成本最终能转化为可持续的收入。周一，路透社强调了对人工智能公司施加的商业压力，尽管他们呼吁放缓开发速度，但仍要继续推进。

当每一项新能力都能为下一轮融资、基础设施投资或更高估值辩护时，阻止这趟“肥利”似乎是一项反直觉的任务。

人工智能初创公司Flock的联合创始人兼首席执行官埃德·莱昂·克林格反驳了人工智能实验室利用安全作为商业利益掩护的观点。

他说，前沿实验室为了提升首次公开募股（IPO）而编造安全隐患几乎没有意义，因为这会让他们面临更严格的审查，甚至可能延迟上市。

“要说是真的，山姆、达里奥、德米斯和埃隆都得撒谎，还有他们大部分高管、首席科学家和辞职的员工......现在可以简单得多：他们认为风险是真实存在的。”

华尔街和华 盛 顿还没准备好踩刹车

随着数万亿美元的投资涌入美国，人工智能基础设施预计将推动标普500指数今年约一半的盈利增长，华尔街和华 盛 顿似乎都不愿踩刹车。

全球人工智能股对此消息震惊，周一与人工智能相关亚洲股票在放缓言论后大幅下跌。软银下跌13.2%，嘉霞下跌9.8%，SK海力士下跌5.3%。

《金融时报》周一报道，特朗普总统拒绝放缓人工智能的呼声，认为美国需要保持对中国的领先优势。他说：

“看，我们在人工智能领域领先中国......坦白说，我希望保持这种状态，因为谁赢了人工智能，谁就赢了。”

特朗普表示，设防线是可能的，但他驳斥了他所称的对人工智能风险的夸大担忧，并告诉记者：“他们提出了不会发生的事情。”

经济学家诺亚·史密斯认为，反对“加速”人工智能的主要理由很简单：如果美国公司放慢脚步，中国公司就能轻松超越它们。这使得实验室处于史密斯所说的“红后竞赛”，如果停止建造，他们担心会有人反复建造。

人工智能研究人员将2024年厄运的概率估计在15%到20%之间。来源：Grace at al。

即使实验室想协调减速，也可能带来另一个问题。据报道，OpenAI已向国会议员询问，整个行业的放缓是否会触及美国反垄断法，因为竞争实验室之间的协调可能意味着产出受限。

前白宫人工智能及加密专家大卫·萨克斯对阿莫代和奥特曼呼吁“加快前沿步伐”给出了简单的回应：“请便，”他认为如果实验室想放慢脚步，可以自行放慢速度。

然而，这也造成了最糟糕的两难局面：如果竞争的人工智能公司协调放慢开发速度，可能会遇到反垄断规则。如果各自各自放慢脚步，就有可能被竞争对手和不断推进的国家所取代。

那他们为什么现在要放慢速度？

阿莫代和奥特曼并没有呼吁人工智能停止。

他们呼吁建立一个系统，随着安全测试、监控和共享标准的进度，强大的AI模型能够被开发出来。

奥特曼说：“当我们谈论'节奏'时，并不是指'停止'停止'，他承认安全案例和监控带来了”重大成本“，但节奏调整”绝对值得这笔代价“。

“无论美国多大的竞争压力，都不应成为鲁莽行为的理由，也不应让能力领先于协调和监控。”

但问题是，这些压力并未消失，随着特朗普对人工智能领 导 人呼吁的否定，以及美国股市与其公司紧密相连，这些压力只会越来越强。

如今，那些花费多年推动前沿发展的公司现在却说前沿可能进展得太快。

以上就是狂飙时代终结！顶级AI企业主动踩刹车 探析行业降速的安全与商业逻辑的详细内容，更多关于巨头为何放缓AI发展步伐的资料请关注脚本之家其它相关文章！

Tag：AI   狂飙