Anthropic敲定埃森哲为嵌入式评估者，为放缓前沿AI研发保驾护航
Anthropic 官宣聘请埃森哲担任嵌入式独立评估方，协助推进前沿 AI 减速提案。埃森哲将深度介入评估流程，对大模型研发、能力迭代开展持续核验，管控高阶 AI 潜在安全风险。这也是行业内少见的第三方驻场评估机制，为 AI 研发设置外部约束。该方案落地仍存在诸多实操难题，行业对减速方案的有效性也存在不同看法。
该合作非独家，Anthropic预计将在未来几周内宣布其他评估者，也将与之合作。
Anthropic表示，他们选择埃森哲作为首位嵌入式评估师，以帮助放缓首席执行官达里奥·阿莫代上周提出的人工智能开发步伐。
阿莫代于9月12日发布了一项三步提案，旨在放缓人工智能的发展速度，并在警告快速且无节制的发展可能带来灾难性危害的情况下，建立安全措施。
OpenAI首席执行官Sam Altman和SpaceX首席执行官埃隆·马斯克对Amodei的提议持积极回应，尽管英伟达CEO黄仁森并不支持，认为此类监管并非必要。
尽管如此，阿莫代在提案中写道：“人工智能的发展速度大幅加快，主要得益于人工智能构建下一代人工智能的能力增强。这种动态被称为递归自我提升“，并且”如果不加以控制，它可能会超越我们理解和控制这些系统的能力。”
相关报道：人类学首席执行官呼吁放缓人工智能开发以降低安全步伐
阿莫代伊写道，阿莫代伊提案的第一步是设立具有员工权限的独立评估员，Anthropic已单方面承诺此事。
Anthropic 于周五宣布，将与埃森哲及其人工智能业务系合作，“评估并进行模型红队，进行对齐评估并测试模型保障措施”，以实现这一承诺。
公司表示，具体如何实现这一过程仍在制定中，因为嵌入式评估是新的技术。
根据公告，Anthropic和埃森哲预计未来五年内将至少投资10亿美元。
Anthropic将在紧急情况下直接资助工作
Anthropic指出，目前也没有独立评估的资金体系，因此长期资金应来自合并或政府资金，尽管鉴于工作紧迫性，Anthropic将直接资助埃森哲的工作。
该合作非独家，Anthropic预计将在未来几周内宣布其他评估者，也将与之合作。
埃森哲的Faculty擅长为世界领先的人工智能实验室测试和评估模型，并构建设计上安全且具备伦理性的复杂人工智能系统，埃森哲周五表示。
埃森哲董事长兼首席执行官朱莉·斯威特表示：“嵌入式评估是一个新兴领域，我们期待与Anthropic合作，加速嵌入式评估员的发展，我们认为嵌入式评估将成为未来安全领域的重要组成部分。”
以上就是Anthropic敲定埃森哲为嵌入式评估者，为放缓前沿AI研发保驾护航的详细内容，更多关于埃森哲出任Anthropic嵌入式评估方的资料请关注脚本之家其它相关文章！
本站提醒：投资有风险，入市须谨慎，本内容不作为投资理财建议。
