Anthropic CEO警告：AI指数级发展需放缓步伐 行业安全机制亟待建立

人工智能技术正以"指数级"速度发展，Anthropic 首席执行官 Dario Amodei 周六在接受 CBS News 采访时发出严厉警告，称这一现状是行业需要认真对待的"警示信号"，必须建立严肃的安全保障机制。Amodei 强调，AI 的进步速度已超出他最初的预期，行业需要从"加速狂奔"转向"审慎前行"，以确保技术发展始终处于可控范围。这一表态正值其发表长篇博客文章呼吁 AI 企业协同放慢开发速度之后，引发了 OpenAI 首席执行官 Sam Altman 和 SpaceXAI 所有者 Elon Musk 的迅速回应，将 AI 安全议题再次推向全球科技讨论的风口浪尖。

"指数级"增长背后的隐忧

Amodei 在采访中透露，他并未完全预见到 AI 进展如此迅猛的实际状况。他用一组数字形象地描述了这一进程："从一，到二，到四，到八，到十六，再到三十二"。他认为，当前 AI 发展正处于曲线的"拐点"，且"正开始变得陡峭"。据 CBS News 报道，Amodei 坦言："我不认为我完全理解了当进步速度如此之快时，实际情况会是什么样子。"这种指数级增长态势意味着，每过一段时间，AI 的能力就会翻倍，留给人类适应和监管的时间窗口正在急剧缩小。

放缓不意味着停滞

Amodei 明确表示，呼吁放缓并不等同于恐慌或全面叫停。他说道："这并不意味着我们今天就需要恐慌，也不意味着我们需要关闭一切。"然而，他同时强调，这绝对是一个"需要放慢脚步的警示信号"。在他看来，技术发展需要配套的安全保障措施，而这些措施必须能够"跟上技术发生的速度"。这一立场与他此前在博客文章中提出的观点一脉相承，即风险预防应当被置于最优先的位置。

三管齐下的"前沿节奏"计划

在其周六发布的博客文章中，Amodei 提出了一个旨在"为前沿发展定调"的三点计划，呼吁 AI 公司以更缓慢、更谨慎的方式推进技术研发。这一计划的核心包括：第一，AI 公司应承诺向第三方评估人员团队提供"持续的、类似员工级别"的访问权限，以核实其是否遵守安全实践和承诺；第二，民主国家内的公司应"协调制定共同的安全标准，以及对无节制 AI 进展速度的限制"；第三，美国及其他民主政府应与威权政府进行协调，"同时认真对待核实合规性所面临的挑战"。Amodei 还特别敦促美国公司不要向中国出售强大的 AI 芯片，称这将是"决定中国 AI 实力的主要因素"。

行业领袖的迅速站队

Amodei 的呼吁迅速得到了行业重量级人物的回应。据报道，OpenAI 首席执行官 Sam Altman 在 X 平台上发文表示赞同，称"让独立评估人员拥有员工级访问权限是一个很棒的主意，我们也将这样做"，并透露 OpenAI 近几周已在内部就此进行讨论。与此同时，Elon Musk 在分享 Amodei 的帖子时只简单评论了一句："Dario 是对的。"当被问及是否正与 Altman 和 Musk 直接沟通时，Amodei 没有正面回答，仅表示"非常感激其他行业领袖，包括我们的竞争对手，对这项计划表示赞同"。

前研究员辞职引发的连锁反应

Amodei 的警告恰逢 Anthropic 前研究员 Jacob Coxon 公开辞职后不久。Coxon 指责其前雇主及竞争对手 OpenAI 通过竞相开发高级 AI 模型而"拿我们的生命赌博"。Coxon 在接受 CBS News 采访时宣称，AI 某天可能会威胁到人类，并直言技术发展"看起来与《终结者》或科幻电影并无太大不同"。他进一步警告说："如果你有一个超级先进的智能体，它可能、也将变得足够聪明来杀死我们。"这一内部声音的公开化，无疑为 Amodei 的放缓主张提供了某种注脚。

政府监管的不可或缺性

尽管呼吁行业自律，Amodei 仍强调，仅靠企业自身努力不足以确保 AI 安全，政府监管的介入至关重要。他表示："我们所讨论的是产品发布的速度，因为这关系到它们是否安全。我们需要让政府参与到这场对话中来。"这种立场反映出 AI 安全治理正在从单纯的行业内部讨论，转向需要公共权力介入的公共政策议题。据透露，Anthropic 本周还表示，已阻止了科学家以可能支持生物武器开发的方式使用其 Claude 模型，显示出 AI 技术被滥用的风险并非空穴来风。

AI 安全治理的十字路口

这一系列事件凸显了 AI 行业正站在安全治理的十字路口。一方面，技术能力的指数级增长带来了巨大的经济和社会效益；另一方面，失控的风险如影随形。Amodei 承认，人们可能会失去对 AI 的控制，该技术也可能被滥用于"网络攻击、生物恐怖主义和严重的经济破坏"。他写道："由商业动机刺激的逐底竞争，会使这些风险变得更加尖锐。"如何平衡创新与安全，已成为科技巨头乃至各国政府必须直面的核心命题。

Q1: Amodei 提出的"前沿节奏"计划具体包含哪些要点？

A1: 该计划包括三点：一是 AI 公司应为第三方评估人员提供类似员工的持续访问权限，以核查其安全实践的遵守情况；二是民主国家内的公司应共同制定安全标准与 AI 发展速度上限；三是美国等民主政府应与威权政府协调，同时正视核实其合规性的挑战。Anthropic 已表示将单方面率先执行这一计划。

Q2: 对于 AI 发展过快，行业内部是否存在分歧？

A2: 存在明显分歧。一方面，Amodei、Altman 和 Musk 等头部公司负责人均表态支持加强安全评估与放缓速度。另一方面，前 Anthropic 研究员 Jacob Coxon 的辞职及公开警告，显示出内部对现状的担忧可能比高层表态更为强烈。Coxon 呼吁 AI 公司达成协议，"不进入危险区域"，除非有第三方"透明审计"。

Amodei 的呼吁与回应，标志着 AI 安全讨论正从边缘议题转变为核心议程。随着技术曲线愈发陡峭，人类能否在利用 AI 潜力的同时驾驭其风险，将取决于企业自律、行业协作与政府监管能否形成合力。全球科技政策制定者正面临一场前所未有的智慧考验。