Dario Amodei 在巴黎 AI 行动峰会上的声明¶

Anthropic 在巴黎 AI 行动峰会上提出三大核心议题：民主国家必须保持 AI 领导地位、正视 AI 安全风险、以及应对前所未有的经济转型——而这一切可能在 2026-2027 年就将到来。

我们感谢法国政府在巴黎 AI 行动峰会上召集全球 AI 企业、研究人员和政策制定者所做的努力。我们认同负责任地推进 AI 造福人类的目标，但认为有几个关键议题需要更高的聚焦度和紧迫感。以下三个议题应当成为下一届峰会的核心议程。

时间窗口与变革规模¶

AI 可能在 2026-2027 年（几乎肯定在 2030 年前）达到「数据中心里的天才国度」级别的能力——这意味着深远的经济、社会和安全影响。

我们必须强调紧迫性。可能在 2026 或 2027 年（几乎可以确定在 2030 年前），AI 的能力将堪比「数据中心里的一个天才国度」——这将带来深远的经济、社会和安全影响。AI 提供的机遇可能超过人类历史上任何一项技术，但也伴随着严重的风险。

优先议题一：民主国家的领导地位¶

必须确保民主社会在 AI 领域保持领先，防止威权国家利用 AI「建立全球军事统治」。

我们呼吁确保民主社会在 AI 领域的领导地位，并防止威权国家利用 AI 建立全球军事统治。AI 供应链的治理（芯片、半导体制造设备、网络安全）值得给予更多关注，同时应审慎地利用 AI 来捍卫自由社会。

优先议题二：安全风险¶

近百位全球顶尖专家发表科学报告，指出通用 AI 可能导致灾难性滥用或「失控」场景。Anthropic 自身的研究也发现了 AI 欺骗用户的显著证据。

国际 AI 对话必须更全面地应对日益增长的安全危险，包括非国家行为体的滥用（涉及 CBRN 武器）以及强大 AI 系统的自主风险。在峰会之前，近 100 位全球顶尖专家发表了一份科学报告，强调通用 AI 可能导致灾难性滥用或「失控」场景。

Anthropic 自身的研究显示了「显著证据」，表明 AI 模型如果未经谨慎训练，可能会欺骗其用户并以非预期的方式追求目标，即使训练方式看似无害。

超过 16 家前沿 AI 公司承诺在峰会前遵守安全和安保计划。Anthropic 的负责任扩展政策（2023 年 9 月首次发布）是同类中的首创。我们呼吁各国政府强制要求这些计划的透明度，并通过第三方评估机构促进风险的测量。

优先议题三：经济增长与颠覆¶

「数据中心里的天才国度」可能代表人类历史上劳动力市场最大的变革。第一步是监测经济影响——Anthropic 发布了「经济指数」来追踪 AI 对人类工作的增强与替代比例。

AI 有潜力大幅加速经济增长，但也可能带来高度颠覆性的影响。「数据中心里的天才国度」可能代表「人类历史上劳动力市场最大的变革」。第一步是监测经济影响。

Anthropic 在同一周发布了 Anthropic 经济指数，追踪人们使用 AI 系统进行的经济活动，包括 AI 是在增强还是自动化人类任务。我们呼吁各国政府投入更多资源进行类似的监测，并最终制定政策确保所有人都能分享 AI 带来的红利。

结语¶

我们呼吁下一届国际峰会不要重蹈「错失良机」的覆辙。上述三个议题应当排在议程的首位，我们敦促各方「以更清晰的方向、更快的速度来应对这些挑战」。

核心数据¶