Anthropic 对美国 AI 行动计划的看法¶

Anthropic 对白宫发布的"赢得竞赛:美国 AI 行动计划"表示欢迎,认为该计划在加速 AI 基础设施建设、联邦采纳、安全测试和安全协调方面方向正确,但同时指出严格的出口管制和 AI 开发透明标准仍是关键的下一步。
白宫发布了《赢得竞赛:美国 AI 行动计划》(Winning the Race: America's AI Action Plan),这是一份旨在保持美国在 AI 发展中领先优势的全面战略。Anthropic 对该计划聚焦于加速 AI 基础设施建设、联邦政府采用 AI、安全测试和安全协调等方面感到鼓舞。该计划的许多建议反映了 Anthropic 此前向 OSTP 提交的回应文件中的观点,这些观点最初是为响应此前的信息征集公告而提出的。Anthropic 认为"严格的出口管制和 AI 开发透明标准仍然是至关重要的下一步"。
加速 AI 基础设施建设与采纳¶
Anthropic 支持政府简化数据中心和能源审批流程的承诺,并警告若缺乏足够的国内能源产能,美国 AI 开发者可能被迫将业务迁移海外。
Anthropic 对政府简化数据中心和能源许可审批的承诺表示赞赏。正如 Anthropic 在向 OSTP 提交的文件中以及在宾夕法尼亚能源与创新峰会上所阐述的那样,如果没有充足的国内能源产能,"美国的 AI 开发者可能被迫将业务转移到海外,从而可能使敏感技术暴露给外国对手"。Anthropic 的"在美国构建 AI"报告详细说明了政府可以采取哪些措施来加速国家 AI 基础设施的建设。
该计划中关于联邦 AI 采纳的建议包含了与 Anthropic 优先事项一致的提案:
| 建议领域 | 具体内容 |
|---|---|
| 资源限制 | 责成 OMB 解决资源限制、采购限制和阻碍联邦 AI 采纳的程序性障碍 |
| 法规审查 | 发起信息征集以识别阻碍 AI 创新的联邦法规,由 OMB 协调改革工作 |
| 采购标准 | 更新联邦采购标准,消除阻止机构部署 AI 系统的障碍 |
| 国防应用 | 通过公私合作推动 AI 在国防和国家安全领域的采纳 |
普及 AI 的惠益¶
行动计划延续了国家 AI 研究资源(NAIRR)试点项目,确保全国的学生和研究人员都能参与推动 AI 前沿发展。
行动计划延续了国家 AI 研究资源(NAIRR)试点项目,确保全国各地的学生和研究人员都能参与推动 AI 前沿发展。Anthropic 一直支持 NAIRR,并且是试点项目合作伙伴之一。该计划强调为被取代工人提供快速再培训项目和 AI 预备学徒计划,"体现了对以往技术变革中经验教训的深刻认识"。
作为这些提案的补充,Anthropic 的经济指数和经济未来计划旨在为研究人员和决策者提供数据和工具,以确保 AI 的经济利益能被广泛分享。
推动安全的 AI 开发¶
Anthropic 认为强大的 AI 系统将在未来几年被开发出来,并赞赏政府将 AI 可解释性、AI 控制系统和对抗鲁棒性研究列为优先事项。
Anthropic 指出,"[强]大的 AI 系统将在未来几年被开发出来"(引用 Dario Amodei 的文章)。他们赞赏政府将 AI 可解释性研究、AI 控制系统研究和对抗鲁棒性研究列为优先事项。
Anthropic 对行动计划确认 NIST 的 AI 标准与创新中心(CAISI)在评估前沿模型国家安全问题方面的工作表示欣慰。他们指出,"先进的 AI 系统正在生物武器开发相关能力方面展现出令人担忧的提升",并建议将工作重心放在"AI 系统可能带来的最独特和最紧迫的国家安全风险"上。
建立国家标准的必要性¶
Anthropic 认为基本的 AI 开发透明度要求不可或缺,包括安全测试和能力评估的公开报告,但对该报告在这一议题上着墨不多感到遗憾。
Anthropic 认为,"基本的 AI 开发透明度要求,例如安全测试和能力评估的公开报告,是不可或缺的。"他们提出的前沿模型透明度框架聚焦于灾难性风险。他们指出:"我们希望看到报告在这一议题上做更多的工作。"
包括 Anthropic、OpenAI 和 Google DeepMind 在内的领先实验室已经实施了自愿性安全框架。在 Claude Opus 4 发布时,Anthropic 主动激活了 ASL-3 保护措施,以防止 CBRN 武器开发方面的滥用,这证明了"强健的安全保护有助于我们构建更好、更可靠的系统"。
Anthropic 对过于规范性的监管可能造成"不一致且负担沉重的法律拼凑"表示担忧。他们倾向于制定单一的国家标准,但如果联邦政府未能采取行动,他们仍然"反对那些旨在阻止各州制定保护公民措施的提案",这与他们此前表达的立场一致——即对州 AI 法律实施十年禁令的做法过于武断。
维护强有力的出口管制¶
Anthropic 强烈反对向中国出口英伟达 H20 芯片,认为这将丧失延续美国 AI 主导地位的机会。
行动计划指出,"拒绝我们的外国对手获取[先进 AI 算力]……既关乎地缘战略竞争,也关乎国家安全。"Anthropic 对此深表认同,并对政府近期在向中国出口英伟达 H20 芯片问题上的立场转变表示担忧。
AI 开发受制于缩放定律——能力随算力、能源和数据输入而扩展。新型推理模型表明,能力还随推理算力增长,而推理算力受限于内存带宽。虽然 H20 的原始计算能力已被华为芯片超越,但正如商务部长 Lutnick 和副部长 Kessler 近期在听证会上指出的,华为在产量方面举步维艰,且目前没有中国芯片能匹敌 H20 的内存带宽。
Anthropic 认为 H20"提供了中国企业无法通过其他途径获得的独特且关键的计算能力",允许其出口"将白白浪费延续美国 AI 主导地位的机会"。他们还指出,出口并不会使中共偏离其追求自主可控的路线。
展望未来¶
Anthropic 期待与政府在计划实施方面开展合作,同时确保对灾难性风险保持关注并维持强有力的出口管制,使"强大的 AI 系统能在美国安全地开发,由美国公司构建,体现美国的价值观和利益"。
相关资源: