Anthropic 支持加州 SB 53 法案¶
概述¶
Anthropic 宣布支持加州 SB 53 法案，该法案通过信息披露而非技术性强制要求来监管前沿 AI 开发者，是"信任但需验证"理念的立法实践。
Anthropic 宣布支持 SB 53——一项针对前沿 AI 开发者构建的强大 AI 系统的加州法案。公司表示一直积极倡导审慎的 AI 监管，并指出这一支持是在吸取了加州此前尝试的 SB 1047 经验后做出的。
核心立场： 虽然 Anthropic 认为前沿 AI 安全最好由联邦而非各州拼凑式立法来处理，但"强大的 AI 进步不会等待华盛顿达成共识"。
纽森州长召集了加州联合政策工作组，该工作组支持"信任但需验证"的方法。参议员 Scott Wiener 的 SB 53 通过披露要求而非规定性技术规范来实现这一理念。
SB 53 的核心要求¶
该法案聚焦大型公司的信息透明义务，同时为中小企业提供豁免。
该法案要求开发最强大 AI 系统的大型公司：
| 要求 | 说明 |
|---|---|
| 制定并发布安全框架 | 描述如何管理、评估和缓解灾难性风险 |
| 发布公开透明度报告 | 在部署新的强大模型前，总结灾难性风险评估 |
| 报告关键安全事件 | 在 15 天内向州政府报告 |
| 提供明确的举报人保护 | 覆盖违规行为和公共健康/安全危害 |
| 公开承担框架承诺的责任 | 否则面临金钱处罚 |
Anthropic 指出这些要求将现有实践制度化，并引用了自身的负责任扩展政策和系统卡。其他前沿实验室（Google DeepMind、OpenAI、Microsoft）也采用了类似方法。
该法案聚焦大型公司，同时"为不太可能开发强大模型的初创公司和小型公司提供豁免"。
关于竞争动态： 如果没有 SB 53，"拥有日益强大模型的实验室可能面临越来越大的压力，削减自身的安全和披露计划以保持竞争力"。
未来展望¶
Anthropic 认为法案是可接受的起点，但呼吁在计算阈值、测试细节和监管演进方面持续改进。
Anthropic 指出三个需要未来发展的领域：
| 领域 | 观点 |
|---|---|
| 计算阈值 | 当前 10^26 FLOPS 的阈值是"可接受的起点，但始终存在某些强大模型可能未被覆盖的风险" |
| 测试细节 | 开发者应提供更多关于测试、评估和缓解措施的信息 |
| 监管演进 | "监管机构应有能力根据需要更新规则以跟上新发展" |
公司赞扬了参议员 Wiener 和纽森州长，并表示："问题不是我们是否需要 AI 治理——而是我们是在今天深思熟虑地发展它，还是在明天被动应对。"
行业层面，各前沿实验室还通过前沿模型论坛建立了信息共享协议。
关键数据¶
| 项目 | 数值 |
|---|---|
| 计算阈值 | 10^26 FLOPS |
| 事件报告期限 | 15 天 |
| 法案作者 | 参议员 Scott Wiener |
| 前一版法案 | SB 1047 (2023-2024 会期) |