Anthropic 对加州州长 Newsom AI 工作组草案报告的回应¶
Anthropic 表态支持加州 AI 前沿模型工作组的透明度导向建议，认为政府可以通过轻量级方式要求前沿 AI 公司公开其安全与安保政策，在不阻碍创新的前提下建立良好的政策环境。
本周，加州州长的 AI 前沿模型工作组 发布了其草案报告。Anthropic 赞同工作组对客观标准和循证政策指导的关注，特别强调将透明度作为构建良好 AI 政策环境的手段。
如果操作得当，透明度可以成为"一种低成本、高影响的方式，用于扩大围绕新技术的证据基础、增强消费者信任"，并鼓励企业之间的正和竞争。Anthropic 欢迎关于前沿实验室应如何透明披露其 AI 开发实践的更广泛讨论，并乐于看到工作组强调这一点——特别是关注实验室需要披露如何保护模型免遭窃取以及如何测试模型潜在国家安全风险的必要性。
报告建议与行业最佳实践的对应¶
报告中的许多建议已经反映了 Anthropic 所遵循的行业最佳实践：
| 建议领域 | Anthropic 当前实践 |
|---|---|
| 安全与安保政策公开 | 负责任扩展政策公开说明如何评估模型的滥用和自主性风险，以及触发更高安全和安保措施的阈值 |
| 安全测试结果披露 | 每次重大模型发布时公开描述安全和安保测试结果 |
| 第三方测试 | 进行第三方测试以补充内部测试 |
许多其他前沿 AI 公司也有类似做法。
政府在透明度中的建设性角色¶
与报告的发现一致，Anthropic 认为政府可以在改善前沿 AI 公司安全与安保实践的透明度方面发挥建设性作用。目前，前沿 AI 公司并不被要求制定安全与安保政策（即使是完全由其自行选择的政策），也不被要求公开描述该政策，也不被要求公开记录其运行的测试——因此并非所有公司都这样做。
Anthropic 认为这可以通过一种不阻碍创新的轻量级方式来实现。正如他们在最近提交给白宫的政策建议中所写："强大的 AI 系统将很快到来——也许最早在 2026 年底"——这使得建立一个在安全与安保协议方面创造更大透明度的政策体制变得至关重要。
需要更多关注的领域¶
工作组还指出了学术界、公民社会和行业在未来几年需要加大投入的领域——特别是 AI 的经济影响，Anthropic 目前正试图通过其经济指数做出贡献。
Anthropic 期待为工作组提供进一步反馈，以帮助完成报告的最终定稿，并赞扬州长启动这一对话的远见，表达了帮助塑造加州前沿模型安全方法的热情。