Anthropic 将签署欧盟通用 AI 实践守则¶
Anthropic 宣布计划签署欧盟通用人工智能实践守则(EU General-Purpose AI Code of Practice),认为该守则在透明度、安全性和问责制方面与公司长期倡导的原则一致,并且灵活的安全标准能够同时促进创新和 AI 的广泛部署。
经过审慎评估后,Anthropic 计划签署欧盟通用人工智能实践守则。Anthropic 表示,该守则"推进了透明度、安全性和问责制的原则"——这些正是 Anthropic 长期以来为前沿 AI 开发所倡导的价值观。他们认为,如果得到审慎实施,欧盟 AI 法案和该守则"将使欧洲能够驾驭这一我们时代最重要的技术,推动创新和竞争力"。
一项近期分析发现,到 2030 年代中期,AI 每年可为欧盟经济贡献超过一万亿欧元的价值。
该守则与欧洲的 AI 大陆行动计划相配合,"展示了灵活的安全标准如何能够既保护创新又促进更广泛的 AI 部署"。
AI 在欧洲的落地应用¶
| 机构/企业 | 应用场景 |
|---|---|
| Novo Nordisk | 加速突破性药物研发 |
| Legora | 变革法律工作方式 |
| 欧洲议会 | 让公民更便捷地访问数十年的档案资料 |
基于对透明度的长期承诺¶
Anthropic 认为前沿 AI 行业需要健全的透明度框架,而欧盟守则通过强制性的安全与安保框架建立了这一基准。
正如此前在《前沿 AI 需要透明度》中所阐述的,Anthropic 认为前沿 AI 行业需要"健全的透明度框架来追究企业责任",要求企业记录如何识别、评估和缓解风险。欧盟守则通过强制性的安全与安保框架建立了这一基准。这些框架建立在 Anthropic 自身的负责任扩展政策基础之上,将描述评估和缓解系统性风险的重要流程,包括对灾难性风险的评估——特别是涉及化学、生物、放射性和核(CBRN)武器的风险。
保持灵活性¶
AI 技术日新月异,最好的政策是那些能够灵活适应技术发展的政策。Anthropic 强调基于实践不断迭代安全框架的重要性。
Anthropic 指出,"AI 发展迅速且不断变化,这意味着最好的政策是那些能够灵活适应技术发展的政策。"
自近两年前首次发布负责任扩展政策以来,Anthropic 已根据实施中获得的实际洞见多次对其进行修订。最近一次更新明确了哪些行为体属于 ASL-3 安全标准的适用范围;这一判断是基于对相关威胁模型和模型能力更深入理解后做出的。
前沿模型论坛等第三方组织在其中发挥着关键作用,"建立随技术发展而演进的通用安全实践和评估标准"。这些组织"在产业界和政府之间架起桥梁,将技术洞见转化为可操作的政策"。
Anthropic 承诺将与欧盟 AI 办公室和安全组织合作,确保该守则"既保持稳健性又能响应新兴技术的发展"。他们将这种协作方法——"将监管框架与灵活性相结合"——视为欧洲在有效参与全球竞争的同时充分利用 AI 惠益的关键。