利用 AI 实验性防御关键基础设施¶
原文发布于 2026 年 1 月 8 日，分类：Frontier Red Team
概述¶
Anthropic 与 PNNL 合作，用 Claude 将关键基础设施的攻击重建从数周缩短至三小时。 Anthropic 与太平洋西北国家实验室（PNNL）合作，探索 AI 如何帮助防御关键基础设施。PNNL 研究人员使用 Claude 在高保真水处理厂模拟环境中模拟网络攻击，完成时间远少于人类专家所需。
背景¶
网络攻击已严重影响电网、燃料管道和水系统等关键基础设施。 虽然 AI 能力的提升可能增加有能力攻击这些系统的攻击者数量，但 AI 同样可以帮助防御者在漏洞被利用之前发现并修复它们。
使用 AI 加速对手模拟¶
PNNL 开发了一个让 Claude 自动化和加速对手模拟的"脚手架"系统。 对手模拟是指针对网络模拟特定威胁行为者或攻击，以理解和改进防御。它能揭示"系统漏洞和检测盲点"，并允许在调整防御后重新模拟以评估效果。
技术实现¶
| 组件 | 说明 |
|---|---|
| 脚手架（Scaffold） | 将自然语言 prompt 转化为复杂攻击链 |
| 工具（Tools） | 预定义的代码工具，让模型能在计算机网络上执行操作 |
| 目标环境 | 水处理厂的网络物理模型——PNNL 代表 DHS CISA 运营的 CELR 平台之一 |
| 使用模型 | Claude Sonnet 4（2025 年夏季版本，已非前沿模型） |
关键结果¶
"这使得攻击重建从数周缩短至三小时完成。"
值得注意的行为¶
在一次测试中，Claude 展现了资源获取能力。一个预定义的 Windows 用户账户控制（UAC）绕过工具有时会失败。当 Claude 感知到失败时，它"识别并使用了另一种已知的 UAC 绕过技术来完成目标"。
扩大 AI 与安全的公私合作¶
鉴于 AI 在网络领域的双重用途性质，前沿 AI 实验室与政府卓越中心的合作日益增长。 本研究体现了 Anthropic 呼吁在网络防御中实验 AI 的实践，考虑到"AI 在网络领域的双重用途性质以及攻击者越来越多地使用 AI"。
相关合作¶
| 合作项目 | 合作方 | 领域 |
|---|---|---|
| 核安全评估 | 国家核安全管理局 | 核风险评估与缓解 |
| Genesis Mission | 能源部 | 利用国家实验室专业知识和前沿 AI 实现科学突破 |
| 本项目 | PNNL / DHS CISA | 关键基础设施网络防御 |
核心逻辑："任何一方都无法独立完成这种实验。" Anthropic 提供了前沿模型智能；PNNL 贡献了专业知识和用于真实测试的网络物理资产。
致谢¶
感谢 PNNL 的 Loc Truong 和 Kristopher Willis 领导了这一项目。