跳到主要内容

AI 赋能安全

这里默认讨论经授权的安全工作：研究、评测、漏洞发现、红队与受控攻防自动化。攻击者在真实世界利用 AI 扩大攻击规模、降低成本或制造滥用，统一进入 AI 滥用防御。Agent 自身的权限、Prompt Injection 与工具安全则属于 AI 系统安全。

这里把 AI 视为安全工作的工具，关注它能否帮助安全人员完成真实任务。评价对象是可验证的发现与处置结果，不是生成了多少报告、调用了多少工具。 当前内容重点是漏洞挖掘、授权攻防与能力评测；告警研判和安全运营形成独立实践后再增加专题，不预建空栏目。

寻找值得调查的漏洞线索​

AI 漏洞挖掘从系统演进、组件契约、判断语义和能力组合出发，把开放式审计拆成可调查的问题。它讨论的是“用 AI 挖漏洞”，不是“只挖 AI 产品的漏洞”。

把线索转成受控执行​

AI 自动化渗透：架构与工程挑战作为持续更新的方法文章，讨论状态、规划、工具、验证和副作用控制。

基于 AI 驱动的实战网络攻击保留演讲时的 APG、APG Runtime 与工具基础设施方案，是历史实践快照；其中的阶段判断不自动代表当前结论。演讲正文保持原貌，新的方法和验证结果进入持续维护的文章。

验证能力与落地效果​

安全 AI 的能力与落地评测检查安全知识、分析、代码审计、攻防任务、工程可靠性和业务效果。安全风险是准入约束，不能用能力得分抵消；通用的对抗评测、发布证据和风险门禁方法引用 AI 系统安全评测与红队。

从漏洞猎手到研究系统设计者​

AI 改变的不只是漏洞挖掘效率，也在改变安全研究者的工作重心。Dhakal 在《More Criticals, Less Dopamine》中描述了一种个人体验：前沿模型已经能承担大量代码分析、可疑路径定位和 PoC 生成，人越来越多地负责提出问题、检查模型有没有“作弊”、验证漏洞真实性和判断影响。这是研究者个人观察，不能直接等同于整个行业现状，但它指出了一个值得关注的迁移：当模型逐渐承担 How，人的杠杆会向 Where 和 What 上移。

这种变化并不意味着漏洞研究失去价值。相反，当通用模型能力更容易获得时，差异化更可能来自四个部分：

  • Problem Selection：选择哪些问题值得研究，哪些攻击面尚未被充分检查。
  • Domain Insight：理解业务、系统演进和安全语义，提出模型自己不容易产生的好问题。
  • System Engineering：把模型、Harness、编排、工具、数据和预算组织成稳定的研究系统。
  • Validation：证明发现真实、可达、可复现，并排除模型为了完成任务而绕过真实约束。

可以把安全研究者的发展概括成两条互补路径。

Super Engineer 关注模型周围的系统。模型负责更多局部分析，人负责构建 Repository Mapping、Harness、Orchestration、Toolchain、Eval、验证流水线和持续优化机制。目标不是多开几个 Agent，而是让研究能力可以稳定运行、复用和复利。

Super Researcher 关注模型应该研究什么。重点从重复发现已有模式，转向新的漏洞类别、新的系统关系、新攻击面和 AI × Security 的未知问题。模型可以扩大搜索空间，但问题选择和研究方向本身成为更稀缺的能力。

两条路线最终会汇合。新的研究问题需要工程系统扩大验证规模，工程系统又需要新的问题避免只是在旧 Benchmark 上持续刷分。真正强的团队既能提出别人没有提出的问题，也能把这些问题变成可规模化验证的方法。

Richard Hamming 的经典问题适合作为这一层的长期提醒：一个领域最重要的问题是什么，为什么我们没有在研究它？ 当模型、Token 和通用工具逐渐商品化以后，安全研究的竞争力不应只表现为“更快完成已有任务”，还应该表现为“更早识别值得解决的新问题”。

安全研究成果本身也有一个自然的自动化生命周期：

Unknown
  ↓
Research
  ↓
Named Pattern
  ↓
Skill / Detection Method
  ↓
Automation
  ↓
Commodity
  ↓
Next Unknown

Lupin 在讨论 AI 与安全研究者时，把这种规律概括为“被自动化的是身后的成果，而不是前方的探索”。这不是职业安全的保证，而是一种研究分工：已经被定义清楚、公开、能够稳定复现的方法，本来就应该逐渐进入 Fuzzer、Scanner、Template、Skill 或 Agent；研究者的价值则继续向尚未命名的漏洞类别、未被记录的信任边界和工具还无法稳定识别的问题移动。

安全行业过去已经多次出现类似迁移：Fuzzing 让简单随机测试成为基础能力后，研究向 Grammar、Coverage 和 Reachability 深化；Metasploit 把大量已知利用商品化后，Exploit Research 转向 Mitigation Bypass；Recon 和模板化扫描普及后，稀缺能力转向目标选择、信任边界和真实影响判断。AI/Agent 更像是这一过程的新一轮加速，而不是第一次发生自动化。

因此，Security Skill 的成功并不是让专家永远重复执行同一方法，而是尽快把昨天的专家经验变成今天的基础设施。 当一种研究方法已经能够被稳定自动化，研究资源就应该继续投向 Next Unknown。

因此，AI 赋能安全的终态不是把安全专家变成模型结果的分诊员，而是把人的判断上移：从亲自执行每一步，转向选择问题、设计系统、定义证据和探索新的安全边界。

复用工程能力，不复制安全边界​

通用 Agent 实践、AI 编程和 Skill放在智能工程。安全 Agent 的授权、凭证、工具隔离和审计要求引用 Agent 与工具调用安全；与攻击者滥用 AI 有关的防守问题进入 AI 滥用防御。所有主动验证以明确授权、限定范围和可停止性为前提。