安全、合规与局限性
很多关于智能体的讨论，都在强调它能做什么：读文件、跑命令、调 API、连续完成长任务。但一旦这些能力真正进入生产环境，问题很快就会变成另一种问法：它可能出什么事？一旦出事，又该靠什么边界把影响兜住？
这个栏目篇幅不长，却回答了生产级智能体系统最基础的两个问题。第一，威胁从哪里来：提示注入、工具滥用、权限扩张、数据泄露，以及能力组合之后带来的系统性攻击面。第二，当你已经知道这些问题迟早会发生，系统边界该怎么设计，才能既保留能力，又把事故半径控制在可承受范围内。
读完这一栏，你不该只得到“要注意安全”这种正确但无用的结论，而应获得两种真正可落地的判断：一是识别智能体系统里最危险的接口与耦合点，二是理解不同边界模型分别适合什么场景、能挡住什么问题、又会牺牲哪些能力。
文章列表
AI 代理已经到来，威胁也随之而来
作者：Jay Chen, Royce Lu 日期：2025-05-01 核心观点：智能体系统的风险并不是抽象的“不可控”，而是一组会沿着工具链、权限链和外部接口不断扩散的具体攻击面。
你将学到：
- 如何用更贴近实战的方式理解提示注入、工具滥用与权限扩张
- 典型攻击场景分别暴露了系统哪些薄弱点
- 为什么很多高风险问题来自能力组合，而不是单次模型输出
- 做多层防御时，哪些控制点最值得优先投入
智能体架构中的安全边界
来源：Anthropic 安全团队 核心观点：安全边界的价值，不在于简单“多加限制”，而在于把能力范围、隔离方式和责任边界一起设计清楚。
你将学到：
- 从零边界到完整沙箱，不同边界模型分别适合什么业务场景
- 该如何判断隔离应该做在工具层、执行层还是环境层
- 为什么最安全的方案未必就是最适合生产的方案
- 设计权限与执行环境时，哪些底线必须先守住
返回：优质文章篇