Agent RuntimeMCP SecurityAttack × Utility

技术与评测:把Agent安全从风险清单变成可执行验证

研究主线由八层攻击面、五个信任边界、六类MCP实现风险、六段控制栈和E1–E5实验组成。

一、八层攻击面

任何一条真实攻击链都可能跨越多层,因此不能用单一Guardrail替代系统控制。

L1数据与知识训练、微调、企业知识、向量库与外部内容投毒。
L2模型与推理模型窃取、后门、越狱、推理接口和不安全加载。
L3RAG与上下文检索操纵、来源伪造、间接注入和上下文泄漏。
L4Agent与计划目标劫持、循环放大、过度自主和任务漂移。
L5MCP、工具与Skills工具投毒、参数注入、恶意技能和供应链替换。
L6身份、凭据与权限共享主体、长期令牌、范围膨胀和权限漂移。
L7会话、运行时与基础设施会话劫持、本地服务、沙箱、网络出口和密钥暴露。
L8供应链与治理模型、数据、依赖、插件、评测和第三方服务来源风险。

二、五个信任边界:从文本风险定位到副作用风险

Agent的危险性来自不可信信息逐步获得计划权、工具权和业务权限。

UntrustedcontentContext+ memoryPlan+ policyTool / MCPexecutionBusinessside effectB1B2B3 / B4B5

策略不能只存在于Prompt

模型内指令可被上下文影响,关键权限必须由模型外策略执行。

工具描述和返回值也是不可信输入

工具元数据、Schema、输出和错误信息都可能改变Agent行为。

副作用需要独立授权与补偿机制

转账、删除、发布、部署等动作必须有额外确认、幂等和回滚。

三、六类MCP实现风险:协议兼容不等于安全实现

这些风险来自官方MCP Security Best Practices,应成为客户端、服务端和代理实现的最小审查表。

M1Confused deputy

MCP代理与第三方OAuth同意被错误复用。

逐客户端同意、精确redirect URI、单次state。
M2Token passthrough

转发非本服务签发的令牌,破坏audience和审计边界。

验证issuer/audience/scope,禁止透传。
M3OAuth metadata SSRF

恶意元数据把客户端引向内网、localhost或云元数据。

HTTPS、私网阻断、跳转校验、egress proxy。
M4Session hijacking

会话ID被用于冒充用户或注入异步事件。

每请求鉴权、用户绑定、随机ID、过期轮转。
M5Local server compromise

一键启动命令或二进制继承客户端权限和主机访问。

显示完整命令、显式同意、默认沙箱和最小文件/网络权限。
M6Scope inflation

通配权限扩大失陷半径并掩盖每次调用意图。

最小初始scope、渐进提权、精确challenge和提权审计。
Primary: MCP Security Best PracticesOWASP Secure MCP Server DevelopmentNIST Agent Identity & Authorization

四、六段控制栈

模型Guardrail只是Inspect的一部分,不能替代身份、授权、隔离、审计和恢复。

01Discover发现Agent、模型、数据、工具、Skills、凭据和依赖,形成AI BOM与关系图。
02Isolate隔离不可信内容、数据域、网络出口、本地服务和持久化状态。
03Identify为用户、Agent、服务和工具建立独立主体、短时凭据和可验证委托链。
04Authorize在工具和资源层逐次检查scope、参数、目的、副作用和人工确认要求。
05Observe记录上下文来源、计划、策略决策、工具调用、身份、结果与副作用。
06Recover撤销凭据、隔离Agent、回滚记忆和工具注册、补偿业务副作用。

五、公开Benchmark定义最低测试维度,但不能直接替代产品验收

四类Benchmark共同说明:只报攻击阻断率是不完整的,必须同时报告正常任务能力和过度阻断。

AgentDojo97 tasks / 629 security cases

动态工具Agent与自适应提示注入;同时测任务效用和安全属性。

InjecAgent1,054 cases / 17+62 tools

间接提示注入、用户伤害和私有数据外泄。

AgentHarm110 tasks / 440 augmented

恶意多步任务、拒绝能力和越狱后能力保持。

CyberSecEval 2Prompt injection + interpreter abuse

攻击成功、不安全执行与False Refusal Rate。

六、E1–E5实验协议:建立可重复的攻击—效用基线

每个套件都固定攻击输入、允许权限、预期策略、业务副作用和原始日志。

E1间接上下文隔离网页、邮件、RAG、工具输出和记忆中的注入。
E2工具授权与副作用越权调用、参数升级、审批绕过和权限链。
E3身份、令牌与Scope错误audience、重放、共享主体和范围膨胀。
E4会话、本地运行时与供应链会话注入、恶意启动命令、Skill/插件替换和网络外联。
E5审计、隔离与恢复事件回放、凭据撤销、记忆回滚、Agent隔离和业务补偿。
Utility正常任务成功率
Unsafe不安全动作率
Exfil数据外泄率
AuthZ越权工具调用率
Overblock误拦截/误拒绝率
Blast权限与副作用半径
Audit审计完整度
Recover隔离与回滚时间

七、证据与结论闸门

规范与同行评审研究可以定义风险和测试;厂商资料只能定义候选能力与验证假设。

OK

决策级方法证据

官方规范、协议指南、同行评审论文、公开代码和可复现实验。

MID

候选能力证据

产品文档、发布说明、路线图、组织投入和单方案例,需要交叉验证。

WARN

禁止升级为结论

商业提案、无方法排名、二手转述和没有正常任务基线的“安全率”。