不要在功能完成后才补安全审查。
Prelude Insight发布级试点验证 deferredEvidence A-
Security / Privacy 前导洞察:先定义 agentic 功能的安全底线
Agentic features 会放大数据访问、工具调用和自动执行的风险;安全与隐私不应是发布前审查,而应成为 action schema、tool permission、provider selection 和 telemetry 的设计输入。
一、先统一的判断
不要让工具调用拥有默认权限,必须最小授权。
不要让 provider selection 隐式发生,用户数据边界要明确。
不要只看模型输出风险,还要看工具执行风险。
不要缺少审计轨迹,高风险 agent action 必须可追溯。
二、评审会问题
| 团队 | 要回答的问题 |
|---|---|
| 隐私 / 安全 | 哪些数据可以进入 on-device、PCC、第三方 provider? |
| AI 平台 | tool permission 和 provider policy 如何表达成配置? |
| 客户端工程 | 本地权限、系统授权、用户确认和审计日志如何打通? |
| 产品 | 哪些 agentic action 需要用户显式授权或二次确认? |
| QA | 如何构造越权、注入、误执行和数据泄漏测试? |
| 法务 / 合规 | 不同区域和业务线的 provider 使用边界是什么? |
三、暂缓项
暂缓但保留
- Agentic security review checklist
- Tool permission model
- Provider data boundary policy
- Audit trail requirements
会议目标
- 确认主判断是否成立。
- 给方向排序。
- 确认是否需要进一步讨论。
- 如读者决定推进,再由内部 owner 明确 scope 和验收指标。
四、证据 Sessions
五、读者确认
本页不指定会议、试点或排期;读者可结合公司真实产品线、技术底座、组织分工和资源边界,确认是否需要进入内部讨论、方向排序或分工准备。