Prelude Insight发布级试点验证 deferredEvidence A-

Security / Privacy 前导洞察:先定义 agentic 功能的安全底线

Agentic features 会放大数据访问、工具调用和自动执行的风险;安全与隐私不应是发布前审查,而应成为 action schema、tool permission、provider selection 和 telemetry 的设计输入。

一、先统一的判断

不要在功能完成后才补安全审查。

不要让工具调用拥有默认权限,必须最小授权。

不要让 provider selection 隐式发生,用户数据边界要明确。

不要只看模型输出风险,还要看工具执行风险。

不要缺少审计轨迹,高风险 agent action 必须可追溯。

二、评审会问题

团队要回答的问题
隐私 / 安全哪些数据可以进入 on-device、PCC、第三方 provider?
AI 平台tool permission 和 provider policy 如何表达成配置?
客户端工程本地权限、系统授权、用户确认和审计日志如何打通?
产品哪些 agentic action 需要用户显式授权或二次确认?
QA如何构造越权、注入、误执行和数据泄漏测试?
法务 / 合规不同区域和业务线的 provider 使用边界是什么?

三、暂缓项

暂缓但保留

  • Agentic security review checklist
  • Tool permission model
  • Provider data boundary policy
  • Audit trail requirements

会议目标

  • 确认主判断是否成立。
  • 给方向排序。
  • 确认是否需要进一步讨论。
  • 如读者决定推进,再由内部 owner 明确 scope 和验收指标。

四、证据 Sessions

五、读者确认

本页不指定会议、试点或排期;读者可结合公司真实产品线、技术底座、组织分工和资源边界,确认是否需要进入内部讨论、方向排序或分工准备。