AI 安全合规怎么落地？从客服到代码助手的行业实战清单
企业把大模型接入客服、文档检索和研发流程后，安全问题也从“回答是否准确”扩展到“数据能否输入、工具能否调用、结果由谁负责”。AI 安全合规并非部署一道内容过滤器，而是围绕具体业务，建立数据、权限、评估和追溯机制。下面这份清单可作为项目上线前的检查框架，但不能替代针对行业与适用地区的法律判断。
先分清三类风险，再决定如何部署
安全测试通过，不等于已经满足合规要求。模型可能没有输出明显违规内容，却在日志中保存了客户隐私；也可能回答正确，但调用了用户无权访问的内部文件。企业应分别检查模型输出风险、数据处理风险和业务执行风险，避免用单一“安全分数”覆盖所有问题。
部署方式也不是免责条件。本地模型仍需管理权限和日志，云端服务则要核查数据用途、保存周期、删除机制及供应商条款。是否涉及个人信息、重要业务数据或跨境处理，应依据实际数据流和适用规则评估，不能仅凭产品宣传判断。
五类应用，各自应该查什么
- 智能客服：确认知识库是否包含过期政策，检查模型会不会编造退款条件、服务承诺；涉及账户变更、争议处理时，应保留人工接管入口。
- 企业知识库：检索权限应继承原文档权限，而不是把全部材料统一开放。测试时要覆盖离职员工资料、受限合同和不同部门之间的信息隔离。
- 代码助手：避免把密钥、生产配置和敏感代码直接写入提示词；生成代码仍需经过依赖检查、安全扫描与人工评审，不能把“能够运行”视为上线依据。
- 医疗与金融辅助：明确模型只承担哪些辅助任务，对诊疗建议、风险判断等高影响输出设置专业复核，并核查相关业务资质和监管要求。
- 自动化智能体：把读取资料、修改记录、发送消息和执行付款分开授权；外部网页或文件中的指令，不应自动获得系统操作权限。
上线前，把原则变成可验证动作
最值得优先完成的，是画出一张真实的数据流图。标明用户输入经过哪些系统、调用哪个模型、检索哪些资料，以及提示词、输出和日志分别存在哪里。很多风险不在模型本身，而在插件、监控平台和第三方接口之间的隐性传递。
随后建立贴近业务的测试集：既测试正常问答，也测试越权检索、提示注入、敏感信息诱导和错误工具调用。不要只看模型是否拒答，还要检查它是否在拒答前已经暴露资料，或已向外部接口发送了不该发送的数据。测试样本宜使用脱敏或合成数据，避免评估过程制造新的泄露。
对可执行操作采用最小权限和分级审批。查询库存可以自动完成，批量修改客户记录则应增加确认环节。每项能力都要有责任人、异常告警和停用路径，确保出现问题时能撤销权限或暂停服务。
持续运营，比一次验收更重要
模型版本、知识库和工具接口变化后，原有评估结论可能失效。企业应保留版本记录，定期复测关键场景，并让日志遵循必要性原则，避免为了审计而无限收集个人信息。
判断项目能否上线，可以归结为三个问题：数据是否有处理依据，系统是否只做获准的事，出错后是否能够发现并纠正。把这三项落实为证据和流程，比笼统宣称“模型安全”更有实际价值。