AI 安全与合规如何落地？从行业应用到上线验收的实战清单

企业把大模型接入客服、知识库、代码助手和业务审批后，AI 安全与合规就不再只是采购时的一张说明书。模型能否接触客户资料、生成结果是否需要复核、调用工具时可以执行哪些操作，都会直接影响产品能否上线。比起笼统询问“模型是否安全”，更有效的做法是建立一份覆盖数据、权限、输出与运营的应用清单。

本文提供通用落地框架，不替代具体法律意见。不同地区、行业及服务对象的要求存在差异，涉及个人信息、医疗、金融等场景时，还需结合适用规则专项评估。

先按业务风险分级，而不是按模型大小分级

同一个模型，用于整理公开资料和辅助审核贷款申请，风险并不相同。评估起点应是：使用什么数据、影响哪些人、错误能否撤回，以及系统是否具备执行动作的权限。安全边界应跟着业务后果走，而不是跟着模型参数走。

• 内部知识库：重点检查文档权限继承、敏感信息暴露，以及回答能否标明可核验来源，避免员工借助问答读取无权访问的资料。
• 智能客服：明确哪些问题可自动回答，哪些必须转人工；对退款承诺、合同解释和个人信息查询设置独立校验。
• 代码与办公助手：核查上传内容是否包含密钥、客户数据或未公开代码，限制自动执行脚本、发送邮件和修改文件的能力。
• 金融与医疗辅助：区分资料整理、专业建议和最终决策，落实专业人员复核，避免把流畅表达误当成可靠结论。
• 机器人与智能硬件：除内容安全外，还要验证动作约束、异常停机和人工接管机制，不能仅凭聊天测试判断安全性。

上线前，把原则变成可验证的检查项

第一步是画清数据流：输入来自哪里，是否进入第三方接口，日志保存哪些内容，谁能查询，何时删除。采购团队需要核实服务条款、数据处理约定及配置选项，不能把“支持企业使用”直接等同于满足自身合规要求。

第二步是收紧权限。检索系统应在读取资料前校验访问资格；具备工具调用能力的智能体，应采用最小权限，并对支付、删除、发布等高影响操作设置确认环节。提示词不是权限控制，模型拒绝回答也不能替代后端鉴权。

第三步是建立测试集。除正常任务外，还应加入提示注入、诱导泄密、越权检索、虚构引用和错误工具调用等案例。测试记录应包含输入、系统行为、实际影响和整改结果，而不只是一个笼统的通过率。

上线后，合规是一套持续运营机制

模型版本、知识库和工具接口变化，都可能改变原有风险。团队应记录关键配置与版本，在更新前重跑高风险案例；发现异常时，能够停用相关工具、回退配置，并保留必要证据。日志也应遵循最小必要原则，避免为了审计而过量留存敏感内容。

责任分工同样需要具体：产品负责人确定用途边界，安全团队验证攻击面，法务或合规人员评估适用要求，业务人员承担专业复核。一份可用的清单，必须同时写明责任人、验收证据和异常处置方式。

对准备部署 AI 的团队，务实的起点不是一次性开放全部能力，而是先选择数据范围清晰、结果可复核、操作可撤回的场景试点。真正有价值的安全合规，不是让系统承诺“绝不出错”，而是让错误更容易被发现、限制和纠正。