企业接入 AI 后先查什么？从数据、权限到输出的安全合规清单
企业把大模型接入客服、知识库和文档流程后，安全问题往往不是“模型会不会出错”这么简单。一次普通问答，也可能涉及客户资料上传、内部文件检索、外部工具调用和结果留存。对刚开始部署 AI 的团队来说，安全合规排查应从实际业务链路入手，而不是先购买一套看起来完整的防护工具。
AI 安全合规究竟查什么？可以先看四件事：数据能否使用、模型能够访问什么、输出由谁确认、出了问题能否追溯。这是一套基础排查思路，不代表完成检查就自动满足所有法律或行业要求。
第一步：画清数据流，别只看聊天窗口
以内部知识库助手为例，员工输入的问题可能先经过应用服务，再进入模型接口；检索系统还会把相关文档片段拼进提示词。排查时需要覆盖整条路径，确认输入、附件、检索内容和日志分别存在哪里，哪些环节由外部供应商处理。
优先确认数据边界，而不是笼统判断某个模型是否“安全”。客户联系方式、合同内容、源代码和员工信息的敏感程度不同，适用的管理要求也可能不同。团队应检查服务条款、数据处理约定和实际配置，核实数据是否被留存、用于训练，以及能否删除，不能把产品宣传语直接当作合同承诺。
- 输入侧：是否有敏感信息识别、脱敏和上传限制。
- 检索侧：是否沿用原有文档权限，避免低权限用户查到高权限内容。
- 存储侧：对话、附件、向量索引和调试日志是否设置访问及保留规则。
- 供应商侧：处理地点、分包安排及异常通知机制是否清楚。
第二步：把“能回答”与“能执行”分开
当 AI 只能生成草稿时，主要风险集中在信息泄露和内容失真；当它可以发送邮件、修改工单或操作业务系统时，风险就扩展到真实动作。模型生成的指令不能直接等同于用户授权。应用需要在工具执行层验证身份、权限、参数和操作范围。
新手尤其要留意提示词注入：网页、附件或知识库文档中可能藏有诱导模型改变行为的文字。仅在系统提示词里写“不要泄密”并不充分。外部内容应作为待处理数据，而非可信指令；重要操作还应配置独立校验、人工确认和可撤销机制。
第三步：用小规模测试检验输出与责任链
上线前可准备一组贴近岗位的测试问题，覆盖越权查询、敏感信息索取、错误前提和恶意文档等情况。测试不只看回答是否流畅，还要检查引用来源是否对应、拒答是否合理，以及工具调用有没有绕过审批。模型、提示词或知识库更新后，应重新验证关键场景。
高风险输出需要明确的人工复核责任。涉及招聘筛选、医疗建议、金融决策或法律判断的用途，不宜把模型答案直接作为最终结论。具体义务取决于业务所在地、服务对象和使用方式，应由业务、技术与法务共同确认。
最后要给系统留下可追溯记录：使用了哪个模型版本、检索了哪些资料、执行了什么动作、谁完成了审批。同时控制日志中的敏感内容，避免为了审计又复制一份风险数据。企业 AI 治理的起点不是追求零风险，而是把数据、权限、输出和责任逐一落实，并在异常出现时能够停用、回滚和复盘。