中小企业生成式 AI 安全检查清单

中小企业不一定需要先写一套厚重制度，但必须知道谁负责、数据在哪里、怎样测试、出问题如何停下和恢复。NIST AI 600-1用 Govern、Map、Measure、Manage 组织生成式 AI 风险。下面不是对原文的逐条翻译，而是一份面向小团队的最小执行清单。

适合谁

• 员工已经自行使用公共 AI 工具，企业需要先建立最小边界。
• 准备把 AI 接入合同、客服、知识库、研发或内部材料的团队。
• 没有专职 AI 安全部门，但可以指定业务和技术责任人的企业。

一、责任：谁决定，谁维护，谁能停

• 为每个工作流指定业务负责人、系统维护者和最终确认人。
• 列出允许工具、允许账号、允许数据和禁止动作。
• 对发送、提交、付款、删除、改权限和专业结论保留人工门禁。
• 规定谁可以暂停工作流、撤销账号和恢复旧版本。

通过条件：任何人都能在一页内找到负责人、当前版本、禁止事项和停止方法。

二、情境：数据和影响在哪里

• 画出数据从原系统到模型、插件、日志和导出的流向。
• 区分公开、内部、敏感和高影响材料，并记录保留与删除规则。
• 写清模型输出会影响谁、是否对外、是否可人工复核。
• 检查第三方工具、模型和依赖的账号、权限、更新与退出条件。

通过条件：未知数据流和未知责任项为零；不能确认的材料默认不进入试点。

三、评测：正常、异常和禁止场景都要测

• 保存人工基线和代表性样本，不能只用演示样本。
• 同时测试缺件、冲突、诱导、错误引用、敏感信息和越权请求。
• 记录准确性之外的人工修改、拒绝、延迟、日志和恢复结果。
• 版本、模型或规则变化后重新跑关键样本。

通过条件：每个高风险失败都有可重复的测试、预期结果和责任人。

四、处置：出错时怎样限制影响

• 为异常设置转人工、停止输出、撤销权限和回退到人工流程的路径。
• 保存必要日志，但避免把敏感原文无期限复制到日志中。
• 建立事件记录：发生时间、影响范围、临时措施、根因和复测结果。
• 约定更新窗口、备份恢复、账号离职撤权和供应商退出方案。

通过条件：团队能够在不依赖原开发者的情况下暂停、回退并说明影响范围。

上线前最小门槛

1. 一个明确场景和一名业务负责人。
2. 一张数据流向图和一份允许／禁止清单。
3. 一组正常、异常和禁止样本。
4. 所有高影响动作保留人工确认。
5. 日志、暂停、回退和责任联系方法已实测。

失败信号

• 用“数据都在本地”替代权限、日志和供应链检查。
• 只测试模型回答是否正确，不测试越权、泄露和恢复。
• 所有人共享管理员账号，无法追溯和撤权。
• 出错后只能找最初开发者手工修复。
• 把通用清单当成已经满足法律或行业合规要求。

可下载模板

下载《中小企业生成式 AI 安全检查表》，逐项记录证据、负责人、状态和下一次复测日期。