本文回答
- 哪些受影响的人和使用情境需要纳入评估？
- 预期用途和潜在误用应该怎样记录？
- 风险容忍边界和缓解措施怎样持续更新？
本文面向企业AI项目的业务负责人与风控对接人，梳理规划阶段识别并登记AI影响风险的实操方法，帮助团队系统覆盖受影响群体、明确使用边界、建立适配自身业务的动态风险调整机制。
下文引用的公开资料只代表对应机构的做法，其余内容为实施建议，具体范围需由项目参与方约定。
受影响主体与使用情境的识别范围
识别工作由业务负责人牵头，联合用户研究、风控、一线运营岗位的人员共同开展，输入材料包含现有业务流程说明、用户分层画像、历史客诉记录、服务覆盖范围说明。最终形成可检查的受影响主体清单和典型使用情境台账，若梳理过程中发现未覆盖的群体或场景，需补充一线访谈后更新清单。纳入评估的主体包含以下类型
- 直接使用AI系统的内部员工或外部用户
- 不直接使用但会受AI输出结果影响的个人或群体
- 可能存在信息差或抗风险能力较弱的脆弱群体
微软工程手册在负责任AI影响评估中专门设置关于受影响脆弱群体的排查项18。使用情境的梳理需覆盖系统全生命周期内可能出现的各类场景，不能仅局限于预设的理想操作流程。需包含常规操作场景、权限边界模糊的边缘场景、用户需求临时变更的特殊场景，还要考虑系统部署环境变化带来的情境差异。NIST AI RMF Playbook建议界定系统使用情境，并考虑受影响的个人、群体和社区17。梳理情境时可结合一线人员的实际操作经验，避免只凭纸面流程推断。
预期用途与潜在误用的记录规范
记录工作由产品负责人主导，风控专员和技术负责人配合完成，输入材料包含项目需求文档、业务目标说明、同类AI系统的风险案例、用户权限规则。最终形成可检查的预期用途说明文件和潜在误用场景清单，若记录过程中出现用途界定模糊的情况，需组织跨部门评审确认。预期用途的记录需明确具体，不能只写笼统的功能描述。需写清系统适用的业务场景、可处理的任务类型、输出结果的使用方式、对应的责任主体，还要注明系统不适用的场景范围。NIST AI RMF要求理解并记录系统预期用途、部署情境以及潜在正面和负面影响14。清晰的预期用途说明也能为后续的风险评估和边界管控提供基础依据。潜在误用的记录需从多个维度切入，不能仅考虑恶意操作场景。需覆盖用户有意绕过限制的违规使用、用户无心的错误操作、外部人员的恶意利用，还要考虑上下游系统衔接时可能出现的误用情况。NIST AI RMF Playbook建议结合人因与社会技术领域专家，考虑预期任务和未预期用途17。微软工程手册将技术可能如何被误用列入影响评估的必查项18。每个误用场景都要写清触发条件、可能造成的影响、涉及的主体，暂时无法判断的场景先记入待核实清单，后续补充验证。
风险容忍边界与缓解措施的持续更新
更新工作由企业指定的AI风险负责人牵头，联合业务、技术、法务、风控岗位的人员组成定期评审小组，输入材料包含系统运行监控数据、用户反馈与申诉记录、相关标准或规则的更新、技术迭代带来的能力变化。最终形成可检查的更新后风险登记册、缓解措施调整记录、风险容忍边界的变更说明，若评审中发现风险已经超出当前容忍边界，需立即触发暂停使用或缩小范围的流程。风险容忍边界的设定需按风险的影响程度划分不同等级，每个等级对应明确的处置规则，不能只有笼统的可接受或不可接受的表述。NIST AI RMF将确定并记录组织的风险容忍程度列为风险映射活动的核心内容14。NIST AI RMF Playbook建议建立AI系统风险容忍等级，并为各等级分配相应监督资源17。边界设定需结合企业自身的业务属性和风险承担能力，不能直接照搬其他企业的标准。持续更新机制需包含固定周期评审和临时触发评审两种模式。固定周期的评审可结合项目迭代节奏安排，临时触发的条件包括出现重大用户投诉、相关规则调整、系统功能大幅变更、发现新的高风险误用场景等。微软工程手册要求在项目开发过程中反复检查并更新负责任AI评审文档18。每次更新边界时都要同步调整对应的缓解措施，保障措施和风险等级匹配。如果现有缓解措施无法覆盖风险，要及时补充替代方案，必要时调整系统使用范围。
后续推进核对清单
规划阶段完成风险识别与登记后，可对照以下条目核对进展
- 完成受影响主体与使用情境的初步梳理，同步提交业务一线确认
- 形成书面的预期用途说明与潜在误用清单，由项目核心成员共同确认
- 划定初始风险容忍边界，明确各等级风险的对应处置责任
- 制定风险评审的固定周期与临时触发规则，纳入项目整体管理流程
- 指派专人负责风险登记册的日常维护，保障所有变更留有可追溯记录
