本文回答
- 如何判断哪些业务任务应保留人工处理？
- 人工复核的职责权限与退出条件怎样规划？
企业推进AI应用落地过程中，常面临人机边界模糊、人工复核权责不清、责任归属不明等实操难题，本文为业务负责人及项目核心成员提供兼顾合规与效率的具体任务划分参考方法。
下文引用的公开资料仅代表对应机构的实践做法，其余内容为通用实施建议，具体执行范围需由项目各参与方共同约定。
人工保留任务的判断维度
判断人工保留任务需先将完整业务流程拆解为最小可执行任务单元，再逐个评估每个单元的自动化可行性、风险等级与合规要求，最终形成分类结论。评估工作由业务流程负责人、AI产品负责人、合规岗位人员共同开展，需结合业务实际场景与历史处理数据，避免脱离实际的主观判断。输入的材料包括拆解后的全业务流程清单、业务风险分级规则、相关合规要求文件、历史任务处理记录。输出的结果是人工保留任务清单，标注每个任务的保留原因与对应负责岗位。遇到存在争议的任务，可提交更高层级的业务与合规联合小组研判，不得单方面决定任务归属。判断可从以下几类维度开展
- 涉及高权益影响的任务，比如会对用户或企业核心利益产生重大影响的决策类环节
- 依赖主观经验与情境判断的任务，比如需要结合复杂人际关系或特殊场景的处理环节
- 现有数据支撑不足或模型效果不稳定的任务，比如样本量稀少或规则频繁变动的场景
- 合规要求明确需人工介入的任务，比如涉及敏感信息处理或法定需人工确认的环节
ICO建议定期评估人工复核最适合且最有益的环节，用于确定人工参与的位置54。英国政府自动化决策框架区分完全自动决策与辅助人工判断的自动化决策，同时提醒不应将算法和自动化决策视为解决所有问题的办法56。
人工复核的职责与权限设置
人工复核的覆盖范围与比例需结合任务风险等级确定，高风险任务需执行全量复核，中风险任务可按设定比例抽检，低风险任务可采取定期巡检的方式。复核的触发条件除常规的按比例抽检外，还包括AI结果置信度低于阈值、用户提出异议、系统检测到异常特征等情况。人工复核岗位的人员选取，需匹配对应业务的资质要求，不能由直接参与AI系统开发或调试的人员兼任，保证复核的独立性。复核人员需对照业务规则与相关标准，核查AI处理结果的合理性与合规性，记录复核结论与调整原因，对复核过的任务承担相应决策责任。需明确复核人员可行使的操作范围，比如直接通过结果、驳回并要求重新处理、触发流程暂停并上报、直接调整处理结果等，不同等级的复核人员对应不同的操作权限，权限范围需以书面形式明确并同步所有相关人员。复核工作的输入是AI处理的完整结果快照、相关业务规则文档、复核操作指引。输出是统一格式的复核记录，包括复核人、复核时间、复核结论、调整原因等信息，所有记录需留存备查。遇到超出自身权限的问题，需及时上报上级复核岗位，不得自行处理。ICO要求人工复核人员具备适当的知识、经验、权限和独立性，以质疑系统决策54。Microsoft AI服务行为准则要求按场景采取额外缓解措施，包括有意义的人工监督55。Microsoft AI服务行为准则要求建立用户报告滥用或问题的反馈渠道，并合理回应收到的反馈55。
人工复核的退出与切换机制
人工复核不是永久固定的设置，需结合AI系统的运行情况、业务风险变化、合规要求调整等因素定期评估，动态调整复核的范围与比例。评估工作由业务、合规、技术三方组成的评估小组共同开展，输入的材料包括AI系统运行质量数据、风险事件统计、合规要求更新文件、业务需求变化说明等。输出的结果是复核调整方案，包括缩减复核比例、缩小复核范围、扩大复核范围、完全退出复核等不同类型的调整建议。人工复核的退出需满足相应前提，比如AI系统在连续的评估周期内，处理结果的稳定性与合规性均满足业务要求，相关风险等级下降至可接受范围，且合规要求无强制人工介入的规定，可申请退出人工复核。退出需经过业务负责人与合规负责人共同审批后方可生效。退出可采取分步实施的方式，先缩减复核比例或缩小复核范围，经过一段观察期确认无风险后，再实现完全退出，避免一次性退出引发的潜在风险。需建立自动化向人工切换的应急机制，当系统出现故障、模型效果大幅下降、发生重大风险事件、合规要求发生变化等情况时，需及时切换至混合处理或全人工处理模式。ICO建议在服务故障时保留转为混合处理或人工处理模式的选择54。退出人工复核后，仍需定期抽检AI处理结果，监控质量变化，一旦出现不符合要求的情况，及时恢复相应范围的人工复核。
人机分工的责任归属梳理
明确责任归属是人机分工规划的核心内容，需遵循谁决策谁负责、谁操作谁负责的基本原则，在项目初期就梳理清楚各环节的责任主体，避免出现责任模糊或推诿的情况。责任划分需覆盖全流程各环节，包括自动化处理环节、人工复核环节、应急切换环节等。不同场景下的责任归属可按以下方式梳理
- 完全自动化处理的常规任务，由业务流程负责人承担最终业务责任，技术团队承担系统可用性与模型质量的相应责任
- 辅助人工判断的自动化任务，AI系统仅提供参考建议，最终决策由人工作出，决策责任由作出决策的人员承担
- 经过人工复核的自动化任务，复核人员对复核后的结果承担决策责任，AI提供方对模型本身的质量问题承担相应责任
- 因系统故障或模型缺陷导致的问题，由技术团队与AI提供方按约定承担相应责任，因人工操作失误导致的问题，由操作人承担相应责任
英国政府自动化决策框架要求明确算法、自动化及其相关结果的责任和问责归属56。所有AI处理操作、人工复核操作、调整记录都需完整留存，便于出现问题时追溯责任，也为后续优化人机分工提供数据支撑。
落地推进的核对清单
- 完成全业务流程拆解，标记每个环节的自动化候选等级与风险等级
- 输出人工保留任务清单，明确每个任务的保留原因与负责岗位
- 制定人工复核操作指引，明确职责范围、操作流程与记录要求
- 设定人工复核的评估周期与调整触发条件，配套应急切换流程
- 梳理各环节责任归属，形成书面文件并同步所有项目参与方
- 建立用户反馈通道，接收异议并按流程转入人工复核
- 定期复盘人机分工的合理性，结合业务变化动态调整方案
