跳到主要内容
返回企业 AI 落地实践

大模型调用企业系统时审计日志应记录什么?

大模型调用企业内部业务系统时,审计日志设计常面临链路难追踪、隐私与合规难平衡的问题,本文面向AI项目负责人、安全审计及运维团队,提供可落地的日志字段与管理规则设计参考。

扁平插画中无字账本与连接插头摆在盾牌旁

本文回答

  • 工具调用日志怎样关联主体动作时间与结果?
  • 调用参数与返回内容如何兼顾审计和隐私保护?

大模型调用企业内部业务系统时,审计日志设计常面临链路难追踪、隐私与合规难平衡的问题,本文面向AI项目负责人、安全审计及运维团队,提供可落地的日志字段与管理规则设计参考。

下文引用的公开资料仅代表对应机构的实践做法,其余内容为通用实施建议,具体适用范围需由项目参与方共同约定。

工具调用日志的关联维度设计

OWASP日志指南要求为事件记录发生时间、位置、参与主体和事件内容,还建议记录操作结果状态,以判断请求对目标对象的操作是否成功63。OpenTelemetry的Gen AI属性注册表将工具调用参数定义为传递给工具调用的参数,将工具调用结果定义为成功执行时工具返回的结果65。实施层面由AI平台团队联合安全审计团队负责设计,输入为现有业务系统的日志字段规范、大模型可调用的工具清单,输出为统一的工具调用日志字段映射表。具体关联维度包含四类。一是主体,即触发调用的用户身份、对应的Agent实例标识。二是动作,即调用的工具名称、操作类型。三是时间,即请求发起时间、业务系统响应时间、调用完成时间。四是结果,即调用成败的状态标识、返回状态简述。字段映射表需同步给所有接入大模型的业务系统维护人员,作为日志埋点的统一标准。异常处理方面,若日志缺失任意核心关联字段,需触发埋点告警,由对应接口的维护人员排查补全。

调用内容的审计与隐私平衡方法

MCP日志规范描述了服务端向客户端发送结构化日志消息的标准方式,同时禁止日志消息包含凭据、秘密、个人识别信息及可助长攻击的内部系统细节64。OpenTelemetry的Gen AI属性注册表警告工具调用参数可能包含敏感信息65。实施层面由数据合规团队联合业务系统负责人制定规则,输入为各工具接口的字段敏感等级、企业数据分类分级标准,输出为分场景的日志内容脱敏规则。具体操作中,对调用参数中的敏感字段,如身份标识、业务密钥等,采用掩码或哈希方式处理,保留可用于审计的字段特征而非明文。对返回内容,仅保留与操作结果相关的核心字段,不记录完整的业务敏感数据原文。不同敏感等级的接口可适配不同的脱敏粒度,高敏感接口的日志可仅保留操作痕迹而不记录具体参数。若日志采集环节检测到未脱敏的敏感信息,需立即拦截该条日志的存储,并触发合规告警,由数据合规团队回溯排查采集规则漏洞。

操作追踪的链路构建要求

操作追踪的核心是将分散在各节点的日志串联为完整的操作路径,便于审计人员还原事件全貌。实施层面由AI应用开发团队负责埋点设计,输入为大模型调用业务系统的完整流程节点清单,输出为可串联的端到端日志追踪链。具体做法是为每一次用户发起的AI交互分配唯一的追踪标识,该标识随调用请求依次传递给大模型、工具调用接口、业务系统,各节点的日志均绑定该标识。追踪标识的生成规则需统一,避免不同业务线的标识出现重复,影响追踪准确性。审计人员可通过该标识快速关联从用户提问到业务系统操作的全部节点,还原完整操作路径。若某一节点未传递追踪标识,需判定该节点日志不满足审计要求,由开发团队补充埋点后再上线运行。

日志保留的合规管理规则

OWASP日志指南要求日志及其副本既不能提前销毁,也不能超出要求的保留期限,同时提醒法律、监管和合同义务可能影响日志的保留期限63。实施层面由安全合规团队联合运维团队制定规则,输入为所属行业的监管要求、企业内部数据留存制度、相关业务的合同约定,输出为日志保留周期对照表及安全销毁流程。具体操作中,针对不同敏感等级的工具调用日志,设定差异化的保留期限,高敏感操作的日志留存周期需满足监管最低要求,普通操作日志可按业务需求适当缩短。日志存储需采用不可篡改的介质或技术手段,日志的访问权限需严格控制,仅授权审计及合规相关人员查阅,避免日志内容被未授权访问或篡改。到期后经合规审核确认再执行销毁。若发现日志留存周期不符合要求,需由运维团队立即调整存储策略,并回溯历史日志的留存情况。

落地核对清单

项目推进至日志方案落地阶段,可对照以下条目逐一核对

  • 覆盖全部大模型可调用的业务工具并明确每个工具的敏感字段范围
  • 已为工具调用日志配置主体动作时间结果四类核心字段,且字段填充率符合审计要求
  • 已制定分等级的日志脱敏规则,并完成敏感字段的采集拦截测试
  • 已建立端到端的日志追踪标识,可通过单条标识还原完整操作链路
  • 已明确不同类型日志的保留期限,且与监管要求及内部制度无冲突
  • 已配置日志字段缺失、敏感信息泄露两类核心告警的响应流程

参考来源

  1. OWASP · Logging Cheat Sheet
  2. Model Context Protocol · Logging
  3. OpenTelemetry · Gen AI