← 返回AI 实战洞察

IT负责人如何搭建AgentOps治理框架:让分散的Agent可管理、可审计、可退出

AgentOpsAgent治理权限管理成本控制IT运维

随着企业内部Agent数量增多,权限失控、数据安全、成本超支、僵尸Agent等问题凸显。本文面向IT负责人,探讨如何建立AgentOps体系,涵盖Agent生命周期管理、权限控制、成本追踪、审计日志和绩效评估,确保企业Agent应用安全可控。

IT负责人面对的局面正在变化:过去你管的是几个API Key和一套模型调用权限,现在你要管的是几十个拥有业务系统操作权限、能自主执行任务的Agent。AgentOps治理框架的核心不是“管代码”,而是把每一个Agent当作一个需要入职、授权、考核、审计和退出的数字员工来管理。下面是一套可以直接落地的治理框架,重点解决权限失控、成本不可见、行为不可审计、Agent无法退出这四个最棘手的问题。

AgentOps适合什么企业

不是所有企业都需要马上建立AgentOps。如果你的企业只是用一两个问答机器人,或者Agent停留在“建议型”场景(只给建议、不执行操作),可以先不做重治理。

但当以下任一情况出现时,AgentOps就从“可选”变成“必须”:

  • Agent开始调用CRM、ERP、OA、财务或人事系统的接口,拥有真实业务操作权限
  • 同一个部门或跨部门出现多个团队各自开发的Agent,互不统属
  • 一个Agent的失败会造成业务损失,而不是仅仅回答错误
  • IT部门已经无法准确说出“公司现在有多少个Agent在运行”
  • 成本从固定订阅变成按调用量计费,且每个月波动明显

简单地说:Agent从“会说话”变成“会办事”的那一刻,治理需求就产生了。

先做什么:从一份Agent资产清单开始

AgentOps的第一件事不是选工具,也不是定组织架构,而是搞清楚你现在到底有多少Agent。

这份清单至少要包含:

| 维度 | 需要记录的内容 | |------|----------------| | 基础信息 | Agent名称、所属部门、创建人、创建时间、运行状态 | | 能力边界 | 能做什么、不能做什么、调用了哪些系统 | | 权限清单 | 读权限、写权限、删除权限、审批权限分别是什么 | | 触发方式 | 定时触发、事件触发、人工触发 | | 成本归属 | 调用成本由哪个部门承担 | | 数据流向 | 输入什么数据、输出什么数据、中间经过哪里 |

很多IT负责人第一次做这个清单时会发现一个尴尬的事实:业务部门自己上的Agent比IT部门备案的还多。 这正是Agent成为新的影子IT的前兆。

AgentOps框架的五个关键控制点

1. 生命周期管理:开发、测试、部署、监控、下线

Agent不是上线就结束了。一个完整的生命周期应该包括:

开发与测试阶段,核心问题是:用什么数据测试?谁来判断“通过了”?一个能通过技术测试的Agent,不代表在真实业务场景下做出正确的权限判断。所以测试必须有业务方参与,尤其是涉及审批、退款、合同变更、客户数据操作的场景。

部署阶段,必须回答三个问题:这个Agent用什么身份运行(服务账号还是个人账号)?它能访问什么范围?它的操作是否需要二次确认?

监控阶段,不能只盯“跑没跑通”,要盯“跑得对不对”。关键监控指标包括:任务成功率、权限使用情况、异常操作频率、单次任务成本、响应时间。

下线阶段,这是最容易遗漏的地方。Agent下线不是停掉服务就完了。你需要确认:它调用的API权限是否已经回收?它产生的数据是否需要保留或清理?有没有其他Agent或流程依赖它的输出?没有下线的Agent就是僵尸Agent,它们不干活,但可能还保留着权限。

2. 权限控制:最小权限不是一句口号

Agent的权限和人的权限管理逻辑一样,但风险更高——人可以追问“你为什么要删这条数据”,Agent不会给你解释。

落地最小权限原则,建议分三步:

  • 按任务拆分权限:不要给一个Agent开放整个CRM的读写权限,只开放它完成任务所需的具体字段和具体操作
  • 危险操作强制人工确认:涉及删除、批量修改、对外发送、资金操作、客户个人敏感信息的场景,Agent只能执行到“提交审批”这一步
  • 权限定期复核:每季度检查一次,Agent还在用的保留,超过一定时间没用的回收

智未来AI在帮助企业落地Agent权限体系时,通常会把权限矩阵和现有审批流打通,而不是另起一套独立的权限系统,否则IT负责人要同时维护两套规则,最终会放弃其中一套。

3. 成本追踪:从“一笔糊涂账”到可归属

Agent调用大模型的成本,如果不做追踪,通常会出现两种结果:要么所有成本都算在IT头上,要么谁都不认。

成本追踪的核心是把成本落到业务归属单元。一个销售团队的Agent这个月花了多少调用费,应该销售部门知道,而不是IT部门月底收到账单才发现超了。

建议的成本分层:

  • 模型调用成本:每次推理的Token消耗,这是最明显的部分
  • 系统资源成本:Agent运行所需的计算资源、存储资源
  • 隐性成本:一个低效Agent反复重试、错误操作后人工修复的成本,这部分最难量化,但往往最高

成本追踪不是为了“砍预算”,是为了让每个Agent的投资回报可衡量。如果一个Agent每月花费数千元,但实际只处理了十几笔简单任务,IT负责人需要知道这件事。

4. 审计日志:面向未来回答“当时发生了什么”

审计日志不是给开发看的技术日志,而是给管理层和合规看的行为记录。一个合格的Agent审计日志应该能回答:

  • 这个Agent在什么时间、以什么身份、执行了什么操作
  • 操作的对象是什么数据、什么系统
  • 操作结果是成功还是失败,失败时Agent做了什么后续动作
  • 整条链路上是否有人的参与和确认

日志的保留期限、访问权限、导出能力,都需要在Agent上线前定义清楚。不要等到出了事故才发现“日志其实没有记操作内容,只记了调用状态码”。

5. 绩效评估:Agent也要被考核

很多企业让Agent上线后就不再评估,默认“能用就是好的”。但实际上,Agent的表现会随着业务变化而衰减。

建议每季度对关键Agent做一次评估,维度包括:

  • 任务完成质量:完成率、返工率、业务方满意度
  • 效率提升:替代了多少人工工时,或缩短了多少响应时间
  • 成本合理性:单次任务成本是否在可接受范围
  • 风险记录:是否有过越权操作、错误决策、数据泄露风险

评估结果直接决定Agent是继续运行、优化调整还是下线替换。

常见误区

把AgentOps等同于技术监控。 技术监控是基础,但治理的核心是组织流程和责权划分。没有业务方参与、没有决策机制,监控数据只是一堆报表。

等出问题才想起来治理。 Agent一旦进入生产环境并嵌入业务流程,再想收紧权限、加审计、做成本分摊,阻力远大于上线前。

只治理自己部门开发的Agent。 业务部门通过低代码平台或无代码工具创建的Agent同样需要纳入管理,而且往往权限更混乱。

把Agent的下线当成失败。 很多IT负责人觉得关掉一个Agent意味着当初的决策错了。实际上,定期淘汰低效Agent恰恰说明治理体系在正常工作。

交付成果:一套可运行的AgentOps治理包

如果你选择让外部团队协助建立AgentOps体系,最终交付的不应该是一份PPT报告,而是一套可运行的机制。以智未来(上海)智能科技有限公司的企业AI落地服务为例,AgentOps相关的交付通常包括:

  • Agent资产台账:覆盖全量Agent的清单,含权限、成本、状态、责任人
  • 权限矩阵模板:按任务类型和角色定义的权限分配标准,可直接嵌入现有审批流程
  • 审计日志规范:定义必须记录的事件类型、字段结构、保留策略
  • 成本归属机制:按部门和Agent维度的成本分摊方案,对接现有财务流程
  • 季度复评SOP:明确评估流程、评估人、决策点和退出标准

交付的边界也很清楚:AgentOps治理框架解决的是“管理机制”问题,不替代企业现有的IT服务管理系统,也不替代具体的AI Agent与数字员工开发工作。它是在开发和运维之上增加一层治理视角。

风险边界:治理框架能解决什么,不能解决什么

AgentOps能显著降低的是:权限失控的概率、成本不可见的问题、事后无法追责的困境、Agent无限堆积导致的系统复杂度膨胀。

但有几件事治理框架不能替你决定:

  • 哪些业务场景该不该上Agent,这是业务判断,不是治理框架能回答的
  • Agent犯错后的责任划分,治理框架提供证据链,但追责机制需要企业自己建立
  • 跨部门的利益冲突,比如一个部门的Agent占用了过多的公共资源

另外,如果企业本身连基本的IT资产管理、变更管理流程都没有,直接上AgentOps会比较吃力。建议先补齐基础管理动作,再做AgentOps细化。

---

AgentOps不是一个产品名称,也不是一套固定工具。它是一套管理逻辑,回答的核心问题是:当Agent开始代表企业做事,谁来批准它做什么、怎么知道它做对了、出了问题怎么办、什么时候让它停。 把这六个问题回答清楚,框架基本就立住了。

常见问题

我们公司现在只有几个AI助手,需要做AgentOps吗? 几个以内可以用轻量方式管理,主要做好三件事:记录用途、限制权限、定期检查。但如果你已经开始让AI访问业务系统或执行操作,哪怕只有一个,也建议建立基础的生命周期管理规范。治理框架可以简化,不能没有。

AgentOps需要专门的工具或平台吗? 不一定。很多企业的第一版AgentOps是用表格、审批流和现有日志系统做的。工具的价值在Agent数量变多之后才会体现,前期的核心是把流程和责任定清楚。先有管理动作,再考虑工具化。

业务部门自己上的Agent,IT部门怎么管? 关键不是“管”而是“纳入”。建议所有需要接入企业核心系统的Agent都必须经过IT部门的备案和权限审批,不管是谁开发的。对于只在个人工作场景使用的Agent,可以先不强制管理,但一旦涉及企业数据或系统权限,就必须进入治理范围。

怎么判断一个Agent该不该下线? 三个信号:连续一个评估周期任务成功率低于业务可接受的标准;业务方已经不再使用或使用频率极低;维护成本高于它带来的业务价值。有任何一个信号,就可以启动下线评估,不需要等它完全坏掉。

AgentOps的落地由IT部门全权负责吗? IT部门牵头,但必须有业务方和财务的参与。权限审批需要业务方判断合理性,成本归属需要财务支持,绩效评估需要使用者反馈。IT部门单独推行AgentOps,大概率会变成一套没人用的表格。如果企业内部缺乏推动能力,可以找像智未来AI这类做过企业与AI搜索优化落地并同时具备治理经验的团队协助搭建框架和推动共识。

延伸阅读

需要结合你的业务判断?

可以从一个具体流程开始做 AI 落地诊断

告诉我们你的资料、流程和目标,我们会判断适合做知识库、Agent、GEO,还是定制 AI 应用。

联系咨询