2026年企业AIは概念验证から生产级能力へ—しかし多くの试点は权限「默认全开」：智能体が财务明细・人事薪资・客户隐私を查得。演示很炫、风险极高。可治理智能体は最小必要・可审计・可熔断必須、否则一次提示注入がデータ事件に。
背景与现状：效果好≠可上线
团队常把准确率当唯一指标、特征泄露・知识库过期・API被智能体并发打满等工程风险を忽略。开源模型と商业APIは场景敏感度で组合；RPA适合重复点击、判断例外才交智能体。没有主人的能力は组织内迅速失控。
数据从录入变脏・标注质量差・训练混入未来信息—上线後效果断崖。これらは治理问题、更大模型単独では解けない。
核心方法：分级・脱敏・熔断・复盘
权限分级と字段脱敏
按角色与场景授予工具：客服助手不得默认访问薪资；采购助手不得导出全量价格策略。敏感字段脱敏展示、写操作必须二次确认。提示注入防护・越权查询检测は安全基线に、上线後补丁ではない。
审计と失败案例库
每次调用记录输入摘要・工具・结果・人工是否改判。误判入库形成失败案例库—追新算法より值钱なことも。知识库文章必须有负责人与失效日期、制度更新後旧PDF不得继续被检索为权威答案。
- 为核心交易系统设置智能体调用限流与熔断
- 人工抽检比例可随准确率下调但不可归零
- 分析口径归业务、管道归技术、对账归双方
实践案例：客服智能体分级上线
某企业先开放订单物流查询类只读工具、财务与合同工具延后。配合限流後高峰期不再拖垮ERP。两周内积累失败案例120+条用于每周规则迭代。准确率提升同时安全审计可通过抽检闭环证明可控。
中小企业数据栈应坚持少组件・强口径・能导出・能审计、堆叠无法运维复杂平台拒绝。
智能体与ChatBI落地前指标字典与数据质量门禁缺一不可。前端校验比事后清洗团队更便宜；嵌入式分析比独立数仓堆报表更贴业务。安全红线上提示注入与越权测试应纳入每次发版。
人才分工也要清晰：业务定义口径、工程负责管道、双方共同对账。无此分工模型再强也只会产出「理直气壮的错误答案」。治理跑通後智能才能成为可复制企业能力。
准确率提升後人工抽检可降低、抽检机制本身要保留作治理体温计。失败案例库定期复盘形成规则更新、只存档不使用不可。这是企业智能持续进化关键飞轮。
总结与展望
企业智能体生产级标准は权限与审计先于话术与模型。最小必要数据与失败复盘做成制度、AI才能从报表堆砌走向可治理决策闭环。次にERP执行类Agent连接时も同样沿用分级与熔断原则。