权限比模型更重要:谁能看明细、谁能看汇总必须先定

发布时间: 2024-02-19 来源: 许愿牛科技

智能体一旦能查全量客户和合同,安全事故会比幻觉更早到来。先把明细与汇总的权限切清楚,模型才能进生产,而不是进演示。

企业上 AI 时最容易犯的错,是先接通所有表,再谈效果。效果演示很惊艳:智能体可以回答任何客户的欠款、任何合同的条款。这也意味着一个普通账号、一次提示注入,就可能把核心资产带出办公室。安全事故不需要模型有多聪明,只需要权限有多宽松。

权限设计要先于模型选型。谁能看明细,谁只能看汇总,谁能导出,谁能让智能体代查,都必须写进同一张授权表。

明细和汇总不是同一类风险

汇总告诉你本月回款差多少,明细告诉你是哪家客户、哪张合同。经营需要汇总,催收和法务才需要明细。把明细默认开放给所有“数据分析角色”,等于把客户清单当成内部公开信。

敏感信息需要访问控制
屏幕转过去,是一种礼貌,不是一种权限模型。权限必须由系统执行。

给智能体单独的角色

  • 只读汇总:默认给业务助手。
  • 明细查询:需人确认,并记审计日志。
  • 导出:单独授权,默认关闭。
  • 跨部门数据:禁止智能体自行拼接。
汇总视图与明细视图分离
两块屏幕可以同时存在。人看到哪一块,应由岗位决定,而不是由模型决定。

XYN 数智化系统把组织权限和数据访问放在业务应用同一套框架里,智能体只能调用已被授权的工具。模型会迭代。把明细漏出去的事故,企业往往只需要一次。