権限はモデルより重要:明细と汇总を先に切り分ける

公開日: 2024-02-19 出典: 许愿牛科技

智能体が全量顧客・契約を照会できると、幻觉より先に安全事故が来ます。明细と汇总の権限を先に切り、モデルを本番に—デモではなく。

企业 AI で最もよくある誤りは、まず全テーブル接続してから効果を語ること。デモは圧倒的:智能体が任意顧客の未収、任意契約条項に答える。普通アカウントとプロンプト注入一つで核心資産が持ち出される可能性も。安全事故に賢いモデルは不要—権限が緩ければ足りる。

権限設計はモデル選定より先。誰が明细を見るか、誰は汇总のみか、誰がエクスポートでき、誰が智能体に代查させられるか—同一授权表に書く。

明细と汇总は同じリスクではない

汇总は今月回収がいくら不足か;明细はどの顧客・どの契約か。経営は汇总、催收・法務は明细。明细を「数据分析角色」全員に開くのは顧客リストを社内公開文にするのと同じ。

機密情報にはアクセス制御が必要
画面を向けるのは礼儀であり権限モデルではない。権限はシステムが実行する。

智能体専用ロール

  • 汇总のみ読取:业务助手のデフォルト。
  • 明细照会:人の確認と監査ログ必須。
  • エクスポート:別授权、デフォルトオフ。
  • 跨部门データ:智能体の自行拼接禁止。
汇总ビューと明细ビュー分離
二画面は共存可。人がどちらを見るかは岗位で決め、モデルではない。

XYN 数智化システムは组织権限とデータアクセスを业务应用と同一フレームに置き、智能体は授权済みツールのみ呼び出せます。モデルは迭代する。明细漏洩の事故は企业に一度で十分なことが多い。