跳到主要内容

使用指南

先决条件​

  • 功能菜单：需具备 AI 工作台 / 安全运营 功能菜单权限。
  • 操作权限：模型接入、关键词维护、审核规则维护、审核处理等需 AI 工作台读写权限；只读权限可查看运行概览、审计日志等。
  • 环境权限：安全运营各 Tab 按环境维度管理数据；操作前请确认右上角当前环境。

概述​

安全运营是 AI 工作台的治理与合规入口，与 创作空间（生产）、资源市场（分发）、Sage AI / 自动化（消费）共同构成完整链路。平台顶部 Tab 与文档一一对应，顺序与产品菜单一致：

顺序Tab文档说明
1安全管理安全管理内容安全（文本关键词）与 命令安全（执行名单）两个同级子模块
2审核列表审核列表处理上架/下架申请（通过、驳回）
3审核规则审核规则配置审核角色与用户；仅最新一条生效
4运行概览运行概览会话与调用汇总、分布统计、模型 Token 消耗
5审计日志审计日志操作与调用行为追溯
6模型管理模型管理接入 LLM、向量、重排序模型；自定义请求头
7IM 渠道IM 渠道 · 企业微信 / 飞书 / 钉钉将 Sage AI 接入企微 / 飞书 / 钉钉（URL 回调）

image-20260724162027971

建议管理者在团队大规模使用创作空间、申请公共上架之前，按下方「首次配置路径」完成基础治理；日常使用则围绕审核列表与运行概览展开。

为什么需要安全运营​

AI 能力进入生产环境后，若缺少治理层，容易出现：

  • 无模型：Sage AI 与智能体无法推理，创作空间编排不可用
  • 无内容边界：提示词、摘要中出现高危指令或违规描述仍被发布
  • 公共市场失控：未经评估的自建 Skill/智能体进入「公共」，影响范围广
  • 不可追溯：谁在何时发布、审核、删除了什么能力难以审计
  • 不可观测：无法判断平台是否被使用、哪些智能体最受欢迎、Token 消耗是否异常

安全运营通过 模型接入、关键词防护、审核规则、审核列表、运行概览、审计日志 六类能力，让 AI 工作台「能跑、可控、可审、可观测」。

安全运营能做什么​

安全管理（第 1 Tab）​

  • 下设两个同级子模块：
    • 内容安全：维护关键词，对 Skill / 智能体文本在保存/发布时检测拦截；
    • 命令安全：维护拦截 / 询问 / 放行名单，对 Sage AI、IM 等场景的命令执行做前缀匹配管控，并与审批模式协同。
  • 详见 安全管理。

审核列表（第 2 Tab）​

  • 汇聚上架/下架申请；Tab：全部 / 待审核 / 已通过 / 已驳回。
  • 审核人查看详情、调试预览，填写意见后通过或驳回。
  • 详见 审核列表。

审核规则（第 3 Tab）​

  • 指定审核角色与用户（可多选）；最新一条规则生效。
  • 无规则时创作者无法提交上架/下架申请。
  • 详见 审核规则。

运行概览（第 4 Tab）​

  • 按时间范围与资源域查看 AI 会话总数、对话轮次总数、执行统计，以及智能体 / Skill / 工具调用分布与模型 Token 消耗 TOP5。
  • 详见 运行概览。

审计日志（第 5 Tab）​

  • 四个 Tab：会话记录、调用明细（智能体 / Skill / 工具）、执行审计、模型消耗；分别追溯会话级调用、单次调用明细、审批处置动作与模型 Token 消耗。
  • 详见 审计日志。

模型管理（第 6 Tab）​

  • 接入 OpenAI 兼容 LLM、向量模型、重排序模型；保存时连通性校验；支持自定义请求头。
  • 详见 模型管理。

IM 渠道（第 7 Tab）​

  • 配置企业微信、飞书、钉钉机器人（仅 URL 回调），将会话延伸至团队 IM。
  • 飞书保留应用卡片交互；钉钉仅支持 HTTP 回调。
  • 对接步骤详见：IM 渠道概述、企业微信、飞书、钉钉。

与创作空间、资源市场的关系​

                    ┌── 模型管理 ──► Sage AI / 智能体推理
                    │
安全运营 ───────────├── 安全管理 ──► 发布/保存时关键词拦截
                    │
                    ├── 审核规则 ──► 定义审核人
                    │       │
创作空间 ──上架申请──┼───────┴──► 审核列表 ──通过──► 资源市场「公共」
    │               │                    │
    └── 发布 ───────┼──► 资源市场「我的」  └── 驳回 ──► 创作空间（已驳回）
                    │
                    ├── 运行概览 ──► 使用健康度
                    └── 审计日志 ──► 操作追溯
  • 创作者：在创作空间发布 →「我的」自用；申请上架 → 审核列表；详见 创作空间 · 使用指南。
  • 使用者：从资源市场「公共」添加的资源，原则上经上架审核（内置资源除外）。
  • 管理者：在本模块完成配置、审批与持续运营。

典型使用路径​

路径一：管理者 — 首次配置（推荐顺序）​

虽 Tab 展示顺序以产品菜单为准，首次启用建议按依赖关系配置：

  1. 模型管理：接入至少一个 LLM（创作空间与 Sage AI 的前置条件）。
  2. 安全管理：添加关键敏感词与匹配模式。
  3. 审核规则：创建规则，指定审核角色与用户。
  4. 通知创作者可在创作空间发布并申请上架；审核人在 审核列表 处理申请。

路径二：审核人 — 日常审批​

  1. 打开 安全运营 > 审核列表 > 待审核。
  2. 打开申请详情，阅读 Skill/智能体内容与版本信息。
  3. 使用调试预览验证典型场景。
  4. 填写审核意见，审核通过 或 驳回。

路径三：管理者 — 日常运营​

  1. 运行概览：查看会话量、调用分布与模型 Token 消耗。
  2. 审计日志：检索异常操作或合规审计所需记录。
  3. 按需更新 安全管理 关键词或 审核规则。

路径四：创作者 — 与安全运营的协作点​

  1. 发布/保存时受 安全管理 关键词约束；命中则修改后重试。
  2. 申请上架/下架前确认 审核规则 已配置。
  3. 待审核 可撤回；已驳回 按 审核列表 意见修改后在创作空间重新发布并申请。

路径五：平台接入方 — 仅使用 Sage AI​

  • 即使不上架自建能力，仍依赖 模型管理 提供对话能力。
  • 对话与工具调用行为可能记入 审计日志；组织策略以实际部署为准。

操作概览​

  1. 进入安全运营

    • 左侧导航 AI 工作台 > 安全运营。
    • 顶部按顺序切换六个 Tab；确认当前环境。

  2. 按角色常用 Tab

    • 管理者配置：安全管理 → 审核规则 → 模型管理。
    • 审核人处理：审核列表。
    • 运营分析：运行概览、审计日志。

  3. 与创作空间联动

    • 创作者上架申请自动进入审核列表；结果回写创作空间资源状态。

注意事项​

  • 审核规则：仅最新一条生效；变更后新申请立即匹配新审核人。
  • 无审核规则：创作者无法提交上架/下架，列表与创作空间均有提示。
  • 安全管理与审核分工：关键词命中在创作空间保存/发布时拦截；上架申请由审核人在审核列表处理。
  • 模型删除：删除被引用的模型会导致 Sage AI、智能体不可用，请先评估影响。
  • 数据范围：运行概览、审计日志等按环境与资源域策略展示，以界面为准。

延伸阅读​