模型

先决条件

功能菜单：具备 AI 工作台 / 模型 功能菜单权限

操作权限：具备读写权限（添加/编辑/删除等操作需读写权限；只读权限仅支持查看）

概述

模型模块支持用户添加兼容 OpenAI API 协议的各类大模型。通过 OpenAI 兼容性接口，用户可将自行训练或部署的模型接入 Bonree ONE 平台，便于在故障诊断、智能问答等应用场景中灵活选用模型，实现高效的智能体配置。

平台提示语：【您可添加兼容 OpenAI API 协议的各类大模型，通过 OpenAI 兼容性接口，将自行训练或部署的模型接入 ONE 平台，便于在故障诊断、智能问答等 LLM 应用中选择模型，实现灵活高效的智能体配置。】

价值

统一的模型管理入口：集中管理所有接入模型，告别分散配置，故障诊断、工作流、智能问答等场景共享同一套模型资源。

灵活的模型选用机制：支持 LLM、向量模型、重排序模型三种类型，满足不同场景的差异化需求，按需分配模型能力。

私有化部署友好：兼容 OpenAI API 协议，轻松接入本地部署或自训练模型，数据不出域，安全可控。

连通性实时校验：保存时自动检测模型地址与密钥的可用性，提前发现接入问题，降低运行时故障风险。

使用场景

接入私有化大语言模型

企业内部已部署兼容 OpenAI 接口的大语言模型（如 Qwen、DeepSeek 等），通过填写调用地址与密钥，快速接入平台，供故障诊断、智能问答等场景调用。

配置多种模型满足不同场景

不同场景对模型能力要求不同，可分别添加专用于推理的 LLM、用于知识检索的向量模型和重排序模型，组合搭配以提升整体诊断质量。

操作场景

查看模型列表：在模型页面查看所有已接入模型，支持按模型类型、模型名称、模型 ID 筛选。

添加模型：点击「添加」，填写模型类型、名称、ID、调用地址、密钥等信息，保存时系统自动进行连通性校验。

编辑模型：点击操作列「编辑」，可修改密钥、输入长度限制和模型上下文长度（其他字段一旦保存后不可修改）。

删除模型：选中一条或多条数据后点击「删除」，或在操作列点击「删除」，二次确认后删除；已被应用引用的模型删除后可能导致相关功能不可用，操作前请确认。

开始使用

添加模型

登录 Bonree ONE 平台，选择 AI 工作台 > 模型。

点击「添加」，弹出添加模型表单。

按以下字段说明填写表单：

字段	是否必填	说明	默认值	校验规则
模型类型	必填	LLM / 向量模型 / 重排序模型，三选一	LLM	单选
模型名称	必填	模型选用时的显示名称，便于区分	—	2-50 位字符，支持汉字、英文、数字、下划线、短横线、中英文括号
模型 ID	必填	后端调用的模型唯一标识，如：gpt-4	—	2-100 位字符，仅支持小写英文字母、数字、短横线
调用地址	必填	模型服务的 base_url 地址	—	5-500 位字符，合法 URL 格式（http:// 或 https://）
密钥	选填	模型 API Key，填写后加密显示	—	10-200 位字符
模型上下文长度	必填（仅LLM）	模型支持的最大上下文 Token 数	2K	1-4 位正整数
输入长度限制	必填	单次输入的最大 Token 数，LLM 建议设为上下文长度的 50%~70%	2K	1-4 位正整数；LLM 需 ≤ 上下文长度

点击「保存」，系统自动校验调用地址的连通性；校验失败时将提示具体原因，请确认地址与密钥后重试。

编辑模型

点击模型列表操作列中的「编辑」，仅支持修改密钥、输入长度限制、模型上下文长度三个字段，其他字段保存后不可修改。

删除模型

选中目标数据，点击「删除」后在弹窗中确认。删除后，引用该模型的应用（如工作流、智能体等）可能无法正常使用，请操作前确认影响范围。

注意事项

模型 ID 与调用地址一旦保存后不可修改，如需更改，请删除后重新添加。

删除已被调用的模型会导致相关工作流、智能体等功能无法正常使用，操作前请评估影响。

若未部署 AI 相关包，模型页面将显示为空白，无法进行任何操作。