平台模型是用户在对话中选择的模型。每个模型都有名称、厂商、类别、可用范围、能力配置,以及一个或多个上游来源。
使用入口#
进入管理端后选择「模型」。工具栏提供搜索、「状态」「协议」「厂商」筛选、排序、批量操作、「分组」「顺序」和「新增」。右上角的「自动熔断」开关控制熔断状态的显示。
| 列 | 含义 |
|---|---|
| 平台模型 | 模型名称、图标和可用性标记。 |
| 类型 | 模型类别。 |
| 协议 | 已绑定来源使用的协议。 |
| 厂商 | 技术厂商。 |
| 来源 | 「活跃 {active} / {total}」。 |
| 状态 | 启用或停用。 |
| 可用范围 | 全平台或内部任务。 |
| 更新时间 | 最近更新时间。 |
展开一行可以内联查看上游来源:上游模型、类别、协议、厂商、上游和来源状态。来源菜单支持测试、熔断设置、启用或停用、立即熔断或结束熔断,以及删除。
创建平台模型#
- 点击「新增」。
- 填写「平台模型」名称并选择「厂商」。
- 可选:指定「展示分组」,或保留「跟随厂商」。
- 设置「状态」和「类别」。
- 可选:填写「图标」「描述」「系统提示词」「可用范围」和「权限组」。
- 展开「模型能力」设置上下文窗口和能力 JSON。
- 展开「绑定来源」立即添加上游来源,留空则只创建平台模型。
- 点击「保存」。
创建时,每个来源行需要选择上游、上游模型、协议、优先级、权重和状态。优先级和权重必须是正整数,重复的来源绑定会被拒绝。如果来源绑定失败,平台模型仍会创建,提示会说明失败的数量。
编辑平台模型#
从行菜单打开「编辑模型」。面板与创建时一致,另外多了列出已绑定来源的「上游来源」区域,以及包含 ID 和时间戳的「元数据」。
| 字段 | 说明 |
|---|---|
| 平台模型 | 必填,用户侧看到的模型名称。 |
| 厂商 | 用于分组和路由的技术厂商。 |
| 展示分组 | 模型选择器中的可选分组。 |
| 状态 | 启用或停用。 |
| 类别 | 对话、语音、图像生成、图像编辑、视频生成、视频扩展。 |
| 图标 | 内置图标、上传不超过 1 MiB 的 PNG、JPEG 或 WebP,或 http(s) 图片地址。 |
| 描述 | 用于管理端搜索和模型说明。 |
| 系统提示词 | 对话任务的默认行为指令;模型不支持原生 system prompt 时会合并进用户提示词。 |
| 可用范围 | 面向用户的模型用「全平台」,后台任务用「内部任务」。 |
| 权限组 | 手动把模型加入指定权限组;自动规则由权限组配置决定。 |
| 模型能力 | 上下文窗口、默认参数、参数控件和官方原生工具。 |
没有命中任何权限组的模型对用户不可见。面板会提示「当前模型未命中任何权限组,用户侧不可访问。」
管理上游来源和路由#
从行菜单打开「来源」管理路由。每个来源都是一个绑定到平台模型的上游模型。
- 「绑定来源」新增一条路由,需要选择上游、上游模型、协议、优先级、权重和状态。
- 直接修改来源的「协议」,修改会立即保存。
- 修改「优先级」和「权重」后按回车或离开输入框提交,两者都必须是正整数。
- 用状态开关启用或停用来源。
- 用「熔断设置」设置来源的失败次数阈值、熔断持续时长和滑动窗口。填
0表示继承主模型的兜底配置,主模型也为 0 时使用系统默认。 - 删除来源即可停止向它路由。
优先级数字越小越先路由;权重在同优先级来源之间分配流量。
| 来源状态 | 含义 |
|---|---|
| 熔断中 | 该来源或其上游处于熔断,悬停可查看范围与预计恢复时间。 |
| 平台模型已停用 | 主模型已停用。 |
| 上游已停用 | 上游已停用。 |
| 上游模型已停用 | 模型已不在上游列表中。 |
配置模型能力#
在编辑面板展开「模型能力」,可以设置上下文窗口和能力 JSON。
- 「上下文窗口」支持「自动识别」或自定义值,范围 4,096 至 16,000,000。预设为 64K、128K、256K、500K、1M,面板会显示当前生效值。
- 当绑定路由使用图像协议时,会出现「图像流式调用」。
- 「可视化配置(推荐)」打开带「参数」和「官方工具」标签的弹窗。
- 「高级 JSON」直接编辑能力 JSON,并提供指南。
参数#
「参数」标签编辑 defaultOptions、optionControls 和 lockedOptionPaths。
| 列 | 含义 |
|---|---|
| 参数 | 参数路径,例如 reasoning.effort。 |
| 默认值 | 按 JSON 值解析,例如 0.7、true、null、"high" 或对象。 |
| 不可修改 | 锁定该参数,用户不能修改;锁定参数必须有默认值。 |
| 名称 | 展示名称。 |
| 说明 | 参数说明。 |
| 类型 | text、select、number 或 boolean。 |
| 选项 | select 类型的逗号分隔选项。 |
默认值会成为模型的默认请求参数。参数控件只决定聊天参数 Dialog 如何渲染控件,最终是否透传仍由参数过滤规则决定。路径重复、路径无效、类型缺失、select 缺少选项、锁定参数缺少默认值都会被拒绝。
OpenAI 路由还会显示「OpenAI 缓存配置」:启用策略(自动、开启、关闭)、缓存模式(隐式、显式(GPT-5.6+))和缓存时长。
官方工具#
「官方工具」标签控制该模型允许使用的厂商托管工具。只有在这里开启的工具才会进入会话配置。
- 打开内置工具,并设置「默认开启」,即可加入模型的默认请求参数。
- 「配置」展开自定义工具,包含「工具 Key」「适用协议」「类型」「Payload JSON」和「默认开启」。
- 协议与当前路由不匹配的工具会标记为「可能不适用」。
用户手写 options.tools 时,只会保留管理员允许的官方工具。未知工具和 MCP 或 function 工具不会通过 JSON 注入。
复用模板#
「复用模板」可以从协议模板或同协议同类型的已有模型复制能力配置。套用后会替换当前的默认参数、控件和原生工具。
管理分组与顺序#
- 「分组」管理技术厂商和展示分组。厂商有稳定「标识」(仅小写字母、数字、下划线和连字符,创建后不可修改)、「名称」和「图标」。展示分组包含名称、图标和成员列表。删除厂商前需要先迁移它的模型;删除展示分组后,模型会恢复按技术厂商展示。
- 「顺序」调整模型选择器中展示分组和模型的顺序。拖拽分组和模型排序后点击「保存」。未指定展示分组的模型仍按厂商归类。
测试模型#
- 行菜单的「测试全部」会测试平台模型的所有来源。
- 来源上的「测试」只测试该条路由。
结果弹窗会显示「可用」「错误」「超时」或「暂不支持」,以及上游、协议、端点、状态码、延迟和请求、响应调试信息。在来源结果中可以用「删除此模型」移除该路由。
新增上游、调整路由、替换密钥、修改协议或能力配置后,都建议测试相关模型。
批量操作#
用复选框选中模型后,可以批量应用「类型」「展示分组」「协议」「上下文窗口」「厂商」「状态」,或点击「删除」。
- 协议修改只对存在上游来源的模型生效;如果所选模型都没有来源,会给出提示。
- 上下文窗口必须在 4,096 至 16,000,000 之间,并且大于模型的输出 Token 上限。
- 删除模型会同时删除它在所有上游下的绑定关系。
常见问题#
| 现象 | 检查 |
|---|---|
| 模型列表加载失败 | 刷新页面;若登录状态失效,请重新登录。 |
| 对话中看不到模型 | 模型已停用、属于内部任务、没有来源、未命中权限组,或全部来源不可用。 |
| 来源绑定失败 | 确认上游和上游模型处于启用状态,且协议匹配。 |
| 优先级必须大于 0 / 权重必须大于 0 | 填写正整数。 |
| 模型测试超时或报错 | 检查上游、密钥、协议和超时设置。 |
| 上下文窗口被拒绝 | 使用 4,096 至 16,000,000 之间的值,并确保大于输出上限。 |