FastGPT 配置 QuickRouter 模型渠道

更新于

在自托管 FastGPT 的 AI Proxy 中配置 QuickRouter,分别验证对话和文本嵌入。

先创建 QuickRouter 令牌。如果需要换模型,从模型目录复制完整 ID,并确认令牌支持对应接口。

准备模型条目;创建 OpenAI 协议渠道;分别测试并启用模型
操作路径示意。

1. 准备模型条目

在已部署且能访问 AI Proxy 的 FastGPT 中,打开「管理员 → 模型提供商 → 模型配置」。查找或新增语言模型 gpt-4o-mini 和索引模型 text-embedding-3-small。

2. 创建 OpenAI 协议渠道

进入「模型渠道 → 新增渠道」。名称填 QuickRouter,协议类型选 OpenAI,代理地址填 https://api.quickrouter.ai/v1,密钥填自己的 QuickRouter 令牌。将前面两种模型关联到该渠道。已有不同的内部模型 ID 时,用模型映射指向准确的上游 ID。

3. 分别测试并启用模型

点击「模型测试」分别检查对话和索引模型。通过后在模型配置中启用,在测试应用选中对话模型并发送「请只回复 OK」,随后查看QuickRouter 使用日志。

常见问题

  • 管理员页面连接不上 AI Proxy。先检查部署中的 AIPROXY_API_ENDPOINT 和 AIPROXY_API_TOKEN。内部服务地址与渠道的 QuickRouter Base URL 分开填写。
  • 普通聊天通过但索引失败。检查索引模型 ID、是否启用及令牌是否支持 /v1/embeddings。

相关文档

在线客服