LibreChat 自定义端点接入 QuickRouter

更新于

在已有的 LibreChat Docker 部署中添加 QuickRouter,配置模型列表、环境变量和文件挂载。

先创建 QuickRouter 令牌,确认当前令牌可以调用示例模型。需要换模型时,先查找模型 ID和对应接口。

添加 custom endpoint;传入 Key 并挂载配置;重建 API 容器
本篇操作路径示意。

1. 合并端点配置

进入自己的 LibreChat 项目目录。将以下条目合并到 librechat.yaml,保留文件已有版本和其他配置。已有 endpoints.custom 时只追加列表项。示例先固定模型列表,连接通过后再考虑自动发现。

endpoints:
  custom:
    - name: "QuickRouter"
      apiKey: '${QUICKROUTER_API_KEY}'
      baseURL: "https://api.quickrouter.ai/v1"
      models:
        default: ["gpt-4o-mini"]
        fetch: false
      titleConvo: false

2. 配置环境变量与挂载

在项目的 .env 中设置 QUICKROUTER_API_KEY,保存自己的密钥并避免提交该文件。如果 API 服务还没有挂载配置文件,把下面内容合并到 docker-compose.override.yml。

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml
        read_only: true

确认你的 API 容器已通过 Compose 的 env_file 或 environment 获得该变量。

3. 重建 API 服务并测试

docker compose up -d --force-recreate api
docker compose logs --tail=80 api

刷新 LibreChat,在端点列表选择 QuickRouter 和 gpt-4o-mini,发送「请只回复 OK。」并查看QuickRouter 使用日志。

遇到问题时检查什么

  • 菜单没有 QuickRouter。检查 YAML 的缩进和 name、baseURL、apiKey、models.default,以及容器内的配置路径。
  • 提示 Missing API Key。确认 .env 变量名和 YAML 引用一致,且已传入 API 服务。仅重启旧容器可能仍沿用旧环境。

相关文档

在线客服