Langflow 配置 OpenAI Compatible 并运行聊天流程

更新于

在 Langflow 添加 QuickRouter 提供商,启用模型并搭好 Chat Input、Language Model、Chat Output 三个节点。

先创建 QuickRouter 令牌,确认当前令牌可以调用示例模型。需要换模型时,先查找模型 ID和对应接口。

新增 OpenAI Compatible;启用并连接模型;运行 Playground
本篇操作路径示意。

1. 添加提供商并发现模型

本文按提供 OpenAI Compatible 全局提供商的版本编写。打开「Settings → Model Providers → OpenAI Compatible」,Base URL 填 https://api.quickrouter.ai/v1,API Key 填自己的令牌。保存后 Langflow 通过模型列表接口发现可用模型。

2. 启用模型并连线

在「Language Models」启用 gpt-4o-mini 或自己的可用模型。新建空白流程并添加 Chat Input、Language Model、Chat Output。在 Language Model 里选 OpenAI Compatible 和该模型。把 Chat Input 连到模型的输入,把模型的 Model Response(Message)输出连到 Chat Output。

3. 运行一次聊天流程

保存并打开 Playground,发送「请只回复 OK。」确认 Chat Output 显示文本,再到QuickRouter 使用日志核对时间和模型。

遇到问题时检查什么

  • 保存提供商时无法获取模型。核对 Base URL 以 /v1 结尾。确认部署 Langflow 的服务端能访问 QuickRouter,并用相同令牌验证模型列表请求。
  • 列表有模型但回答失败。确认该条目已启用并确实支持 Chat Completions。模型列表出现不等于令牌已具备实际调用权限。

相关文档

在线客服