Python SDK 调用 Responses API 与流式输出

更新于

使用官方 Python SDK 连接 QuickRouter,读取一次 Responses 文本,再处理流式事件和结束状态。

先创建 QuickRouter 令牌,确认当前令牌可以调用示例模型。需要换模型时,先查找模型 ID和对应接口。

设置环境变量;调用 responses.create;切换到流式输出
本篇操作路径示意。

1. 安装 SDK 并设置密钥

python -m pip install -U openai

在当前环境设置 QUICKROUTER_API_KEY,值为自己的令牌。可选设置 QUICKROUTER_MODEL 来替换示例模型。macOS 或 Linux 可把命令中的 python 换成 python3。

在 macOS 或 Linux 的 Bash、zsh 中运行下面命令,按提示输入密钥。

printf 'QuickRouter API Key: '; read -rs QUICKROUTER_API_KEY; printf '\n'
export QUICKROUTER_API_KEY

在 Windows PowerShell 7.2 或更新版本中,可使用下面命令。

$env:QUICKROUTER_API_KEY = Read-Host -MaskInput "QuickRouter API Key"

2. 调用 Responses 并读取文本

保存为 responses_demo.py,执行 python responses_demo.py。示例使用 gpt-6.1-sol,SDK 会在 Base URL 后追加 /responses。

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["QUICKROUTER_API_KEY"],
    base_url="https://api.quickrouter.ai/v1",
    timeout=60,
    max_retries=0,
)
model = os.getenv("QUICKROUTER_MODEL", "gpt-6.1-sol")
result = client.responses.create(
    model=model,
    input="请用一句话解释什么是 API。",
    max_output_tokens=512,
)
if result.status != "completed" or not result.output_text:
    raise SystemExit(f"没有完整文本,响应状态:{result.status}")
print(result.output_text)
if result.usage:
    print(f"总 Token:{result.usage.total_tokens}")

3. 读取增量并检查结束状态

用下面的代码替换上例从 result = 开始的部分。流式模式会再次发起请求,运行后用QuickRouter 使用日志核对模型与时间。

with client.responses.stream(
    model=model,
    input="请用一句话解释什么是 API。",
    max_output_tokens=512,
) as stream:
    for event in stream:
        if event.type == "response.output_text.delta":
            print(event.delta, end="", flush=True)
    final = stream.get_final_response()
    print()
    if final.status != "completed":
        raise SystemExit(f"流结束,响应状态:{final.status}")

遇到问题时检查什么

  • 404 或报不支持协议。确认模型目录列出 Responses 接口,且 SDK 地址填到 /v1。
  • 状态为 incomplete 或没有文本。查看 incomplete_details 和输出项。推理模型的输出预算可能包含推理 Token,确认原因后再调整。
  • 连接中断时已有部分文字。保留已显示的内容,并先查原请求日志,再决定是否提交新请求。

相关文档

在线客服