跳转到内容

流式响应

流式响应可降低首字等待时间,适合聊天和长文本生成。

Terminal window
curl -N https://cpa.momoyai.com/v1/chat/completions \
-H "Authorization: Bearer $MOMOYAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-5.4-mini",
"stream": true,
"messages": [{"role": "user", "content": "列出三条 API 安全建议"}]
}'
  1. 使用支持流的 HTTP 客户端,不要等待完整响应后再显示。
  2. 按事件边界解析数据,不要假设一次网络读取等于一条事件。
  3. 支持用户取消,并把取消信号传给底层请求。
  4. 区分正常结束、上游错误、超时和客户端断开。
  5. 只重试尚未开始向用户输出的请求,避免重复内容。