1
0
Files
nex/openspec/changes/refine-conversion-proxy-behavior/specs/openai-protocol-proxy/spec.md

3.3 KiB
Raw Blame History

MODIFIED Requirements

Requirement: 支持 OpenAI Chat Completions API 端点

网关 SHALL 提供 OpenAI Chat Completions API 端点供外部应用调用。

Scenario: 成功的非流式请求

  • WHEN 应用发送 POST 请求到 /openai/chat/completions,携带有效的 OpenAI 请求格式(非流式)
  • THEN 网关 SHALL 剥离 /openai 前缀并将 /chat/completions 作为 OpenAI nativePath
  • THEN 网关 SHALL 通过 ConversionEngine 转换请求
  • THEN 网关 SHALL 将转换后的请求转发到配置的供应商
  • THEN 若上游返回 2xx网关 SHALL 将供应商的响应通过 ConversionEngine 转换为 OpenAI 格式返回给应用

Scenario: 成功的流式请求

  • WHEN 应用发送 POST 请求到 /openai/chat/completions,携带 stream: true
  • THEN 网关 SHALL 通过 ConversionEngine 创建 StreamConverter 或使用同协议流式透传路径
  • THEN 网关 SHALL 使用 SSE 格式将转换后的响应流式返回给应用
  • THEN 网关 SHALL 在 OpenAI 协议流完成时发送或透传 data: [DONE]

Scenario: 同协议透传OpenAI → OpenAI Provider

  • WHEN 客户端使用 OpenAI 协议且目标供应商也是 OpenAI 协议
  • THEN 网关 SHALL 跳过 Canonical 转换
  • THEN 网关 SHALL 使用 OpenAI adapter 重建上游 URL 和认证 Header
  • THEN 若请求使用统一模型 ID网关 SHALL 仅通过 Smart Passthrough 改写 model 字段

Requirement: 根据模型名称路由请求

网关 SHALL 根据请求中的 model 字段将请求路由到相应的供应商。

Scenario: 有效模型路由

  • WHEN 请求包含有效统一模型 ID 格式的 model 字段
  • AND 该模型存在且已启用
  • THEN 网关 SHALL 将请求路由到该模型关联的供应商
  • THEN 网关 SHALL 从供应商的 protocol 字段获取 providerProtocol

Scenario: 模型未找到

  • WHEN 请求包含有效统一模型 ID 格式的 model 字段但模型不存在
  • THEN 网关 SHALL 使用应用统一错误格式返回 404 错误

Scenario: 模型已禁用

  • WHEN 请求包含已禁用模型的有效统一模型 ID
  • THEN 网关 SHALL 使用应用统一错误格式返回 404 错误

Scenario: 原始模型名兼容透传

  • WHEN 请求中的 model 字段不是有效统一模型 ID 格式
  • THEN 网关 SHALL 按无可路由 model 请求走 forwardPassthrough

Requirement: 跨协议请求转换

网关 SHALL 对非 OpenAI 兼容供应商的请求和响应通过 ConversionEngine 进行转换处理。

Scenario: 跨协议请求转发

  • WHEN 网关收到 OpenAI 协议请求且目标供应商使用不同协议
  • THEN 网关 SHALL 通过 ConversionEngine 将请求转换为目标协议格式
  • THEN 网关 SHALL 使用目标协议的 Adapter 构建 URL 和 Header

Scenario: 扩展层接口代理

  • WHEN 网关收到 /openai/models 等扩展层接口请求
  • THEN 网关 SHALL 通过本地聚合或 ConversionEngine 转换扩展层接口响应格式

Scenario: 上游错误透传

  • WHEN OpenAI 代理请求收到上游非 2xx HTTP 响应
  • THEN 网关 SHALL 直接透传上游 status code、过滤后的 headers 和 body
  • THEN 网关 SHALL NOT 将上游错误转换为 OpenAI 错误格式