代理接口
代理接口是 XAI XAPI 服务的核心,它接收来自您的应用的 AI API 请求,并将其智能地转发到上游服务商。
端点 (Endpoint)
所有与 OpenAI 或 Anthropic 兼容的 API 请求都应发送到以下基础 URL:
- OpenAI 兼容:
https://api.xaixapi.com
- Anthropic 兼容:
https://api.xaixapi.com
您只需将官方 API 的路径附加到这些基础 URL 之后即可。
示例:
- OpenAI 的
v1/chat/completions
->https://api.xaixapi.com/v1/chat/completions
- Anthropic 的
v1/messages
->https://api.xaixapi.com/v1/messages
授权 (Authentication)
所有代理请求都必须在 HTTP Header 中包含您的 XAI API Key。
Authorization: Bearer sk-Xvs...
模型映射 (Model Mapping)
XAI XAPI 支持模型映射,这意味着您可以在请求中指定一个自定义的模型名称(例如 gpt-3.5*=gpt-4o-mini
),平台会自动将gpt-3.5
开头的模型映射到 gpt-4o-mini
。
这个映射可以在两个层级进行配置:
- 系统级 (
/x-conf
): 由root
管理员配置,对所有用户生效。 - 用户级 (
/x-users
): 父账户可以为其子账户配置独立的映射规则。
一次请求,系统优先遵循用户级模型映射,同一个模型只有用户级模型映射不存在的时候才会使用系统级模型映射,默认都没有则保持原模型请求不变化
智能路由与故障转移
这是 XAI XAPI 的核心价值所在。当您发起一个请求时:
- 系统根据您请求的模型,通过
LevelMapper
确定需要使用哪个Level
的密钥池。 - 从对应
Level
的密钥池中,通过轮询(Round-Robin)算法选择一个上游密钥。 - 如果请求失败(例如遇到
429
速率超限或5xx
服务器错误),系统会:- 自动将该出问题的密钥“休眠”一段时间。
- 从当前
Level
的密钥池中选择下一个密钥重试。 - 如果当前
Level
所有密钥都尝试失败,系统会根据您的Gear
(档位)和AllowLevels
(可用层级)设置,智能地“漂移”到其他Level
的密钥池进行尝试。
- 整个过程对调用者完全透明,您只会收到最终成功的结果或在所有尝试都失败后的最终错误。