𝐗𝐀𝐈 𝐗𝐀𝐏𝐈

产品介绍

什么是 XAI Router ?

XAI Router 是一个在应用层透明接入的 AI API Router 和管理平台(一整套多租户管理 API), 又名愚公路由。它旨在解决直接使用原生 AI 服务（如 Deepseek, OpenAI, Anthropic 等）时遇到的稳定性、并发限制、密钥管理和成本控制以及多租户管理等核心痛点。

如果将 DeepSeek/OpenAI/Anthropic 等模型提供商比作“发电厂”，那么 XAI XAPI 就是集“国家电网（高可靠传输）+ 各级电力分销公司（多租户体系）+ 智能电表计费系统（精细化管理）”于一体的商业引擎。

服务模式

  • 私有化 XAI Router [1]：单租户架构(加密存储空间)，系统管理员录入 AI API 后，可创建下属子账户并共享管理 AI API 资源。面向对数据主权、信息安全与合规性有严苛要求的大中型企业、金融机构、医疗机构及政府部门，提供完整本地化部署方案，确保数据不出域、合规不出界。
  • 云服务 XAI Control [2]：多租户架构(加密虚拟空间)，每个注册用户均拥有独立 AI 路由配置空间，可创建下属子账户并分配使用自己的 AI API 资源。面向全球开发者，提供便捷、高可用的 AI API 接口服务，支持无缝切换、快速上线。

两者核心差异在于谁管 AI API Key， 无论谁管理， 均可以创建下属子账户分配管理各自的 AI API 资源

方案架构管理模式典型场景用户案例
XAI Router [1]单租户唯一系统管理员录入并集中管控所有 AI API Key，可创建子账户共享资源对数据主权、信息安全与合规性有严苛要求的大中型企业、金融机构、医疗机构及政府部门某银行总行 IT 部部署本地 AI 路由，由唯一管理员统一分配 deepseek / 本地部署模型 AI API 额度，创建子账户给各业务部门
XAI Control [2]多租户注册即拥有独立 XAI Router，用户自行管理自己的 AI API Key，可创建子账户共享资源全球开发者、初创公司及需要快速上线的业务独立开发者小李注册后，立刻拥有自己独立的 XAI Router 实例，自己就是系统管理员。他自行填入 Deepseek API Key / Anthropic API Key / OpenAI API Key，再创建 5 个子账户给海外客户；另一位开发者Dick注册后，也拥有完全隔离的另一个 XAI Router 实例，各自管理各自的 AI API Key 以及分配创建各自子账户，互不干扰。

无论您需要公有云的便捷性，还是私有化部署的安全性，我们都能提供最适合您的专业解决方案。

核心特性

  • 统一的 API 入口和路由：所有模型调用统一走一个域名，XAI Router 智能调度到最优上游。
  • 智能密钥轮换和分发：实时监测各密钥健康状态，自动在密钥池内做轮询、休眠与恢复，避免单点限速。
  • 限流、认证和用量统计：支持TPM/TPH/TPD/RPM/RPH/RPD 限流；IP 白名单/Model 白名单等管控策略；实时用量上报与可视化大盘。
  • 故障自动切换：上游异常（超时、429、5xx）触发毫秒级熔断，自动重试并切换至健康节点，业务侧零感知。
  • 模型映射：支持在系统层和账户层做「模型别名」映射，例如 gpt-3.5-*=gpt-4o-mini、deepseek-coder=deepseek-chat，存量代码无需改动即可平滑升级或降级模型。
  • 多云模型协议转换：内置跨平台 API 协议高性能适配层，支持：
    • Azure OpenAI Service → OpenAI API / Anthropic API 双协议无缝转换；
    • AWS Bedrock → OpenAI API / Anthropic API 双协议无缝转换，直接以OpenAI API 或者 Anthropic API 调用 Claude 等模型无需改写代码；
    • Google Cloud Vertex AI → OpenAI API / Anthropic API 双协议转换，统一调用入口。
  • 极致稳定：通过内置的密钥池智能调度算法，我们能有效屏蔽上游服务（如 OpenAI）的 429, 5xx 等常见错误，确保您的业务请求成功率最大化。
  • 无缝兼容：原生API支持的同时，兼容 OpenAI 和 Anthropic 的 API 规范。您只需修改 API 的 base_url 和 api_key，即可在现有应用中无缝切换，无需修改任何代码逻辑。
  • 高性能高并发：核心服务逻辑全内存执行，确保超低延迟和卓越的并发处理能力。
  • 强大的账户体系：提供灵活的多级子账户管理功能。您可以为团队成员或客户创建独立的子账户，并精细控制其费率、额度、速率限制 (RPM/TPM) 和可用模型。
  • 精细的成本控制：所有消费明细可查，从全局概览到逐项记录，让您的成本清晰可控。支持按量计费，价格与官方模型价卡保持一致。
  • 零信任安全策略：多租户架构的 XAI Control 系统的核心数据（XAI API Key 和 AI API Key）采用虚拟货币同级别的端到端加密存储，系统不设超级管理员，数据库亦不留任何明文敏感信息；即便整库泄露，攻击者也无可乘之机。实施用户即密钥的去中心化安全策略——您的数据只能由您的专属密钥解锁，从根本上杜绝数据泄露风险。

实现原理

XAI XAPI 架构图

密钥池（Key Pool）中汇集了由不同高等级账户创建的多个上游 AI 服务商 API Keys。这套机制有效解决了单一官方账户组织在面临超大规模请求时，因 `TOKEN LIMITS` 或 `REQUEST LIMITS` 不足而导致服务瓶颈的问题。通常，各类模型我们维护至少100个独立的上游账户组织，以从容应对全球开发者超大规模业务请求。

无论您是独立开发者、创业团队还是企业级用户，XAI XAPI 都能为您提供稳定、高效、可控的 AI API 服务，让您能更专注于业务创新。

账户层级与继承 →