大模型网关替代方案:6 个 LLM Gateway 怎么选?
没有对所有团队都最好的大模型网关。OpenRouter 强在模型市场,Requesty 强在路由与团队控制,LiteLLM 适合自托管,Portkey 强调企业治理,AIHubMix 提供广泛模型市场,OpenLux 则提供精选托管目录和公开美元价格。先选交付方式,再核对具体模型和必要控制。
审核 OpenLux 工程团队 · 最后核验

六个 LLM Gateway 一览
先用交付方式缩小范围。所有价格与功能都应在官网当前页面再次核验。
| 网关 | 交付方式 | 最适合 | 主要取舍 |
|---|---|---|---|
| OpenRouter | 托管模型市场 | 最大模型发现和供应商覆盖 | 市场和路由选择更复杂 |
| Requesty | 托管网关 | 路由、缓存、回退、团队策略和欧洲选项 | 控制项更多,并采用供应商价格加价模式 |
| LiteLLM | 开源、自托管 | 基础设施自主、定制和内部部署 | 团队需负责升级、可用性、安全和监控 |
| Portkey | 企业 AI 网关平台 | 企业治理、Guardrails 和生产控制 | 平台范围可能超过单纯模型接入需求 |
| AIHubMix | 托管多模型市场 | 广泛模型与多语言开发资源 | 大目录需要逐模型核验价格和能力 |
| OpenLux | 精选托管网关 | 19 个生产模型、OpenAI 兼容和公开美元价格 | 模型目录较小,自定义路由能力有限 |
为什么团队需要 LLM Gateway 替代方案?
常见原因有四类:模型目录不再合适、成本无法预测、自托管运维负担过高,或者路由与治理能力不符合组织要求。首页功能列表无法回答这些问题,真实请求路径才是判断依据。
先写一页选型记录:必需模型、月 input/output token、媒体请求、延迟目标、数据边界、SDK、路由要求、可用性负责人和付款方式。这个记录会让方案排序更客观。
比较 LLM Gateway 时应看什么?
至少比较模型覆盖、API 兼容、价格口径、托管方式、路由控制、日志可观测性、安全条款、支持和迁移工作量。图像、视频、语音等按请求计费的工作负载要单独计算,不能混入文本 token 平均数。
第二层是运维匹配。自托管控制力更强,但需要平台团队;托管服务省去基础设施,但改变信任边界;模型市场覆盖广,却增加逐模型核验工作和供应商复杂度。
模型覆盖最广的是哪一类?
OpenRouter、AIHubMix 和 Requesty 的公开材料都强调较大模型目录,适合研究、模型试用或需要向用户提供多个模型的平台。生产接入仍需确认具体模型 ID、端点、参数支持和当前价格。
OpenLux 选择更小的生产目录。对需要大量细分模型或频繁探索新模型的产品,这是限制;对已经明确模型清单、希望快速接入的团队,减少选择本身就是效率。
需要路由和企业治理时怎么选?
Requesty 更强调路由、缓存、回退和团队策略,Portkey 更强调企业 AI 网关、治理和 Guardrails。如果网关是内部 AI 平台的核心,值得按这些控制项深入评估。
OpenLux 提供托管多路由调度和重试,但不以用户自定义路由引擎或完整企业网关控制面为核心。只购买真正会运营的能力,未使用的规则最终会变成维护成本。
必须自托管时怎么选?
LiteLLM 是本组中明确面向自托管部署的开源方案。组织若必须拥有网关运行时、接入内部基础设施或定制 Provider 行为,应优先评估。代价是自行负责可用性、升级、监控和安全。
若数据边界或部署政策要求自托管,应先用这个硬条件过滤名单,而不是继续比较托管服务功能。其他网关是否提供私有部署,需要按其当前企业条款确认。
哪个方案最容易开始?
最快启动通常来自托管服务,而且必需模型已经在目录内、API 与现有 SDK 匹配。OpenLux、Requesty 和 AIHubMix 都可能提供较短接入路径,但真正的证据是你的请求形态能成功运行。
做一个小型评估脚本:发送同一组真实请求,记录延迟、错误、用量和账单,覆盖流式、工具调用或媒体调用。文档看起来简单,但生产请求失败,就不能算简单。
哪种方案更适合?
优先托管与简洁
- OpenLux:精选模型目录、公开美元价格和统一账单。
- AIHubMix:广泛模型与多语言市场。
- Requesty:需要托管高级路由与团队控制时。
优先控制与广度
- OpenRouter:最广泛模型市场。
- LiteLLM:团队自行部署和运营。
- Portkey:企业网关治理与 Guardrails。
相关模型与实时价格
| 模型 | 厂商 | 价格 | 相对官方 |
|---|---|---|---|
| gpt-5.6-sol | OpenAI | $0.1838 / 1M tokens | -96% |
| claude-sonnet-4-5-20250929 | Anthropic | $0.2647 / 1M tokens | -91% |
| gemini-3.8-flash | $0.0551 / 1M tokens | -92% | |
| qwen3-max | Qwen | $0.0784 / 1M tokens | -88% |
关键结论
- 先按交付方式选型:托管服务、自托管控制力或模型市场覆盖度。
- 按真实工作负载计算总成本,而不是只比较单次请求的标价。
- 迁移前先用一个非核心业务做一周并行验证,再扩大流量。
常见问题
最好的大模型网关替代方案是什么?
取决于需求。OpenRouter、Requesty、LiteLLM、Portkey、AIHubMix 和 OpenLux 分别代表不同组合的模型广度、路由控制、自托管和托管简洁性。
哪个 LLM API 网关最便宜?
没有统一答案。要用同一真实工作负载比较模型费率、加价、请求计费、重试、套餐和运维成本。
AI Gateway 和 LLM Router 是一回事吗?
有重叠。Router 更关注模型或 Provider 选择,Gateway 通常还包括鉴权、计量、日志、策略和账单。具体要看实际能力。
可以自托管大模型网关吗?
可以,LiteLLM 是开源例子。其他厂商可能提供企业私有部署,但必须以其当前条款为准。
从一个网关迁移到另一个难吗?
标准 OpenAI 兼容请求通常只需修改 base_url、密钥和模型名称;平台专属路由、缓存和响应字段需要先适配。
来源与方法
竞对信息已在核验日期与所列公开页面核对。价格与产品条款可能变化,购买前请再次确认。
- OpenRouter 定价模型市场与方案信息。
- Requesty 定价路由、方案和加价说明。
- Requesty 网关替代方案厂商对比与评估维度。
- LiteLLM 开源网关自托管网关说明。
- Portkey AI Gateway企业网关与治理说明。
- AIHubMix 开发者文档OpenAPI 与接入资源。
- OpenLux model catalogue and ratesChecked alongside the 19-model catalogue on 2026-10-30.