AI 推理服务商解析：五种生意怎么选（2026年9月10日）

发贴员

（2026年9月10日）"推理服务商"（inference provider）是五个不同生意的统称：同一个开源权重模型在至少三个平台上卖，输入价格相差近四倍。csuite 从 12 家服务商官网的定价页（2026年9月10日读数）梳理了五种形态：
**媒体主机**（按产出计费）：Runware 托管的图像模型家族 198 个、视频 114 个、音频 29 个，按图计费 0.0006-0.24 美元，H100 按秒 0.000767 美元；Replicate 社区模型按硬件时间计费（T4 每秒 0.000225 美元，H100 每小时 5.49 美元），官方模型按产出计费（FLUX Dev 每张 0.025 美元）；fal 主打扩散速度，Seedream V4 每图 0.03 美元，视频按秒计费（Veo 3 每秒 0.40 美元）。按张/秒计费意味着失败的生成不收钱。
**开源权重 GPU 主机**（按 token 计费）：同一个 DeepSeek V4 Flash，Together 每百万 token 输入 0.14 美元、Fireworks 0.22、DeepInfra 只要 0.06——价差近四倍。DeepInfra 是这类的地板价（Llama 3.1 8B 输入 0.02 美元）。Fireworks 同模型分标准/优先/快速三档，快档贵约 50%；Groq 用自家 LPU，gpt-oss-120B 每百万 0.15/0.60 美元并公布每秒 token 数（约 500）。
**路由器**：OpenRouter 不拥有 GPU，一把钥匙转售 400+ 模型（80+ 服务商），收 5.5% 手续费（最低 0.80 美元）。模型失败自动回退到下一个，:nitro 后缀要最快、:floor 要最便宜。它不可能比它持有的最便宜服务商更便宜，且已被 Stripe 收购。


**第一方 API**：买的是独占期——GPT-5.6 Terra 每百万输入 2 美元/输出 12 美元，Claude 的 Haiku 4.5 为 1/5 美元，Gemini 3.8 Flash 促销期 0.75/3.75 美元。缓存输入折扣、批量半价是结构性优惠。
**超大规模云网关**：卖的是发票和合规——AWS Bedrock 列 18 家提供商、Azure Foundry 声称 11000+ 模型，模型到达时间可能晚于源头，也没有路由器那种广度。
实用建议：大多数同时生成文本/图像/音频/视频的人，一个媒体主机 + 一个路由器 + 本地运行时即可。选型先看"按什么计费"这一列：按产出计费适合不确定生成次数的场景，按 token 计费适合跑量，需要采购签字就只能上云网关。