Conifer Logo

Conifer

Conifer是一个AI推理网关:一个key、一个端点接管两百多款模型,按请求动态挑模型与供应商并自动故障转移,云端token按模型原价结算不加价,运行时与本地开源模型推理免费。

8.2 /10
按量付费 免费版
价格模式
按量付费
是否开源
否
GitHub Stars
48

中国可用性与平替

中国可直接使用

该工具在中国大陆可直接访问使用,无需特殊手段。

国内平替(同类 · 中国可用)
Open WebUI
可自托管的AI对话与工作台,用一个界面接入Ollama、OpenAI、Anthropic与任意兼容接口,自带RAG、工具函数、语音通话与社区扩展市场。
Lemma
Lemma 是「为 AI 智能体而生的生产监控」(Production monitoring for AI agents):对照智能体指令审计每一条轨迹,把反复出现的静默失败聚合成问题,在 Slack 告警,并把上下文直接拉进编码智能体去定位提示修订、自动开 PR 修复,修复后生成在线评估防回归;原生支持 LangGraph、OpenAI Agents、Vercel AI 等框架,提供 LEMMA_API_KEY 与 Lemma MCP/AI skill;安全上拿下 SOC 2 Type II、端到端加密(AES-256 at rest、TLS 1.2+)与按组织完全隔离;站点无公开 /pricing(需注册 platform),英文、无中文,面向已上线智能体的工程团队。
Inception
Inception:基于扩散(dLLM)架构的新一代大语言模型厂商,Mercury系列并行生成token,亚300ms首token、5–7倍吞吐、单任务最高70%降本;OpenAI兼容API、企业私有部署,覆盖推理、实时语音与结构化决策。
Elorian Glimpse
Elorian(Glimpse)是前 Google DeepMind 研究员创立的视觉推理大模型,原生「用图像思考」而非先转文字再推理,借视觉草稿空间在推理中反复回看原图/视频帧、运行测量代码,覆盖科学图表分析、视频描述、机器人规划与视觉计数;API 接入 OpenRouter/Vercel/ModelsLab,220K 上下文、输入 $0.60 / 输出 $3.00 每百万 tokens。
Physical Intelligence (π)
Physical Intelligence(π)是机器人基础模型公司,构建视觉-语言-动作(VLA)通才策略以控制任意机器人执行任意任务;π0 已开源权重与代码,π0.7 经 Pi API beta 提供云托管推理(上传数据、微调、部署到自有机器人),具备 FAST 动作分词、多尺度具身记忆 MEM 与在线 RL 等能力。
Liquid AI
MIT CSAIL分拆出的设备端模型公司:从230M到24B-A2B的LFM开放权重模型覆盖文本、视觉、音频与编码器,可在llama.cpp、MLX、ONNX、CoreML上本地运行,另有低至$0.02/百万token的API与d1决策模型。
Laminar
Laminar:面向AI Agent的开源可观测性平台(YC投资),自动捕获LLM/工具/子Agent的调用、token与成本,用Signals无规则自动发现故障并聚类,一键转为评估集防回归;支持自托管(Apache-2.0)与托管云,覆盖Slack/CLI/MCP集成。
Navige
Navige 是插在AI智能体与模型之间的治理层:缓存复用、上下文裁剪、死循环拦截与智能路由四招降本,免费档只观察、付费档才动手,按省下金额的两成收费。

核心功能

  • 本地部署
  • 提供API
  • 有免费版
  • 多模型路由

优点

  • 不加价,云端token按模型自身费率结算
  • 一个key一个端点覆盖两百多款模型
  • 指定模型即由该模型回答,不偷偷降级
  • 供应商故障转移可用请求头指定回退链
  • 每次响应带结算成本回执,成本可观测
  • 运行时与本地开源模型推理免费,本地请求不出机器

缺点

  • 路由质量缺少公开基准,需自建回归测试
  • 桌面端只有macOS,Windows与Linux仍为即将推出
  • Linux命令行是瘦客户端,不能本地跑模型
  • 云端可见全部提示词,合规认证未公开
  • 预付费需境外卡,余额耗尽直接返回402
  • 第三方评测与社区样本不足

适合人群

最适合:适合同时在用多家模型、希望用一个key一个端点统一调用并看清每笔成本,且愿意为降本保留本地推理路径的开发团队与AI平台团队。

不适合:不适合必须私有化部署、数据不出VPC、或需要正式合规认证与SLA合同的中大型采购方。

你怎么看这个工具? (最多选 3 个)
已选 0/3
作者: ZHE.INK 评测团队 评测标准 最后更新:

详细评测

§0. 结论框(Verdict Box)

项目 内容
产品 Conifer
类别 AI推理网关与多模型路由
开发商 Conifer(站点以 Conifer 署名,未公开公司主体与注册地)
平台 云端网关、命令行运行时、macOS桌面端、开源SDK
起步价 无月费,云端按token预付费
免费层 有,运行时、路由与本地开源模型推理不收费
我们的评分 8.2 / 10
编辑短评 「一个端点接管两百多款模型且不加价,把路由、故障转移与账单透明度做成默认项」

§1. 信任声明

本评测依据官方首页、常见问题页、模型目录说明与页脚法律入口整理,用无头环境渲染取文后逐段核对路由规则、计费条款与更新机制。凡涉及延迟、故障转移成功率与路由准确率的结论,官网没有给出可复算的公开数据,本次也未做同环境压测,正文一律标注为官方宣称。

本站评测不接受厂商付费改写结论。文中不出现指向官网与第三方的可点击地址,产品入口统一由页面上的【立即访问】按钮承担。

§2. 极简结论(TLDR)

最适合:已经在多个模型供应商之间来回切换、希望用一个key一个端点统一调用并看清每笔成本的开发团队。

最不适合:需要私有化部署、或者必须把请求留在自有VPC内的强合规机构。

值不值:云端按token原价计费且明确不加价,运行时与本地推理免费,试错成本基本为零。

最终建议:可考虑,先把自家代码里的基础地址换掉跑一轮真实流量,再决定是否迁移主力链路。

§3. Conifer是什么

一句话定义:它等于推理网关加动态路由层,把「选哪个模型、交给哪个供应商、失败了怎么办、这次花了多少钱」这四件原本由工程师手工决定的事,挪到请求到达时自动完成。

官方把它讲得很直接:一个key、一个端点在所有模型和所有供应商前面。原来指向OpenAI或Anthropic官方客户端的代码,把地址换成网关地址即可,其余不变。指定模型就由该模型回答,不偷偷替换。把选择权交给它,它按这一轮请求需要什么来挑。

接入位置只有一个:https://api.conifer.build。它会为每个请求挑供应商、在某个供应商故障时切到另一家、管理提示词缓存,并把成本放进响应里。

底座是自建的运行时与路由。命令行工具拉取开放权重的GGUF模型,在Apple Silicon和Windows上本地跑,保存的路由规则可以让简单请求留在本机、其余走网关。请求本地模型时数据不出机器。

§4. 适合谁 / 不适合谁

适合:

  • 同时用三四家模型、被多套密钥与多份账单拖住的工程团队。
  • 想在不改业务代码的前提下获得故障转移与成本可见性的产品团队。
  • 需要在代码里按请求设花费上限、并把成本写进返回值的后端开发者。
  • 想先用本地开源模型压成本、把难请求再送云的团队。

不适合:

  • 必须私有化部署、数据不出VPC的金融与医疗机构。
  • 只固定用一家模型、对延迟极度敏感且不愿多一跳的团队。
  • 需要厂商级合规认证与正式SLA合同的中大型采购方。
  • 对第三方网关可见全部提示词零容忍的组织。

§5. 核心功能与实测

能力 官方宣称 本次核验结论
单点接入 一个key一个端点,兼容OpenAI与Anthropic客户端 常见问题页与首页口径一致,改动量仅基础地址
模型覆盖 两百多款,含前沿实验室与开放权重 首页写明两百多款,具体清单在模型目录页
按名直答 指定模型就由该模型回答,绝不替换 明确的反意外降级承诺,属关键信任点
自动路由 auto、balanced、best三档,按请求需求选模型 三档语义清晰,权重与策略未公开
供应商故障转移 同一模型常有多家供应商,失败即切换 支持用请求头指定自有回退链
账单回执 每次响应带结算成本回执头 成本可进日志与监控,而非月底对账
本地推理 命令行跑GGUF,简单请求不上云 数据不出本的明确路径
花费上限 开源SDK支持单次请求花费上限 需引入SDK,非网关原生

值得单独说的有三点。第一,不加价是这个品类的定价底线,官方明确云端token按模型自身费率结算、不叠加抽成,自带密钥走供应商直接计费、Conifer不抽佣。第二,回执头把成本放进响应里,意味着成本可以像延迟一样被观测。第三,本地推理与网关共用同一套路由规则,简单请求留在机器上,这与纯代理网关有本质区别。

边界与坑:其一,路由那句「够用即可」的判断没有公开评测,降级是否真的不损质量需要自建回归测试。其二,桌面端目前只有macOS签名版,Windows与Linux桌面页仍为即将推出。其三,余额为空时返回402且不计费,属于安全设计,但生产环境若未开自动续充会直接中断。其四,Linux上的命令行是瘦客户端,不能本地跑模型。

§6. 定价与隐形成本

Conifer没有订阅档位,云端是预付费按量计费:

档位 价格 额度与限制 适合谁
运行时与本地推理 0 运行时、路由与本地开源模型不收费 想零成本起步
云端按量 按token计,随模型而异 控制台充入起始余额,逐请求按实际token扣费 主力生产链路
自动续充 同云端单价 余额低于阈值时自动从卡上补足 长时间无人值守
自有密钥 0,供应商直收 自带OpenAI、Anthropic或Azure密钥,Conifer不加价 已有企业合约

以官方举的例子为锚:Claude Haiku一档的输入与输出分别为每百万token1美元与5美元。这个水位在同类网关里属于不抽成的正常区间。

隐形成本有三块。一是支付成本,预付费需要可用的境外卡,企业报销与汇率损耗需自行承担。二是工程成本,路由降级后需要抽检机制,这部分人力不在账单里。三是迁移成本,把网关放进关键链路等于新增一个依赖,需自备旁路。性价比定论:这是它最强的一环,不加价叠加免费本地推理,几乎没有为便利额外付费。

§7. 评分卡(加权评分)

维度 权重 得分 加权 评分依据
核心能力与性能 30% 8.5 2.55 单端点覆盖两百多款模型,路由、故障转移与回执齐备
输出质量与可靠性 20% 7.5 1.50 按名直答的承诺明确,路由质量缺少公开基准
性价比 20% 9.0 1.80 不加价,运行时与本地推理免费,自带密钥零抽成
易用性与上手 15% 8.5 1.28 换基础地址即可,单文件契约可直接喂给编码代理
支持、文档与生态 10% 7.5 0.75 集成面广,SDK开源,产品较新、第三方评测少
隐私、安全与合规 5% 7.0 0.35 本地推理不出机,云端可见全部提示词,认证未公开
总分 100% 8.2

分数锚点参照:9分为卓越,8分为优秀。8.2的定位是「定价最诚实的一档网关,规模与合规材料待补齐」。

§8. 真实口碑综述

本次可核验的第三方信号有限。产品较新,G2与Capterra尚未检索到评测条目,Reddit与Hacker News的讨论规模也很小,未形成可归纳的评分分布。可核验的产品侧信号更实在:常见问题页把「余额为空返回402且不计费」这类边界写进公开文档,路由决策单独写了说明页,还提供面向编码代理的单文件契约,这些都属于愿意把机制讲清楚的信号。

结论:样本不足,暂不对口碑下判断。建议后续补充接入团队的真实延迟与切换成功率数据。

§9. 竞品对比

维度 Conifer 聚合型多模型API平台 自建统一代理层
核心定位 网关加动态路由,按请求挑模型与供应商 统一接口聚合多家模型 自托管的统一代理
关键能力 路由、故障转移、成本回执、本地推理 接口兼容与计费聚合 可完全自定义
计费方式 预付费按token,不加价 常带加价或订阅费 免费但需自运维
上限与边界 依赖其云端可用性 路由多为静态规则 需要专人维护与扩容
生态与成熟度 新,集成面广 成熟 依赖社区

对比结论:论成本透明与本地加云端混合,Conifer更靠前。论生态成熟与合规材料,聚合平台更稳。论可控性,自建代理在强合规场景仍是唯一答案。

§10. 优缺点

优点:不加价,云端token按模型自身费率结算。一个key一个端点覆盖两百多款模型。指定模型即由该模型回答,不偷偷降级。供应商故障转移可用请求头指定回退链。每次响应带结算成本回执。运行时与本地开源模型推理免费,本地请求不出机器。提供开源SDK与面向编码代理的单文件契约。

缺点:路由质量缺少公开基准,需自建回归测试。桌面端只有macOS,Windows与Linux仍为即将推出。Linux命令行不能本地跑模型。云端可见全部提示词,合规认证未公开。预付费需要境外卡,余额耗尽会直接返回402。第三方评测与社区样本不足。

§11. 风险与不适用

第一,数据可见性。作为网关,它必然看到全部提示词与上下文,虽然有本地推理不出机的路径,走云端的部分仍需按核心资产级别评估。

第二,单点依赖。把网关放进关键链路等于多一个故障点,需要自备直连旁路与降级策略。

第三,计费中断。预付费加余额阈值的设计很安全,但自动续充失效时会以402形式直接打断生产流量,需要监控与告警。

第四,路由质量。按「够用即可」选模型是它的核心卖点,也是最大的不确定性来源,业务侧必须建立抽检与回归。

第五,地区可用性。站点与网关在本次核验中可正常访问,中国大陆用户的主要门槛在境外卡支付与上游链路稳定性,本项按可直接使用标注,支付摩擦另行评估。

§12. 总评与购买建议

推荐分级:可考虑。

现在就该用的:已经在多模型之间手工调度、被多份账单拖住的团队。先把基础地址换过来跑一轮真实流量,成本与故障转移几乎立刻可见。

可以再等等的:需要合规认证、私有化部署或正式SLA的采购方。等它补齐企业侧材料再评估。

总分8.2 / 10。一句话定论:把不加价、故障转移与成本回执做成默认项,是这一层里定价最诚实、机制最透明的选择之一。

本次核验的边界:延迟与故障转移成功率;路由降级的质量影响;合规认证与公司主体信息。

来源清单

[1] 官方常见问题页 — 用于核实网关定义、路由规则、计费方式与更新机制

[2] 官方模型目录与模型页 — 用于核实模型范围与按token计价口径

[3] 官方文档站与路由说明 — 用于核实接入方式、供应商切换与回退链

[4] 官方SDK仓库 — 用于核实单次请求花费上限与Python、TypeScript、MCP三种接入形态

[5] 官方控制台计费与密钥说明 — 用于核实预充值、自动续充与自有密钥接入

[6] 官方隐私与条款入口 — 用于核实数据处理与法律条款入口

常见问题

Conifer 是做什么的?

Conifer是一个AI推理网关:一个key、一个端点接管两百多款模型,按请求动态挑模型与供应商并自动故障转移,云端token按模型原价结算不加价,运行时与本地开源模型推理免费。

Conifer 免费吗?怎么收费?

Conifer 提供免费版。

中国大陆能直接访问使用吗?

Conifer在中国大陆可直接访问使用。

适合什么人用?

Conifer:适合同时在用多家模型、希望用一个key一个端点统一调用并看清每笔成本,且愿意为降本保留本地推理路径的开发团队与AI平台团队。

有什么优点和缺点?

Conifer 的优点:不加价,云端token按模型自身费率结算、一个key一个端点覆盖两百多款模型、指定模型即由该模型回答,不偷偷降级;缺点:路由质量缺少公开基准,需自建回归测试、桌面端只有macOS,Windows与Linux仍为即将推出、Linux命令行是瘦客户端,不能本地跑模型。

Conifer 有哪些替代品?

与 Conifer 同类的常见工具包括:Poe、Coze(扣子)、DeepL。

类似应用 查看全部 AI 模型与开发平台 工具 →