Architect推出Liquid Inference:面向LLM推理的实时竞价市场
金融科技公司Architect Financial Technologies正式发布Liquid Inference——一个基于实时竞价机制的LLM推理路由平台。每条请求触发跨供应商的动态拍卖,买家仅支付满足其规则的最低报价。该产品依托金融交易所技术构建,支持OpenAI/Anthropic API标准,已开放免费注册与$20新用户额度。
由交易公司打造的推理竞价基础设施
Liquid Inference是由Architect Financial Technologies推出的LLM推理路由平台,本质是一个实时运行的‘推理拍卖所’。Architect本身是一家运营AX永续期货交易所的金融科技公司,于2026年5月收购美国指定合约市场(DCM)资质,正推进GPU算力期货上市(待监管审批)。团队将多年构建高并发、低延迟金融交易所的经验迁移至AI基础设施层,首次在LLM推理领域实现买卖双方参与的双向价格发现机制。
四步完成一次推理竞价
整个流程严格遵循金融级确定性原则: 1. 请求:客户端发送标准OpenAI或Anthropic格式API调用; 2. 规则过滤:买家预设的约束条件(如最大单价、首token延迟上限、最低吞吐量、指定地理区域、零数据留存ZDR要求、模型/供应商白名单等)自动筛选合格报价; 3. 竞价执行:所有当前为该模型出价的供应商实时竞标,最低合规报价胜出; 4. 凭证锁定:成交前即锁定最高支付价格(max_price),生成后按实际token用量精确计费。系统还提供Auto模式,可基于任务类型自动匹配最优模型。
买方:零代码改造接入主流开发工具
Liquid Inference强调‘替换一个URL即可启用’。目前已确认兼容Claude Code、Codex、OpenCode、Cursor、Pi及Cline等主流智能编程工具。新用户可通过邮箱免费注册,前500名获赠$20推理额度;另设两级推荐计划:一级推荐返20%被荐人费用,二级再返10%,均以等额推理额度发放。账户后台提供罕见的实时市场数据看板,包括各供应商/各模型的挂单簿(order book)、实时报价与已成交记录。
卖方:分钟级入驻与弹性供给能力
推理服务提供商通过Liquid Inference应用快速入驻,官方称审核‘以分钟计而非数周’。所有接口遵循OpenAI REST/WebSocket标准,支持动态更新报价——供应商可仅在自身GPU资源闲置且成本有利时才挂单,真正实现算力资源的按需变现。结算通过Stripe完成,每笔任务均有明细账单。
对比OpenRouter与Hugging Face
在核心机制上,Liquid Inference采用‘每请求全网竞价’,而OpenRouter为价格加权负载均衡(权重为报价倒数的平方),Hugging Face则默认选最快节点(支持`:cheapest`后缀手动切 cheapest)。模型与供应商规模方面,Liquid Inference称覆盖‘数百个模型’但未披露具体供应商数量;OpenRouter列示500+模型、80+供应商;Hugging Face官网显示18家合作方。在数据控制维度,Liquid Inference明确支持ZDR、区域限制及黑白名单;OpenRouter提供`zdr`和`data_collection`参数;Hugging Face仅标注‘chat only’。平台费率方面,Liquid Inference暂未公布抽成比例;OpenRouter收取5.5%信用卡手续费(最低$0.80);Hugging Face无加价。公共市场数据是Liquid Inference的显著差异点,其开放实时订单簿与成交记录,这在当前LLM API服务中尚属首例。
关键事实摘要
- 每次LLM请求均触发跨供应商实时竞价;
- 最高支付价在首token生成前锁定,单次请求生成独立结算凭证;
- 原生兼容OpenAI/Anthropic生态,覆盖主流AI编程工具;
- 前500名用户享$20免费额度,推荐奖励分两级发放;
- 平台费率、完整供应商名录及端到端延迟数据尚未公开。
> 编者观点:当AI基础设施开始复用成熟金融市场的价格发现与流动性管理逻辑,意味着行业正从‘技术驱动’迈向‘市场驱动’新阶段——中国企业若想参与下一代AI算力流通体系,需同步强化金融工程能力与AI工程能力。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →