百度“词元所”管的事:让模型敢标价,让算力敢挂牌(百度词元所官网) ypxx.net

中国算力市场有个奇怪的现象,有人买不到算力,也有人卖不掉算力。

今年7月,有头部大模型公司因为算力摸到承载极限,暂停了C端新用户订阅,想用要排队。而全国智算中心的GPU,今年一季度平均利用率只有30%。相当于,七成的时间插着电,没有活干。

排队的是高端智算,空转的是中小算力中心。需求没有消失,只是在另一头排着队,两边接不上。

“
算力不缺,缺的是把它变成商品的工序。

11月12日,百度把这道工序做成了一个产品,取名词元所,自称大模型的交易所。

一边喊荒,一边躺着

单看这个现象,很容易得出一个“算力堆过头了”的省事结论。

但去内蒙古看一眼,结论会反过来。

到今年10月,乌兰察布投运算力19万P,智能算力占比超过95%,签约项目109个、机架超700万架。距北京240公里,光缆往返时延4.2毫秒。

凉快、便宜、离得近,按常理东部溢出的需求应该往这儿流。

但有一部分流不动。

图:东数西算把业务划成两半,不赶时间的训练任务已经在西流,流不动的是实时业务,卡在时延、调度、清算三道坎上。

京津冀、长三角、粤港澳大湾区的算力需求占全国65%以上,而且以AI企业和高端制造为主,时延要求最严。

国家给算力网划了三档:城市内1毫秒,区域内5毫秒,跨枢纽20毫秒。这三个数是网络传输的一段,不是全部。

对话、代码补全、智能体跑任务,用户等一个回答按秒算,模型生成占大头,加卡能压;路上这几十毫秒,加多少卡都改不了。

跨区的劣势就在这段路上,城市内1毫秒的路,跨枢纽要走20毫秒,单次请求没人察觉。智能体一次任务要调二三十次模型,每次都多走这一段,零头就乘成了秒,因此这类活只能在离用户最近的那一圈里消化。

4.2毫秒够得着区域圈,接得住北京的实时推理,但西部枢纽不都这么近。有的地方到上海高达100毫秒,是5毫秒时延圈的二十倍。那部分卡,只能接训练和离线任务。

跨区调度是另一堵,和时延那堵不一样。时延是物理的,拆不了,只能绕;调度是人为的,能拆,难在没人牵头。

各地平台分属不同投资主体,异构算力互联要掉一截效率,最要命的是跨主体调度缺一套可信计量和清算机制。谁调了谁的卡、用了多少、钱怎么分,算不清。

算不清账,钱就收不回来。收不回钱的卡,没人肯交出去。

“算力荒”和“算力躺”就这么同框了,它们不是同一个市场的两面,而是两个几乎不连通的市场。

这种有货卖不掉、要货买不到,更准确的说法是结构性错配:不是总量不够,是位置、层级、用法跟需求对不上。

而用法这一层又鲜被注意,也就是运营能力的问题。

有些项目立项时就没想清楚客户是谁,建成之后自有团队对底层算法库不熟,卡插在机柜里,利用率长期趴着。换个团队,利用率翻上一倍不止。瓶颈不在硅片上,在运营。

而运营之上还有一关:提上来的产出,卖给谁。这笔账两头看,高端那头缺的是产能,得等新建;存量这头缺的是变现,卡已经插在那里了。

稀缺的不是卡,是让卡开始产生收入的能力。

三道工序

而一张卡要变成一笔收入,中间隔着三道工序,如图所示:

图:第一道各家自己做,词元所接的是后两道:把服务变成能核验、可比价的商品,再让客户找到它。

过去十年,云厂商主要做第一道,顺带做第三道。卖的计量单位是卡时、是实例。客户租走一堆算力自己部署,跑得好不好自己认。这个模式对大公司和有技术团队的客户都成立。

但智能体这一波把需求结构改了,大量中小团队要的不是机器,是调用。不是一张卡跑一个月,是几百万次请求按次结算。供给端如果还只会卖卡,就等于把最广的那层客户挡在门外。

中小算力中心和地方国资平台,第一道勉强过得去,恰恰卡在第二道和第三道。他们有卡,也能让模型跑起来,但没法向客户证明“我的服务达标”,也没渠道让客户找到自己。算力在本地循环,出不了省。

这个卡点不新鲜,历史上每一轮基础设施普及,都要过这一关。

1880年代的美国,电力刚进工厂时是自建的。电压不同频率不同,电机不能互换,买台设备得连电厂一起买。

最终让电变成一门生意的不是发电技术,而是标准和电网。电压频率有了统一口径,设备才能互换;有了电网,电才能从A厂卖到B厂。

在那之前,电是自用的动力。在那之后,电才是商品。

算力如今站在同一个位置,东数西算解决的是“把电厂建到煤坑边上”,全国一体化算力网解决的是“把网连起来”,都在物理层。

但电网之上还差两样东西,电表和电价。

没有电表,发了多少电说不清。没有电价,好电和劣电一个价,劣币容易把良币挤出去。

大模型的电表已经有了,叫Token,中文译作词元,是目前唯一被行业普遍接受的计量口径。2024年初,中国日均词元调用量1000亿。到今年3月,140万亿,两年翻了一千倍。

只不过量虽然起来了,但价还没厘清。

同一个模型,平台上能挂着六家供应商,报价不同、首Token延迟不同、七天调用成功率不同。买家拿到手的是一张价格表,看不到表背后那些差别。

更麻烦的是,这张表还会变。供应商换了机器、换了调度策略、换了一个更便宜的量化版本,价格没动,可东西变了。

采购方要判断的其实只有三件事:这是不是它宣称的那个模型,能力是不是对得上标称,下个月还是不是这样。

但问题是,采购方一件都验不了。

图:24个端点里,58.3%的指纹对不上官方模型;同一个医疗基准,准确率从83.8%掉到37.0%。供应商靠信息溢价、折扣替换、加价倒卖三种手法赚差价。

Token API是黑盒,而且是活的、非标的黑盒。采购方难以准确判断供应商提供的模型是否真实、服务能力是否符合承诺、服务质量是否长期稳定。

把可信变成前置条件

百度世界2026上发布的词元所,李彦宏给它的定位直接就是大模型的交易所。

把前两节合起来看,词元所的落点其实很专注:三道工序里,它只做第二道和第三道。

它不管卡怎么变成服务,而是管服务怎么变成一件能标价、能核验、能被陌生人买走的商品,也正是那些七成时间闲着的卡、出不了省的机房,缺的那一段。

词元所的运转可以拆成四段:准入、监测、评级、交易。模型和供应商进平台之前先核验;进来之后持续拨测、监测每一次调用;表现换算成信用记录并对买家可见;买家在可比的价格和信用信息下完成选择和结算。

这其中两件事是核心。

一件叫验真,用模型指纹比对确认调用的确实是它宣称的那个模型,再用能力测试、性能与可用性测试确认标称和实际对得上。

这里针对的是套壳换皮、量化裁剪后仍按原版标称、版本静默升级导致效果漂移三类风险。

其中第三类最为阴险,与前两类是能抓的假货不同,第三类模型是真的,只是悄悄变了。系统跑着跑着,输出质量往下走,业务指标掉了,查到最后发现对面换了版本。

传统采购里几乎不会发生这种事。买一车钢材,牌号、炉批号、质保书齐全,出问题能一路追回去。模型没有外观、出厂编号,你连“它变了”都很难证明。

另一件叫征信,平台把供应商的表现持续记下来做成评级,评级变了提示用户。

这里有个细节值得停一下,信用分评的不是“谁更强”,是“声明和实际的差异”。

质量分看模型能力、服务性能、服务质量、成本,那是绝对水平;信用分看真实性、性能、能力、合规、履约,那是承诺的兑现程度。

把这两件事拆开来评,讲究就在这里:绝对水平,买家至少还有各类榜单可以参照;承诺兑现却一直没人替买家查,而它恰恰查得清,抽检和比对就能出结果。

词元所补的,正是后一个空当。其实际在做的事,正是把可信从售后问题变成准入条件。过去买到不靠谱的API,是纠纷;现在它进不来,或者进来了挂着低分。

百度官方介绍,词元所试运营一个月入驻供应资源超过100个,日均调用5000万次,日均词元7000亿。

这个数字放到全国的140万亿里,是0.5%。

0.5%放在一个开了三十天的柜台上,不奇怪。它说明的是另一件事,那些原本没有出口的算力,可以挂出来,被比价、被结算。

这就是词元所打开的东西,存量算力的变现出口。

之前讲过的三层错配里,最可惜的是运营那层。卡没问题,机柜没问题,利用率就是上不去。技术不是问题,钱也不是问题,问题是提上去的产出卖给谁。

闲着的机器不会自己变成收入,得有人把它整理成一个能被理解、被验证、被下单的东西,再让不认识它的客户找到它。

词元所接的就是这一段。计量口径统一了,质量能核验了,履约记录能查了,一家没有品牌的供给方第一次可以不靠陪标、不靠三个月试用、不靠押款,就让人相信它。

这不是多发一张卡,是让已经存在的卡多跑一段,效率提升在硅片以外的环节。

那么这个“柜台”上的卖家能是谁,手里有卡、能把模型服务跑起来、却没法自己获客的中小算力中心和算力服务商。买家的长相正好相反,几十万家有模型需求、但小到不值得任何一家原厂单独派一条商务线去对接的小公司。

这两边过去没有见面的地方。头部的供需靠直销就能闭环,长尾的供需一直悬着。这一层是空白,不是被谁占着。空白的市场不用抢,只需要有人先铺路。

还有一个位置要摆正,是百度自己的。文心在这个池子里,接受同一套测评、同一套评级。规则制定者把自己的模型放上秤,短期是给自己找麻烦,长期是这杆秤能被别人接受的唯一方式。

尾声

中国有全球最大的词元消耗量,有八大枢纽十大集群,有正在连起来的全国一体化算力网。

物理层这几年推进得很快,接下来难的是制度层:计量、定价、评级、结算。

词元所此刻所在位置,就是把文件里的一个词,变成一个有供应商、有报价、有分数、有结算的柜台。0.5%不是天花板,是起跑线,总要有人先行探索。

尺子这东西,谁先做出来不重要,重要的是谁做的被采用。电压和频率定下来之后,全世界都用同一套,后面所有的电器、电厂、电网,都在这个口径上长。

算力要变成商品,也得有这么一把尺子。计量口径、质量核验、履约记录,三样齐了,一家有卡、有能力、但没品牌的公司,才可能把自己的算力挂到公开市场上,被比价、被选择、被结算。

词元所提高产业效率,落到算力行业应该是这个意思:

“
不是建得更多,是让已经建成的部分跑得更满。

中国有全球最大的算力存量,也有全球最大的词元消耗量,这两样摆在一起,本来就该长出最活跃的算力市场。