专访趋境科技艾智远：把少数头部模型跑稳，是一门更大的生意｜甲子光年

半年融资超10亿元、趋境科技高品质生产级AI Token服务快速扩张。

很多人以为，AI Infra最后拼的是三件事：算力更多、模型更全、Token单价更低。

过去两年，行业竞争也确实沿着这个逻辑狂奔。Token正被越来越多人当作标准化商品——规模做大，价格做低，似乎就是终局。

但真实的企业生产场景，给出的答案截然不同。

趋境科技创始人兼CEO艾智远在实践中感受到一个反直觉的事实：低价并不是很多企业客户追求的唯一甚至不是主要目标。价格太低，他们首先担心的不是有没有捡到便宜，而是服务能否长期稳定。

“这更像公司拉专线，而不是买普通家庭宽带。专线不是奢侈品，而是生产环境对性能的硬性要求。”

这并不意味着企业不在意成本，而是衡量成本的方式变了——从“花多少钱把模型跑起来”，转向“每一笔AI Token投入能产生多少业务价值”。消费级AI Token有望继续普惠，而面向核心业务的生产级高品质AI Token，则因为能提供确定性服务，形成了更稳定的价格体系。

这场认知转变，在过去一年里悄然加速。

回望2025年初的“DeepSeek时刻”，企业买大模型一体机做私有化部署，花的更多是研发和试错预算。彼时，趋境科技依托和清华大学高性能所 团队联合开源的KTransformers异构推理框架，搭配CPU、GPU、内存、SSD全链路异构协同计算，帮助各类企业以极低门槛在单机硬件上跑通超大参数大模型，切中了私有化试错的成本痛点。

今年，AI Coding等场景率先跑通商业化，Token开始真正接入业务系统。客户的关注点也随之迁移：代码生成要1分钟还是10秒？业务高峰会不会掉速？服务能否长期保持4个 9（全年99.99%稳定可用）？趋境过去积累的推理技术，也从帮助客户部署模型，进化为稳定生产和运营高品质AI Token的能力。

在需求从“模型跑起来”转向“持续生产”的关键节点，7月13日，趋境科技宣布完成新一轮融资，半年内累计融资金额超过10亿元。本轮融资由河南投资集团汇融基金重磅领投，真知资本、尚势资本、星连资本、上海国方创新、弘晖基金、华控基金、杭州福成等老股东持续超额跟投。

本轮资金将主要用于扩大高品质AI Token产能储备、升级自研高效能AI Token生产服务平台ATaaS（Approaching.AI Token as a Service），推动国产异构算力在核心生产场景中的规模化投产，并进一步建设面向头部模型、互联网平台和区域产业生态的高品质AI Token工厂。

「甲子光年」获悉，趋境科技的AI Token产能已从去年底的百亿级增至如今的日均万亿级，且为头部万亿参数大模型Token。2026年仅6月份的单月收入，已超过2025年全年总和。

但规模并不是AI Token工厂的全部。当请求长度从128 个Token波动到90K Token，大规模并发、长上下文、网络波动和硬件故障同时出现，系统能否保证性能、隔离故障并控制单位成本，才是真正的考验。

因此，趋境没有选择覆盖尽可能多的模型，而是坚定走“少模型、深优化”路线。艾智远观察到，生产环境中，承担绝大部分调用量、持续创造业务价值的，往往只有少数头部模型。“模型超市”更强调选择覆盖面，而AI Token工厂强调交付确定性——最好用的模型，能否在真实流量下跑得足够快、足够稳且成本可控。

宣布本轮融资前夕，「甲子光年」与艾智远进行了一场深入访谈，围绕企业为何开始为高品质AI Token付费、日均万亿级AI Token如何稳定生产、国产异构算力怎样进入核心场景，以及“少模型、深优化”背后的商业逻辑，展开了一场务实交流。

1.高品质Token，先过经济账

甲子光年：今年上半年，趋境累计融资超过10 亿元，仅6月单月收入超过去年全年，增长驱动力是什么？公司目前处在怎样的业务节点？

艾智远：核心驱动力就一个——市场需求真正起来了。去年企业做私有化部署，更多是研发和试错；今年AI Coding全面进入生产环境以后，Token用量很快爆发了。

尤其今年2月后，国内头部模型的 Coding 能力持续提升，客户从“不太敢用”转向将其放进生产环境，需求的闸门一打开，我们在推理性能、系统稳定性和交付上的能力的积累，也顺势得到了集中释放。

当然，AI Token生意需要规模化，算力仍是关键变量。这轮融资的主要目标就是用于扩大算力租赁、推进联合运营项目和国产卡布局，建设更多AI Token工厂。

甲子光年：从一体机部署切换到做Token Services，趋境的产品和交付方式发生了什么变化？

艾智远：我们今年其实依然在提供一体机，只是规模和目标变了。过去的一体机更多解决“怎么用较低成本把超大模型跑起来”，服务的是私有化部署和小规模试错。现在的一体机主要面向已验证场景的轻量化交付，帮客户快速复制生产环境中的最佳实践。

Token Services则更像持续运营。我们在自己租赁或客户提供的算力基础上，持续生产Token、服务客户。机器每天都有成本，所以必须更准确地判断客户需求、业务规模和算力利用率。

我们切换比较快，核心是对自身技术有信心——相信能把推理的性价比做到足够有竞争力。当时行业里已经有人做Token和MaaS，但大多还在亏损。我们的判断是，凭借趋境在推理系统和工程能力上的积累，至少能把这笔账算回来。现在的业务数据证明，这个判断基本得到了验证。

甲子光年：趋境如何定义高品质AI Token？

艾智远：高品质AI Token不是单纯速度快，也不是盲目追求高价，而是一整套生产级要求：低首Token响应时延、稳定高输出速度、高并发处理能力、SLA可保障、模型效果不缩水，以及单位成本可控。

完成单项指标其实不难。比如用4台机器只跑一个请求，速度肯定很好看，但经济账不成立。真正的难点在于，在满足特定场景下所有指标的同时，还要把成本压到可商业化的区间。

甲子光年：AI Token是否必然会出现分层？趋境为什么在其中选择了面向企业生产环境的AI Token服务？

艾智远：AI Token分层是行业必然趋势。分层的本质不是模型能力有高下，而是不同业务对服务的诉求完全不同。有些任务慢一点没关系，但在AI Coding这类生产场景里，等 1 分钟和等 10 秒，直接决定了开发者是流畅推进还是反复卡顿。就像通信网络从2G到5G，体验一旦上去，用户很难再回到过去。

面向C端的“模型超市”，更看重模型多、覆盖面广，但对速度、时延和稳定性的要求不一定那么极致。而生产环境恰恰相反——不需要特别多的模型，但每个模型都要跑得足够稳、足够快、足够有性价比。这些恰好是我们技术最擅长的方向，也跟我们的商业模式和长期布局天然匹配。更重要的是，当前付费意愿最强、流量最稳定的恰恰是生产端客户，所以我们选择扎根这里。

甲子光年：模型越来越多的情况下，趋境为什么坚持“少模型、深优化”？

艾智远：这是客户选择决定的。市面上虽有上百款模型，但客户真正认为能进入生产环境的屈指可数。企业关注的无非三点：模型的智能稳定性、问题解决的效率以及能否实际提升业务指标。

我们不会为了堆数量而适配，而是始终围绕客户真实需要的AI能力来取舍。生产环境里，没人会因为平台接入了100款模型就下单，大家真正在意的是：最好用的模型能不能跑得足够快、足够稳，同时成本还在可接受的范围里。

甲子光年：趋境目前同时采用直营和共同运营两种模式，它们如何扩大高品质AI Token的供给规模？

艾智远：上半年，趋境的AI Token供给仍以直营为主；下半年，一批共同运营项目将迎来集中落地。

直营模式是在租赁或获取算力资源后，直接生产高品质AI Token并供给头部模型厂商、互联网平台、AI应用公司和大型企业客户等，其中，某头部万亿级参数大模型，高品质AI Token日均产量已经稳定突破万亿量级。

共同运营主要面向计划建设或已经拥有算力资源的地方政府、算力中心和云厂商。趋境不只是交付一套系统，而是承接AI Token工厂的整体规划设计、建设交付与后续联合运营，打通“设计-建设-生产-运营”的全流程。这种模式也能借助合作方已有的算力资源，以相对轻资产的方式扩大整体AI Token产能。

2.Benchmark之外的真实生产

甲子光年：对于Token客户会如何提出自己的需求？AI Token工厂的含义是什么？

艾智远：很多客户一上来就会提很具体的要求，比如“我要支持6000人每天使用，至少500人并发，每路输出50 Token每秒以上，系统该怎么建？”

我们需要从业务目标往回倒推——用什么模型、配什么芯片、集群和网络怎么设计、硬件稳定性怎么保证。交付之后，客户还会追问 API 兼容性、SLA怎么保障、不同业务怎么分级响应。

所以AI Token工厂不是买一批卡、装一个开源引擎就完事了，而是从规划设计、建设交付到投产运营的一整套工业化能力。它解决的不是"能不能跑"的问题，而是"能不能一直跑得好、跑得省、跑得稳"的问题——这才是生产环境和实验室环境的本质区别。

甲子光年：真实生产流量和Benchmark最大的差别是什么，运营难点体现在哪里？

艾智远：Benchmark通常在理想条件下做压测，往往可以把性能调优的很高，但真实生产环境完全不同——请求长度、输出长度、并发、网络状态、流量变化都在持续变化。一次输入可能从128  Token到90K Token变化，超长的未缓存 Prompt会占用更多KV Cache块和Prefill计算资源，可能造成排队时间上升、缓存驱逐、资源碎片化或队头阻塞；当缓存放置、请求路由或负载分片不均衡时，还可能形成节点热点、网络拥塞等情况，会拖慢后续请求，甚至影响集群整体效率。

真正的难点从来不是简单堆更多机器，而是在大规模并发下长期保障每个请求的响应质量、整条生产线的稳定性，以及单位产出的经济性。

甲子光年：从KTransformers到异构 PD ，趋境如何进一步提升国产算力在生产级AI Token场景中的利用效率？

艾智远：不同模型、场景和硬件的最优解并不一样，所以生产高品质AI Token不能只做推理引擎，还要把芯片选型、模型优化、集群设计、网络搭建和长期运维通盘考虑。

去年我们重点做单机异构，通过KTransformers让CPU与消费级GPU协同运行超大模型，把客户的试错成本从几百万元降到十万元级，同时积累了模型拆分和异构调度能力。

今年进一步从“单机异构”走向“集群异构”。新一代国产卡的8bit、乃至4bit算力其实非常有价值，关键是怎样通过系统技术把这些算力组织起来，真正承载生产级AI Token服务需求。

趋境的方案是把国产卡集群与先进算力集群互联，通过混合推理和异构PD，让两类算力分工协作，比如分别承担Prefill和Decode，再配合集群互联与调度，把国产卡有价值的算力利用起来。这样既能扩大整体算力储备，也能让性价比更接近生产级要求，把异构PD真正做成能够进入生产环境的方案，让国产卡在真实业务场景中释放出应有的性价比。

甲子光年：除此之外，趋境还实现了哪些面向大规模高品质AI Token生产的升级？

艾智远：一方面是以存换算，这个我们2024年开始主导开源Mooncake系统中TE和Store等核心模块的设计和实现，今年进一步落到千卡甚至更大规模集群，把不同节点的存储连接成整体缓存，提高Cache命中率和首Token延迟（TTFT）稳定性。

不少场景的Cache命中率可以超过90%。如果100K Token的输入只有10K需要重新计算，成本会显著下降；命中率从90%提高到95%，需要重算的部分还会再减少一半。

另一个方面是虚实同构，主要解决的是大集群调度问题。集群扩大后容易出现热点，不同流量的输入、输出特征也不一样，固定PD策略很难一直适用。我们用CPU模拟GPU集群的运行逻辑，把策略迭代压缩到小时级或半天级，提高集群利用率和AI Token产量。

甲子光年：趋境积极主导和参与了KTransformers、Mooncake等开源项目。在公司商业化进程中，开源项目的意义和作用是什么？

艾智远：第一，开源是信任的起点。系统能力很难靠宣传证明，开源项目就是最好的技术背书，客户看到这些项目，天然就会建立起对趋境底层技术能力的信任。

第二，开源推动标准形成。与其闭门造车，不如共同围绕开放的标准协作，标准越开放，云厂商、芯片厂商和上层软件的协作成本越低、效率越高。

第三，开源是最好的迭代加速器。只靠一家创业公司，很难把实验方案快速推到生产环境。和开源社区、云厂商、芯片厂商共同迭代，会加快平台成熟，形成开源与商业化产品的正向循环。

3.AI的终点，不止是Token

甲子光年：从学术研究到产业界，再到创办趋境，您对技术和商业之间关系的理解发生了什么变化？

艾智远：我在产业界做过比较多产品，也接触过很多市场和客户。最大的变化，是看到技术和客户需求之间存在Gap。很多技术想法不一定能落到客户场景里。

做科研更关注技术有没有创新性；做商业化，要看能不能供应、能不能交付，客户能不能真正使用。技术人员可能希望不计成本把Token速度做到极致，但客户会说，每秒50个Token已经够了，关键是服务不能经常掉线，最好成本再低一些。稳定性在论文里不一定最有创新性，但在商业里可能是成本可控情况下的第一优先级。

甲子光年：2023年决定创业时，趋境为什么选择做推理？当时对什么最有信心，什么还存在不确定性？

艾智远： 当时最确定的是我们的优势所在——系统、大集群计算优化和计算效率提升。虽然正值百模大战，但我们判断，第三方训练很难形成独立付费市场，资源最终会向少数头部模型厂商集中。

但模型只要落地，推理就是刚需，而且推理与业务深度绑定，远不只是一个引擎或性能问题。Kimi、智谱GLM等模型已经开源，我们也预判更好的智能会来自更长的上下文和更大参数的模型，所以很早就开始研究KV Cache、内存与显存之间的数据搬运，以及PCIe带宽等问题。后来AI Coding进入100K上下文场景，这些提前布局自然转化成了生产级能力。

最大的不确定性，是模型能力到底什么时候才能让客户真金白银付费。如果没有应用场景，推理就只是个成本项。实际进展比我们预想的快得多——DeepSeek爆发以后，模型迅速进入生产场景，推理也快速进入了真实付费阶段。

甲子光年：从MaaS、一体机到Token、Agent，行业关注点为什么一直变化？Agent为何尚未大规模落地，接下来可能从哪些场景突破？

艾智远：这些概念其实一直存在，只是不同阶段行业关注的重心不同。前几年大家聚焦模型能力；后来模型开始落地，一体机和推理部署被看见；今年生产场景起量，Token又成了更直观的计量方式。这更像技术发展过程中的曝光轮动。

Agent尚未大规模落地，原因有两层：一方面是很多能力正在被模型吸收，边界在模糊，另一方面是模型在幻觉、稳定性和生产可用性上，还没有完全过线。

AI Coding本身是一种“原能力”。它不只改变程序员写代码的习惯，也会重塑软件和数字化系统的生成方式，例如直接生成H5页面和业务界面，以及智能驾舱、办公、财务和HR辅助。未来一两年，这些能力会逐渐长出更多落地应用。

甲子光年：面对这些变化，未来一两年趋境希望达到什么里程碑？长期边界在哪里？

艾智远：短期来看，我们希望到明年或后年，趋境直营和共同运营体系的Token供应量实现十几倍到几十倍提升，达到日均几十万亿AI Token产量。

但AI Token只是现阶段比较明确的计量方式。随着模型和应用继续发展，AI计算会向多模态、视频和Agent方向进一步扩展，未来衡量产出的方式也可能发生变化。

我们的公司名“趋境”，本身就是不断接近的意思。AGI不会在某一天突然完成，而是在技术和应用的演进中一步步逼近。我们希望趋境能在这个过程中扮演好自己的角色——让不同AI任务在不同算力上都获得更好的稳定性和性价比，把底层算力持续转化为可运营、能创造经济价值的AI产能，帮助更多应用真正扎根生产环境。

（封面图来源：AI生成）

END.