欢迎光临北京软件和信息服务业协会官方网站
趋境科技入选中国信通院 Token 服务能力攀登计划
发布日期:2026-07-31    来源:趋境科技    分享到:

7月27日,中国信通院发布“词元(Token)服务能力攀登计划”第二批攀登结果,趋境科技入选。此次入选,是趋境科技企业级 Token 服务能力与行业基准的一次验证,也体现了公司围绕高效能 Token 生产、推理优化和服务交付持续积累形成的技术实力。

03695a8f-6e63-4295-afe4-39ff1ce53ca0.png

作为我国人工智能产业重要技术支撑机构,中国信通院长期参与人工智能相关标准研究、测试评估和产业推动工作。面对大模型应用规模化落地带来的新需求,行业也亟需建立覆盖性能、稳定性、成本效率等维度的 Token 服务能力评价体系,为技术优化和产业实践提供统一参考。


从调用规模增长,走向服务质量竞争


词元(Token)作为大模型输入输出的最小信息单元,正从幕后的技术术语跃升为智能经济时代的关键概念。中国信通院相关数据显示,截至 2026 年 3 月,我国日均词元调用量已超过 140 万亿次,较 2024 年初增长千倍以上。


随着大模型逐步进入企业生产环境,企业关注的不再只是模型能力和资源规模,也包括每次调用能否快速响应、稳定完成,以及服务质量和成本是否可预测。


目前,企业级通用场景词元服务性能攀登基线包括:

  • 每秒输出Token数(TPS)≥ 55个/秒

  • 首Token时延(TTFT)≤ 0.9秒

  • 调用成功率 ≥ 99.9%

相关基线将结合中国信通院“大模型词元服务性能监测平台”的数据按季度动态更新,为企业选型和服务能力持续改进提供动态参考。


以高品质 AI Token 服务,回应企业生产需求


面向企业级 AI 应用对高性能、高稳定性 Token 服务的需求,趋境科技长期关注大模型推理从技术验证走向规模化生产过程中面临的效率、稳定性和成本挑战。


围绕这一方向,趋境科技提出 Token as a Service 理念,并建设高效能人工智能 Token 生产服务平台 ATaaS。平台聚焦企业生产场景中的推理效能交付,围绕 TTFT、TPS、并发承载、服务稳定性和成本效率等关键维度开展系统优化。


目前,趋境科技围绕高效能 AI Token 生产,重点建设以下能力:


面向真实负载的系统优化

针对长上下文、高并发和复杂业务调用等场景,围绕计算、存储、通信和推理引擎等环节开展协同优化,持续提升 Token 生产效率和服务响应能力,与行业对于高吞吐、低时延推理服务的能力要求形成匹配。


面向生产环境的稳定交付

企业级 AI 应用不仅需要单次调用性能,更需要长期运行中的稳定服务质量。趋境科技围绕稳定结构化输出、可靠函数调用和可预测服务质量等方向优化,满足生产环境对于连续服务能力的需求。


面向多元基础设施的适配能力

通过异构协同、PD 分离、KV Cache 优化等技术路径,推进不同软硬件环境下的推理效率提升,为企业构建适配自身业务需求的词元服务体系提供支持。


此次入选,是趋境科技技术能力与行业评价体系的高度契合,也是公司持续探索高品质 AI Token 服务路径的重要实践。未来,公司将持续完善词元服务在性能、质量、安全和运营等方面的能力,以更加稳定、高效、高品质的 AI Token 服务,支持企业智能化应用规模化落地。

你知道你的Internet Explorer是过时了吗?

为了得到我们网站最好的体验效果,我们建议您升级到最新版本的Internet Explorer或选择另一个web浏览器.一个列表最流行的web浏览器在下面可以找到.