近日,第四届(2026)上海计算机视觉大会在上海举行。本次大会由上海市计算机学会、同济大学主办,邀请多位院士及国家级人才等50余位专家,共同分享计算机视觉与人工智能领域的最新研究进展与前沿趋势。是石科技亮相,研发总监范洋发表题为《是石科技的国产算力落地实践》的主旨演讲,系统阐述了是石科技在国产算力规模化应用与Token优化领域的技术积累与工程实践。
图|是石科技研发总监 范洋
从超算基因到独立第三方国产算力服务商
范洋首先介绍了是石科技的公司背景与技术底蕴。是石科技成立于2021年,由国家级计算中心的核心科研团队联合组建,背靠清华大学高性能计算研究所。公司聚焦“超智融合赋能千行百业、并行优化打破算力边界、软硬协同加速智能发展”,围绕“HPC+AI”基础设施,构建高性能基础软硬件服务的新范式。
核心团队具备HPC与AI并行优化的全栈能力与商业化落地经验。公司创始人兼董事长闫博文为清华大学航天航空学院博士、计算机系博士后,研究方向涵盖高性能计算、并行优化及大规模数值模拟等领域。团队中多人拥有戈登·贝尔奖提名、中国超算最佳应用奖等国际国内顶级荣誉。正是依托国家超算中心的工程经验与清华大学高性能所的技术积淀,是石科技在高端制造、航空航天、生物医药、人工智能等20余个领域实现了产业化落地。
图|是石科技现场展位
国产Token优化工厂:
从异构算力到标准化Token服务
范洋重点介绍了是石科技的核心战略产品——国产Token优化工厂。该产品的核心定位是从异构算力到标准化Token服务的完整生产平台,采用自下而上的分层架构设计。
在硬件层,平台整合NVIDIA GPU及昇腾、昆仑芯、天数、摩尔线程等国产AI芯片,形成统一异构算力资源池。算力调度层——智驭算力调度云平台,面向异构算力基础设施提供智能管控,内置异构集群统一管理、智能调度策略、计费计量等功能。推理引擎层则基于HPC级优化经验,完成国产卡框架适配、算子适配与通信优化,融合PagedAttention、FlashAttention、Speculative Decoding等加速技术。Token Factory服务层提供统一API、模型管理与计量计费等企业级运营能力。最上层的产品矩阵包含实时推理、批量推理、专属定制推理服务,覆盖客户从原型验证到生产部署的全生命周期。
工程进展与优化体系
范洋还分享了Token工厂项目的工程进展。项目以AI模型推理服务中转站为起点,逐步走向自营GPU推理、国产显卡适配和多模态优化的一体化平台。
在优化技术栈方面,范洋指出优化不是单一技术点,而是一套从模型、runtime、GPU、调度到运营指标的系统工程。团队围绕推理质量、性价比、多模态三个维度持续迭代,将国产GPU优化做成可持续迭代的工程体系。
在Token工厂的企业级生产场景,是石科技从工程运维与底层推理两个层面完成深度优化。平台工程侧通过KV Cache感知和业务负载感知实现智能的调度机制,通过不同推理场景适配最佳调度策略;算力推理侧落地PD分离架构、异构算力混部调度、共享KV Cache池化等核心优化,结合vLLM、SGLang引擎原生能力深度适配调优各大热门开源模型,针对性优化TTFT、TPOT等指标,有效提升集群整体推理吞吐能力,支撑高并发、长上下文的规模化Token生产需求。
从超算中心的科研尖兵到产业数智化转型的实践者,是石科技正以国产Token优化工厂为核心载体,致力于打通国产芯片、算力调度与行业应用之间的堵点,让分散的国产算力真正形成规模效应,为千行百业提供高效、稳定、低成本的国产算力服务。