街坊秀 街坊秀

当前位置: 首页 » 街坊资讯 »

九章云极缪旭:普惠算力的本质,是算力服务的标准化与可计量

  服贸会专题活动“2026中国AIGC创新应用交流会”于9月10日在北京举办,主题为“智启未来 应用无界——从模型创新到场景落地”,北京九章云极DataCanvas AI首席科学家缪旭出席并演讲。

  以下为演讲实录:

  各位专家、各位来宾,下午好。我是九章云极的缪旭。今天很高兴和大家分享九章云极在普惠算力方面的一些实践与思考。

  在座各位都是AI的专家和用户,训练和应用做过很多,可能都有体会:算力并不是那么容易用——开发过程中,GPU往往已经在计费,成本压力不小。九章云极过去两年帮助大量客户解决过这类问题:可调度管理的智能算力从不足1,000P增长到约30,000P。这段经历让我们越来越清晰地认识到一件事:算力从“建好”到“用好”,中间需要大量打磨,而普惠算力的新范式,核心在于AI工厂。

  算力“用不好”,卡在四道坎。

  随着智能体应用的爆发,算力需求在今年初出现了明显跃升,芯片价格成倍上涨,算力规模从千P级快速迈向数万P级,日均Token调用量也实现了千倍级增长。但与此同时,据行业测算,行业GPU平均利用率仍不足30%——大量GPU时间处于空转状态。若能把闲置算力充分利用起来,产业整体产出将显著提升。

  问题集中在四个方面:一是获取门槛高,高端算力芯片价格高、产能受限,受全球供应链与产能因素影响,获取难度持续加大;二是使用复杂度高,开发、实验、部署、调优、运维等不同场景对算力使用范式的要求差异很大,成本核算也因此存在很大不确定性——用什么样的芯片、什么样的算力资源、多大的内存与通信配置,在不同场景下的成本差异显著,最终导致效能转化困难;三是成本压力大,传统算力租赁多以整卡、整机、长约计费,缺乏弹性;四是效能转化难,即便拿到算力,也常常缺乏配套工具与场景支撑。

  普惠算力的本质,是算力服务的标准化与可计量。

  要让算力真正“用好”、真正普惠,关键在于把算力使用服务化、标准化,并针对不同场景提供柔性的算力供给方式与自动调优能力,让不同用户、不同场景都能获得最优的使用效率。因此,我们将普惠算力定义为算力资产的服务化过程。

  其中尤为重要的,是建立统一的计量标准。无论是FLOPS还是Token,都带有较强的硬件特性,很难直接定义使用效率;如果有一个标准化的计量单位,整个算力产业就有了更清晰的规范。这也是九章云极一直倡导的方向——算力需要一把统一的尺子。就像AI时代的流量一样,算力需要可计量、可调度、可结算,用户才能清楚地感知成本、最优地使用算力。

  不同用户群体,需要不同的普惠算力模式。

  从架构上看,普惠算力面向的主体差异很大:中小企业数字化转型需求旺盛;高校科研场景的突发性极强——论文临近截稿时使用量骤增、GPU紧张,截稿之后又迅速闲置;个人开发者与小微团队则对成本更敏感,往往愿意用更长的运行时间、更少的卡数,来完成概念验证(POC)。场景不同,算力架构与供给方式也应随之调整。

  在此基础上,普惠算力需要具备四项核心要素:一是可用性,任何场景下都能便捷获取算力;二是可负担性,既能控制成本,又能在需要时快速扩展到上百张、上千张卡的弹性能力;三是易用性,通过完善的工具、API乃至智能体接入,降低平台搭建与调用门槛;四是安全性,数据安全是企业敢用算力的前提,只有在多租户环境中做好数据隔离与隐私保护,算力才能真正进入企业核心业务。

  技术体系上,普惠算力可分为四个层次。

  第一层是基建层,包括机房建设、绿色能源支撑、算网融合与算电协同,以及资源池化与虚拟化——机房温控与状态稳定,是上层算力稳定运行的基础,这是常被忽视却至关重要的一环。第二层是资源调度层,承担计量、运维、任务分配等职能,并将任务拆解为最小工作单元,同时划分安全边界。第三层是服务供给层,提供模型训练与管理、推理服务、智能体开发、MCP服务、沙箱等能力——智能体自主运行的时间越来越长,沙箱状态的持久化尤为关键,一旦中断需要重来,代价很高;若能将状态持续保存,就能实现更快的上下文重启。这一层能力,团队实力强可以自建,但快速迭代与持续调试的成本很高。九章云极希望把这一层纳入普惠智算的供给范围,帮助企业更快搭建AI技术栈、降低总成本。第四层是应用层,涉及模型训练、数据来源、效果评测、可持续的后训练,以及行业专家知识的注入——这一层变化最快,也最依赖下层服务供给能否快速适配。

  AI工厂:训练工厂与Token工厂的双引擎联动。

  这是九章云极近期提出的AI工厂方案,由训练工厂与Token工厂两个引擎构成。二者看似分工独立,实则需要紧密联动:专业模型的微调、后训练与强化学习完成之后,能否快速进入Token工厂对外输出,是实践中非常关键的一环。如果两个工厂彼此割裂,就会产生大量运维障碍;连为一体,则可以获得一体化的部署方案,并在调度上获得显著收益——训练任务可以放在负载较低的时段,推理则可以在智能体需求高峰时集中输出,GPU资源随之在训练与推理之间灵活分配,从而有效提升整体效率、降低成本。

  基于AI工厂,九章云极推出了九章智算云(Alaya NeW Cloud)的整体框架。同时,我们正在倡导“一度算力(DCU)”的标准化计量:只有当不同厂商、不同型号的芯片——包括各类国产芯片与海外芯片——能够便捷换算,用户能够清晰感知成本并最优地使用算力时,普惠算力才具备规模化的基础。我们期待与业界专家共同推动这一标准的建立。

  实践验证:科研场景的效率提升。

  依托AI工厂,我们与多所高校开展了合作研究。以上海交通大学的一个世界模型项目为例,经过优化后,其运行时间从46分钟降至24分钟,效率提升约40%;在北京大学的科研场景中,GPU利用率从40%出头提升至90%,使用效率大幅改善。这些案例说明,从“租卡”到“用智能”,算力正在成为一项服务。而从普惠算力走向产业普惠,还有很长的路要走。

  面向产业普惠,九章云极启动生态共创。

  为了让普惠算力真正落到产业里,九章云极正在推进生态战略:与生物医药、智能制造等领域的专家和伙伴联合开展专业模型共创,开放算力资源与基础服务能力,支持行业落地。期待与各位深入交流、共同推进。我的分享就到这里,谢谢大家。

未经允许不得转载: 街坊秀 » 九章云极缪旭:普惠算力的本质,是算力服务的标准化与可计量