您现在的位置是:技术支持 >>正文
联想黄山:Agent普及推动Token需求增长 算力考核转向业务价值
技术支持294人已围观
简介9月22日,2026云栖大会在杭州举办,联想围绕"让混合式AI成为创新生产力"这一主题参展。活动期间,联想中国基础设施业务群战略技术总监黄山接受媒体专访,围绕算力供需、超节点演进与 ...
9月22日,联想2026云栖大会在杭州举办,黄山联想围绕"让混合式AI成为创新生产力"这一主题参展。及推价值活动期间,需求联想中国基础设施业务群战略技术总监黄山接受媒体专访,增长转围绕算力供需、算力超节点演进与Token成本等核心议题,考核深入分享了当前AI算力的业务行业发展与未来趋势。
(联想中国基础设施业务群战略技术总监黄山)
“衡量AI算力的联想标准正在从‘Token多少钱’逐渐转向‘Token创造了多少价值’。”黄山表示,黄山随着AI进入生产环节,及推价值企业会越来越关注单位成本能够产生多少Token,需求并进一步把Token产出与业务价值联系起来。增长转
Agent普及推动Token增长,算力软硬协同成算力竞争关键
在他看来,考核Agent的快速普及正在重塑AI的算力需求逻辑。一方面,Agent正在让Token需求指数级增长。“过去用户提问、模型作答,Token消耗呈线性轨迹;如今要让AI像数字员工一样多步执行、自我校验,Token消耗不再是简单的倍数关系,而是呈现数倍乃至指数级的爆发式增长。”
另一方面,Agent场景的增长,也在改变当前AI算力需求结构。黄山提到,目前推理和训练之间的Token消耗比例已经超过6∶4,推理侧的算力需求正在快速增长。相较于过去行业普遍关注如何扩大训练集群规模,当前的Agent时代,如何持续、高效地完成大量推理任务,正在成为基础设施建设需要回答的新问题。
面对Token需求的增长,供给侧更关注如何高效生产Token。黄山以联想业务为例拆解了Token的成本结构。他指出,基础建设约占四分之一,其中电费约占10%,软硬件协同影响Token成本的50%以上。这意味着,影响Token生产效率的不只是芯片硬件,更在于计算、通信、访存、存储、推理优化以及整个系统的调度能力,AI算力的竞争正在从单点硬件能力走向系统能力。
在具体的技术路径方面,黄山重点介绍了超节点架构。“对于万亿级模型而言,超节点已经成为训练和推理的重要架构选择。”黄山指出,按照工信部的定义,32颗及以上的AI算力芯片实现一级互联,才称得上超节点。
第一代超节点架构受到柜内铜缆等因素限制,扩展能力基本止步于一两柜的范围。下一代超节点架构需要解决更大规模的柜间光互联、更高的单柜密度,以及与之匹配的全液冷、800V高压直流和集群级软件管理等一系列问题。“联想将争取率先突破第二代超节点架构。”黄山透露道。
在软件层面,黄山把推理优化归纳为六个方面,包括算子、通信库与通信原语、访存语义,以及在推理框架中的PD分离、投机推理和KV Cache的分级存储与缓存命中优化。
算力建设转向业务驱动,混合部署将成必然选择
与供给侧的成本相对应,需求侧的规划方式也在改变。在黄山看来,未来企业的算力建设不能再由IT部门单独定义,而应该由业务来定义。企业首先需要明确AI究竟要解决什么问题,把AI能力嵌入业务工作流,再由工作流反推所需的Token量、SLA以及算力规模。由真实业务节奏决定算力建设,而不是盲目“先买算力,再找场景”。
这种底层逻辑的转变也影响了企业AI部署方式。公有云承担弹性与调度,私有化部署满足安全与数据确权的需要,两者动态调配形成的混合式AI,未来会成为企业部署AI的必然选择。
在黄山看来,芯片、整机、系统到软件栈等基础设施厂商很难依靠某一单点能力形成完整优势,关键在于把这些前沿技术要素整合起来,形成面向实际业务的系统能力。
作为混合式AI的积极践行者,联想专注于系统设计与软硬协同,持续提升算力的整体效率。黄山指出,随着算力芯片形态持续演进,联想会继续在这些上游方向扮演好"整合"的角色,以供应链能力与软件能力,把系统的价值充分释放出来。他表示:“未来联想希望继续以混合式AI为底座,把算力资源变成可持续、可度量的智能产能,全面赋能企业将AI从技术试点推向规模化生产。”
Tags:
相关文章
20斤重的笔记本!Durabook推出三屏加固工作站:自带三块1200尼特屏幕
技术支持9月22日消息,加固型计算设备厂商Durabook近日正式推出了Z14I-DX3加固移动工作站。这款产品最显著的特色是集成了三块14英寸显示屏,整机重量达到了9.8公斤。据了解,该机型主要针对国防军事 ...
【技术支持】
阅读更多余承东亲自操刀!华为汽车顶棚专利曝光:车顶藏块投影幕布
技术支持7月1日消息,国家知识产权局近日公布华为技术有限公司一项外观设计专利,名称为“汽车顶棚”,授权公告日为2026年6月26日。专利页面显示,该汽车顶棚设计人包括余承东、伍国平、杨 ...
【技术支持】
阅读更多首轮末捡漏!太阳签约19岁暴力前锋
技术支持太阳队官方宣布,球队已正式签下今年的30号新秀科亚·皮特。这位一度被认为是乐透区热门的天赋前锋,最终在选秀大会上滑落到首轮最后一位,现在他已与菲尼克斯绑定。这笔签约的背景,源自太阳、湖人、尼克斯和独行 ...
【技术支持】
阅读更多
热门文章
最新文章
友情链接
- 初中生早餐“碳水开会”?难怪上课打瞌睡!真正的营养早餐长这样
- 酝酿重磅交易!火箭多笔操作控制在奢侈税线下 有多个首轮签筹码
- 第五代骁龙8+12.5英寸大屏!Xiaomi Pad 9 Pro平板评测:追剧够爽 干活也真行
- 想玩DLSS 5游戏该怎么选显卡!影驰主流RTX 50系显卡《NBA 2K27》全面测试
- 宝可梦扩展包现“RGB梦幻”错印卡 转售商开价六位数
- 赛季报销!老鹰新秀维萨尔右膝前交叉韧带撕裂 大学最后一季场均17分
- 5年2亿全额保障!活塞提升报价重启续约谈判 杜伦仍拒绝接受
- 艺科品牌家族品鉴:艺龙五大核心品牌协同迈入新阶段
- 《生化危机:爆发夜》上映后在玩家之间评价两极分化
- 恋爱线开启!《碧蓝之海》第三季完结并官宣第四季