米兰体育

网易米兰体育 > > 正文

昆仑芯欧阳剑WAIC演讲:三万卡集群与超节点架构的前瞻性实践

0
分享至


2026世界人工智能大会(WAIC)期间,在国泰海通主办的“智见AI 合创未来”人工智能投融资论坛上,昆仑芯CEO欧阳剑以“AI算力发展的新机遇,新范式”为主题发表演讲。

Token作为AI时代的“水电煤”,其成本能否以每年下降一个量级的速度持续走低,将直接决定产业能否进入真正的普惠化阶段。

面对这一挑战,技术架构与社会基础设施层面都需建立新范式。欧阳剑表示,技术层面,需通过芯片、硬件系统与软件系统的协同创新,解决系统规模与计算效率的核心挑战;社会层面,则需按照基础设施建设和运营算力的思路,带动半导体、能源等产业的协同发展。昆仑芯实现了三代自研架构产品的量产和大规模商业落地,于2024年底至2025年初率先建成3.2万卡国产集群。

作为完整经历从深度学习到大模型爆发全周期的国产AI芯片企业,昆仑芯的战略演进与AI产业发展高度同频。从2011年AI加速器立项,到2015年落地百度搜索推荐等核心业务,再到2020年昆仑芯1代量产、2021年2代量产、2024年3代量产,每一代产品均精准预判了技术趋势:昆仑芯1代奠定XPU核心架构并实现互联网场景大规模部署,2代前瞻性布局片间互联并率先采用GDDR6显存,3代则直接面向大模型训推一体需求,落地首个3万卡国产集群。“前瞻定义、代代成功”的产品能力,源于昆仑芯对算法演进与算力需求的深度耦合理解。

在系统层面,昆仑芯率先落地的3.2万卡集群将有效训练率提升至98%,集群MFU达到58%,展现了国产AI芯片在超大规模工程化部署上的突破。其超节点产品通过32/64卡超高密度集成方案,卡间互联带宽提升8倍,综合训推性能提升5至13倍,单节点即可支持万亿参数超大规模模型训练。

昆仑芯超节点架构重新定义了AI算力效能,为MoE等新一代模型架构提供了高效的Scale-up路径。昆仑芯早在2023-2024年MoE尚未流行之时,已完成超节点的技术规划与产品布局,使其适配于MoE模型的计算,性能提升显著,并在诸多客户中实现大规模量产。

目前,昆仑芯已服务互联网、运营商、金融、能源、自动驾驶等多个领域的头部客户,以“让计算更便宜、让计算效率更高”为使命,持续推动国产AI算力基础设施的规模化发展。

以下为「明亮公司」整理的演讲内容(未经本人审阅):

01 Token普惠化,成本「向下Scaling Law」

当模型能力持续突破,Token消耗量呈指数级增长,已成为开发者、内容创作者及普通用户的新型刚需。Sam Altman曾预言,“我们看到未来,智能就像电力或水一样,人们通过电表、水表从我们这里购买,随心所欲地使用它。”

从实际消耗来看,开发者每日调用可达200-2000次,单次消耗2万至3万Token,Claude Code最高日调用量达77亿;内容创作者单次消耗5万至30万Token,每日支出可达50-500元。当前Token价格虽基于DeepSeek V3.2官方定价(输入2元/百万Token,输出3元/百万Token)已大幅下降,但开发者月均支出仍达数千至数万元,对普通用户而言仍是负担。

技术进步与应用落地正驱动Token需求持续爆发。部分科技公司月度Token调用量从2024年5月的10万亿快速增长至2026年6月的5400万亿中国推理Token消耗的年复合增长率预计高达230%,2030年将达3900千万亿Tokens/年。Scaling Law仍然成立并得到拓展,预训练、后训练RL新范式、推理CoT共同推动模型性能提升。

与此同时,Token成本必须大幅下降,AI才能真正成为基础设施。过去3-5年,Token价格以每年10倍以上的速度不断下降,o1同等水平模型的调用价格相比发布时点已降低100倍以上。但这还远远不够。算力产业正在经历一场从芯片到系统的全栈式范式变革。

02 算力产业从芯片到系统的爆发式创新

面对Token成本每年必须下降一个量级的刚性约束,技术层面的创新不能再局限于单点突破。我们不能只盯着芯片制程,也不能只盯着模型压缩,必须是芯片、硬件系统、软件系统三层协同创新。与此同时,芯片架构上的HBM2E存储配置、推理架构优化以及模型压缩技术的全栈配合,才能推动算力效率的持续跃升。

但技术只是问题的一半。当Token用量真正达到水电煤级别,社会基础设施的范式也必须重构。

能源侧,GW级数据中心与绿电布局不再是可选项;供应链侧,Foundry和OSAT的产能扩张、HBM与CoWoS封装的产能竞争,都需要全产业链提前布局;运营模式侧,运营商必须从单纯的管道角色转向Token运营,构建多管齐下的基础设施服务体系。Token成为核心基础设施,它会像涟漪一样辐射到能源、半导体、零部件、运营服务等每一个维度,带动整个产业协同发展。

03 昆仑芯实践:完整经历AI浪潮,三代产品代代成功

昆仑芯从2011年就开始做AI加速器,完整经历了从深度学习到大模型爆发的每一个阶段。从2015年落地百度搜索、推荐等核心业务场景,到2017年启动AI芯片系列产品设计、2018年XPU架构亮相Hot Chips,再到2020年1代量产实现规模化商业落地,每一步都与产业演进同频共振。

做芯片最怕的是产品定义滞后于市场需求。我们的经验是,必须对算法演进趋势有前置判断。三代产品的预判逻辑很清晰:1代奠定XPU核心架构时,国内互联网场景的大规模部署需求刚刚爆发;2代精准预判了大模型发展趋势,前瞻性布局片间互联并率先采用GDDR6显存;3代则直接面向大模型训推一体需求,8张卡就能跑满血版DeepSeek-R1,这在当时是很多同行不敢想的事。而面向2026至2027年的下一代产品,我们将进一步结合前沿算法趋势,实现软硬协同设计,为超大规模系统奠定基础。

三代产品下来,我们验证了一个道理:前瞻定义、代代成功,靠的是对算法和算力需求的深度耦合理解,而不是闭门造车。

04 系统层面率先落地3万卡集群,超节点产品开创先河

刚才提到那么多的挑战,我们也在新一代的产品里面努力解决这些问题,包括下一代的高性能推理芯片,以及下一代高性能的训推一体产品。从技术层面,为了解决算力效率和成本的问题,有一个特别好的办法就是Scale-up系统,这也是我们在几年前预判到的一个技术解法。

超节点是我们在2023、2024年就开始做的,当时MoE还没那么流行,我们提前做了一些技术规划。做完之后,确实在2025年DeepSeek出来之后,大家认识到这种大的MoE模型肯定就是以后的主流方向MoE特别明显的一个瓶颈就是传输的挑战,因为多个专家之间的数据要做交换,而我们超节点特别适合这种大MoE模型的计算,性能提高的非常多,也在很多客户实现了大规模量产。

具体而言,我们率先推出的32/64卡超高密度集成方案,将单卡性能提升了95%,卡间互联带宽提升了8倍,综合训推性能提高了5到13倍;256/512卡方案已全面落地,未来可扩展至4千卡规模,单节点即可支持万亿参数超大规模模型训练。超节点架构重新定义了AI算力效能。过去大家比的是单卡算力,未来比的是单节点、单集群的系统效率。MoE模型对互联带宽的需求,让Scale-up不再是可选项,而是必选项。

从芯片到系统,从万卡到超节点,我们正在完成从卖芯片到定义系统的关键跨越。我们的使命是让计算更智能,拆解下来就是两个维度:让计算更便宜,让计算效率更高。三万卡集群和超节点产品,是这两个维度在系统层面的集中体现。目前,昆仑芯已服务互联网、运营商、金融、能源、自动驾驶等多个领域的头部客户,以芯片和系统层面的双重突破,支撑AI业务的规模化落地。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
AI短剧爆款只有千分之一?5位从业者算了一笔账:绝大多数都是亏的

AI短剧爆款只有千分之一?5位从业者算了一笔账:绝大多数都是亏的

网易米兰体育-米兰(中国)官网出品
2026-11-13 15:42:11
1968年,邓朴方身受重伤陷入绝境,北大王凤梧不顾重压救他,在邓公回归后又是怎么回报他的?

1968年,邓朴方身受重伤陷入绝境,北大王凤梧不顾重压救他,在邓公回归后又是怎么回报他的?

唠叨说历史
2026-11-13 14:31:10
约50名中国人在乌克兰当志愿兵,他们可能再也回不了中国

约50名中国人在乌克兰当志愿兵,他们可能再也回不了中国

桂系007
2026-11-13 03:13:33
德国军方:禁止比亚迪、吉利、蔚来进入军营,大疆无人机同步被清退

德国军方:禁止比亚迪、吉利、蔚来进入军营,大疆无人机同步被清退

闪亮的车
2026-11-13 12:16:55
香港喜剧新片《麻将女王》内地上映7天票房仅4847元,网友:喜剧效果不如预告片

香港喜剧新片《麻将女王》内地上映7天票房仅4847元,网友:喜剧效果不如预告片

星岛记事
2026-11-14 02:16:17
哈弗茨屡失良机,维尔茨补射中场小将一条龙,德国3-1双杀9人塞尔维亚

哈弗茨屡失良机,维尔茨补射中场小将一条龙,德国3-1双杀9人塞尔维亚

钉钉陌上花开
2026-11-14 05:44:26
德媒:欧洲发布声明,提出与俄安全对话条件

德媒:欧洲发布声明,提出与俄安全对话条件

参考消息
2026-11-13 20:26:04
陈清洲因病逝世,享年56岁

陈清洲因病逝世,享年56岁

极目米兰体育-米兰(中国)官网
2026-11-13 21:19:31
黄仁勋辞职后,美国情报和司法火速改口:没人说过黄乐是间谍!

黄仁勋辞职后,美国情报和司法火速改口:没人说过黄乐是间谍!

互联网思维
2026-11-14 02:40:34
当街捅死城管副队长的崔英杰近况!网传已出狱近4个月,和律师合影曝光

当街捅死城管副队长的崔英杰近况!网传已出狱近4个月,和律师合影曝光

小徐讲八卦
2026-11-13 16:22:43
全球“股王”,再创新高

全球“股王”,再创新高

第一财经资讯
2026-11-14 02:21:04
马斯克称将签名支持黄仁勋复职,已有97%英伟达员工要求黄仁勋回归:“我们都是人,都会犯错”“他需要第二次机会”

马斯克称将签名支持黄仁勋复职,已有97%英伟达员工要求黄仁勋回归:“我们都是人,都会犯错”“他需要第二次机会”

极目米兰体育-米兰(中国)官网
2026-11-14 08:39:06
知情人爆料:黄乐老公已被抓,亲自介绍老婆给黄仁勋,背后商业网络浮出水面

知情人爆料:黄乐老公已被抓,亲自介绍老婆给黄仁勋,背后商业网络浮出水面

起点人文
2026-11-13 11:54:29
北科大一26级博士生退学,导师多次劝说无果,本人回应:这辈子都不再搞科研

北科大一26级博士生退学,导师多次劝说无果,本人回应:这辈子都不再搞科研

育学笔谈
2026-11-13 13:50:55
最惨大国重器:曾是世界第1!现在18家大国企几乎全军覆没,痛心

最惨大国重器:曾是世界第1!现在18家大国企几乎全军覆没,痛心

牛锅巴小钒
2026-11-13 10:42:03
赵本山的徒弟程野在直播间说了大实话:拍新戏《走马上任》那会儿,师父不仅下了极大功夫,私下里更是把他们这帮人敲打得冷汗直流

赵本山的徒弟程野在直播间说了大实话:拍新戏《走马上任》那会儿,师父不仅下了极大功夫,私下里更是把他们这帮人敲打得冷汗直流

一盅情怀
2026-11-13 12:44:00
性生活是不是人的刚需?网友说:男性性生活是刚需,女性不是!

性生活是不是人的刚需?网友说:男性性生活是刚需,女性不是!

黯泉
2026-11-09 17:39:59
英伟达内部人士曝猛料!黄仁勋还有更多黑料曝出,董事会最不满他住宿费超过上限

英伟达内部人士曝猛料!黄仁勋还有更多黑料曝出,董事会最不满他住宿费超过上限

小徐讲八卦
2026-11-13 15:05:23
超97%的员工挽留黄仁勋,新加坡已禁止黄乐入境,黄仁勋心灰意冷

超97%的员工挽留黄仁勋,新加坡已禁止黄乐入境,黄仁勋心灰意冷

王新喜
2026-11-13 20:16:09
“你们吃哪家的饭,端哪家的碗?”全程5小时播放外国视频,小伙质问乘务长

“你们吃哪家的饭,端哪家的碗?”全程5小时播放外国视频,小伙质问乘务长

蝴蝶花雨话教育
2026-11-14 00:05:16
2026-11-14 09:27:00
明亮Company incentive-icons
明亮Company
追踪新商业、好公司。
759文章数 412关注度
往期回顾 全部

黄仁勋辞职,马斯克们抱不平!

牛弹琴:黄仁勋黯然辞职 至少释放三重信号

牛弹琴:黄仁勋黯然辞职 至少释放三重信号

28年前的“点球罪人”,把冠军带回大连

陈晓楠对话厉娜和许飞引全网热议

72岁王健林重回“一号位”

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

17位 国外画家笔下的女子

中俄教育年独家专访|远东联邦大学副校长详解赴俄留学新趋势

乌兰察布:以前种土豆,现在种Token

满电开躁!11月16日,航嘉满电青年计划约你西南交大见!

无障碍浏览 进入关怀版