中信证券研报指出 ,当前AI大模型的训练、推理需求持续旺盛发展,scaling law在后训练 、在线推理等方向上持续演进 。底层基础设施朝着更大集群的方向发展,单芯片的算力提升在先进制程的影响下未来迭代速度料将放缓 ,而系统级节点有望通过解决互连、网络、内存墙等问题成为AI算力发展的重要方向。从近期算力龙头企业系统级产品的发展趋势以及过往半导体行业的并购历史来看,系统级算力有望成为AI发展的下一站,国产GPU芯片公司有望通过打造更高资源密度的算力基础设施实现对海外产品的追赶和超越。建议关注:1)英伟达NVL72等系统级产品出货情况;2)以华为CloudMatrix384超节点为代表的国产系统级产品进展 ,建议关注国内产业链相关公司 。
全文如下计算机|从华为384超节点看下一代AI系统级算力
大模型架构创新以及推理需求的日益增长对底层基础设施建设提出了新的要求,面向未来的AI基础设施须具备前瞻性 、通用性。当前,单芯片算力提升对算力集群能力提升的边际效应在递减,内存通信、片间互连、网络通信成为瓶颈。为解决这一问题 ,技术角度,产业迈向Scale up扩展,通过提升单节点计算资源密度及高效的网络架构提升算力利用率 。行业趋势上 ,半导体芯片行业通常以收并购的方式获取技术能力及市场拓展,以海外为代表的龙头公司做出了成功示范。系统级算力有望成为AI基础设施的下一站,建议关注国内以华为CloudMatrix384超节点为代表的产业发展趋势。
▍系统级算力有望成为下一代AI算力基础设施。
我们认为 ,底层基础设施的通用性就是为了前瞻性地应对未来的模型发展 。当前AI产业发展迅速,Scaling law在后训练 、在线推理等阶段快速发展。训练端,模型架构持续创新迭代 ,有望进一步强化训练侧scaling law的延续,如阿里巴巴Qwen团队与浙江大学团队提出的Parallel Scaling、腾讯混元团队采用Transformer、Mamba混合架构训练的TurboS都取得了优秀的性能表现。推理端,在MoE专家网络架构成为主流后 ,如何通过硬件部署实现更高的吞吐量和更低的延时成为焦点 。我们认为,采用类似推理集群的形式未来有望成为主流,计算节点有望通过提升计算密度满足推理需求。系统级算力料将成为下一代AI算力基础设施。
▍系统级算力需要系统级能力 。
芯片层面,算力集群中涉及AI加速芯片、CPU芯片 、Switch互连芯片、DPU数据处理芯片等 ,受限制于制程,国产AI加速芯片在峰值算力能力领域上相较于海外旗舰产品仍有差距,软件生态上亦因产业发展时长而相对落后 ,单芯片能力的竞争并无直接优势。互连层面,传统PCIe与英伟达NVLink等差距较大,NVLink5.0提供1.8TB/s双向带宽 ,超传统PCIe方案的十倍,国产芯片采用自研技术方案助力系统集群发展。网络层面,系统算力采用RDMA技术实现远程内存访问 ,目前主流技术方案包括InfiniBand、RoCE等 。整机层面,系统级算力并非是上述部件的简单组装,而是通过系统设计 、规划、测试完成的有机整体 ,与以往传统AI服务器相比更需要垂直融合能力,产业上下游之间的关系也将随着组件之间耦合程度的提升而变得更加紧密。生态层面,CPU+GPU+互连+网络+整机+系统交付成为系统级算力入局门槛,海外巨头通过收并购的方式已构筑起产业生态。
▍技术角度 ,英伟达NVL72、华为CloudMatrix384超节点先行示范 。
当前,单芯片算力能力的发展已显著快于通信领域的发展速度,通信效率成为集群效率提升的关键因素。构建大集群的方式主要两种:1)Scale up(纵向扩展) ,增加单节点的资源数量;2)Scale out(横向扩展),增加节点数量。相较于Scale out网络,Scale up能够提供更大的带宽 、更低的通信时延 ,和更大的缓存一致性内存空间,因此Scale up即在单节点增加资源数量成为未来发展的重要方向,如2024年3月英伟达在2024GTC大会上发布的NVL72系统、2025年4月华为在华为云生态大会上发布的CloudMatrix384超节点为行业发展提供思路。
▍产业维度 ,半导体行业通常以收并购方式进行技术整合与市场拓展 。
半导体行业长坡厚雪,产业链涉及环节较多且技术复杂,整机资源耦合程度提升 ,上下游协作变得愈发紧密。因此,头部企业通常采用投资并购的方式来获取进入市场的机会,同时进一步扩展技术能力以巩固市场地位。英伟达通过收购Mellanox,将原有的NVLink(主要用于Scale up)连接技术 ,扩展至IB等RDMA网络(用于Scale out),从而为下一代大规模计算集群做好技术储备;AMD通过收购ZT Systems获取了系统架构设计能力以及数据中心解决方案交付经验,EPYC CPU以及Instinct GPU、网络 、软件及ZT Systems的集群系统交付能力共同构建了AI解决方案的核心 。我们总结 ,在面向未来基础设施搭建的领域,底层通用性与技术前瞻性是至关重要的,在此基础上 ,应用的发展将会随之带来回报。
▍风险因素:
算力芯片供应链风险;芯片产能供给不足的风险;互联网大厂资本开支不及预期的风险;相关产业政策不及预期的风险;AI应用发展不及预期的风险;芯片技术迭代不及预期的风险;国产GPU厂商竞争加剧的风险等。
▍投资策略:
当前AI大模型的训练、推理需求持续旺盛发展,scaling law在后训练、在线推理等方向上持续演进 。底层基础设施朝着更大集群的方向发展,单芯片的算力提升在先进制程的影响下未来迭代速度料将放缓 ,而系统级节点有望通过解决互连 、网络、内存墙等问题成为AI算力发展的重要方向。从近期算力龙头企业系统级产品的发展趋势以及过往半导体行业的并购历史来看,系统级算力有望成为AI发展的下一站,国产GPU芯片公司有望通过打造更高资源密度的算力基础设施实现对海外产品的追赶和超越。建议关注:1)英伟达NVL72等系统级产品出货情况;2)以华为CloudMatrix384超节点为代表的国产系统级产品进展 ,建议关注国内产业链相关公司 。
(文章来源:界面新闻)
股市杠杆是什么意思啊:中国股票交易软件排名-中信证券:2025年夏季或是近十年最炎热夏季 关注较为受益板块
股票的正确投资方法:炒股票最好的app软件-龙头三连板 本周披露并购重组进展的A股名单一览
可以加杠杆的炒股软件:好的股票交流群-某车企率先大幅降价 引发价格战恐慌!中汽协发声:反对!
股票在哪里加杠杆:比较靠谱的股票app-AI造AI?据称英伟达计划在AI服务器生产线上部署人形机器人
股票实盘杠杆:买股票哪个软件好用-降低国际机构接入门槛 人民币跨境支付系统将迎新规 “朋友圈”持续扩容
股票开户哪个软件好:炒股杠杆有哪些app-这一幕似曾相识!沪指时隔9个月站上3600点 随后快速跳水 什么“剧本”?
顺阳网配资-炒股配资公司_专业炒股配资网址_股票炒股配资平台提示:文章来自网络,不代表本站观点。
顺阳网配资-炒股配资公司_专业炒股配资网址_股票炒股配资平台⑯我们关注市场动态,及时调整配资策略,为客户提供更为精准的投资建议。
记者王珍中国国际经济交流中心副理事长、国务院发展研究中心原副主任王一鸣周一在“中国发展高层论坛2025...
记者辛圆3月25日,博鳌亚洲论坛旗舰报告《亚洲经济前景及一体化进程2025年度报告》(以下简称《报告》...
3月24日,海洋王照明科技股份有限公司(以下简称“海洋王”,002724.SZ)早盘一字跌停,此后股价拉涨,尾盘封涨停板...
记者|赵阳戈年初,证监会就修改《证券发行与承销管理办法》部分条款向社会公开征求意见,市场也将注意力投向了...
2025年3月25日,倍轻松(688793.SH)公告称,公司股东宁波倍松投资有限公司(简称“宁波倍松”)拟通过大宗交易...
3月24日,易方达国证自由现金流ETF公开发售。该产品跟踪国证自由现金流指数,这个指数是什么?有哪些优势?投资价值如何?...
文/吴治邦3月24日早盘,在2024年年底压哨实施完毕重整计划的*ST花王股价继续跌停。自2025年1月...
【隔夜行情】•周五(2025年3月21日),A股三大指数集体下跌,截至收盘,截止收盘,沪指跌1.29%,报收33...
近日,开源证券大连分公司遭大连证监局处罚,暂停其办理需要合格投资者认定相关业务六个月。该惩处力度在近年来券商分支机构中并...
国海富兰克林基金国富深化价值基金经理刘晓日前发表了对 2025 年市场的展望。刘晓指出,国内经济正处于复苏通道,市场大幅...
3月24日,业内权威专家表示,MLF(中期借贷便利)不再有统一的中标利率,标志着MLF利率的政策属性完全退出。3月24日...
沪深两市成交额连续第44个交易日突破1万亿,较昨日此时缩量超900亿。...
当地时间3月24日,特斯拉美股涨幅扩大至5%,现报262.055美元/股。...
记者辛圆给补贴、建平台,为了吸引更多高层次人才,各地纷纷放出“大招”。据央广网周一发布消息,湖...
3月24日,AI眼镜概念股开盘拉升,瀛通通讯直线涨停,明月镜片涨超10%,比依股份、博士眼镜、恒玄科技、国光电器等跟涨。...