产品中心

智能服务器行业研究:AI算力关键基础设施
首页 > 产品中心 > 复合材料
来源:开云全站app    发布时间:2025-02-06 11:15:45

  导语:智能服务器作为算力关键基础设施,随AI技术兴起而加快速度进行发展,成为支撑大数据、云计算及AI应用的关键基础设施,其市场潜力巨大且正呈现行业规模迅速增加的态势。

  智能服务器是专门为AI应用而设计和配置的服务器,一般采用CPU+加速芯片的架构形式,具备强大的计算能力和高效的数据处理能力,承载深度学习训练和推理业务,可应用于视频监控、图像处理、自动化客服等典型AI应⽤场景。

  2023年,ChatGPT引爆大家对于人工智能的关注,各大厂商纷纷加大AI方面的投入,对AI服务器的需求大幅增加,据Counterpoint Research,2024Q2全球服务器收入达454.22亿美元,同比增长35%。从2023Q1-2024Q2,AI 服务器销售额占比稳步提升,2024Q2比例已达近30%。

  根据应用场景、架构和部署方式的不同,智能服务器可以分为训练服务器、推理服务器和GPU服务器、NPU服务器、FPGA服务器,以及云端AI服务器、边缘AI服务器。

  模型训练即使用大量已知数据来训练机器学习模型的过程,需要短时间内并行,且要在短时间内能够做到交付,所以训练需要较高的计算性能、海量的数据,训练出的网络具有一定通用性,需要更计算性能(高吞吐率)、低功耗的智能服务器。

  模型推理是指利用训练好的模型,使用新数据推理出各种结论,是借助神经网络模型并行运算,利用输入的新数据获得正确结论,相对来说对算力性能和精度要求不高,在特定的场景下,对通用性要求也低,因此用于推理的人工智能服务器主要追求的是低延时、低功耗。

  从比例看,2023年来大模型的兴起带动了对训练服务器的需求,据IDC,2023年训练服务器占比近60%,但随着AI应用的逐步落地,对智能服务器的需求将逐渐从训练端转向推理端,2027年推理服务器占比预计将超70%。

  按架构分类,智能服务器可分为CPU+GPU、CPU+NPU、CPU+FPGA、CPU+ASIC或CPU+多种加速卡等多种类别。目前市场中GPU的应用最为广泛。

  政策端,我国中央各部委陆续出台顶层政策推进人工智能产业建设,各地政府针对智能算力基础设施建设、区域协同发展、技术创新等维度发文,推进地方人工智能产业发展。

  智能服务器上游为各类元器件,价值量占比较高的元器件包括CPU、GPU、内存、硬盘等硬件,也包括操作系统、数据库、中间件等各类软件,中游为服务器厂商,下游客户主要涉及互联网、金融、电信、政府及各个传统行业,其中互联网为主要采购方

  不同类型的服务器的成本构成存在差异,智能服务器中价值量较高的元器件包括CPU、GPU、内存、硬盘等。相较于基础的通用服务器,智能服务器的一大成本来源于GPU,用于推理的智能服务器中GPU占比约30%,用于训练的智能服务器中GPU价值占比可超过70%。

  在AI浪潮下,全球人工智能服务器呈稳步增长态势,据IDC数据,市场规模角度,2023年全球人工智能服务器市场规模为515亿美元,预计2028年将达1016亿美元,2023-2028年CAGR为14.6%;出货量角度,2023年全球人工智能服务器出货约154万台,预计2028年将达343万台,2023-2028年CAGR为17.4%。

  从商业模式来看,目前服务器厂商整体可大致分为两大类:一类是以浪潮、新华三、戴尔、联想等为代表的品牌服务器,他们自己进行服务器方案设计,并把自有方案交给OEM厂商进行产品代工,再销售给下游客户;另外一类是以鸿海、英业达、广达、纬创等为代表的白牌厂商,这类厂商不进行自主研发设计,而是根据下游客户给定的方案进行代工。

  在传统模式下,下游客户往往向品牌服务器厂商进行采购,但随着云计算兴起,由于新兴的互联网、通信、云计算服务商等下游客户自身具备较强软硬件开发能力和产品维护能力,且需求更加定制化,出于缩短周期和减少相关成本的考虑,这些厂商倾向于直接找白牌厂商进行制造,促使传统的商业模式发生转变。

  根据Digitimes Research 2022年多个方面数据显示,在全球服务器代工制造市场,鸿海的份额高达43%,随后为广达、纬创、英业达、美超微等,市场占有率分别为17%、14%、12.8%、7.6%,CR5达94.4%,集中度高。

  在品牌服务器市场,2022年我国市场浪潮、新华三、宁畅销售额位居前三,CR3近70%,其中浪潮信息一家的份额近50%,其余国产厂商还包括安擎、坤前、华为、宝德等,每家份额约5~10%。

  人工智能服务器下游客户涉及的行业广泛,其中互联网客户占比最高,接近60%,主因互联网厂商积极布局大模型,且其在大数据处理、云计算、人工智能等领域拥有广泛的应用场景,对AI服务器需求更大,与此同时,随着垂直大模型的逐步商业化落地,服务、政府、电信、金融、工业制造等多个传统行业对智能服务器的需求也不断扩大。

  浪潮信息:公司是全球领先的IT基础设施产品、方案和服务提供商,为客户提供云计算、大数据、人工智能等各类创新IT产品和解决方案,公司业务遍及全球主要国家和地区,服务器出货量全球第二,存储装机容量全球第三,人工智能服务器销售额全球第一。

  新华三:公司起源于华为数据通信部,前身是由华为与美国3com的合资公司华三,今年9月紫光股份通过剩余股权收购,已正式持有的新华三81%股权。公司最初业务聚焦于交换机和企业级路由器,目前拥有计算、存储、网络、5G、安全、终端等全方位的数字化基础设施整体能力。据IDC,2024Q1公司在中国以太网交换机、企业网交换机、园区交换机市场、中国企业级WLAN分别以34.8%、36.5%、41.6%、30.3%的市场占有率排名第一,中国x86服务器市场份额15.6%,保持市场第二。

  宁畅:公司专注服务器领域已有15年,是集研发、生产、部署、运维一体的服务器厂商及IT系统解决方案提供商,为全行业客户提供基于X86架构通用机架、人工智能、多节点、边缘计算及JDM全生命周期定制等多类型服务器及IT基础设施产品。从厂商销售额角度看,2024 上半年宁畅位居国内加速服务器市场第三。

  随着AI技术的发展,算力需求逐步扩大,人工智能服务器的增加所带来的功耗问题愈加明显,传统的风冷散热逐渐跟不上当前散热需求,散热方式向液冷转变。

  液冷(Liquid Cooling)的原理是通过将冷却介质流过电子设备的散热器,吸收设备产生的热量,然后将热量带走,以此来降低设备的温度。相较于风冷,液冷的优势主要为:一是散热效率高,液体的导热能力是空气的15~25倍,空气散热所需时间更长;二是噪声低,液冷方式不可能会产生空气流动所带来的噪声;三是灵活性强,液冷的设备体积较小,可提升数据中心灵活性;四是稳定性强,能够更快速、有效地将芯片产生的大量热量传导到冷却系统,降低芯片温度,减少因温度过高导致的故障。

  按冷却方式,液冷技术可分为喷淋式液冷、冷板式液冷、浸没式液冷等。喷淋式液冷是将具有绝缘非腐蚀特性的冷却液直接喷淋到发热器件表面或与发热器件接触的扩展表面行热交换,实现冷却所属设备,由于喷淋式液冷技术的应用场景比较有限,目前应用和开发案例较少。

  近年AI的发展促使我国慢慢地增加AI算力基础设施的建设,但在美国出口限制背景下,科技自立自强逐步成为发展主旋律。国内厂商经过多年的技术积累和市场打磨,产品已从“可用”进入“好用”阶段,以运营商与金融为代表的大客户为例,近年集采项目中国产服务器的比重逐渐加大,信创服务器的集采和规模化应用正有序进行。

  中国电信在2020年就开始将全国产化服务器单独列入招标目录,在当年的集采项目中国产化服务器占比近20%,此后集采中国产化率不断的提高,2021年中国电信进一步将国产化比例提到26.7%,2023年的AI服务器集采中,国产化的比例已经接近50%。10月21日,中国电信公示2024-2025年服务器集采的中标候选人,本次服务器集采中国产化比例则达到了67.5%。

  目前我国服务器厂商往往和上游芯片厂商绑定,形成生态圈,如中科院系的海光信息和中科曙光,华为系的鲲鹏+昇腾和宝德、超聚变、神州数码、烽火通信、新华三、安擎等,以及中电子系的飞腾和中国长城。

  “终于不是包饺子了”“这小品线年的蛇年春晚,由王宏坤、尚大庆、张海燕、李川、孙仲秋表演的小品《花架子》辛辣讽刺,全程满是笑点, 受到诸多观众的好评。

  南部战区空军新闻发言人李健健空军大校发表谈线日,中国人民南部战区空军位黄岩岛空域进行例行巡航。其间,菲律宾拉拢域外国家组织所谓“联合巡航”,蓄意破坏南海地区和平稳定。战区空军部队持续保持高度戒备,坚决捍卫国家领土主权和海洋权益,任何搅局南海的军事活动尽在掌握。

  连续三四天打麻将到后半夜,40多岁女子突然觉得天旋地转……春节期间,这类人应避免过度劳累

  春节期间,她忙于准备年夜饭、招待亲属和朋友,一空下来又爱打麻将,连续几天都没有好好休息。大年初三那天,刘女士正在麻将桌上玩得不亦乐乎,突然间,她感到天旋地转,头部剧烈疼痛,伴有恶心、呕吐等症状,不得不在家人搀扶下,赶紧来到浙江省人民医院就诊。

  年轻人晒春节电车返乡账单:1100公里充电五次花费218元,比油费便宜一半

  春节开电车回家多个方面数据显示,2025年春运以来,全国高速公路新能源汽车日均流量685.46万辆,同比2024年同期上升61.81%;新能源汽车流量占比17.56%。

  尹锡悦是韩国史上首位接受刑事审判的在任总统。文 海上客韩国首尔中央地方法院2月3日宣称,尹锡悦将于本月20日受审!具体来说,该法院称,当地时间2月20日上午10点,将举行对韩国总统尹锡悦涉嫌内乱罪的公审预备庭。1海叔要说,这将又是创造历史的时刻!

  关于“LG杯”事件,大家都在讨论韩国裁判违规问题。广大网友认为决赛第三局,韩国裁判封棋流程严重违规,在棋局胜负关键处,介入比赛,违规封棋,给了卞相壹更多思考时间,对柯洁不公,涉嫌作弊。我发现大家都忽略了一个问题,才导致这么大争议。