GPT模型在持续迭代过程中，能力持续增强，算力需求同样也呈几何倍增长。
现阶段的ChatGPT是在拥有3000亿个单词的语料基础上预训练拥有1750亿参数的模型。
据OpenAI测算，2012 年以来全球头部AI模型训练算力需求3-4个月翻一番，每年头部训练模型所需算力增长幅度高达10倍，远超摩尔定律的增长速度。
据此前IDC预测，预计到2025年，中国数据圈将增长至48.6ZB，占全球数据圈的27.8%，成为全球最大的数据圈。
AI大算力的高需求将提升服务器性能，AI服务器需搭载多个CPU和GPU处理器，同时服务器CPU性能不断升级，要求内存技术同步升级。
DDR5、HBM、CXL、NVLink等新兴技术有望加速渗透，并充分受益于AI带来的算力需求增长。
AI服务器
服务器一般可分为通用服务器、云计算服务器、边缘服务器、AI服务器等类型。
AI服务器专为人工智能训练和推理应用而设计，大模型带来算力的巨量需求，有望进一步推动AI服务器市场的增长。
其中，训练任务对服务器算力要求较高，需要训练型服务器提供高密度算力支持，典型产品有中科曙光X785-G30和华为昇腾Atlas 800（型号9000、型号9010）。
一个典型的人工智能服务器的DRAM容量是普通服务器的8倍，NAND容量是普通服务器的3倍。
根据IDC数据，2022年全球AI服务器市场规模202亿美元，同比增长29.8%，占服务器市场规模的比例为16.4%，同比提升1.2pct。
TrendForce集邦咨询统计，2022年AI服务器采购占比以北美四大云端业者Google、AWS、Meta、Microsoft合计占66.2%为最，而中国近年来随着国产化力道加剧。
国内AI服务器头部厂商包括：浪潮信息、超聚变、紫光股份（新华三）、中兴通讯、中科曙光、工业富联等。
资料来源：TrendForce
根据TrendForce，2023年ChatGPT相关应用有望再度刺激AI相关领域，预计2023年出货量增长率可达8%，2022-2026 年复合成长率将达10.8%。
01
DDR5: 新一代内存接口芯片
海量数据对存储的需求持续推动内存接口芯片量价齐升和市场高速扩容。
持续受益于服务器出货量增长和单台服务器内存模组用量不断上升。
内存接口是服务器CPU与内存桥梁，当前正迎来DDR5升级。
从存储的分类看，存储主要可分为RAM（随机存储器）和ROM（只读存储器）。
RAM可分为SRAM（静态随机存储器）和DRAM（动态随机存储器）。
SDRAM（同步动态随机存取存储器)是在DRAM的基础上发展而来，为DRAM的一种。
DDR SDRAM（双倍速率同步动态随机存储器）又在SDRAM的基础上发展而来，为具有双倍传输率的SDRAM，其数据传输速度为系统时钟频率的两倍，由于速度增加，其传输性能优于传统的SDRAM。
DDR SDRAM经历了DDR2、DDR3、DDR4等几代技术更迭，其差异性主要体现存储器的电源电压值越来越低，而数据传输速率却是呈几何倍数增长，同时存储容量也随之大幅增加。
DDR5内存性能远超DDR4的规格上限，配套内存接口芯片性能及技术难度随之提升。
根据市场调研机构推测，DDR5已占据整个DRAM市场份额的10%，2024年则将进一步扩大至43%。服务器市场对高性能有着绝对的需求，可能最先推广DDR5。
随着新一代DDR产品的升级，内存接口芯片有望迎来量价齐升，DRAM市场有望开启新一轮增长。
数据来源：EEtop
内存接口芯片行业壁垒高，竞争格局相对较好。国内澜起科技正在拓展津逮@服务器平台&PCIe Retimer和AI芯片产品线；聚辰股份SPD 受益于算力需求增加及DDR5升级。SPD用于服务器等领域，受益于算力需求增加及DDR5升级。聚辰和澜起科技合作开发配套新一代DDR5内存条的SPD产品，该产品系列内置SPD EEPROM，系DDR5内存模组不可或缺组件。
02
HBM：为大算力芯片提供支撑
高带宽存储器（HBM）是一款新型的CPU/GPU内存芯片，通过将多个DDR芯片堆叠在一起，实现大容量，高位宽的DDR组合阵列。
HBM可支持更高速率的带宽，并实现高于256GBps的突破性带宽，单颗粒的带宽远超过DDR4和GDDR6。
HBM将为大算力芯片提供能力支撑，同时生成类模型也会加速HBM内存进一步增大 容量和增大带宽。
如今搭载于新兴AI应用的内存芯片亟待升级，这种设计能够大大提升信息交换的速率。
从竞争格局来看，全球范围内，HBM2内存核心厂商主要包括SK海力士、三星、Altera、英特尔和超微半导体等。
全球第一梯队厂商主要有SK海力士、三星、Altera和英特尔；第二梯队厂商有超微半导体和美光。
海力士HBM技术起步早，占据较大市场，2018年发布HBM2，2021年发布全球首款HBM3，目前在研HBM4。
三星从HBM2开始布局，2016年量产HBM2，2021年2月，三星电子推出了HBM-PIM（存算一体），将内存半导体和AI处理器合二为一，2022年HBM3已量产。
国内布局厂商中，通富微电在Chiplet、WLP、SiP、Fanout、2.5D、3D堆叠等方面均有布局和储备；深科技是国内最大的独立DRAM内存芯片封测企业，全球第二大硬盘磁头制造商，全资子公司沛顿科技封装技术包括wBGA/FBGA等，具备先进封装FlipChip/TSV技术（DDR4封装）能力；长电科技具有高集成度的晶圆级WLP、2.5D/3D、系统级(SiP)封装技术和高性能的Flip Chip和引线互联封装技术；兆易创新是国内存储龙头，是国内技术最为先进的存储厂商，NORFlash、NAND Flash及MCU为主要产品的业务板块。
TrendForce预估2023-2025年HBM市场年复合成长率有望成长至 40-45%以上。
03
CXL：存储芯片界的CPO
随着存储成本不断增加，传统的PCI-e技术逐渐乏力。在此背景下，基于PCI-e协议的CXL技术应运而生。
CXL全称为ComputeExpssLink，是由英特尔于2019年3月在Interconnect Day 2019上推出的一种开放性互联协议，能够让CPU与GPU、FPGA或其他加速器之间实现高速高效的互联，从而满足高性能异构计算的要求。
快速成长的人工智能(AI)与机器学习(ML)新兴任务，持续激增的云端运算以及网络和边缘的“云端化”将成为推动CXL发展的重要因素之一。
CXL技术用途：
资料来源：CXL Consortium
CXL联盟董事会成员包括Intel、Google、IBM、Facebook等科技巨擘，发起者Intel拥有80%服务器CPU市场份额。
CXL联盟成员：
根据TrendForce，CXL导入将随着未来CPU内建CXL功能而普及化。同时CXL建立数据高速互联性的优点，有助于扩展AI算力，未来AI服务器将能见到更多采用CXL的设计。
澜起科技推出首款支持CXL的MXC芯片并研发支持CXL的PCIe Retimer芯片。
美光科技在22年5月与投资者交流时曾预测CXL相关产品的市场规模，到2025年预计将达到20亿美金，到2030年可能超过200亿美金。
04
NVLink：芯片互连技术
NVLink是为了解决服务器内部GPU之间点到点通讯的一种协议。
英伟达在2023年美国消费电子展（CES）上，发布了数据中心专属CPU——“Grace CPU超级芯片”。该芯片由两颗CPU芯片组成，其间通过NVLink-C2C技术进行互连。
NVLink-C2C技术是一种新型的高速、低延迟、芯片到芯片的互连技术，可最大化提升系统吞吐量。
与Chiplet技术有异曲同工之妙，可支持定制裸片与GPU、CPU、DPU、NIC、SoC实现互连。
第四代NVIDIA® NVLink®技术可为多GPU系统配置提供高于以往1.5倍的带宽，以及增强的可扩展性，进而实现超快速的深度学习训练。
随着模型参数数量增大，训练所需要算力不断增长，英伟达有望进一步巩固公司龙头地位。
国内厂商浪潮推出的NF5688M6是新一代NVLink AI服务器，在超大规模数据中心研发的同时拥有高性能，高兼容，强扩展性能。在6U空间内支持2颗Intel最新的Ice Lake CPU和8颗NVIDIA最新的NVSwitch全互联A800 GPU，结合AI算力资源调度平台AIStation，能够释放强大AI计算性能。
随着人工智能、机器学习、高性能计算、数据中心等应用市场的兴起，内存产品设计的复杂性正在快速上升，并对带宽提出了更高的要求。海量的算力数据和不断上升的宽带需求持续驱动人工智能新技术发展。
我会在 公众号：海涵财经 每天更新最新的医疗新基建、一体化压铸、 汽车智能化，激光雷达，HUD，车规芯片，空气悬挂、L3级智能驾驶、PET铜箔，纳电池，800V高压，光伏HJT、TOPCON、钙钛矿、光伏XBC、BIPV、IGBT芯片、碳化硅SIC、CTP/CTC/CTB电池、4680电池、工业母机、海风柔直高压、新能源车高压快充、高镍三元、碳纤维、PET铝箔、PET铜箔、空气源热泵、新材料、中药创新药、中药配方颗粒、乡村振兴、锂矿、钒液流电池、钠离子电池、分布式储能、集中式储能、抗原检测等最新题材热点挖掘，未来属于高预期差的结构性市场，把握核心赛道以及个股的内在价值逻辑预期差才是根本所在。
— END —
先赞后看，养成习惯
免责声明：图片、数据来源于网络，转载仅用做交流学习，如有版权问题请联系作者删除
人工客服（haihancaijing009）：
