加拿大pc28预测在线预测大神吧 三大芯片巨头，抢进CPO
发布日期：2024-12-10 14:18 点击次数：102淌若您但愿不错频频碰头加拿大pc28预测在线预测大神吧，宽待标星保藏哦~
当年二十多年，计较性能的进步受益于摩尔定律的扩展，性能增长达到了60000倍，如图1所示。然则，团结时期内，I/O带宽仅增长了30倍。当下，何如将高带宽互连扩展到单个机架除外是NVIDIA以过甚他厂商王人濒临的势必挑战。据行业分析公司LightCounting的分析指出：将 GPU集群从36-72个芯片扩展到500-1000个芯片是加速东谈主工智能查验的最好弃取；在异日3年内，即使是推理集群也可能需要多达 1,000 个GPU才能支握更大的模子。共封装光学器件(CPO，Co-Packaged Optics)可能是在4-8机架系统中提供数万个高速互连器件的惟一弃取。
图1：不同代际互连和存储的带宽（BW）以及硬件（HW）峰值FLOPS的扩展。值得隆重的是，互连带宽增长的速率远低于硬件FLOPS。（开始：IBM论文，arXiv:2412.06570）
咫尺，数据中心在数据传输中已无为依赖光学时候，但关于短至中长距离（< 2米）的互连蚁集，光学时候的应用仍较少。天然传统的可插拔光学可看成过渡时候，但其带宽增长速率远低于数据中心流量的增长速率，应用需乞降传统可插拔光学时候本事之间的差距不休加大，这一趋势是弗成握续的。
共封装光学（CPO）看成一种颠覆性时候，通过先进的封装时候和电子光子协同优化，极地面裁汰电气蚁集旅途，从而提高互连带宽密度和能效。因而，CPO也被誉为AI期间的枢纽互连时候之一。LightCounting创始东谈主兼首席扩充官Vlad Kozlov浮现：“咱们预测，到 2029 年，CPO端口出货量将从咫尺的不到5万个增长到跳动1800万个，其中大多数端口将用于办事器内的蚁集。”
图2：1.6T线缆类和1.6T 50m CPO端口的发货量
（图源：LightCounting）
而从博通、Marvell、IBM等各家厂商在CPO规模的最新进展来看，CPO将迎来云厂商的快速遴荐和部署的波澜。
博通CPO，买卖化加速
2024年12月30日，据经济日报的报谈，台积电硅光计谋取得枢纽进展，近期竣事共封装光学元件（CPO）与先进半导体封装时候的整合，瞻望2025岁首运转样品委用，博通和NVIDIA将成为台积电该惩办决策的首批客户。
报谈中指出，台积电与博通结伴开导的微环调制器（MRM）近期已通过3nm试产，为顶级AI芯片集成到CPO模块奠定基础，瞻望台积电将遴荐其CoWoS或SoIC先进封装。此举也诠释CPO时候已从研发阶段向量产化迈进，1.6T光传输期间正加速到来。
旧年3月份，博通已向小部分客户委用了业界首款 51.2 兆兆位/秒 (Tbps) 共封装光学 (CPO) 以太网交换机 Bailly。该居品集成了八个基于硅光子的 6.4-Tbps 光学引擎和 Broadcom 一流的 StrataXGS Tomahawk5 交换机芯片。与可插拔收发器惩办决策比拟，Bailly 使光学互连的运行功耗训斥了70%，硅面积效力提高了8倍。
图3：51.2T Tomahawk 5交换机，配备8个Bailly光学引擎（图源：broadcom）
跟着台积电的强势参与，为CPO时候注入了真正赖的供应链本事，并可能助推博通CPO决策在阛阓中加速扩展，为芯片与光学时候的交融提供强有劲的支握。
Marvell：XPU架构慎重整合CPO
Marvell在收购Inphi之后，大大增强了在光通讯和数据中心规模的研发本事。自2017年以来，Marvell运转为民众顶级超大规模数据中心提供硅光子配置，并收效将其应用于COLORZ数据中心互连光学模块。这一时候已获取多个行业起初的数据中心认证，并竣事大规模分娩。摈弃咫尺，Marvell的硅光配置已累计纪录跳动100亿小时的现场运行时辰。
看成硅光时候发展的下一步，Marvell正重心布局共封装光学（CPO）时候，这是公司鄙人一代互连时候发展中的枢纽一步。
2025年1月6日，Marvell书记，其下一代定制XPU架构将遴荐共封装光学 (CPO) 时候。CPO时候使得AI办事器的规模从咫尺使用铜互连的机架内数十个XPU扩展到使用CPO 的多个机架中的数百个XPU，这意味着AI办事器的计较本事不错在更大范围内得到进步，同期保握低延迟和高效的能耗进展。
Marvell指出，下一代定制AI加速器XPU架构使用高速 SerDes、die-to-die芯片接口和先进封装时候，将 XPU计较芯片、HBM和其他芯片与Marvell 3D SiPho引擎整合在团结基板上。这种方法无需电信号离开XPU封装干与铜缆或穿过印刷电路板。CPO欺诈高带宽硅光子光学引擎来提高数据隐约量，与传统铜蚁集比拟，硅光子光学引擎可提供更高的数据传输速率，况兼不易受到电磁侵扰。这种集成还通过减少对高功率电气驱动器、中继器和重定时器的需求来提高电源效力。
早在2024年，Marvell就展示了民众首款3D SiPho引擎——一个集成度极高的光学引擎，支握200Gbps的电气和光学接口。而Marvell 6.4T 3D SiPho 引擎是一款高度集成的光学引擎，具有 32 个 200G 电气和光学接口通谈、数百个组件（举例调制器、光电探伤器、调制器驱动器、跨阻放大器、微戒指器）以及大王人其他无源组件，这些组件集成在一个长入的配置中，与具有 100G 电气和光学接口的同类配置比拟，可提供 2 倍的带宽、2 倍的输入/输出带宽密度和 30% 的每比特功耗训斥。多家客户正在评估该时候，以将其集成到其下一代惩办决策中。
图3：使用CPO的下一代定制AI加速器XPU
（图源：marvell）
借助集成光学器件，XPU 之间的蚁集不错竣事更快的数据传输速率和比电缆长100 倍的距离。这不错在 AI 办事器内竣事跨多个机架的扩展蚁集，并具有最好延迟和功耗。通过竣事更长距离和更高密度的 XPU 到 XPU 蚁集，CPO 时候促进了高性能、高容量扩展 AI 办事器的开导，从而优化了下一代加速基础设施的计较性能和功耗。
Marvell的这次书记无疑明示出CPO仍是渐渐被XPU厂商认同。要知谈，Marvell前不久才与民众云表办事供应商龙头亚马逊AWS签署五年配合公约，供应亚马逊AWS客制化AI芯片。跟着Marvell AI定制化芯片整合CPO方法的加速，瞻望CPO的应用和部署将大大提速。
IBM：新工艺冲破加速CPO竣事
尽管硅光子学并不是一个新成见，但需要开导先进的制造工艺和器件结构，以称心CPO的需求。频年来，CPO惩办决策渐渐兴起。尽管如斯，CPO的无为应用仍濒临许多挑战，而加多光纤集成密度可能是鞭策阛阓接受的一个法子。
近日，IBM书记，其参谋东谈主员创举了一种新式的共封装光学（CPO）工艺，全新的共封装光学 (CPO) 原型将通过使用团员物材料来指令光学而不是传统的基于玻璃的光纤。IBM 的论文抽象了这些新的高带宽密度光学结构何如与每个光通谈传输多个波长相联结，有可能将芯片之间的带宽提高到电气蚁集的 80 倍。
在IBM的时候参谋论文《Next generation Co-Packaged Optics Technology to Train & Run Generative AI Models in Data Centers and Other Computing Applications，下一代共封装光学时候用于在数据中心和其他计较应用中查验和运行生成式AI模子》中呈报了收效遐想和制造基于50微米间距团员物波导接口的光学模块，这些模块经过集成优化，八成竣事低损耗、高密度的光数据传输，并在硅光子芯片上占据极小的空间。该原型模块允洽JEDEC可靠性标准，甘愿将芯片角落可蚁集的光纤数目——即所谓的“海滨密度”——提高六倍，出奇了面前首先进时候的水平。团员物波导的可扩展性，使其八成松开至小于20微米的间距，瞻望将使带宽密度进步至10 Tbps/mm以上。
图4展示了光学测试载体的初步暗意图，包括测试载体组件的顶部视图和侧视图，并展示了拼装集成。图中，PIC芯片尺寸为8 x 10 mm²，基板尺寸为17 x 17 mm²，光波导长度小于12 mm。图4还展示了基板（绿色）、PIC（灰色）、光波导（红色）、光纤蚁集器（深灰色）、PIC到PWG的绝热耦合区（无凸点区）、翻转芯片凸点阵列（小的铜色球体）、小型BGA阵列（大的铜色球体）以及盖板（顶部视图为透明面目，截面为铜块面目）的堆叠视图（左）和横截面视图（右）。
图4：IBM CPO模块测试载体
（开始：IBM论文，arXiv:2412.06570）
图5：IBM 光学测试载体1b的像片，左图为PIC到基板的拼装顶部视图，右图为娇傲基板的底部视图，基板上装置有小型BGA，PIC和盖板附加在顶部，PWG蚁集在PIC上，盖板蚁集在光纤蚁集器上，看成模块拼装的终末法子。（图源：IBM）
阐述Weight&Biases的报谈，在使用GPU查验时，辘集频频成为瓶颈，导致三分之一的用户平均欺诈率不及15%。这无疑加多了资本和能耗。关于参数跳动十亿的模子，在8000个H100 GPU上查验大致需要3个月。阐述估算，查验一个GPT-4模子可能耗尽50千兆瓦时的电力。此外，海外动力署（IEA）计较出，2022年数据中心耗尽了460太瓦时的电力，占民众电力需求的近2%，瞻望这一数字到2026年将翻倍。
而IBM的全新的CPO工艺时候有望权贵提高数据中心通讯的带宽，减少GPU优游时辰，同期大幅加速AI处理历程。阐述这一转换参谋，异日CPO时候可带来如下效果：
更低的生成式AI扩展资本：比拟中等距离电气互连，CPO可减少跳动5倍的能耗，同期将数据中心互连电缆的传输距离从一米蔓延至数百米。
更快的AI模子查验：通过CPO，开导者八成将大型话语模子（LLM）的查验速率提高至惯例电气娇傲的五倍，瞻望查验一个标准LLM的时辰可从三个月裁汰至三周，性能进步会跟着使用更大模子和更多GPU而进一步增强。
权贵提高数据中心能效：每查验一个AI模子，CPO时候将省俭绝顶于5,000户好意思国度庭年用电量的能量。
IBM还在致力开导下一代测试载体，遴荐子20 µm间距的光波导、加多的波导通谈、加多的多波长（λ）兼容硬件演示，并提供多个脉络的光纤蚁集器/蚁集器拼装选项，适用于CPO模块。针对这一异日节能硬件演示的建模和仿真标明，该时候八成支握更高的带宽密度。借助转变的动力效力，进步异日生成性AI应用和其他计较应用的性能已成为可能，令东谈主爽直地鞭策这一程度。IBM运筹帷幄在2025岁首发布更多认确切CPO信息。
结语
当年好多东谈主对CPO的时候和买卖化存疑，但看咫尺大厂们的动作，CPO已成AI期间的势在必行。与此同期，CPO与可插拔光模块的竞争关联更可能是互补而非总共取代。CPO时候的崛起不会立即恐吓到可插拔光模块的主流地位，而是会在特定高性能场景中迟缓占据一隅之地。从恒久来看，CPO和Optical IO王人可能在鞭策数据中心光互联时候的升级中表现迫切作用。
如有硅光流片需求，
宽待扫码，将有专东谈主对接。
1、IBM论文：https://doi.org/10.48550/arXiv.2412.06570
火箭（21-9）：杰伦-格林30分2篮板2助攻2抢断，范弗里特25分6篮板4助攻，6分6篮板，阿门9分10篮板3助攻5封盖，申京10分13篮板6助攻，杰夫-格林6分2篮板，惠特摩尔27分4篮板，泰特10分2篮板，亚当斯2分5篮板，阿隆-霍勒迪2分1助攻，谢泼德1分4篮板2助攻1抢断。
2、Monitor & Improve GPU Usage for Model Training，Weight&Biases
半导体杰作公众号推选
专注半导体规模更多原创施行
关心民众半导体产业动向与趋势
*免责声明：本文由作家原创。著述施行系作家个东谈主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或支握，淌若有任何异议，宽待关联半导体行业不雅察。
今天是《半导体行业不雅察》为您共享的第4006期施行，宽待关心。
『半导体第一垂直媒体』
及时 专科 原创 深度
公众号ID：icbank
可爱咱们的施行就点“在看”共享给小伙伴哦