报告:光学在AI集群中日益关键,光模块占比超90%!
近日,LightCounting机构发布了首份关于人工智能与光学的综合性报告,深入剖析了人工智能如何颠覆性地重塑计算机架构和网络架构,并重点强调了光学技术在这一过程中所扮演的关键角色。
该报告的主要预测聚焦于人工智能集群中部署的可插拔光收发器,预计这将成为未来五年内光连接领域的核心解决方案。
LightCounting表示,光学在人工智能系统的发展中将发挥至关重要的作用。同时,人工智能也在推动光学系统的设计进步,这主要体现在晶体管、芯片和系统层面。
尽管不同行业的创新速度各异,新应用程序层出不穷但成功的案例相对较少,软件和人工智能算法的创新速度尤其迅速,令外界观察者难以跟上。然而,对于专家而言,他们可能对此有不同的看法。
相较而言,硬件创新则是一个渐进且持续的过程,光连接亦是如此:硅光子学的应用已经历了十年的探索,虽然目前仍在寻求能够带来真正颠覆性变革的解决方案,如可靠的共封装光学器件,但预计这一领域将在本十年末取得重大突破。
目前,AI集群中部署的光模块(光收发器)主要用于InfiniBand和以太网连接,占比超过90%。谷歌是唯一一家在其人工智能生产集群中使用光收发器进行TPU之间核间互连(ICI)的公司,而英伟达则正在其研究集群中测试光纤NVLink与GPU的连接。与以太网和IB相比,NVLink连接GPU所需的带宽高出4倍。
此外,AI集群设计的另一个瓶颈在于GPU可用的有限高带宽内存(HBM),而带宽的提高3倍成为了关键因素。
谷歌同样独树一帜,采用了光交换机来扩展和重新配置人工智能集群。这种做法不仅提高了集群性能,还最大限度地降低了成本和功耗。LightCounting预计,未来3-5年内将有更多公司采纳这一技术。
在市场需求方面,2023年人工智能集群应用对光学器件的需求规模出现了令人惊喜的增长。尽管在2022年底,由于经济衰退的担忧和收入增长放缓的初步迹象,领先的云计算公司削减了开支,包括对数据中心的投资和光收发器的购买。
然而,随着ChatGTP等AI应用的崛起,市场需求很可能已经逆转了去年的下滑趋势。预计2024-2025年AI引领下的光学器件市场将出现非常强劲的增长。
英伟达业务的增长,是推动2023-2025年光模块市场产品销售的主要因素。英伟达AI集群的新设计需要更多的收发器。之前的系统主要使用基于AOC的InfiniBand网络进行光连接,而最新的基于NDR (400G) InfiniBand的系统,则采用可插拔的400/800G SR4/SR8和DR4/DR8收发器替代AOC。
此外,英伟达于2022年3月发布了专为800G光连接设计的NVLink机箱交换机。虽然英伟达目前正在内部测试光纤NVLink,但这些解决方案预计在2024年底之前将提供给最终用户。如果这一过程需要更长时间,LightCounting将不得不调整其2025-2029年的预测。
本报告还提出了LightCounting对英伟达提供的光模块的首个预测,并将其与AI集群中使用的其他光模块进行了比较。英伟达设计的光收发器具有严格的误码率规范,致力于最小化数据传输过程中的错误,确保系统性能的稳定性和可靠性。
尽管英伟达并不限制其客户使用第三方光学器件,但值得注意的是,英伟达并不保证使用非官方光学器件的系统性能。这种策略促使了包括微软在内的许多大型客户选择使用英伟达提供的光学器件,以确保系统的最佳表现。
然而,LightCounting预测,随着市场竞争的加剧和成本压力的增大,终端用户最终将逐渐转向使用第三方光学器件以降低整体成本。但这一过程预计将是渐进的,受到多方面因素的影响。英伟达需要密切关注这一趋势,并在必要时调整其市场策略以保持竞争优势。
图片新闻
最新活动更多
-
限时免费立即试用>> 燧石技术,赋光智慧,超越感知
-
7.30-8.1马上报名>>> 【展会】全数会 2025先进激光及工业光电展
-
精彩回顾立即查看>> 筑梦启光 砺行致远 | 新天激光数字化产研基地奠基仪式
-
精彩回顾立即查看>> 抗冻不流汗——锐科激光『智能自冷却激光器』重磅发布
-
精彩回顾立即查看>> 宾采尔激光焊接领域一站式应用方案在线研讨会
-
精彩回顾立即查看>> 2024中国国际工业博览会维科网·激光VIP企业展台直播
推荐专题
发表评论
请输入评论内容...
请输入评论/评论长度6~500个字
暂无评论
暂无评论