快捷导航

AI计算加速800G光模块部署

[复制链接]
查看: 6|回复: 0
发表于 2024-4-1 22:36:17 | 显示全部楼层 |阅读模式
真的挺后悔自己高中没好好学习,自己曾是湖北八校之一的学生,毕业之后看着自己的同学不是985就是211,也许当时可能觉得没啥差距,但是真就一本管学习,二本管纪律,三本管卫生,985大学的教学模式和方法以及教育资源,真的不是二本,三本可以比的,希望大家都可以好好学习,我个大学生看个这个,快感动死了。
近年来,在人工智能计算需求不断增长的推动下,对GPU和其他计算硬件的需求急剧飙升。仅今年一年,英伟达的股价就上涨了200%以上,这一点显而易见。此外,由于数据中心的人工智能训练需要高速数据传输,对人工智能服务器集群的需求也急剧上升。随着数据中心基础设施的不断扩大,光模块的使用量呈指数级增长。目前,200G和400G光模块已经大规模部署,800G光模块已经开始进入量产和引进阶段。

为什么需要800G光模块?

数据中心内的数据传输主要分为南北流量和东西流量两个方向。南北向流量是指数据中心外用户与内部服务器之间的数据传输,东西向流量是指数据中心之间以及数据中心内服务器之间的数据传输。随着ChatGPT引爆的AI大模型市场,数据中心的东西流量和内部服务器流量比例增加。

更新数据中心拓扑结构

数据中心计算规模和东西向流量不断扩大,数据中心网络架构也在不断变化。在传统的三层拓扑结构中,服务器之间的数据交换需要经过接入交换机、汇聚交换机和核心交换机。这给汇聚交换机和核心交换机带来了巨大的工作压力。

三层拓扑:如果采用传统的三层拓扑,进一步扩大服务器集群的规模,则需要在核心层和汇聚层部署高性能设备,设备成本将大幅增加。

两层Spine-Leaf拓扑:Leaf-Spine拓扑将传统的三层架构扁平化为两层架构。在这种设置中,叶子交换机(类似于传统三层架构中的访问层交换机)直接连接到服务器。骨干交换机,相当于核心层交换机,直接连接到叶交换机,每个骨干交换机连接到所有叶交换机。

AI计算和800G光模块

与传统的三层拓扑结构相比,脊叶结构需要大量的端口。因此,无论是服务器还是交换机,都需要更多的光模块来进行光纤通信。对于使用gpu的广泛AI训练应用,在NVIDIA的DGX H100服务器中,集成了8个H100 gpu,对计算和存储网络的需求相当于大约12个800G光模块和18个400G光模块。更多信息可以在这篇文章中找到:NVIDIA DGX H100简介。

这表明在叶脊架构下,数据中心对高速光模块的需求呈指数级增长。随着数据中心规模的扩大,特别是对AI大型模型训练的需求,以及GPU服务器对更高传输速率的需求增加,800G光模块的采用速度正在加快。

加速部署800G光模块

在人工智能计算进步的背景下,800G模块的需求正在稳步上升,全球领先的制造商加大了部署力度。

例如,星际光学公司已经在2023年上半年开始增加800G光模块的生产,与gpu匹配的800G产品一起稳定地向海外主要客户交付。

在OFC 2023上,海信宽带推出了业界首款800G QSFP-DD BiDi SR4.2光模块产品,并展示了800G QSFP-DD SR8、800G OSFP SR8、800G OSFP 2xFR4/DR8、800G QSFP-DD 2xFR4/DR8等基于PAM4信令的800G系列光模块产品,展示了全面的产品系列。

总结

随着GPU订单驱动需求的确定性,800G光模块的批量出货阶段将从今年下半年开始。800G光模块作为人工智能计算能力的重要一环,在数据中心规模不断扩大和人工智能培训需求持续增长的推动下,市场增长和部署速度将加快。

相关阅读:应急防汛物资
作为一个24岁还在读大三的老阿姨,给大家一个忠告,一定一定要努力学习,考上好大学。你只有真正经历过了,才知道没有学历,你甚至连一个机会都得不到。我现在专升本上了大学,在我专科实习的时候,我有一个同学特别优秀,基础很扎实,带他的老师也很喜欢他,但就因为他是专科毕业,最终没能留在那里。而且考研,有很多学校是明确专硕不收专升本学生的(就我的专业来说),只能考学硕。没有一个本科学历真的很难,尤其是在我们都是普通人的情况下。即使你现在很迷茫,但你也必须努力学习,考上好大学,这样后来你希望改变,也比由专科挣扎轻松得多。大家现在都还很年轻,珍惜你们现在无尽的可能性,我已经因为自己的选择,失去了很多机会。以我为鉴,与君共勉。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号

本版积分规则

精彩推荐

让学习更简单

  • 反馈建议:麻烦到学习网管理处反馈
  • 我的电话:这个不能给
  • 工作时间:周一到周五

关于我们

云服务支持

精彩文章,快速检索

关注我们

Copyright 学习网  Powered by©  技术支持:飛     ( 闽ICP备2021007264号-3 )