人工智能时代传输网络的未来规划

逍遥设计自动化

引言
6 r; }6 V4 e5 U, E人工智能（AI）的快速发展正在重塑网络技术的格局，特别是在光互连领域。随着我们步入新的计算时代，了解AI的发展将如何影响传输网络以及如何为这种即将到来的转变做好准备非常重要。本文将探讨AI时代传输网络未来规划的挑战和解决方案[1]。
' M: x7 O( J: S/ P4 \* ^- q

r3qsegaqztn64013915130.png

AI的兴起及其对光网络的影响
" h2 x7 V5 u4 t: q5 [0 e生成式AI应用的激增使光学行业处于技术演进的前沿。改进的光互连对于缓解AI集群内的带宽限制变得越来越重要。这一趋势在2024年OFC大会上成为热门话题，行业预测AI集群应用的光收发器市场将出现显著增长。
  F9 ?  l- Y* \" ~4 R

w4scmw1vkkl64013915230.png

图1：AI集群以太网光收发器销售预测

如图1所示，未来五年内AI集群光收发器的销售预计将达到约520亿美元。这一预测强调了光技术在支持AI基础设施方面将发挥的重要作用。
2 h# g$ W) |  i9 V. R0 O" q* F
虽然大多数注意力集中在AI集群内的短距离互连上，但考虑对AI数据中心环境之外的更广泛传输网络的影响也很重要。问题是：AI流量将如何影响大都市、长途和更长距离应用中的光传输，这些应用广泛使用相干传输技术？
7 K, y# H* }- ~5 ^' Y) E% v, U
从过去吸取经验：应用对传输网络的影响
为了理解AI对传输网络的潜在影响，回顾以前的带宽密集型应用如何塑造网络流量模式会有所帮助。让我们考虑几个例子：

搜索应用：AI训练过程类似于搜索引擎爬虫收集数据进行索引，而AI推理类似于用户查询搜索引擎。虽然单个搜索相关流量可能很小，但累积效应对整体传输流量贡献显著。

视频内容分发：视频流媒体的增长导致网络负担增加，特别是高分辨率内容。这个挑战通过内容缓存得到解决，将热门内容放置在更靠近终端用户的位置，以减少整体网络流量和延迟。

云计算：云服务的兴起导致数据中心内部和数据中心之间的流量（东西向流量）增加，因为工作负载跨越多个站点。AI应用可能遵循类似的模式，训练数据和推理模型分布在物理上不同的位置。
[/ol]
这些例子说明了AI应用的增长可能如何导致网络运营商需要扩展数据中心互连、大都市、区域甚至长途和海底网络的容量。

AI网络中的功耗-延迟平衡
AI基础设施发展的关键因素是AI集群和数据中心的巨大功耗需求。这个挑战让人想起云服务增长时期，当时获取便宜的电力资源推动了大型数据中心的选址。然而，电力设施限制导致采用物理分布式架构，依赖高容量传输互连来维持所需的网络拓扑。

sxxzku3h4ds64013915330.png

图2：由于设施功耗限制导致网络Fabric物理扩展的场景
' Y1 N8 n, e( U9 k4 Q' F! D" d! R
图2说明了功耗限制如何导致网络Fabric的物理扩展，需要高容量光互连。这种AI应用的分布式网络方法由于训练和推理过程的特定计算和延迟要求而带来独特的挑战。

AI网络中的延迟考虑
  Y& Z3 [. y2 X' S" \4 A$ i在设计针对AI优化的传输网络时，了解延迟要求非常重要。在AI训练阶段，AI集群内需要极低的延迟来高效处理传入的数据集。然而，收集这些数据集的过程可能对延迟不太敏感。
' o3 i. w5 K& c' c0 ~5 a! ~

15hhzh2z3qq64013915430.png

图3：训练模式下AI集群内需要极低延迟

图3展示了训练模式下AI集群内的延迟要求。虽然AI训练的地理分布并不理想，但功耗限制可能需要采用分布式AI训练技术来尝试缓解引入的延迟影响。
, L/ a9 ~) r7 W- g# c$ H
对于AI推理，目标是最小化用户查询和传输结果之间的延迟。这种延迟受查询复杂性和推理模型与用户之间的"跳数"影响。

la5vblzbqmd64013915530.jpg

- @9 L" Z% g# X8 o图4：最小化AI推理的延迟

, d: ^  p- w0 |0 W9 l图4强调了最小化AI推理延迟的重要性。业界正在积极讨论如何在访问推理模型时减少延迟，以及如何有效地将训练和推理功能分布到集中式架构之外，以解决单站点功耗限制的方法。
. B( u: A  p  v! e* {
- W) Q4 a% J/ a/ m) @; n$ n2 R5 g传输网络未来规划策略
为了准备网络的AI驱动未来，可以采用几种策略来未来规划传输网络：

投资高容量相干传输：AI网络架构的扩展可能会遵循类似于云架构的模式，高容量相干传输使物理扩展成为可能，缓解了电源限制。相干光互连已经提供每波长1.2T的性能优化转发器解决方案和400G路由器到路由器波长，并正在向使用MSA可插拔模块的800G发展。

规划分布式架构：考虑到功耗限制和延迟因素，网络设计师应该预料到分布式AI训练和推理能力的需求。这种方法将需要在物理分离的站点之间建立强大的高容量互连。

优化灵活扩展：随着AI应用的发展，传输网络必须设计成能够灵活扩展带宽并适应不断变化的流量模式。这可能涉及实施软件定义网络（SDN）和网络功能虚拟化（NFV）技术，以实现动态资源分配。

优先考虑能源效率：考虑到AI基础设施的巨大功耗需求，专注于节能网络技术将非常重要。这不仅包括AI集群本身，还包括传输网络组件。

增强边缘计算能力：为了解决AI推理的延迟问题，考虑加强边缘计算基础设施。这可能涉及将推理模型部署在更靠近终端用户的位置，并确保边缘站点与中央AI资源之间的高容量、低延迟连接。

监控和分析流量模式：实施强大的网络监控和分析工具，以了解AI相关流量如何影响网络的不同部分。这些数据对于做出关于网络升级和扩展的明智决策将非常宝贵。
+ F2 `$ d% A3 u  j( R- G4 a6 m[/ol]
4 k, `5 T( o3 C( L: g结论
: F7 g" A9 e5 H. o% ]AI应用的兴起为传输网络带来了挑战和机遇。通过从带宽密集型应用的过去经验中学习，并仔细考虑AI工作负载的独特需求，网络运营商和设计师可以为AI时代的基础设施做好未来规划。关键在于通过创新的网络架构和先进的光技术，平衡功耗限制、延迟要求和带宽需求。随着继续关注不断发展的AI领域，高容量相干传输将在塑造网络未来方面发挥关键作用，使AI基础设施能够在大都市、长途和全球网络中实现物理扩展和优化。

参考文献
[1] E. Park, "Future Proofing Transport Networks for AI," Acacia Communications, Sep. 10, 2024. [Online]. Available: https://acacia-inc.com/blog/future-proofing-transport-networks-for-ai/

END
3 l2 G1 N0 U/ A

软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
- W6 W# b# m0 c- ~, ?- H6 t( \. }点击左下角"阅读原文"马上申请
/ J0 j! Q2 w' d3 ~2 t0 W
0 U, v2 e) ^) N. R7 Q* \  g& j欢迎转载

1 Y, q' `" O) o7 D4 e  m. z转载请注明出处，请勿修改内容和删除作者信息！
+ w. a% `" b4 a3 h2 E8 M) M
8 e! Z3 N( Z0 U/ a& Z7 D4 g

0 Q5 h. P' ?, n" `

naczugh53dt64013915630.gif

关注我们

; {) k- j% q( H  H

" Q) a3 i7 a' |* v+ q1 q' v 1f3lozyzcax64013915730.png 5 g/ i6 o% Y5 I: m

iwjcc3g1jqy64013915831.png 4 E' l' q8 B/ E9 F. |9 L: M

" E) Y% `/ E: P0 D( K. T. @$ T 2glz32gqj4w64013915931.png

                     


. ?4 a+ h# z* m# ?
关于我们：
深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。

http://www.latitudeda.com/
4 d: q, T$ S+ N1 S, r（点击上方名片关注我们，发现更多精彩内容）