引言
+ P" _1 v0 \3 h; @( C7 O/ G6 ?8 T; l7 I: f8 }! \
人工智能系统的快速发展对计算能力和数据传输能力提出了极高的要求。随着AI模型变得越来越复杂，需要数万甚至数十万个GPU进行训练和推理，处理单元之间的互连基础设施已成为关键瓶颈。本文探讨了光子互连技术如何解决这些挑战，以支持下一代AI系统的发展[1]。
3 \( p0 G- F3 C3 U8 a `4 J3 e
3zh54gckfky64012233155.png
$ j4 Z" z+ d) K# I
AI革命及其网络需求
8 G, G9 k4 d) d' [0 r8 W( L5 ?
- E, Y% U5 n8 W在计算历史的关键时刻，AI与加速计算的交叉正在从根本上重塑技术格局。成功的AI系统需要大型数据集、先进算法和高效计算资源。然而，现代AI系统的规模带来了独特挑战——模型参数在十年内增长了70,000倍，最先进的生成式AI模型需要在数据、流水线、张量和专家等多个维度上实现并行化。0 o" u4 z1 S% l- Q$ O1 p+ e4 J7 L
ro24b5tokz364012233255.png
, _ A, Y/ G9 R0 c4 O& f8 [* i- B8 J图1：十年内单芯片推理性能提升1000倍的图表，从K20X到H100 GPU的演进说明了计算能力的指数级增长。: X; {7 v% o1 `% b2 Q" {
# m' m6 T4 y3 ]0 v+ o- Z& X
NVIDIA设想的现代AI工厂代表着大规模计算基础设施。一个拥有32,000个GPU的完整数据中心可提供645 exaFLOPS的AI性能，配备13 PB的快速内存和58 PB/s的NVLink聚合带宽。这些系统还集成了16.4 petaFLOPs的网内计算能力，强调了互连技术的关键作用。
: U" ^ G6 ~" \1 l. f$ n1 W7 ~* P8 g
qppc5pfgb1n64012233355.png
: O3 O) d: C$ D5 |. k1 b( f' }. m" F
图2：32,000个GPU的完整数据中心可视化，呈现现代AI基础设施的规模和复杂性。
$ [' D3 E9 p0 E带宽扩展挑战
6 ~& ^' x. I( E* q% `! H& g$ r
- ?3 s) r. `, ^) L- F- b$ n; e# KAI系统面临的根本挑战是实现成本效益和能源效率的带宽扩展。这一挑战体现在多个领域：横向扩展和纵向扩展网络、交换机和GPU输入/输出接口、交换机和线缆，以及电气和光学技术。这些领域都需要创新解决方案来跟上AI不断增长的需求。
' N% U+ w3 O. x! |- Q; n
w4p1vqhcs4364012233455.png
- E7 U+ }/ Z) U
图3：不同网络组件和技术的带宽扩展需求。4 q, d5 o/ U. { t a8 ~3 N+ Z
. o. k' L" R3 b( J. |% Z
对过去二十年商用交换机ASIC的分析显示，带宽每两年持续翻倍。然而，这种增长伴随着巨大挑战。虽然由于CMOS缩放，单位比特能耗有所下降，但这种降低并不足以防止整体功耗增加。随着CMOS缩放放缓，这一问题预计会恶化。特别令人担忧的是，I/O功率与核心功耗相比不成比例地扩展，凸显了对适用于交换机和GPU的低功耗I/O解决方案的迫切需求。; `5 z0 d+ o+ @7 N6 a2 I
poegbj3334464012233555.png
+ _; O4 N' T( d. W$ ^. n! o8 x图4：交换机带宽演变（每两年翻倍）、CMOS节点缩放和单位比特能耗随时间的变化趋势。3 h j$ o* w. e
* f |% l% G$ o: H9 R" g L
GPU I/O带宽遵循类似轨迹，虽然落后于交换机带宽约10倍，但在密度和能效方面实现了可比性能。以NVIDIA Blackwell GPU为代表的中介层GPU内存带宽的引入，展示了解决这些扩展挑战的一种方法。0 U6 s7 h1 `. X: a7 L
2ks0gowclqd64012233655.png
! T* N$ b$ [4 }
图5：GPU I/O带宽、GPU内存带宽和交换机扩展趋势的比较，展示了NVIDIA Blackwell GPU架构。
8 C$ C3 Z6 c: i当前光学解决方案：可插拔光学器件1 W: a" F) M' s! Z5 J7 Y3 I
3 c' B8 T4 @- D+ B2 j传统上，光学互连以可插拔模块的形式实现，位于卡边缘或板上。这些解决方案在印刷电路板（PCB）上使用长距离接口，由于引脚密度限制，每条走线需要100-200 Gb/s。已发布的性能指标显示，在超过0.5米的距离上，112 Gb/s传输的能耗为4.5-6.5 pJ/b，最新进展在40 dB插入损耗信道上实现了224 Gb/s的3 pJ/b（仅模拟）。! H) O8 R9 \, I6 D6 S/ D
nhdluvth0zv64012233755.png
5 U; |" E1 E+ c图6：可插拔光学架构图示，显示ASIC、有机封装和光学模块之间的关系，以及1.6T OSFP模块示例。1 `- ?6 }/ o& @* d: }; e8 H: S" C
+ G& d5 e0 h2 W9 _7 J# Y
目前最先进的实现包括支持双DR4配置的1.6T OSFP模块，配备MPO连接器，以200 Gb/s信号速率运行。这些模块在面板上排列成两行时，实现约0.1 Tb/s/mm的密度，功耗约30W（19 pJ/b）。虽然这项技术代表了成熟且灵活的解决方案，具有既定标准和多供应商支持，但在能效和带宽密度方面面临扩展挑战。' B1 Z% @) _) x$ p& a, v7 L
光电共封装的前景( I* v: ]6 z* ]0 L
9 ^( J( J% g& ^9 C% J0 |5 Y$ X光电共封装（CPO）代表了光学互连设计的重要演进，将光学组件直接放置在与ASIC相同的有机多芯片模块（MCM）上。这种方法使用短距离接口，改善了引脚密度，同时仍面临一些瓶颈。已发布的性能数据显示，在约50mm走线上，112 Gb/s传输的能耗为0.9-1.7 pJ/b，带宽密度范围为500-900 Gb/s/mm。; `, B- [- w* b" V1 X" F$ E1 n
tzutzpd1uhu64012233855.png
4 n' t0 T) T1 A: g7 t3 a图7：可插拔和共封装光学器件的架构比较，显示光学组件与ASIC在MCM上的集成。
$ ~4 ?0 E2 j2 ^: z4 y3 J; S/ d7 Y' U: H; l7 f0 ~2 M' [; M
NVIDIA光子CPO系统展示了这种方法，与生态系统合作伙伴集成硅基光电子芯片，实现每1.6 Tb/s 9W（5.6 pJ/b）的性能。这种实现展示了将光学器件靠近ASIC如何显著降低整体功耗，同时保持高带宽能力。
7 q7 q. j8 o! K) J9 R# ]& g先进集成：2.5D光学器件
" s' A' f' D( x6 e" d6 z
% x; C6 f5 p, ~: j- x4 Y光学集成的最先进方法涉及2.5D封装，其中光学组件与ASIC一起集成在硅中介层上。这种架构实现了慢而宽的接口，通过更高密度和更低数据速率实现优越的效率。已发布的结果显示，在1-2mm距离上，25-50 Gb/s传输实现0.2-0.4 pJ/b，带宽密度从2到超过10 Tb/s/mm不等。
# \0 i; Z& j. l4 Z2 _$ z
fissjhe3kct64012233955.png
+ C, m0 m9 A% S; w3 c
图8：MCM上CPO与2.5D集成的架构比较，以及基于微环谐振器的多环总线架构图。
, P. _- u3 y$ U( ~3 Q, @0 d1 s( W5 E/ \. K( h" Z
这种方法利用基于微环谐振器的多环总线架构，在每通道25-50 Gb/s速率下进行密集波分复用（WDM）。关键优势是通过密集集成调制器、复用器和连接器避免光学边缘扩展需求，结合低能耗光学组件，包括高效调制器和调谐器。0 t% E7 H. K( C* v# R5 m
功率和性能分析
" {: N" U; O* h5 m
" k4 l' W/ W" s/ O- J0 e3 M为了理解这些不同方法的影响，考虑一个假设的200 Tb/s交换机实现。使用带长距离接口的电缆，仅接口就需要约1000W，总I/O功率达到4800W。相比之下，光电共封装将接口功率降至250W，总I/O功率降至1350W。理想的2.5D光学方法可以进一步将这些数字分别降至50W和700W。
! q( ~: X/ [/ ?9 ~( d
pmhyxvd33cc64012234055.png
$ {( c# Y& ~( T* Y! j
图9：200 Tb/s交换机中不同光学集成方法的详细功率分解比较，包括接口、光学和激光功率组件。2 O: A( C. a+ w, t
: U9 N7 \/ ~; e1 i1 i5 q5 E: Z
这些能效改进对未来AI系统具有深远影响。光电共封装能够提供总I/O功率的显著降低，而2.5D光学还可以解决封装内功耗问题，有助于管理日益密集的计算系统中的未来热挑战。
' z8 d% Y/ L. N1 x# Y+ x$ D光路交换的机遇
0 i9 A0 {8 U6 B1 c
z. I3 l& h. r" `, s" Z除了点对点光链路外，光路交换（OCS）为数据中心和AI网络的进一步功耗降低提供了机会。在典型的两级胖树横向扩展网络中，实施OCS可以将端到端能耗从可插拔光学器件的83 pJ/b降至50 pJ/b，或从光电共封装的48 pJ/b降至31 pJ/b。* I& e) Q& M0 X3 P% C( C
obrwzid00zz64012234155.png
+ v6 G5 ^, T4 y3 |' B& \
图10：胖树网络拓扑中光路交换的可视化，显示不同光学集成方法的能源节省。
3 X$ W9 ] }) |/ m8 [1 `; @7 i
# C+ U7 d( F8 T8 u" s# T7 y, v4 E9 w7 w在具有更多层级的更大网络中，能源节省变得特别显著，像GB200 NVL32这样的系统（每机架需要57.6 Tb/s双向带宽用于横向扩展网络）可以从OCS实现中显著受益。
7 X+ D0 `$ }! m) k% P未来方向：硅基光电子交换机1 b: ^9 `" Q; U* L
" K* T& |/ m$ B1 E8 S8 P展望未来，基于硅基光电子集成线路的交换机代表了光学互连技术的另一个前沿。最近的演示展示了完全在光域中实现的日益复杂的交换结构，可能提供更高的能效和带宽扩展能力。/ g1 g$ ?7 l/ f) h2 Y/ q
oci1dn4ki0j64012234255.png
. Q- k& _1 l5 x8 G$ N; |图11：来自不同研究组的硅基光电子集成线路交换机示例，显示光学交换技术的演进。
& ~7 I. B* d5 Z8 |2 c9 p4 S结论; @9 m4 m( N9 F: ^
1 S$ b' s- K% A0 n7 t2 F
AI系统的发展需要互连技术的创新方法。从传统可插拔光学器件向光电共封装，最终向2.5D集成光学器件的转变，为满足下一代AI基础设施的带宽和能效要求提供了清晰路径。网络对AI系统的未来发展具有重要性，在交换机和GPU层面扩展I/O带宽都代表着关键挑战。* w/ q" F; L' k2 W3 i
9 b1 s0 a9 q2 Z; X% z
通过将光学器件逐步靠近ASIC，可以实现总I/O功耗的大幅降低。光电共封装提供即时优势，而2.5D集成有望解决总功率和模块级热挑战，尽管对光学组件本身有更严格的限制。这些技术与光路交换的结合，将在AI系统的持续扩展中发挥作用。
5 s l* C i$ R# u: ?8 Y f9 c( J2 _% S3 V9 Z7 A- R
从电气到光学互连的转变不仅仅是技术转型——是对人工智能时代数据传输方式的重新思考。在这个技术十字路口，互连架构的选择将影响未来AI发展的轨迹。6 x0 Z; w. E% r0 E( Z
参考文献
) T3 X( S5 s9 B2 |2 `9 [$ B) j6 y9 V
[1] B. Lee, "Photonic Interconnect for Next-Generation AI Systems," presented at OCP EMEA Summit 2025, Dublin, Ireland, Apr. 29-30, 2025.
' \- V7 }& A# |2 q- ]8 JEND) f5 i- _# e! ]. j! c' I A
软件试用申请欢迎光电子芯片研发人员申请试用PIC Studio,其中包含：代码绘版软件PhotoCAD，DRC软件pVerify，片上链路仿真软件pSim，光纤系统仿真软件pSim+等。更多新功能和新软件将于近期发布，敬请期待！" x7 ~% j% r* ?% y' N, c
点击左下角"阅读原文"马上申请
9 g% O K" g, U) m. }9 O4 o1 y* T+ p" _) @
欢迎转载# j7 ^/ D3 p6 b% ~- A# J
& R- k% R& P% {8 m( Q2 P
转载请注明出处，请勿修改内容和删除作者信息！
# d# @5 p# v2 p' H
2 S3 a9 o1 u1 j4 N' V* O. |# P' a0 l( ^3 x0 R4 a
& G: L; S$ `# q1 V
cwcq2ow5dmz64012234355.gif
' H4 j" `4 U* z3 h" W
2 k) R! i* {/ e& T$ i0 s6 m关注我们9 ]3 r8 W4 L$ V/ A" Z, }
! E1 l x J8 e0 W) \. O! d
$ A3 j3 h6 s/ R" E/ \
q3xqefbg3lw64012234455.png
0 Y' O! A& B+ X) T) P
| # T. B1 i9 \6 Z
vezkgxa31q464012234555.png
1 ?6 W- B6 A! y( u; F Y) f | + [: o6 H4 W: ?! y
5kvu4oiqd0m64012234655.png
3 y7 X7 v* \ E0 l; s( k0 W! p
|
" `( j. y4 ^$ ]) ]1 X% P* Q: Y' j2 J D3 ?; w& k
; t* }7 J# \% m6 Z4 j, o3 [2 R. |% f& W3 K% Y1 E2 |6 ^
关于我们：
! P7 K7 I4 b6 K8 ]4 W$ H0 s深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。5 D! C& `8 \9 O
0 J+ f; K% W! s1 ]( ^* Nhttp://www.latitudeda.com/
: a! J7 }0 i5 ~! f（点击上方名片关注我们，发现更多精彩内容） | 
电子产业一站式赋能平台
/1 
窥视卡
置顶卡
变色卡
