人工智能集群光学连接特殊需求下的光学组件进展与创新

逍遥设计自动化

引言
( S$ {; b/ Y  D$ E+ y0 D, C随着人工智能（AI）技术的不断进步，AI系统对高速、高效数据传输的需求呈指数级增长。本文探讨了为满足AI应用新兴连接需求而设计的光学组件的最新发展。引用文献来自LightCounting在7月30日举办的Special Requirements for Optical Connectivity in AI Clusters Webinar，特此感谢！
1 P- I4 ~+ N) B  c4 k3 Q/ k
8 X4 k2 M8 S/ S- i" ]+ `光学组件的演进
. C& C, v. [+ N/ q. i- S过去几十年间，光学组件经历了显著的进步。从1998年的1G VCSEL（垂直腔面发射激光器）技术，到如今尖端的200G VCSEL和EML（电吸收调制激光器）解决方案，行业在数据传输速度和效率方面持续提升。

oqqz32rkekn64077137449.png

* K. M8 [/ [3 @1 \7 t! `图1：从1998年到2025年光学组件的演进，突出显示了从1G VCSEL到200G VCSEL和EML技术的进程。
* C* v: }* m) [: e  X% u# d: ^3 d+ k
这一演进的关键里程碑包括：

1998年：1G VCSEL

2004年：2.5G EML和DML（直接调制激光器）

2013年：10G VCSEL、EML和DML

2019年：25G VCSEL和50G EML/DML

2023年：50G VCSEL和100G EML

2025年（预计）：100G VCSEL、200G VCSEL和200G EML
$ _2 i% s# r4 o/ ?7 u, R7 f
8 M& `' P, L1 I% u- e2 T+ e; R这一进程展示了行业致力于满足现代计算和AI系统不断增长的带宽需求。
1 Y: M; K8 k! j9 c+ a# O2 ~
% ]$ }/ J7 ~! F, i8 x1 L6 y- n# J多模光纤技术进展：200G VCSEL技术
2 W1 @/ L* w+ s4 ~, ~光学组件技术最有希望的发展之一是200G VCSEL的进步。这项技术代表了多模光纤传输能力的显著飞跃。
# B+ Q0 e" a$ b" c

bqkrrtqgebl64077137550.png

图2：从850 nm VCSEL收集的200Gb/s PAM4眼图，以及在EVB（评估板）中测试的可插拔模块中的200G VCSEL工程样品。
0 u) i* q' }6 H1 O9 [) _7 H2 G1 }  H/ W6 N
200G VCSEL技术具有以下优势：

每3-4年调制速率翻倍

与现有多模光纤基础设施兼容

与单模解决方案相比功耗更低

适用于数据中心短距离应用的成本效益高
[/ol]
% O+ L7 X0 F( |3 Q200G VCSEL技术的发展与IEEE标准的进程一致，数据速率从1998年的1 Gb/s（802.3z）稳步增加到目前的100 Gb/s PAM4（802.3db，2022年）。业界现正致力于标准化200 Gb/s PAM4技术，以满足未来的连接需求。
. S& B9 i1 @2 u6 {+ ~3 w+ p% `
( T% l; p" q3 K6 S光电共封装系统
/ F. ~) p/ E6 A# e9 R光电共封装代表了将光学组件直接与交换机ASIC（专用集成电路）集成的革命性方法。这种集成旨在降低功耗、提高带宽密度并改善整体系统性能。

第一代光电共封装：TH4-Humboldt

1gtklakb0eb64077137650.png

图3：第一代光电共封装系统TH4-Humboldt其关键特性和组件。

TH4-Humboldt的特点包括：

25.6T以太网交换能力

一半光电共封装，一半电气连接

四个3.2T光学引擎（32x100Gbps DR连接）

光学引擎采用光电子集成芯片与SiGe EIC（电子集成电路）键合

每个光学引擎约250个光学组件
* d# d" @" B. ?  l/ r' r
! V- n, `1 ?" X7 [9 V9 n尽管创新，TH4-Humboldt设计仍面临一些挑战，特别是由于使用SiGe技术而导致的功耗问题。
1 A( s$ a- m9 o8 z
; l5 ?* b6 |3 u% A) X/ R第二代光电共封装：TH5-Bailly

quag4lope0l64077137751.png

图4：第二代光电共封装系统TH5-Bailly，突出其先进特性和增强的光学集成。

TH5-Bailly相比其前代产品有显著进步：

51.2T以太网交换能力

全光学光电共封装连接

八个6.4T光学引擎（64x100Gbps FR4连接）

光学引擎采用光电子集成芯片与CMOS EIC键合

每个光学引擎约1000个光学组件

2 [3 z. l: l/ ~$ s! \- u- r1 }TH5-Bailly转向CMOS技术解决了前代产品的功耗问题，为高带宽应用提供了更高效的解决方案。

muss4tu3xrk64077137851.png

图5：在4RU MP3机箱内完全功能的51.2T TH5-Bailly，演示了该技术的实际应用。

- v% P5 P8 V# I' O
" K: S3 a) j  A# G采用2.5D多芯片封装的AI扩展
; K: B9 D8 y- Q' k. Z* ?+ r( _随着AI系统复杂度和规模的不断增长，新型封装技术正在涌现，以支持更高的连接性和性能需求。
6 r; }& H, V; Y) h! S" O, y) y

0nu3bhnnzac64077137951.png

) s+ ?1 j1 @6 ^/ `图6：光电共封装系统，每个光学引擎具有6.4Tbps I/O带宽，集成到带有HBM（高带宽内存）和ASIC芯片的2.5D封装中。
& I: m, W( T3 X6 z( [$ l# y8 X
这种先进封装方法的主要特点包括：

集成每个光学引擎6.4Tbps I/O带宽的光电共封装

采用带硅中介层的2.5D封装技术

集成HBM以实现高速、低延迟的内存访问

模块化设计，分离的SerDes（串行器/解串器）芯片和ASIC芯片

2 O! R6 y/ D9 s2 L; H1 g这种封装方法允许光学组件与高性能计算元件更高效地集成，对AI系统的扩展至关重要。
1 X& A! ]& k4 t0 d: y
Beachfront与Oceanfront：优化光学引擎布局
在封装内光学引擎的布局对系统性能和可靠性至关重要。主要出现了两种方法：beachfront和oceanfront设计。

ffup3kd0phq64077138051.png

5 i' l: O. C5 K; r9 ?图7：比较了高性能封装中beachfront和oceanfront光学引擎布局设计。

Oceanfront设计优势：

能够沿单个oceanfront布置四个光学引擎

由于光学部分远离高功耗GPU，可靠性更高

通过最后附加已知良好的光学引擎，提高制造良率
- B" Y* l6 R3 J: `4 Y6 K$ A
Oceanfront方法在热管理和制造效率方面提供显著优势，成为未来AI系统设计的理想选择。
1 H. H6 F; |. T4 Q- k, ^/ N% I3 G
  t$ h' j. `& j2 i- l% k双向（Bidi）光学：经济高效的高基数解决方案
随着AI集群扩展到数百或数千个节点，管理光纤连接变得越来越复杂和昂贵。双向（Bidi）光学为这一挑战提供了希望的解决方案。
, u4 K7 X# M5 `. v% _

gnbvz4vxkd564077138151.png

图8：比较了采用传统DR光学和Bidi光学的12.8T光学引擎光纤I/O，展示了Bidi技术减少的光纤数量。
% t$ T8 w' G% {
Bidi光学的优势：
! G- q+ A% M( x- T3 y  |+ w+ Z1 b( ?

减少光纤数量（与传统DR光学相比减少50%）

降低整体系统成本

简化光纤管理

在FTTx应用中已有20年部署经验的成熟技术

fxv5m132j0q64077138251.png

图9：展示了在不同链路长度下Bidi解决方案相比DR解决方案的潜在成本节省，显示在30米范围内可节省高达15%的光学成本。
- L9 c6 y& r. j. M
$ f! w+ J' D1 |6 V% X6 ?在大规模AI集群中，Bidi技术的成本优势尤为显著。对于具有64个光电共封装交换机和512个12.8T光电共封装引擎的512 GPU扩展集群，Bidi提供：

光纤电缆束数量减少50%

在30米范围内可节省高达15%的光学成本

简化电缆管理和安装
[/ol]
2 _6 g& q) k0 p% Y8 x1 z# W, j- [结论
3 c4 h' ]5 f+ k' T' Y随着AI持续推动对更高带宽和更高效连接解决方案的需求，光学组件技术正在快速发展以应对这些挑战。从先进的VCSEL技术到光电共封装和创新的封装设计，业界正在推动高速数据传输的极限。

: v+ z0 {& W% F( w2 R' t将这些技术集成到AI系统中有望实现新水平的性能和可扩展性，为下一代AI应用提供支持。随着研究人员和工程师继续创新，可以期待在未来几年看到AI连接光学组件领域更多令人兴奋的发展。
" u) u% e+ O+ r3 d0 \7 w+ C! N
参考文献
3 ^% O4 y1 B: ?[1] M. Mehta, "Optical Component Progress for Emerging Connectivity Requirements for AI," Lightcounting Webinar, Jul. 30, 2024.

+ i9 B" ~# X' c3 m( z0 w/ P- END -

5 p6 J* c4 a0 @0 s) s软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
/ m  b# D3 K' o6 y1 M点击左下角"阅读原文"马上申请

  t6 ]$ v/ e& n* u+ A! X欢迎转载

转载请注明出处，请勿修改内容和删除作者信息！

  i0 I# I* s$ [% r' L" ^

lipsbckywpn64077138352.gif

6 U4 |0 Z# u: o* f
7 C' ]  }: o/ q; u8 M' o关注我们
% s. `- d+ o4 @. i

" F" Q9 p7 v  B3 Q) J1 K mex5plxr1j364077138452.png $ S5 f9 g+ @( P- f# J+ U+ {

$ @% U: M! w3 `( g. y. A* q3 K jbukidcigqt64077138552.png . A$ o0 V4 H% a9 v2 ]

ujjdleyyghr64077138652.png % V8 ?3 J$ o% g9 ?

                     

9 n' U7 X# S0 O
; M0 q; I2 ?$ M- _
关于我们：
: B$ P9 \' ^! j1 P- F8 t9 [* {深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。
4 ]+ X) c3 s% z6 O8 [
7 ~1 a, @9 i8 G# w; ~0 P" u3 _http://www.latitudeda.com/
5 j" p& X5 ]* I* S7 V  Q（点击上方名片关注我们，发现更多精彩内容）