芯片和封装级互连：现代计算系统的进展与挑战

逍遥设计自动化

引言
近年来，计算领域发生了巨大变化，通信已成为系统性能的主要瓶颈，而非计算本身。这一转变使互连技术 - 即实现计算系统各组件之间数据交换的通道 - 成为计算机架构创新的焦点。本文探讨了通用、专用和量子计算系统中芯片和封装级互连的最新进展，并强调了这一快速发展领域的关键技术、挑战和机遇[1]。

4rff4mttesf64041747039.png

& q; [: g4 B: D) t( Z+ E$ b
/ o" m: v% p' s
4 E* i/ ~9 M' V/ x2 b! T8 K关键互连技术
现代互连技术不断发展，以满足复杂计算系统日益增长的需求。以下是一些塑造互连技术未来的关键技术：
. X: K; v! b7 v7 y
1. 金属线：传统的基于铜的互连仍在嵌入式和移动系统中广泛使用。然而，随着晶体管尺寸的减小，这些线路面临着电阻和电容增加的挑战，导致延迟和功耗增加。
( u- X( P3 b$ l0 K' K& L7 h. X
; }" Y' K! V5 t2. 纳米光电子技术：光学互连提供高带宽密度和光速传播。最近的突破，如世界首个由光学片上网络（ONoC）驱动的多核系统Hummingbird，展示了这项技术在高性能计算和人工智能应用中的潜力。
9 Q( Y: h5 z# x) C  D. T
$ F4 @6 i3 l3 v" N6 S9 S) l9 h+ |

ntp0k2fgcgk64041747140.png

图1：Hummingbird的顶视图和横截面视图，展示了光电子和电子芯片在单个封装中的集成。
! K! Y# R# m) l' @, z& R7 l
3. 无线技术：无线互连使用射频信号进行数据传输，在灵活性和减少布线复杂性方面具有潜在优势。虽然尚未在工业中广泛采用，但研究继续探索其潜力，特别是在太赫兹范围内。
- y4 ^5 X. Q! ~5 W
4. 2D、2.5D和3D集成：先进的封装技术，如chiplet、硅通孔（TSV）和硅中介层，实现了半导体器件更高效的集成。这些技术解决了传统2D扩展的限制，为高性能、节能系统提供了新的可能性。

3 j8 V& q3 G/ r* Q: m

lof03w14lt164041747240.png

图2：通过(a)硅中介层和(b)硅桥互连的两个芯片的横截面示意图，说明了不同的2.5D集成方法。
' E" ^8 W9 Q: s5 W
通用架构中的互连
通用处理器已经发展到包含多核设计和chiplet架构，以提高性能和可扩展性。该领域的主要发展包括：
% X8 R0 O/ y0 y9 u7 I
! K0 X* i4 r- T- g+ Q1. 基于网格的互连：在多核系统中很受欢迎，网格网络以网格模式连接核心，提供高路径多样性和可扩展性。例如英特尔至强处理器和ARM的Neoverse CMN-700。
/ j0 P$ D* ~5 q) e8 }# U# q, B; q
2 t9 r. E7 ~8 ?4 S2. 基于Chiplet的设计：AMD的EPYC处理器使用通过AMD Infinity Fabric互连的chiplet，而英特尔采用超路径互连（UPI）实现可扩展的多处理器系统。

. f3 `8 j% @2 C3. 光学计算互连：英特尔最近的突破，光学计算互连（OCI），将硅基光电子与先进的CMOS技术集成，实现了chiplet之间的高带宽、低延迟通信。

$ K' f2 T9 ?) \9 r5 r: C' g* |1 ~

hgy43tipymd64041747340.png

图3：英特尔OCI的顶视图和横截面视图，展示了光电子和电子组件的集成。
2 L. p( N( N' k! @+ w
缓存一致性互连
( m. c2 p& N6 d& o在多核系统中维护缓存一致性对于在多个缓存中保持一致的内存视图至关重要。最近的创新包括：
/ h0 H$ Y9 G" J2 F7 Y' O
  @& I+ p0 b' }. A1. 无线缓存一致性：WiDir协议利用无线片上网络（WiNoC）技术增强多核系统中的缓存一致性。

$ ?" \' c& b% M

dyv5vnjhyoo64041747440.png

/ X: q% q0 N; S- q图4：WiDir的顶视图和横截面视图，说明了用于缓存一致性的无线天线的集成。
: C# @: j( a! X7 _8 G) Y5 a9 e# k
4 Y3 ^# |" K( ?8 @* }2. 行业标准：ARM的AMBA一致性集线器接口（CHI）和Arteris的Ncore缓存一致性互连为设计高效的缓存一致性系统提供了框架。
7 H5 U4 |5 H8 F' }; d9 u* E1 E6 o  R
- j7 s  M0 v4 Y: ^7 t8 e6 [9 m安全互连
" F: H- |# v1 p( y4 N5 t1 F) {随着安全性在现代计算系统中变得越来越关键，互连设计正在不断发展以应对各种威胁：
* s* N4 e# D$ D1 R5 |7 z
9 a) k" Y+ y$ S6 c" `  J1. 拒绝服务（DoS）防护：如SECTAR等技术提出动态屏蔽方法，在片上网络（NoC）环境中隔离硬件特洛伊木马并重新路由受影响的数据包。
1 I; Q- y$ ]' J5 i  Y4 t
- A5 e( u) ?1 w2 @7 E/ `

mx5c3xuu04h64041747540.png

图5：SECTAR中攻击及其对策的示意图，展示了安全NoC路由的概念。
( K4 ^3 I9 @' D4 e, ?
2. 侧信道攻击缓解：实施侧信道感知加密、安全通信协议和物理安全措施有助于防止通过互连泄露信息。
$ B: c# I% m! f% _! B1 w$ y' L

" I; j! z& ]4 y( A( b  n$ q' ~2 o专用架构中的互连
) s' o2 k" K2 B' s9 ]" C" N为人工智能、机器学习和其他专门应用量身定制的专用架构（DSA）需要创新的互连解决方案：
( R3 ^6 D& F2 g) d* N
1. 基于阵列的互连：在深度神经网络（DNN）加速器中很常见，这些互连实现了高效的数据重用。谷歌的张量处理单元（TPU）使用脉动阵列进行矩阵乘法运算。
2 D% \0 H0 }: r# d
7 N1 \: E6 u5 I2. 基于网格的NoC：Cerebras的晶圆级引擎和Eyeriss-v2采用网格网络来支持DNN中复杂的通信模式。
. j0 V5 `  V7 }4 M% s& A7 Q: r3 V/ V
" [' O# ^  _4 Z  x5 ^& \3 W# |3. 可重构互连：如MAERI等设计提供了灵活性，以支持DNN工作负载中的多种数据流。

; n- \1 @$ p5 m; N/ a  N4. 高带宽内存（HBM）集成：先进的封装技术实现了HBM与处理器的集成，显著提高了内存带宽和能效。
9 t& T( ]+ _6 z
存内计算（IMC）互连
6 b) S2 x1 X$ I7 M. DIMC技术将处理能力集成到内存中，以减少数据移动瓶颈：

交叉开关阵列：用于模拟IMC核心，这些阵列擅长矩阵向量乘法，适用于DNN加速器。

网格网络：用于互连多个IMC核心，如Mythic的AMP tile所示。

无线封装内网络：最近的研究探索了用于互连IMC核心的无线通信，如WHYPE架构所示。
% a7 m2 Z' O( h6 G5 v[/ol]
; c8 W* |6 w5 R: X  }( E! l. q/ z
$ ~# f3 {- A! b: A, e

d3i4uxybwtr64041747640.png

图6：WHYPE的顶视图和横截面视图，展示了用于互连IMC核心的无线封装内网络设计。
7 ?! ]( S( u  ~5 v4 w3 y! \+ |5 r
9 G4 r8 Y- F3 K: l: I量子计算架构中的互连
- s1 k( r' J# ?  [% ?随着量子计算的发展，互连在这些系统的扩展中扮演着关键角色：
, [& N1 Y" K+ l4 Z/ n
1. 低温射频互连：对于控制和读取量子比特状态至关重要，随着量子比特数量的增加，这些互连面临着布线复杂性和带宽限制的挑战。

2. 微波和光子链路：用于模块化多核量子架构中的量子核心互连。
0 T9 |5 \: D7 k& t
* n. K% ?; ?0 F4 ]& N& E! h; g3. 无线低温互连：最近的研究提出将片上低温天线与射频收发器集成，在量子计算封装内创建灵活、可重构的网络。
9 O0 [+ ?4 C0 [/ F4 }4 {5 A5 q
5 @) @$ Y! @; Z; g

dillgsv35ij64041747740.png

图7：无线低温互连在量子计算系统中的愿景，说明了量子处理器封装内无线通信的概念。

% e! [( r* Y6 |9 m/ R2 F- J挑战与机遇
; J. l/ T5 K/ R随着互连技术的不断进步，出现了几个挑战和机遇：
% ^; Z, D* h' B
! c  I; X1 Q& J5 _9 R( }9 g挑战：
3 p3 K* l$ T8 h3 }" \9 _9 s1. 刚性的封装内网络（NiP）设计难以满足多样化的chiplet互连需求
$ i+ f1 _! N! J) B0 L2. 异构计算系统中的时序和同步问题
- b2 C, f* R" V9 L! U7 L1 w3. 各种互连技术中的安全漏洞
( t2 c  g, N3 L7 L! e/ x4. 基于网格的互连中的高通信延迟
# @* F5 M) |- t5 `5 I5 X9 @' C, D5. 边缘设备的能源和功率限制
& T% D/ A0 f) |3 S/ X6. 基于IMC的加速器的带宽限制
7. 扩展量子系统的同时保持量子比特相干性并最小化串扰
, k. _2 k: m: @5 f
7 v2 ^% n. w. b机遇：
1. 开发针对特定应用需求的专用互连
2. 探索无线封装内网络，实现灵活、高带宽通信
3. 先进的网络接口，集成协议适应性和服务质量功能
9 }# Y0 W; F$ @" u9 ]# u/ X. E4. 用于安全互连的轻量级加密和身份验证协议
$ b0 k9 {; G  ]. l- f4 s% K3 W3 Z5. 可重构互连，支持多样化数据流和改善资源利用率
6. 近似计算技术，提高性能和能效
7. 利用光电子技术和无线技术的创新量子互连
* R& [+ {" F# C4 q8. 量子硬件-软件协同设计方法，优化系统性能

结论
芯片和封装级互连领域正在快速发展，以满足现代计算系统的需求。从通用处理器到专用加速器和量子计算机，互连技术正在推动性能、效率和可扩展性的边界。随着研究人员和工程师在这一领域不断创新，可以期待看到更多突破性的发展，塑造计算机架构的未来。

# {8 r% q( B; f参考文献
7 E: g% I$ z& F4 M# V[1] Das, M. Palesi, J. Kim and P. P. Pande, "Chip and Package-Scale Interconnects for General-Purpose, Domain-Specific, and Quantum Computing Systems—Overview, Challenges, and Opportunities," in IEEE Journal on Emerging and Selected Topics in Circuits and Systems, vol. 14, no. 3, pp. 354-370, September 2024.
" s2 X6 q/ s+ D- \6 \
- END -
1 A4 X1 {. j4 @: j8 _$ @% y
软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
2 n/ |& Z# P# I6 p# b/ m点击左下角"阅读原文"马上申请

欢迎转载

转载请注明出处，请勿修改内容和删除作者信息！
4 D0 I1 s0 \8 G, \# u- \7 ?

vzgbnv4qx0r64041747840.gif

, T1 e+ @) @/ m& R关注我们

4 W1 h. ]3 `+ b9 v/ e8 z

$ u  v8 g; U- V. C9 b$ h, o- | q5hs010nrs564041747940.png 4 d5 q3 g- u1 g% l! I- J* j# b

u2atc50xk0464041748040.png

oulqcsunwvp64041748140.png ' h; n' p$ \4 g4 u1 |% r

                     
) @' X) m- x! t( s, I
+ I, D7 ]7 q+ D9 q' U/ Q

1 r" a% ^4 s+ y" y关于我们：
* D0 \, H) y0 l: E: }( U5 h深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。

: R! c  @( W4 y8 Y3 q0 Jhttp://www.latitudeda.com/
. e0 G4 U1 d# {0 q% R（点击上方名片关注我们，发现更多精彩内容）