理解Compute Express Link(CXL)内存互连技术

逍遥设计自动化

引言
在快速发展的计算领域中，高效的内存管理和互连技术对系统性能起着关键作用。计算快速链接（Compute Express Link，CXL）已成为连接内存与各种处理元件以及在数据中心内共享内存资源的主要协议。本文探讨CXL的功能、演变及其对现代计算架构的影响[1]。
- Y% U8 S8 S& u$ n
5 G* g+ A4 L( N什么是CXL？
计算快速链接（CXL）是建立在PCI Express（PCIe）基础上的开放行业标准互连技术。它于2019年3月首次提出，此后获得了主要芯片制造商的广泛支持。CXL的主要功能是通过串行通信连接CPU、GPU、FPGA和其他专用加速器，同时允许跨器件池化内存以提高利用率和资源效率。

9 k$ n( q  B- `+ B: e9 H  JCXL由三个子协议组成：

CXL.io

CXL.cache

CXL.memory
[/ol]
5 R- |1 G6 t! U其中，CXL.memory因其在数据中心内存扩展和先进AI拓扑中的潜力而引起了最多关注。

8 \( j; Y" A" ?, n. X% F" Z

w2p1sg53goz64076743312.png

图1展示了CXL版本3.0和3.1的扩展功能，突出了该协议的演进和能力。

CXL与其他互连技术的比较
9 e8 ]4 @; \/ ?* `; O$ t, }0 a虽然CXL经常被与NVIDIA的NVLink（用于连接GPU的高带宽技术）相比较，但它已经沿着不同的路径发展。CXL的主要焦点已从加速器到主机通信转向内存连接。

, t! q: \; [9 X7 m& ^; DRambus高级产品营销经理Zaman Mollah解释道："CXL将与其他类似的互连技术共存，有自己的应用和使用场景。CXL可能无法提供GPU中心的AI应用所需的带宽，但在加速器和基于CPU的AI用例中有用处。"

CXL的独特优势包括：
  J% ^9 a2 ]' L1 l/ [

增加容量和带宽的内存扩展

内存重用

智能内存分层应用

可组合的数据中心架构

以可接受的延迟灵活且经济地增加内存容量和带宽
- W$ W. G$ X8 [
+ o: X9 d3 j( k2 nCXL的演变：从1.0到3.1
自诞生以来，CXL经历了几次修订，每个版本都引入了新功能和能力：
% @3 F& A3 Y. E9 r# T; B. U* m

CXL 1.0（2019）：初始发布

CXL 2.0（2020）：增强内存池化和共享

CXL 3.0（2022）：引入fabric能力

CXL 3.1（2023）：改进fabric管理能力和安全功能
/ ~) Z+ h' x! F8 a+ I2 `3 Z
8 u, ?3 J3 Z4 ?' n8 `$ MCXL 3.1：最新进展
# U! r3 S& i6 r' P3 [& e( y& V2023年11月发布的CXL 3.1规范为该协议带来了显著改进。主要增强包括：
. G" z; r  X  d" t6 t4 q$ N1 B

改进了分解系统的fabric管理能力

优化了资源利用

扩展了内存共享和池化能力

促进了加速器之间的内存共享


! t- O8 `8 z& s% e3 l% |

t4elzqgmvlc64076743412.png

图2说明了CXL 3.1中可信安全协议（TSP）如何增强安全性。
% M' D# ~: u5 [+ L( I, O" @  |
Rambus硅IP产品营销高级总监Lou Ternullo强调了CXL 3.1中的一些新功能：

CXL.IO点对点（P2P）

无序I/O（UIO）

CXL.mem P2P

可信执行环境（TEE）操作码

跨PCIe传输层的完整性和数据加密（IDE）支持
[/ol]
5 s- ~& a4 G2 u% l' D, W这些功能共同作用，减少延迟，提高安全性，并增强CXL fabric中端点和主机之间的通信。

4 Y5 ?! u- Z6 O' ]; H1 o2 Q8 X

ruof03je2pj64076743513.png

图3描述了CXL 3.1中引入的新全局集成内存（GIM）概念。
' b! p" _$ A( t* h* Y& {
Fabric能力和扩展
CXL 3.1中最显著的改进之一是交换Fabric能力的增强。Ternullo解释道："现在可以处理基于端口的路由，这允许进行规模扩展部署。交换fabric不受传统树状层次结构的限制。允许主机和器件进行跨域访问，一个器件能够访问多达4,096个主机或其他器件。"
" w4 ~* A, _, k1 e  a, ]
0 Q0 g0 K5 s! h- G1 u9 }这一进步使设计者能够实现具有任意到任意通信的大型系统或拓扑，为数据中心架构创造了新的可能性。

安全性和元数据增强
1 Q" u% l5 D+ d) v9 M; X% H4 LCXL 3.1还引入了重要的安全功能，包括：
/ }! p7 t2 ]' H

增强保护的可信安全协议

扩展的元数据能力（最多34位）

这些改进对于通过fabric连接众多虚拟机的规模扩展部署非常重要，允许更好的监控和诊断。

内存池化和扩展
CXL最令人兴奋的应用之一是其促进内存池化和扩展的能力。这一能力解决了数据密集型应用（如AI和机器学习工作负载）对更多内存的日益增长的需求。
4 y  m5 k" ?2 @
Cadence高级产品营销总监Arif Khan指出，尽管在成本和软件复杂性方面存在一些批评，但实施者对使用CXL构建内存扩展器和池化器件仍有很大兴趣。

qf22ywzfth364076743613.png

1 i  M6 w/ V+ f- F$ A& w图4概述了CXL的使用案例和验证解决方案，展示了该协议的多功能性。
7 C7 _% s$ ~  [" R) |5 N6 J
内存池化的经济性特别具有吸引力，正如Rambus的Mollah解释的那样："随着每字节成本降低，内存池化等高级应用将变得更具吸引力，并允许分解的数据中心基础设施，降低总拥有成本（TCO）。"
0 t2 D7 b0 L* _  @7 u6 M
! W5 U: S- R, Z9 h0 v8 j( oCXL在其他技术环境中的地位
3 l/ ~1 a$ c& ]! Q3 u虽然CXL已经获得了显著的关注，但了解其在其他互连技术中的位置很重要。Synopsys高级技术产品经理Richard Solomon强调，CXL应被视为选择范围的一部分，类似于内存如何有广泛的产品来满足特定需求。

Siemens Digital Industries Software VIP产品线高级总监Christopher Browy提供了CXL与其他技术比较的见解："基于PCIe SerDes的CXL具有更低的错误率、更低的延迟和相应的较低带宽。NVLink和UALink使用以太网风格的SerDes，导致高错误率、高延迟和高带宽，因此对于最高性能带宽受限的情况，如GPU到GPU，这些技术具有优势。"
4 l% s& r) L: C$ {
未来展望
CXL的未来看起来很有希望，Yole Research预测到2028年市场将达到160亿美元。随着技术的成熟，可以期待看到：
( F$ a0 L) e9 i& u

继续用于内存扩展

进一步实现异构计算

增强数据中心分解

最小化服务器过度配置

按需访问内存、存储和加速资源
2 v3 y7 f( h. Y: X- P: x
CXL联盟营销工作组联合主席兼英特尔高级营销经理Anil Godbole强调，CXL正在成为主流："随着我们推出CXL，每个CPU都将具有CXL功能，因此现在正成为主流。"
; e4 E1 p3 \2 l7 U
- C3 y0 o- ]% l0 }结论
) l; B3 T* D. o) l  v/ oCXL迅速发展成为现代计算架构中的重要技术。其高效连接和池化内存资源的能力，加上fabric能力和安全功能的持续改进，使CXL成为未来数据中心和高性能计算设计中的关键参与者。随着技术继续成熟并获得广泛采用，可以期待看到利用CXL独特能力的创新解决方案，以满足数据密集型应用和异构计算环境日益增长的需求。

0 ^5 O4 o7 v. R参考文献
8 C+ [6 {4 @2 h$ i9 w6 L[1] K. Heyman, "CXL Thriving As Memory Link," Semiconductor Engineering, Sep. 16, 2024. [Online].
9 u1 f$ k: u; U' p0 H, g$ d8 g+ MEND
6 x+ U7 y$ C2 J' @2 C
$ }# A% w& o0 B( v( S5 y$ y2 m1 N- B
6 @( d  n$ b1 y8 k4 X8 T' n9 |+ b软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
点击左下角"阅读原文"马上申请

欢迎转载
- s& d$ H# @3 `- E
: E0 V- U0 i" @4 W. O& R: E转载请注明出处，请勿修改内容和删除作者信息！


" g, j9 S5 u, N2 v' y1 p- Y
1 T2 r' z3 {4 k0 N5 o# S

5n2oxhiqkds64076743713.gif

关注我们

# ?) H& S/ [2 A: T5 a7 F8 p4 ^

! r; X6 t( J1 Y8 {; a! R8 C+ g rvd1e5k2qu464076743813.png

9 M/ t+ \- F2 A- }1 v yq04wwlhj0e64076743913.png

# N. V$ @+ ]/ w3 Z$ _ svsnew3foyh64076744013.png * L) w/ M6 ~! d* q( ~1 ^* Z4 I

                     

% c! r) V6 h4 x1 i

关于我们：
: g/ W  e, A& k5 W深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。
  G" N- m& E  a  S1 m: H
+ \3 F3 p- c# Xhttp://www.latitudeda.com/
: u% q3 j* ?. ?" j# @4 g" l& g8 o（点击上方名片关注我们，发现更多精彩内容）