3. 计算芯片I/O需求建模
光I/O不是先有器件再找用途,而是先有计算芯片的互连需求,再反推光引擎应满足的带宽、粒度、并发与功耗指标。本节从AI加速器、CPU、GPU、存算一体四类典型负载出发,建立一套可操作的I/O需求建模方法,最终形成一份可交付的光I/O需求规格。
一、四类负载的I/O行为差异
不同计算芯片的I/O行为差异极大,建模的第一步是识别其主导流量模式。
- AI加速器(训练/推理):以矩阵乘加为核心,权重与激活张量在片外HBM与计算阵列间高频搬运。训练时存在AllReduce、AllGather等集合通信,流量呈突发、大块、周期性特征;推理时以权重加载为主,访问粒度大但并发度相对低。
- CPU:以缓存行(64B)为基本访问粒度,访存延迟敏感、并发请求多但单次数据量小,跨Socket/跨节点一致性流量(如目录协议消息)占比可观。
- GPU:SIMT架构下大量线程并发访问,单次事务通常为32B/64B/128B,显存带宽需求极高;多GPU训练时NVLink/PCIe承载梯度同步,呈现高并发、中等粒度、强同步特征。
- 存算一体(CIM/PIM):计算发生在存储阵列内部或近旁,片内带宽极高,但跨芯片/跨层互连成为瓶颈,访问粒度与阵列组织强相关,常为行/块级批量访问。
这四类负载的差异,决定了光I/O不能只追求峰值带宽,而必须同时匹配访问粒度、并发模式与功耗预算。
二、带宽密度:从芯片边缘算起
带宽密度是光I/O最核心的规格参数,定义为单位芯片边缘长度可提供的双向带宽,单位为Gb/s/mm。建模时需区分三个层次:
芯片边缘带宽密度 = 单通道速率 × 通道数 / 边缘占用长度
封装级带宽密度 = 光引擎总带宽 / 光引擎封装占位面积
系统级带宽密度 = 可插拔光模块总带宽 / 面板或机箱占用空间
以某AI加速器为例(示例假设):单通道50Gb/s,每毫米边缘可布置8个通道,则芯片边缘带宽密度约400Gb/s/mm。若采用可插拔光模块,受面板密度限制,系统级带宽密度可能仅20~40Gb/s/mm,相差一个数量级。这正是CPO(共封装光学)的价值所在——把光引擎移到封装内,缩短电链路并提升密度。
三、访问粒度与并发模式
访问粒度决定光链路的帧结构、缓存深度与协议开销。CPU的64B缓存行要求低延迟小包传输;AI加速器的张量块可达KB~MB级,适合大包突发;存算一体的行级访问则介于两者之间。
并发模式需刻画三个维度:并发请求数(in-flight transactions)、方向对称性(读/写比例)、时间相关性(是否同步突发)。例如AllReduce是典型的“多对多、同步、双向均衡”模式,而推理权重加载是“一对多、异步、读主导”模式。光I/O的仲裁与调度策略必须与这些模式匹配,否则会出现链路利用率低或尾延迟高的问题。
四、功耗预算:pJ/bit是硬约束
光I/O的功耗通常用每比特能耗(pJ/bit)衡量。建模时需把总功耗拆解为:
总功耗 = 电SerDes + 光调制驱动 + 激光器 + TIA/接收 + 时钟与均衡
目标:端到端 < 5 pJ/bit(短距CPO场景)
端到端 < 10 pJ/bit(可插拔场景)
以400Gb/s双向链路为例,若目标5pJ/bit,则总功耗预算约2W。其中激光器与调制驱动往往占一半以上,因此外置激光源(ELS)与低驱动电压调制器成为关键。功耗预算必须与散热能力联合评估:封装内可承受的额外热耗通常不超过10~20W,这直接限制了单封装可集成的光通道数。
五、从需求到规格:建模流程与交付物
把上述分析整合为一份可执行的光I/O需求规格,建议按以下流程推进:
- 采集负载特征:从profiling或仿真中提取带宽、粒度、并发、读写比、突发长度。
- 换算芯片边缘需求:按峰值带宽×利用率系数(通常0.6~0.8)得到有效带宽。
- 确定带宽密度目标:结合封装尺寸与可布置边缘长度,反推Gb/s/mm。
- 约束功耗:按pJ/bit目标计算总功耗,与散热预算比对。
- 输出规格表:通道数、单通道速率、粒度、协议、功耗、温度范围、可靠性指标。
下面这张图把四类负载的I/O特征与光I/O规格参数之间的映射关系集中呈现,便于在建模时快速对照。
六、规格表示例
下表给出一份面向AI加速器训练场景的光I/O需求规格示例(参数为合理假设,用于说明字段与量级,非实测结果):
| 规格项 | 目标值 | 依据 |
|---|---|---|
| 双向总带宽 | 3.2 Tb/s | 8卡AllReduce峰值×利用率0.7 |
| 单通道速率 | 50 Gb/s | PAM4,成熟SerDes |
| 通道数 | 64(32收+32发) | 3.2Tb/s ÷ 50Gb/s |
| 带宽密度 | ≥400 Gb/s/mm | 封装边缘可用长度约8mm |
| 访问粒度 | 256B~4KB | 张量块搬运 |
| 并发请求数 | ≥64 in-flight | 覆盖集合通信突发 |
| 端到端能耗 | ≤5 pJ/bit | CPO短距目标 |
| 总功耗 | ≤16 W | 3.2Tb/s × 5pJ/bit |
| 工作温度 | 0~70℃(壳温) | 数据中心风冷 |
完成规格表后,还需做一次反向校验:把规格代回负载模型,检查在典型并发模式下链路利用率是否达到预期、尾延迟是否可接受、功耗是否落在散热包线内。只有通过反向校验的规格,才具备进入光引擎选型与协同设计阶段的资格。