1. 课程导入与光电混合AI加速器全景

欢迎进入《光电混合AI加速器系统架构》课程。本章不急于推导公式，而是先建立一张“全景地图”：我们要解决什么问题、系统边界画在哪里、光与电各自承担什么角色、一个真实部署场景中数据如何从传感器走到推理结果。只有先把这张地图建立起来，后续关于光计算单元、光电协同调度、封装与热管理等章节才能各归其位。

一、为什么需要光电混合

以大模型推理为例，一个千亿参数模型在FP16精度下权重约200GB，即使只做单次前向传播，也需要把这200GB权重从存储搬运到计算单元。传统电互连在芯片间、板间、机架间的带宽密度和能耗随距离迅速恶化：铜缆在1米以上距离传输100Gbps信号时，均衡与重定时电路功耗可占链路总功耗的30%以上。而光互连利用波分复用，单根光纤可承载数十个波长通道，在百米到公里级距离上保持低损耗、低串扰，能耗主要花在电光/光电转换而非传输本身。

因此，光电混合AI加速器的核心命题是：把“计算密集”交给电学数字/模拟电路，把“数据搬运密集”交给光域，并在两者之间设计高效的转换、调度与缓存机制。这不是简单替换，而是重新划分系统职责。

二、系统边界与分层架构

本课程讨论的系统边界，从AI模型输入张量进入加速器开始，到推理结果输出为止，涵盖计算阵列、光互连网络、光电转换接口、存储层次、控制调度与封装散热，但不展开讨论模型训练算法本身与数据中心供电基础设施。

整体架构可划分为五层，自下而上依次为：

• 物理层：微环调制器、锗硅光电探测器、波导、光纤耦合器，负责电信号与光信号的相互转换。
• 链路层：波分复用/解复用、光开关、链路均衡与误码控制，决定点对点传输带宽与可靠性。
• 互连层：光交换拓扑、路由策略、广播与组播能力，决定多计算节点间的数据分发模式。
• 计算层：电学MAC阵列、光域矩阵乘法单元、数模转换与累加电路，执行核心张量运算。
• 系统层：任务调度、权重放置、光电协同流水、热与功耗管理，决定端到端吞吐与能效。

这五层并非严格上下级关系，而是存在跨层反馈：例如热漂移会改变微环谐振波长，需要系统层调度补偿；光链路误码率上升会触发链路层重传，进而影响计算层流水线填充。理解这些跨层耦合，是本课程的关键难点。

三、典型应用场景与关键指标

光电混合加速器并非万能，它最适合以下三类场景：

场景一：大规模分布式推理。当模型需要跨多张加速卡切分时，卡间All-Reduce或All-to-All通信量巨大。以8卡推理为例，若每卡每层需交换约2MB激活值，单层通信量16MB，百层模型即1.6GB。光互连可将这部分通信能耗从电域的约5pJ/bit降至约1pJ/bit以下。

场景二：光域矩阵乘法。利用马赫-曾德尔干涉仪阵列或微环阵列，可在光域直接完成矩阵-向量乘法，理论能效可达电学乘加的10倍以上。但受限于光器件精度与热稳定性，目前更适合低精度、高吞吐的推理任务。

场景三：长距离传感器融合。在自动驾驶或工业检测中，多个摄像头、激光雷达分布在不同位置，光互连可将原始数据以低延迟汇聚到中央加速器，避免电域长距离传输的均衡开销。

衡量这类系统的关键指标包括：每瓦推理次数（TOPS/W）、光链路带宽密度（Gbps/mm²）、光电转换效率（dB）、热漂移容限（℃）以及端到端延迟（ms）。这些指标之间存在权衡，例如提高光功率可改善信噪比但增加热负载，进而加剧微环漂移。

四、学习路径与先修知识

本课程后续将按“器件→链路→互连→计算→系统”的顺序展开。建议读者具备以下基础：数字电路与Verilog基本概念、线性代数中的矩阵乘法、以及基础的光学常识（如折射、干涉、波分复用）。若缺乏光学背景，可先关注每章开头的“物理直觉”段落，再深入公式。

五、一个可运行的思维示例

假设一个简化推理任务：输入向量长度1024，权重矩阵1024×1024，FP16精度。电学加速器做一次矩阵-向量乘法需约100万次乘加，若算力为10TOPS，理论耗时约0.1ms。若将权重矩阵通过光域广播，利用64个波长通道并行传输，光链路带宽可达3.2Tbps，权重加载时间从电域的约2ms降至约0.06ms。但光域计算精度受限于调制器消光比与探测器噪声，实际有效精度可能降至8bit左右。这个例子说明：光电混合的收益来自“搬运”而非“计算”，设计时必须先判断瓶颈在计算还是搬运。