一、AI 算力之后,真正的瓶颈开始转向网络
自 2022 年底 ChatGPT 爆发以来,AI 基础设施经历了多轮投资热潮:GPU 解决算力问题,HBM 和存储系统解决数据吞吐与记忆问题,而下一阶段越来越明显的瓶颈,正在转向网络传输。
原因并不复杂。大模型训练和推理不再是单卡、单机任务,而是依赖成千上万张 GPU 组成的超大规模集群。模型参数越来越大,MoE 架构带来更复杂的数据交换,Agentic AI 又进一步提升了任务并发与跨节点通信频率。在这种背景下,如果网络带宽跟不上,算力再强也会被通信延迟拖慢。
原文用一个很直观的类比解释了这一点:如果算力解决 AI 的“智商”,存力解决 AI 的“记忆力”,那么运力解决的就是让记忆和计算结果高速流动的问题。也正因为如此,CPO 开始被视为 AI 数据中心下一代高速互联的重要方向。
二、CPO 到底是什么?
CPO 的全称是 Co-Packaged Optics,共封装光学。它的核心思路,是把负责光电转换的光引擎,与交换机 ASIC 等核心芯片集成在同一封装基板或中介层上。
传统光模块是可插拔的,更像交换机面板上的独立接口模块。它负责把光信号转换成电信号,或者把电信号转换成光信号,再通过光纤完成传输。CPO 则不同,它把光电转换能力直接靠近甚至集成到芯片附近,从而减少电信号在 PCB 走线或铜缆中的传输距离。
这带来两个明显变化。
第一,结构不同。传统光模块是独立模块,CPO 则是光引擎与芯片深度集成。
第二,应用场景不同。传统光模块主要用于机柜间互联,也就是 Scale-out;而 CPO 既可以面向机柜间,也可以进一步进入机柜内互联,也就是 Scale-up。前者主要替代可插拔光模块,后者则可能替代部分铜连接。
三、为什么传统方案越来越吃力?
AI 数据中心对网络的需求正在快速逼近传统方案的物理上限。
在机柜间互联场景中,传统可插拔光模块受到交换机面板空间限制。原文提到,目前可插拔模块最高可支持 1.6Tbps 单模块带宽,单台交换机面板最多可支持 51.2Tbps 带宽;未来可能推出 3.2Tbps 模块,使交换机最高支持 102.4Tbps,但这已经非常接近可插拔光模块路线的极限。
在机柜内互联场景中,铜缆同样面临挑战。随着传输速率提升,电信号在铜介质中会出现衰减、串扰和失真。原文提到,目前铜缆最高可支持 1.8TB/s 带宽,例如英伟达 NVLink 铜缆,但传输距离被严格限制在 2 米以内;与此同时,单 GPU 对带宽的需求正在向 3.6TB/s 迈进。
功耗也是不可忽视的问题。高速传输链路越复杂,DSP、CDR、驱动与信号补偿带来的能耗越高。原文提到,根据英伟达信息,应用 CPO 后功率效率可以提升 3.5 倍。这也是 CPO 获得重视的重要原因。
四、用一段代码理解带宽与功耗差异
下面这段 Python 示例并不是原文代码,而是基于原文中的关键数据做一个简单测算,帮助理解传统可插拔方案与 CPO 方案的差异:
def switch_bandwidth(module_bandwidth_tbps, port_count):
return module_bandwidth_tbps * port_count
def cpo_power_after_efficiency(current_power_w, efficiency_gain=3.5):
return current_power_w / efficiency_gain
# 传统可插拔光模块:1.6Tbps × 32端口 = 51.2Tbps
current_switch_bw = switch_bandwidth(1.6, 32)
# 未来可能的3.2Tbps模块:3.2Tbps × 32端口 = 102.4Tbps
future_switch_bw = switch_bandwidth(3.2, 32)
# 假设当前链路功耗为350W,CPO功率效率提升3.5倍后的等效功耗
estimated_cpo_power = cpo_power_after_efficiency(350)
print(f"当前交换机面板带宽:{current_switch_bw} Tbps")
print(f"未来交换机面板带宽:{future_switch_bw} Tbps")
print(f"CPO等效功耗估算:{estimated_cpo_power:.1f} W")
这段代码只用于帮助理解数量级:当端口密度和单模块带宽继续提高时,传统方案会越来越接近面板空间、功耗和信号完整性的综合边界。CPO 的价值,正是试图从封装层面缩短信号路径,提高带宽密度,并降低单位传输功耗。
五、CPO、NPO、OIO、CPC、LPO 有什么区别?
原文对几条技术路线做了清晰区分。
CPO 是共封装光学,把光引擎和交换芯片封装在同一基板上,是当前讨论的核心方案。
NPO 是近封装光学,距离 CPO 还有一步,并没有真正做到同一基板或中介层级别,而是把相关模块放在同一 PCB 母板上。原文提到,中国国内包括阿里、华为等都在推动 NPO,它可以被看作在先进封装产能不足背景下的折中方案。
OIO 可以看作 CPO 的进一步形态,主要面向计算芯片,把光引擎与 GPU、CPU 等计算芯片更深度结合,重点解决机柜内甚至芯片间互联问题。
CPC 是共封装铜互联,把高速铜连接器集成在封装基板上。它有成本优势,但仍然绕不开铜介质在带宽和衰减方面的限制。
LPO 是线性驱动可插拔光学,通过去掉 DSP/CDR 等高功耗芯片,强化 Driver 和 TIA,实现更低功耗和更简单的结构。但它仍保留 PCB 走线,在 1.6T 以上速率下,信号完整性问题会更加突出。
这些路线并不是简单的谁取代谁,而是会在不同阶段、不同成本约束和不同数据中心架构中并存。但从长期趋势看,CPO 更像是必须突破的下一代方案。
六、OCS 会不会取代 CPO?
OCS,即 Optical Circuit Switch,光电路交换机。它的特点是尽量避免光电转换,通过光开关矩阵直接在光域内建立物理光路。看起来,OCS 似乎可以绕过传统交换机中的电光转换环节,从而削弱 CPO 的必要性。
但原文认为,两者更可能是竞争与互补并存。
原因在于,OCS 更适合替代 Spine 交换机,因为 Spine 交换机负责机柜间核心调度,价格高、功耗高,替代需求更迫切。但 OCS 本身更像“反光镜”,擅长转发光信号,并不具备传统交换机那样完整的数据包解析和路由判断能力。如果要让 OCS 替代 Leaf 交换机,就需要引入 SmartNIC 等额外部件,架构会变得复杂。
原文提到,英伟达 Quantum X800-Q3450、博通 Tomahawk 6-Davisson 等 CPO 路线交换机,以及 Google 推动的 OCS 方案,当前都主要面向 Spine 交换机,因此存在一定竞争关系。但从更长期看,Leaf 交换机、服务器内部互联、计算芯片与网卡 ASIC 之间的连接,仍然会需要 CPO 这类技术路线。
七、CPO 的产业链价值会怎样变化?
CPO 最大的产业影响,不只是技术路线改变,而是价值链重构。
在传统可插拔光模块时代,专业光模块厂商可以提供完整模块,中际旭创、新易盛、Coherent 等企业在产业链中具有重要地位。但 CPO 把光引擎与交换芯片、先进封装深度绑定后,主导权可能更多转向英伟达、Google、博通、Marvell 等平台厂商和交换芯片厂商。
同时,台积电、日月光、Amkor 等晶圆制造与先进封装厂商的重要性会上升。因为 CPO 不只是光学器件问题,还涉及 CoWoS、混合键合、异质集成、ABF 基板、测试设备和封装良率。原文提到,CPO 需要将电子集成电路与光子集成电路集成在一起,工艺难度远高于传统光模块。
上游光器件厂商同样会受益。例如 CPO 仍需要外置激光器,且对激光器功率要求明显提高。原文提到,CPO 对激光器的功率要求至少增加 3-4 倍。其中,EML 激光器适合 200G 以上高带宽和长距离通信,而 CW 激光器在成本和功耗上更匹配未来 CPO 路线。中国厂商如源杰科技、仕佳光子、长光华芯等,已经实现 70mW/100mW 产品量产并获得大额订单。
此外,FAU、PMF、Fiber Shuffle、MPO 等传统光模块较少使用的组件,也会因为 CPO 放量而变得重要。尤其当 CPO 达到 400G 以上时,可能需要 8 根甚至 16 根光纤并行传输,这会提高高精度光纤耦合和连接组件的价值。
八、对开发者和 AI 应用团队有什么启发?
CPO 看似是半导体和数据中心硬件话题,但它和开发者并不遥远。大模型应用的响应速度、训练成本、推理成本和集群稳定性,最终都依赖底层算力、存力和网络能力。
对于 AI 应用团队来说,底层网络能力提升后,上层应用才可能获得更低延迟、更高吞吐和更稳定的模型服务体验。在实际开发中,如果团队需要同时测试多个大模型接口,也可以把 TreeRouter 这类大模型 API 聚合平台作为补充接入层,用于降低多模型 API 对接的重复工作;但真正的应用性能,仍然离不开底层数据中心网络、模型服务架构和业务调用链路的共同优化。
九、总结:CPO 是 AI 基建进入深水区的信号
CPO 的火热,本质上说明 AI 基建竞争已经进入更底层、更系统化的阶段。过去大家关注 GPU 数量、模型参数和推理成本,现在网络互联开始成为限制大规模 AI 集群效率的关键变量。
从短期看,CPO 仍面临先进封装产能、良率、散热、维护和标准化挑战,不会立刻完全取代可插拔光模块和铜连接。从中期看,NPO、LPO、CPC、OCS 等路线会与 CPO 并存,各自在不同场景中寻找平衡点。从长期看,随着 AI 集群规模继续扩大、带宽需求持续提升,CPO 很可能成为数据中心网络升级的重要方向。
换句话说,AI 时代的竞争不只是模型竞争,也不只是 GPU 竞争,而是从芯片、封装、光通信、网络架构到应用调用链路的全栈竞争。CPO 的出现,正是这个趋势下最值得关注的关键节点之一。





