Skip to content

PCIe

PCIe(Peripheral Component Interconnect Express)

PCIe = 高速串行总线,是计算机主板上连接 CPU 与各种硬件设备(GPU、SSD、网卡等)的标准接口协议。

形象理解

可以把它理解成CPU 与外设之间的一条高速公路

┌─────────┐        PCIe 总线        ┌─────────┐
│   CPU   │ ◄────────────────────► │   GPU   │
└─────────┘                        └─────────┘
                                   ┌─────────┐
                ◄────────────────► │ NVMe SSD│
                                   └─────────┘
                                   ┌─────────┐
                ◄────────────────► │  网卡   │
                                   └─────────┘

Lane(通道)

PCIe 的带宽由**通道数(x1/x4/x8/x16)**决定,通道越多带宽越大:

规格PCIe 3.0PCIe 4.0PCIe 5.0
x11 GB/s2 GB/s4 GB/s
x1616 GB/s32 GB/s64 GB/s

GPU 通常使用 x16 通道。

PCIeNVLink(你机器上的)
用途CPU ↔ GPU 通信GPU ↔ GPU 直接通信
带宽~32-64 GB/s~300 GB/s(NV12)
设计初衷通用外设接口专为 GPU 间高速互联

所以:你机器上 GPU 之间用的是 NVLink(快),而 CPU 与 GPU 之间传数据(如加载模型权重到显存)走的才是 PCIe(相对慢)。这也是为什么大模型推理时,CPU→GPU 的数据搬运是潜在瓶颈之一。