PCIe
PCIe(Peripheral Component Interconnect Express)
PCIe = 高速串行总线,是计算机主板上连接 CPU 与各种硬件设备(GPU、SSD、网卡等)的标准接口协议。
形象理解
可以把它理解成CPU 与外设之间的一条高速公路:
┌─────────┐ PCIe 总线 ┌─────────┐
│ CPU │ ◄────────────────────► │ GPU │
└─────────┘ └─────────┘
┌─────────┐
◄────────────────► │ NVMe SSD│
└─────────┘
┌─────────┐
◄────────────────► │ 网卡 │
└─────────┘Lane(通道)
PCIe 的带宽由**通道数(x1/x4/x8/x16)**决定,通道越多带宽越大:
| 规格 | PCIe 3.0 | PCIe 4.0 | PCIe 5.0 |
|---|---|---|---|
| x1 | 1 GB/s | 2 GB/s | 4 GB/s |
| x16 | 16 GB/s | 32 GB/s | 64 GB/s |
GPU 通常使用 x16 通道。
PCIe vs NVLink(对应你的机器)
| PCIe | NVLink(你机器上的) | |
|---|---|---|
| 用途 | CPU ↔ GPU 通信 | GPU ↔ GPU 直接通信 |
| 带宽 | ~32-64 GB/s | ~300 GB/s(NV12) |
| 设计初衷 | 通用外设接口 | 专为 GPU 间高速互联 |
所以:你机器上 GPU 之间用的是 NVLink(快),而 CPU 与 GPU 之间传数据(如加载模型权重到显存)走的才是 PCIe(相对慢)。这也是为什么大模型推理时,CPU→GPU 的数据搬运是潜在瓶颈之一。