千卡集群的网络怎么设计？Fat-Tree 用带宽换无阻塞，Rail-optimized 让「同序号 GPU 一跳直达」。本篇拆解两种拓扑的设计逻辑、NCCL 如何利用拓扑、以及「为什么 AI 集群的网络设计是一门专门学问」。

千卡训练的每一秒，GPU 之间都在交换海量数据——传统 TCP 网络撑不住，RDMA 与 GPUDirect 让数据「绕过 CPU 直接进出显存」。本篇拆解 AI 集群通信的分层（NVLink→RDMA→TCP）、GPUDirect RDMA 的零拷贝机制、以及网络性能对训练吞吐的决定性影响。

「CUDA 护城河」被提了十年，它到底由什么构成？本篇从底层拆起：CUDA 是语言与运行时，cuDNN/cuBLAS 是优化库，NCCL 是通信库，TensorRT 是编译器——分层拆解每一层的角色，以及生态替代（ROCm/CANN）真实差距所在。

国产 AI 芯片（昇腾、寒武纪、海光等）在算力上快速追赶，但真正的差距不在芯片在软件栈。本篇以昇腾 CANN 为主例拆解国产算力栈的层次（驱动→运行时→算子库→框架适配）、与 CUDA 生态的真实差距点、以及国产替代的务实推进路径。

英伟达的市值故事常被讲成「卖芯片的赶上了 AI」，但芯片从来不是它最深的护城河——CUDA 生态才是。十六年前的一次软件豪赌，让每一家 AI 公司的训练代码都写在了英伟达的地基上；换掉芯片不只是换硬件，是重写整个技术栈。本文讲清这座护城河的构成、它为什么难攻，以及攻城者的三条路线。

训练一个百亿级模型，单卡的显存装不下权重也跑不动计算——分布式训练把模型与数据摊到成百上千张卡上。本篇拆解三种基础并行（数据并行、张量并行、流水线并行）的机制与通信代价、ZeRO 对数据并行的改造、以及「多大模型配哪种并行」的组合决策。

GPU 很贵，但让 GPU 排队等网络的往往是操作系统——数据包要过内核协议栈、要在内存里来回拷贝。RDMA 用「内核旁路 + 零拷贝」把这条路打通成内存对内存的直通车，把延迟压到微秒级。本文讲透 RDMA 的三大机制、三条传输路线，以及为什么它成了 AI 集群的标配。

!(https://www.gstatic.com/images/branding/googleg/1x/googleg_standard_color_128dp.png)Add as a preferredsource on Google…

芯片发布一场接一场，参数眼花缭乱。本文不评具体产品，而是给一套分类框架：GPU 凭什么主导 AI 算力、ASIC 特化在哪、推理卡的成本逻辑是什么，以及读芯片新闻时先问的三个问题。