一.动机
二.NVLink
2.1DGX-1
2.2 nvlink 2.0
2.3 DGX-2
2.4 NVSwitch
发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/205406.html原文链接:https://javaforall.net
nvidia nvlink互联与nvswitch介绍一 动机在 nvidia 推出目前这个方案之前 为了获得更多的强力计算节点 多个 GPU 通过 PCIeSwitch 直接与 CPU 相连 他们之间的 pcie3 0 16 有接近 32GB s 的双向带宽 但是当训练数据不停增长的时候 这个互联方案本身却成为了致命的系统瓶颈 如果不改进这个互联带宽 那么新时代 GPU 带来的额外性能就没法发挥出来 从而无法满足现实需求负载的增长 二 NVLink 为了解决这个问题 nvidia 开发了一个全新的互联构架 nvlink 单条 nvlink 是一种双工双路信道 其通过组合 32 条配
发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/205406.html原文链接:https://javaforall.net