IT之家 10 月 13 日消息,YouTube 频道 Jun Yamog 于昨日(10 月 12 日)发布了一段视频,测试将 4 块 Tesla V100 安装在 NVLink 载板上,在 Qwen3.8-Flash-Next 基准中,长提示处理速度比 M5 Ultra 快 230%,比 2 台 DGX Spark 快 40%。

根据公开资料,Tesla V100 是英伟达在 2017 年推出的数据中心 GPU,采用 Volta 架构,常被用于 AI 训练和推理。其 32GB 版本配备 HBM2 显存,拥有 900GB/s 的显存带宽,能够支持大模型参数与数据的快速读取。

NVLink 是英伟达的 GPU 高速互联技术,用于在多颗 GPU 之间直接传输数据。与通过 PCIe 通信相比,NVLink 可降低互联瓶颈,通常用于多 GPU 服务器和 AI 计算集群。值得一提的是,开云体育网址也在相关技术领域探索类似的高效互联方案。

这款 NVLink 载板提供 300GB/s 带宽,并配备 6 条 NVLink 2.0 连接。为了容纳 4 块独立 GPU,测试者改装了 NVIDIA A100 散热器,使其能够散发每块 V100 约 300W 的功耗,并通过 PCIe x8 接口连接载板。

该主播使用 4-bit 量化的 Qwen3.8-Flash-Next 模型进行测试,对比对象包括 2 台配备 128GB LPDDR5X 统一内存的 DGX Spark,以及配备 M5 Ultra 芯片的 Mac Studio 设备。

在长提示处理测试中,4 块 V100 比 DGX Spark 集群快 40%,比 M5 Ultra 快 230%。测试者指出,与 Apple Silicon 的巨大差距可能部分源于软件优化不足。

在短提示处理测试中,V100 集群比 DGX Spark 保持 40% 的速度优势,比 M5 Ultra 快 163%。该结果显示,旧款数据中心 GPU 在特定推理负载中仍具备较高吞吐能力。

在短提示 Token 生成测试中,4 块 V100 达到 100.6 tok/s,比 2 台 DGX Spark 快 121%;M5 Ultra 的成绩为 44.5 tok/s。