英伟达公布 Vera Rubin 最新进展:推理、网络和定制芯片全面升级
产业动态
来源:InfoQ 中文发布时间待核实
当地时间8月24日,在Hot Chips大会期间,英伟达集中披露了新一代AI基础设施的多项进展。 面向低延迟推理的NVIDIA Groq 3 LPX已经进入全面量产,Nebius将成为首家采用者; Spectrum-X以太网引入多平面架构,目标是在不增加第三层网络的情况下扩展至51.2万颗GPU;由BlueField-4和DOCA支持的Scale-In,则开始接管AI工厂的安全、存储访问和运维任务;NVLink Fusion进一步把云厂商自研的XPU和CPU接入英伟达机架体系。 这些并非彼此独立的产品。英伟达正在围绕Vera Rubin构建一套更完整的“AI工厂”:GPU负责训练和通用推理,Groq 3 LPX提高Token生成速度,NVLink完成机架内互连,Spectrum-X连接大规模集群,Scale-In处理基础设施服务。 Groq 3 LPX量产,专门加速Token生成 Groq 3 LPX被英伟达定义为“交互式AI推理加速器”。它并非用于替代Vera Rubin GPU,而是作为Vera Rubin平台的扩展,专门提高推理生成阶段的Token输出速度。 代码智能体等应用不会…