{主关键词}

一 | 8 月 25 日消息,英伟达当地时间周一宣布,Groq 3 LPX 机架已进入全面量产阶段,这标志着该公司史上最大规模收购所获得的技术正式实现商业化。 8月24日消息,磐镭今日正式预热了其新款WO7迷你主机,该产品主打高性能便携定位,搭载AMD锐龙5 6600H标压处理器,整机体积仅0.7L。英伟达高级总监迪翁 · 哈里斯(Dion Harris)告诉记者,Groq 机架将与 Vera 中央处理器和 Rubin 图形处理器一起部署在新型云服务商 Nebius 的平台,并将于今年晚些时候上线。

二 | 英伟达正在加速生产 Groq 芯片并向客户提供该产品,这凸显出低延迟推理的重要性日益提升。

三 | 在核心配置方面,磐镭WO7迷你主机搭载AMD Ryzen 5 6600H处理器,依托6nm制程工艺与Zen3+架构,拥有6核12线程规格,基准频率3.3GHz,至高睿频可达4.5GHz,搭配16M三级缓存,45W稳定TDP功耗调校。低延迟推理对于让人工智能智能体能够快速响应、避免用户遭遇长时间等待至关重要,尤其是在编程场景中。

四 | 图形处理部分则依靠内置的AMD Radeon 660M核显,得益于RDNA 2架构的引入,其图形渲染能力相比上代WO5实现翻倍,能够流畅应对4K视频解码及主流轻度网游。英伟达表示,云计算公司可以针对这类 Token 收取更高的费用。

五 | 哈里斯表示:“对于那些提供 Token 服务的人来说,这让他们能够为那些真正要求对延迟高度敏感的服务协议的用户和客户,提供高级服务等级。”去年 12 月,英伟达以 200 亿美元(注:现汇率约合 1,347.74 亿元人民币)收购了芯片初创公司 Groq 的相关资产,这是该公司有史以来规模最大的一笔收购。 该主机标配16GB LPDDR5 6400MHz高频内存,内部配备了两个PCIe 4.0 x4 M.2 2280硬盘插槽,支持用户根据需求自行扩容。Groq 的架构在芯片裸片本身集成了 500MB 高速 SRAM,以减少与内存相关的瓶颈。Groq 芯片由三星制造,而英伟达的 GPU 则由台积电生产。 外观方面,磐镭WO7采用了沉稳的纯黑外壳设计,整机尺寸仅为130x127x46.9mm,重量控制在500克左右,单手即可轻松拿捏。英伟达将 256 颗独立的 Groq 3 芯片封装到其 LPX 机架中。 机身集成了1个USB 3.2 Gen2 Type-C、3个USB 3.2 Gen2 Type-A以及双视频输出接口(HDMI 2.0+DP 1.4),支持多屏高清联动。英伟达表示,根据 Artificial Analysis 的一项基准测试,其 Groq 3 LPX 机架能够达到每秒 3,400 个 Token 的处理速度。 网络连接上,该主机地搭载双1G有线网口,可满足直播、下载及特殊办公网络需求,内置Wi-Fi 6无线网卡与蓝牙5.3协议。 目前磐镭尚未公布WO7的具体上市时间及最终定价。这是一个竞争激烈的领域。今年早些时候,AMD 宣布,将把其机架级系统与 Cerebras 的芯片进行整合。

六 | GPU 既可以执行训练,也可以执行推理,同时具备足够的灵活性,能够适应新技术和新模型。Groq 这类低延迟芯片主要专注于模型服务过程中的一个环节,即所谓的“解码”(decode)阶段。

七 | 哈里斯表示:“这并不是要取代 GPU,而是要针对工作负载的不同部分,使用价格合适、处理能力合适的处理器。”目前,英伟达正在逐步增加 Vera Rubin 系统的出货量,该系统已于今年早些时候开始生产。在 3 月份发布 Vera Rubin 和 Groq 3 LPX 时,英伟达首席执行官黄仁勋预计,到 2027 年,当前一代 Blackwell 芯片与全新 Vera Rubin 系统的累计销售额将达到 1 万亿美元(现汇率约合 6.74 万亿元人民币)。黄仁勋当时表示,他计划将数据中心中用于编程应用的空间的四分之一分配给 Groq 芯片。黄仁勋说:“我的数据中心其余部分将全部采用 Vera Rubin。”英伟达计划于当地时间周三公布财报。
Current article:http://1wg.feizengbubaipeirangnalouchuo.sbs/oqi/711s5.html
Published on:14:50:30
我的网站热门国内