英伟达Groq 3 LPX机架全面投产,低延迟推理商业化提速

阅读

官网讯——

【英伟达Groq 3 LPX机架全面投产,英伟业化低延迟推理商业化提速】

(1) 英伟达宣布其Groq 3 LPX机架已全面投入生产,达G低延这标志着其最大收购(200亿美元收购Groq资产)在技术上的机架商业化实现。该机架将与Vera CPU和Rubin GPU搭配,全面用于云服务提供商,投产提速计划于今年晚些时候上线。迟推

(2) Groq 3芯片在LPX机架中封装了256颗,理商能够实现每秒处理3400个令牌。英伟业化这项技术专注于低延迟推理,达G低延这对AI代理的机架响应速度至关重要,特别是全面在编程应用中。英伟达表示,投产提速云服务商可以为此类令牌收取更高的迟推费用,进而解锁更高级别的理商服务协议。

(3) 该领域竞争十分激烈,英伟业化AMD与Cerebras紧密合作以专注于低延迟推理,同时OpenAI的新“超高速模式”也得到了Cerebras的支持。但需注意的是,低延迟芯片并不打算取代GPU,而是优化模型推理的特定阶段。黄仁勋预计,从Blackwell到Vera Rubin系统,到2027年累计销售额将达到1万亿美元,并计划将其数据中心中编程应用的四分之一空间分配给Groq芯片。英伟达将于周三发布财报。

风险披露

差价合约(CFDs)和杠杆产品交易具有高风险性,可能不适合所有投资者。您的损失可能超过您的初始投资。 在决定交易之前,请确保您完全理解所涉及的风险,并根据您的投资目标、经验水平和风险承受能力进行评估。 如有必要,请寻求独立的财务建议。

准备好开始交易了吗?

在ICMarkets集团官网开设账户,体验专业的交易服务