推理性能飙升1.5倍!微软疯狂下单GB200芯片提升其AI算力

内容摘要快科技10月20日消息,分析师郭明錤的最新报告指出,NVIDIA GB200芯片订单量迎来爆炸性增长,其中微软第四季度订单量激增3到4倍,超过所有其他云服务商的总和。他指出,NVIDIA Blackwell芯片的产能扩张预计将于2024年第

快科技10月20日消息,分析师郭明錤的最新报告指出,NVIDIA GB200芯片订单量迎来爆炸性增长,其中微软第四季度订单量激增3到4倍,超过所有其他云服务商的总和。

他指出,NVIDIA Blackwell芯片的产能扩张预计将于2024年第四季度初启动,预计第四季度出货量在15万到20万块之间,而2025年第一季度出货量将增长200%到250%,达到50万到55万块。

据报道,微软在2024年第四季度的Blackwell GB200订单量已从之前的300 500个机柜激增至约1400 1500个机柜,其中约70%为NVL72型号,增幅最高达400%。

富士康和广达负责交付微软的Blackwell系统,根据两家公司的调查,微软的Blackwell GB200订单量遥遥领先其他云服务提供商,并且该公司正在迅速扩展其AI计算能力。

根据NVIDIA官方给出的数据,新一代GB200服务器系统在Llama 3.1 700亿参数大模型上的AI推理性能对比H200提高了足足1.5倍。

此外,微软还计划在低温数据中心部署GB200服务器,以缓解冷却系统的潜在压力。

其他云服务提供商订单量则显著低于微软,如亚马逊在2024年第四季度有300 400机柜GB200 NVL36订单,而meta则专注于Ariel架构,订单量也未能与微软相提并论。

推理性能飙升1.5倍!微软疯狂下单GB200芯片提升其AI算力

 
举报 收藏 打赏 评论 0
今日推荐
浙ICP备19001410号-1

免责声明

本网站(以下简称“本站”)提供的内容来源于互联网收集或转载,仅供用户参考,不代表本站立场。本站不对内容的准确性、真实性或合法性承担责任。我们致力于保护知识产权,尊重所有合法权益,但由于互联网内容的开放性,本站无法核实所有资料,请用户自行判断其可靠性。

如您认为本站内容侵犯您的合法权益,请通过电子邮件与我们联系:675867094@qq.com。请提供相关证明材料,以便核实处理。收到投诉后,我们将尽快审查并在必要时采取适当措施(包括但不限于删除侵权内容)。本站内容均为互联网整理汇编,观点仅供参考,本站不承担任何责任。请谨慎决策,如发现涉嫌侵权或违法内容,请及时联系我们,核实后本站将立即处理。感谢您的理解与配合。

合作联系方式

如有合作或其他相关事宜,欢迎通过以下方式与我们联系: