跟着辛苦磨砺具有越来越多参数的大型谈话模子(LLM),英伟达的Blackwell处理器成为现在最受接待的数据中心硬件之一。有传言称微软是第一个获取Blackwell处事器的公司,如今,微软示意,不仅获取了Nvidia Blackwell,而况它们仍是启动。
“微软Azure是第一个启动Nvidia Blackwell系统和GB200驱动的AI处事器的云处事提供商,”微软Azure在X上的一篇著述中写说念,“咱们正在优化每一层,诓骗InfiniBand网罗和翻新的闭环液体冷却时代,以相沿寰宇上起始进的AI模子。”
因此,微软Azure至少有一个基于GB200的处事器机架,配备了数目不解的B200处理器,可能是32个。它使用了一个高度复杂的液体冷却系统。这台机器不是Nvidia的NVL72 GB200,据报说念微软更可爱这种密度更高的变体,而不是密度较低的版块。这个特定的机架很可能会被用于测试计算(包括Nvidia Blackwell GPU和液体冷却系统),在接下来的几个月里,微软将部署基于Blackwell的处事器来处理生意职责负载。
瞻望一台配备72个B200图形处理器的NVL72 GB200机器将耗尽和散漫纯粹120千瓦的电力,这使得液体冷却对于这类机器来说是强制性的。因此,微软在部署基于Blackwell的机柜之前测试我方的液体冷却处置决策是一个好意见。
英伟达的B200 GPU在FP8/INT8性能方面比H100处理器高1.5倍(4500 TFLOPS/TOPS对1980 TOPS)。在FP4数据法子下,英伟达的B200提供了高达9 PetaFLOPS的性能,为磨砺极其复杂的LLM大开了大门,这不错为AI在一般使用时势上带来新的时势。
瞻望微软将在其年度Ignite会议上共享更多对于其基于Blackwell的机器和AI项计算细节。MS Ignite会议将于2024年11月18日至11月22日在芝加哥举行。瞻望Blackwell处事器安设的大鸿沟部署将在年底或2025年头加快。