大语言模型的爆发式增长对网络提出了更高要求,产学研各界纷纷开始探索,围绕网络架构、网络协议等取得了丰富的实践进展。本文由中兴团队操刀,不同于SDNLAB以往编发的只是局限于网络协议类详解的文章,本文从多维……
近日,Meta 对外披露了其最新的AI基础设施部署,新推出了两个拥有2.4万个GPU的集群(共 49152 个 H100),这是其AI基础设施路线图中的一项重大举措。该公司的雄心壮志并未止步于此,Meta 表示会持续扩大基础设施建……
在 GTC 2024 大会上,英伟达公布了其下一代 Blackwell GPU 架构,声称它将为大规模 AI 模型提供高达 30 倍的推理性能,并将能耗降低 25 倍。
Cerebras 是一家位于美国加利福尼亚州的初创公司,2019 年进入硬件市场,其首款超大人工智能芯片名为 Wafer Scale Engine (WSE) ,尺寸为 8 英寸 x 8 英寸,比最大的 GPU 大 56 倍,拥有 1.2 万亿个晶体管和 40 万……
本文内容来自Net402:Dive deep on AWS networking infrastructure,讨论用来构建 AWS 网络的宗旨和软硬件技术,包括如何构建以及为什么构建等问题。
在GPU领域英伟达毫无疑问是绝对的领导者,凭借其强大的CUDA构筑了一道坚不可摧的“护城河”。而与此同时,AMD多年来一直努力通过其开源的ROCm软件提供替代方案,形成了一场激烈的竞争。
请输入评论内容