一文读懂智算中心网络

人工智能领域包括8大重要应用场景,包括:识别检测、语音交互、AI芯片、自动驾驶、机器人、视频解析、人机协同、机器翻译、精准推荐等。每类场景对算力的要求不同。

AI网络互联,PCIe还是NVLink?

计算机网络通信中两个重要的衡量指标是带宽和延迟,AI 网络也是如此。在向百亿级及以上规模的发展过程中,影响AI计算集群性能的关键并不只在于单个芯片的处理速度,每个芯片之间的通信速度也尤为重要。

AI化革命:大厂如何重新定义数据中心的未来

数据中心在现代社会扮演着至关重要的角色,它们是数字化时代的神经中枢,支持着云计算、大数据、人工智能等技术的快速发展。在传统的数据中心中,冷空气通过充斥着计算、网络和存储系统的机架被加热后,通过冷却设……

到边缘去,广阔天地SONiC大有作为

2023 年 4 月,在捷克首都布拉格举行的开放计算项目 (OCP) 区域峰会上,一直游离在组织之外的Amazon宣布了一项新的贡献即开放企业边缘网关,同时拿出了新鲜出炉的边缘网关基础规范白皮书。

盘点:AI 大模型背后不同玩家的网络支撑

随着AI大模型“百花齐放”,底层的算力需求与日俱增。目前,AI大模型的训练参数已飙升至万亿级别,如此庞大的训练任务无法由单个服务器完成,需要大量服务器作为节点,通过高速网络组成算力集群,相互协作完成任务。……

大语言模型的硬件互联

生成式AI和大语言模型(LLM)正在以难以置信的方式吸引全世界的目光,本文简要介绍了大语言模型,训练这些模型带来的硬件挑战,以及GPU和网络行业如何针对训练的工作负载不断优化硬件。