腾讯云发布新一代大模型计算集群 性能提升3倍
于蒙蒙
中国证券报·中证网
中证网讯(记者 于蒙蒙)4月14日,腾讯云正式发布新一代高性能计算集群。该集群采用腾讯自研的星星海服务器,服务器之间采用业界最高的3.2T超高互联带宽,为大模型训练、自动驾驶、科学计算等提供高性能、高带宽和低延迟的集群算力。实测显示,腾讯云新一代集群的算力性能较前代提升高达3倍。腾讯方面透露,未来,新一代集群不仅能服务于大模型训练,还将在自动驾驶、科学计算、自然语言处理等场景中充分应用。
算力是数字经济时代的重要基础设施和关键技术。单体服务器算力有限,需要将大量服务器通过高性能网络相连,打造成大规模算力集群。
去年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下,将训练时间由50天缩短到11天。如果基于本次发布的新一代集群,训练时间将进一步缩短至4天。通过对处理器、网络架构和存储性能的全面优化,腾讯云攻克了大集群场景下的算力损耗问题,为大模型训练提供高性能、高带宽、低延迟的智算能力支撑。
腾讯方面表示,以新一代集群为标志,腾讯云基于自研芯片、星星海自研服务器和分布式云操作系统遨驰,构建起了完整的自研产品体系。未来,腾讯云将通过软硬一体的方式,打造面向AIGC的高性能智算网络,持续加速全社会云上创新。