04月
14日
腾讯云发布大模型算力集群,算力性能较前代提升 3 倍
牛透社消息:4 月 14 日,腾讯云发布了新一代 HCC 高性能计算集群。
该集群采用最新一代星星海自研服务器,搭载NVIDIA H800 Tensor Core GPU,服务器之间采用业界最高的 3.2T 超高互联带宽,为大模型训练、自动驾驶、科学计算等提供高性能、高带宽和低延迟的集群算力。实测结果显示,新一代集群算力性能较前代提升 3 倍
据悉,去年 10 月,腾讯完成首个万亿参数的 AI 大模型——混元 NLP 大模型训练。在同等数据集下,将训练时间由 50 天缩短到 11 天。如果基于新一代集群,训练时间将进一步缩短至 4 天。