07月
01日
腾讯发布星脉网络 2.0,让 AI 大模型训练效率提升 20%
牛透社消息:7 月 1 日,腾讯宣布其自研星脉高性能计算网络全面升级,升级后的星脉网络 2.0 搭载全自研的网络设备与 AI 算力网卡,支持超 10 万卡大规模组网,网络通信效率比上一代提升 60%,让大模型训练效率提升 20%。
据了解,腾讯云专门设计了星脉高性能算力网络,并自研了 TiTa 和 TCCL 网络协议,共同让“腾讯云高性能计算集群 HCC 的 GPU 服务器”发挥最大的算力性能,助力客户在 AI 大模型的竞争中遥遥领先。
使用该网络,如果原来训练中某个计算结果的同步需要花 100 秒完成,现在只需要 40 秒;原来需要花 50 天训练的模型,只需要花 40 天。