Collector
电信阿里联手!打造10万卡智算集群:性能提升9.3倍! | Collector
电信阿里联手!打造10万卡智算集群:性能提升9.3倍!
驱动之家 mydrivers

电信阿里联手!打造10万卡智算集群:性能提升9.3倍!

快科技4月8日消息,由中国电信广东公司联合阿里云共同建设的粤港澳大湾区首个基于“真武”芯片的万卡智算集群,近日在韶关数据中心集群正式上线。 阿里云表示该集群预计扩容至10万卡规模。 该集群实现了从芯片、云平台到模型应用的全链路自主研发,是国家“超大规模智算集群”新基建在大湾区的首个落地项目。 技术上,集群通过卡间RoCE高性能组网与双平面多轨通信技术, 端到端网络时延低至4微秒,网络峰值利用率超过95%。 同时,真武芯片整机提供1.5T超大显存,卡间互联带宽超过700GB/s,为国产算力底座提供了坚实支撑。 值得一提的是,相较传统单机部署模式,集群单卡吞吐性能提升达9.3倍,每秒Token生成总量提升近10倍。 集群提供IaaS、PaaS、MaaS全栈AI智算云化产品服务,训练与推理效率提升超过30%。 集群支持DeepSeek-V3.2满血版、Qwen3.5-397A-A17b等业内领先开源模型实现单机快速部署。 目前,该集群已在多个行业场景落地。尤其是在医疗民生领域,上线的“全诊通”应用,已在中山大学肿瘤防治中心等医院开展国产化迁移与应用试点。 为进一步推动算力普惠,集群资源已同步上架“广东电信算力超市”,面向中小企业提供按卡、按小时计费的算力零售服务。

Go to News Site