亚洲精品二区三区_91手机在线播放_91国内视频在线观看_91在线免费播放视频_国产精品九一_久久久国产亚洲精品

廊坊新闻网-主流媒体,廊坊城市门户

腾讯云首次披露自研星脉高性能计算网络

2023-06-27 01:45:26 来源:北青网

AIGC的爆发除了带来算力上的挑战,对网络的要求也达到了前所未有的高度。6月26日,腾讯云首次对外完整披露自研星脉高性能计算网络:星脉网络具备业界最高的3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC,可支持10万卡的超大计算规模。

AIGC的火爆带来AI大模型参数量从亿级到万亿级的飙升。为支撑海量数据的大规模训练,大量服务器通过高速网络组成算力集群,互联互通,共同完成训练任务。


(资料图)

大集群不等于大算力,相反,GPU集群越大,产生的额外通信损耗越多。大带宽、高利用率、信息无损,是AI大模型时代网络面临的核心挑战。

千亿、万亿参数规模的大模型,训练过程中通信占比最大可达50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅0.1%的网络丢包就可能导致50%的算力损失,最终造成算力资源的严重浪费。

基于全面自研能力,腾讯云在交换机、通信协议、通信库以及运营系统等方面,进行了软硬一体的升级和创新,率先推出业界领先的大模型专属高性能网络——星脉网络。

在硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。

在软件方面,腾讯云自研的TiTa网络协议,采用先进的拥塞控制和管理技术,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达90%以上。

此外,腾讯云还为星脉网络设计了高性能集合通信库TCCL,融入定制化解决方案,使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道,可以避免因网络问题导致的训练中断等问题,让通信时延降低40%。

网络的可用性,也决定了整个集群的计算稳定性。为确保星脉网络的高可用,腾讯云自研了端到端的全栈网络运营系统,通过端网立体化监控与智能定位系统,将端网问题自动定界分析,让整体故障的排查时间由天级降低至分钟级。同时,大模型训练系统的整体部署时间从19天缩减至4.5天。

文/北京青年报记者 温婧

编辑/樊宏伟

关键词:

主站蜘蛛池模板: 美女视频网站免费看 | 久久天堂综合亚洲伊人hd妓女 | 久久久精品中文字幕麻豆发布 | 亚洲色图25p | 最近的最新的中文字幕视频 | 最近中文字幕在线中文视频 | 日韩精品另类天天更新影院 | 激情三级做爰在线观看激情 | 人妻在卧室被老板疯狂进入 | 亚洲日韩欧美一区久久久久我 | 日本不卡三区 | 美国美女一级毛片免费全 | 黄色网页在线免费观看 | 亚洲精品一区二三区在线观看 | 男人扒开女人双腿猛进视频 | 久久免视频 | 激情五月综合 | 亚洲图片色图 | 欧美毛片在线 | 青青青国产在线视频 | 久久久黄色片 | 激情毛片视频 | 黄动漫免费看 | 网友自拍视频在线 | 国产免费美女 | 久久久精品人妻久久影视 | 成人午夜在线观看 | 99久久精品国产高清一区二区 | 日韩成人国产精品视频 | 毛片爱爱 | 精品国产偷窥一区二区 | 国产一区二区三区播放 | 国产百合互慰吃奶互揉视频 | 产精品无码久久_亚洲国产精 | 80岁老妇xxxxx高清 | 欧美日韩国产精品 | 黄色一级片在线看 | 麻豆一区二区99久久久久 | 国内欧美一区二区三区 | 国产精品久久久久久久久岛 | 国产精品久久777777 |