当前位置:首页 > 知识 >

火山引擎与字节合作发布大规模训练云平台

  • 平台
  • 2023-07-31 14:56:52
  • 15
AI大模型技术应用爆发,云市场也在加速变革。

4月18日,火山引擎在其举办的“原动力大会”上发布了自研DPU等系列云产品,并推出新版机器学习平台。这个新版本支持万卡级大模型训练和微秒级延迟网络,通过提供高稳定性和高性价比的AI基础设施,使大模型训练更加稳定和快速。

火山引擎总裁谭待表示,国内大模型领域的数十家企业中超过七成已经在火山引擎云上运行。与其他云厂商不同,火山引擎与多家大模型进行深度合作,以提供更丰富的AI应用。

火山引擎还宣布与字节跳动合作推出国内业务。事实上,字节跳动早在今年2月份就已经加入了国内的“AI大模型”竞争。

火山引擎的机器学习平台经过抖音等海量用户业务长期打磨,可以支持单任务万卡级别的超大规模分布式并行训练场景。GPU弹性计算实例可以灵活调度资源,最高可为客户节省70%的算力成本。

由于大规模算力中心会存在资源损耗问题,谭待表示,在未来3年内,大规模算力中心将形成“CPU+GPU+DPU”的混合算力结构,通过资源卸载、加速和隔离,提高资源效率。

火山引擎发布的新一代自研DPU实现了计算、存储、网络的全组件卸载,可以释放更多资源给业务负载。

谭待表示,在大模型及下游应用的推动下,无论是传统企业还是初创企业都对AI算力有着迫切需求,未来企业使用多家云服务将成为常态,而大模型也将在不同行业中生长,形成多模型共生甚至协作的生态。

火山引擎还推出了分布式云原生平台、多云安全、多云CDN和veStack混合云平台等产品,以支持客户更好地使用多家云服务。

火山引擎对内对外提供统一的产品,抖音、今日头条等APP开屏上都加上了“火山引擎提供计算服务”。

来源:羊城晚报·羊城派 责编:许张超 来源:新浪 作者:新浪网

猜你喜欢

微信二维码

微信