火山引擎发布大模型训练云平台:支持万卡训练,集群性能提升3倍

2023-04-18 11:43:36 来源:上海证券报·中国证券网 作者:罗茂林

  上证报中国证券网讯(记者 罗茂林)4月18日,火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,弹性计算可节省70%的算力成本。基于自研DPU的GPU实例,相比上一代集群性能最高提升三倍以上。

  火山引擎总裁谭待透露,“国内大模型领域的数十家企业,超过七成已经在火山引擎云上”。

  会上,火山引擎宣布与字节跳动国内业务并池。基于内外统一的云原生基础架构,抖音等业务的空闲计算资源可极速调度给火山引擎客户使用,离线业务资源分钟级调度10万核CPU,在线业务资源也可潮汐复用,弹性计算抢占式实例相比常规产品最高优惠80%以上。