当前位置: 首页 > 资讯 > >正文

微软推ZeRO++新系统:减少大模型训练时间和成本

来源:DoNews快讯    时间:2023-06-26 16:58:30


(资料图)

微软研究人员推出了名为ZeRO的新系统,用于优化训练大型AI模型,以应对高数据传输开销和有限带宽的难题。ZeRO建立在现有的ZeRO优化的基础上,并提供增强的通信策略,以提高训练效率,减少训练时间和成本。研究人员和实践者可以利用ZeRO更有效地训练像ChatGPT这样的模型,并在AI领域探索新的可能性。(站长之家)

X 关闭

推荐内容

最近更新

Copyright ©  2015-2022 华声机械网版权所有  备案号:京ICP备2021034106号-36   联系邮箱:55 16 53 8 @qq.com