微软宣布开源DeepSpeed Chat系统框架,可以帮助用户训练类似于ChatGPT的模型,并且其速度快15倍以上,有效提升模型的训练和推理效率。DeepSpeed Chat能够简化ChatGPT类型模型的训练过程、强化推理体验,其中的DeepSpeed-RLHF系统能够在推理和训练两种模式之间进行切换,使得复杂的RLHF训练速率更快、易于大规模推广。根据微软,DeepSpeed-HE比现有系统快15倍以上,且成本更低。此外,DeepSpeed Chat还能够让数据科学家和研究者更易于使用ChatGPT类型的模型。来源:微软
暂无评论