MindSpore MindFormers套件旨在提供一个全流程开发套件,可轻松实现大模型训练和创新研发。基于MindSpore内置的并行技术和组件化设计,具备从单卡到大规模集群训练的无缝切换、个性化并行配置、高效的数据并行和模型并行策略、Trainer、ModelClass、ConfigClass、pipeline等高阶易用性接口等特点。支持包括BERT、GPT、T5、Vit、Swin等在内的主流预训练模型和下游任务的应用。如果您对MindSpore MindFormers有任何建议,请通过Gitee或MindSpore与我们联系。
MindSpore MindFormers套件介绍全流程训练推理和部署的解决方案
文件列表
基于MindSpore内置的并行技术和组件化设计
(预估有个214文件)
RELEASE_CN.md
462B
LICENSE
11KB
README.md
950B
test_parallel_transformer_apis.py
27KB
OWNERS
73B
quick_start.md
3KB
benchmark.md
964B
how_to_train_bert.md
12KB
how_to_config.md
4KB
ISSUE_TEMPLATE.zh-CN.md
79B
暂无评论