CodeGeeX是一个拥有130亿参数的预训练模型，支持多种编程语言。该模型基于华为MindSpore框架开发，通过在鹏城实验室的“鹏城云脑II”中的192个节点（总计1536个国产昇腾910 AI处理器）上进行训练而成。