功能及特点

• BMTrain：进行高效的大模型预训练与微调，训练模型成本可节省 90%。
• BMCook：进行大模型高效压缩，通过量化、剪枝、蒸馏、专家化等算法组合，可保持原模型 90%+ 效果，模型推理加速 10 倍。
• BMInf：实现大模型低成本高效推理计算，使用单块千元级显卡即可进行百亿参数大模型推理。
• OpenPrompt：提供统一接口的提示学习模板语言，轻松部署提示学习方法以驱动大模型。
• OpenDelta：进行参数高效的大模型微调，仅更新极少参数即可达到全参数微调的效果。
• ModelCenter：支持高效、低成本、可扩展性强的模型微调及分布式训练。