幕僚训推
一站式企业级AI大模型开发与服务运营平台幕僚训推平台是一个集模型训练、推理与优化于一体的综合性平台,它支持大规模数据的高效处理与复杂模型的快速迭代, 为开发者提供强大的算力资源和便捷的开发工具,加速人工智能应用的落地与部署。
产品功能
项目管理
项目作为工作空间和工作成果的载体,为后续统一的工作管理、资源管理和资产管理提供了非常便利的条件。
大模型基座
内置多种优质开源大模型,确保用户开箱即用。包括但不限于:LLaMA、Qwen、Baichuan、ChatGLM、九天、零一万物、书生浦语等多种常见模型及版本。
大模型训练
支持可视化模型训练页面,通过Web网页实现参数配置即可训练模型;持多阶段模型训练,包含Pre-training(预训练)、SFT(有监督微调阶段)、RM(奖励建模)、RL(强化学习)阶段。训练参数范围包含全量、Freeze、LoRA。
大模型评估
可选择评估方式,包含人工评估、自动评估。
大模型推理
可配置推理参数,如截断长度、最大样本数、批处理大小、最大生成长度、Top-p采样值、温度系数、预测结果保存目录。
大模型服务
可将大模型能力一键发布为应用服务,以API形式对外开放。
Prompt工程
内置丰富Prompt模板,可面向各类场景,如数据分析、营销文案、生活助手、文档撰写等。可直接预览Prompt效果。
模型纳管与开放
支持外部模型导入。用户可上传模型文件,支持配置模型名称、开发者信息、训练脚本、训练参数文件、数据集要求说明、环境配置、推理脚本。向用户提供详细的模型导入规范,规范中需说明大模型参数定义方式。
产品