MiniGLM-5
收藏资源简介:
# MiniGLM-5 训练数据集 [MiniMind](https://github.com/jingyaogong/minimind) 项目 `feat/glm5-arch` 分支使用的训练数据集,面向 Vibe Coding 场景。 ## 数据集说明 | 文件 | 大小 | 样本数 | 训练阶段 | 来源 | |------|------|--------|---------|------| | `pretrain_code.jsonl` | 1.6G | 500K | Pretrain | nvidia/Nemotron-Pretraining-Code-v2 Python 子集 | | `sft_code.jsonl` | 357M | 156K | SFT | m-a-p/CodeFeedback-Filtered-Instruction | | `dpo.jsonl` | 52M | — | DPO | gongjy/minimind_dataset 通用偏好数据 | | `r1_mix_1024.jsonl` | 351M | — | Reason | gongjy/minimind_dataset 推理数据 | | `rlaif-mini.jsonl` | 1.6M | — | PPO/GRPO/SPO | 在线 RL prompt 数据 | | `lora_identity.jsonl` | 23K | — | LoRA | 身份认同微调数据 | ## 训练流程 ``` Pretrain → Full SFT → [DPO] → Reason → 推理评估 ``` ## 使用方法 #### 下载方法 :modelscope-code[]{type="sdk"} :modelscope-code[]{type="git"} 下载后将所有 `.jsonl` 文件放入 MiniMind 项目的 `dataset/` 目录即可开始训练。



