five

W-61/llama-3-8b-base-new-dpo-hh-helpful-4xh200-batch-64-q_t-0.45-s_star-0.4-eta-5-margin-log

收藏
Hugging Face2026-04-28 更新2026-05-03 收录
下载链接:
https://hf-mirror.com/datasets/W-61/llama-3-8b-base-new-dpo-hh-helpful-4xh200-batch-64-q_t-0.45-s_star-0.4-eta-5-margin-log
下载链接
链接失效反馈
官方服务:
资源简介:
这是一个从New-DPO训练运行中导出的每一步边界摘要统计数据集。数据集包含了训练过程中的多个统计特征,如epoch(训练轮数)、step(步骤)、batch_size(批量大小)、mean(平均值)、std(标准差)、min(最小值)、p10(第10百分位数)、median(中位数)、p90(第90百分位数)、max(最大值)、pos_frac(正分数)、sample(每个示例的边界值)和npy(保存完整边界数组的可选路径)。数据集来源于特定的模型训练运行,使用了Anthropic/hh-rlhf数据集进行混合训练。

Per-step margin summary statistics exported from a New-DPO training run. The dataset includes various statistical features during the training process, such as epoch, step, batch_size, mean, std, min, p10, median, p90, max, pos_frac, sample (per-example margins), and npy (optional path to the saved full margin array). The dataset originates from a specific model training run and uses the Anthropic/hh-rlhf dataset for mixed training.
提供机构:
W-61
二维码
社区交流群
二维码
科研交流群
商业服务