McGill-NLP/value-drifts
收藏Hugging Face2025-11-04 更新2025-11-15 收录
下载链接：
https://hf-mirror.com/datasets/McGill-NLP/value-drifts
下载链接
链接失效反馈官方服务：
资源简介：
该数据集用于研究论文《价值漂移：在LLM后训练期间追踪价值对齐》，包含两个关键数据集：V-PRISM和合成偏好数据集。V-PRISM是一个包含550个价值探测提示的评估集，跨越11个类别。合成偏好数据集是一个具有控制价值差距的合成数据集，提示来源于UltraFeedback和HH-RLHF数据集。
This dataset is used for the research paper Value Drifts: Tracing Value Alignment During LLM Post-Training, and contains two key datasets: V-PRISM and Synthetic Preference Dataset. V-PRISM is an evaluation set of 550 value-probing prompts across 11 categories. The Synthetic Preference Dataset is a synthetic dataset with a controlled value-gap, using prompts from the UltraFeedback and HH-RLHF datasets.
提供机构：
McGill-NLP
