test_hh_rlhf
收藏魔搭社区2025-05-29 更新2024-11-16 收录
下载链接：
https://modelscope.cn/datasets/wangxingjun778/test_hh_rlhf
下载链接
链接失效反馈官方服务：
资源简介：
test rlhf dataset
人类反馈强化学习（Reinforcement Learning from Human Feedback，RLHF）测试数据集
提供机构：
maas创建时间：
2024-11-10
搜集汇总
数据集介绍
背景与挑战
背景概述
该数据集包含两种类型的数据：一是用于训练偏好模型的人类偏好数据，涉及帮助性和无害性评估；二是用于研究对抗攻击的人类生成对抗性对话数据，附带无害性评分和标注。数据集基于Apache 2.0许可证，更新于2024年11月，大小为388.58MB，但需注意数据可能包含冒犯性内容，且不应用于训练对话代理以避免有害行为。
以上内容由遇见数据集搜集并总结生成
