five

davidberenstein1957/ultra_feedback_dutch_cleaned_helm_instruct

收藏
Hugging Face2024-03-21 更新2024-06-11 收录
下载链接:
https://hf-mirror.com/datasets/davidberenstein1957/ultra_feedback_dutch_cleaned_helm_instruct
下载链接
链接失效反馈
官方服务:
资源简介:
--- dataset_info: features: - name: GEITje-7B-ultra dtype: string - name: TowerInstruct-13B-v0.1 dtype: string - name: TowerInstruct-7B-v0.2 dtype: string - name: geitje-7b-chat dtype: string - name: gpt-4-turbo dtype: string - name: llama-2-13b-chat-dutch dtype: string - name: prompt_english dtype: string - name: prompt dtype: string - name: labelling_model dtype: string - name: labelling_prompt list: - name: content dtype: string - name: role dtype: string - name: raw_labelling_response dtype: string - name: rating_Helpfulness_GEITje-7B-ultra dtype: float64 - name: rationale_Helpfulness_GEITje-7B-ultra dtype: string - name: generations_Helpfulness_GEITje-7B-ultra dtype: 'null' - name: rating_Helpfulness_TowerInstruct-13B-v0.1 dtype: float64 - name: rationale_Helpfulness_TowerInstruct-13B-v0.1 dtype: string - name: generations_Helpfulness_TowerInstruct-13B-v0.1 dtype: 'null' - name: rating_Helpfulness_TowerInstruct-7B-v0.2 dtype: float64 - name: rationale_Helpfulness_TowerInstruct-7B-v0.2 dtype: string - name: generations_Helpfulness_TowerInstruct-7B-v0.2 dtype: 'null' - name: rating_Helpfulness_geitje-7b-chat dtype: float64 - name: rationale_Helpfulness_geitje-7b-chat dtype: string - name: generations_Helpfulness_geitje-7b-chat dtype: 'null' - name: rating_Helpfulness_gpt-4-turbo dtype: float64 - name: rationale_Helpfulness_gpt-4-turbo dtype: string - name: generations_Helpfulness_gpt-4-turbo dtype: 'null' - name: rating_Helpfulness_llama-2-13b-chat-dutch dtype: float64 - name: rationale_Helpfulness_llama-2-13b-chat-dutch dtype: string - name: generations_Helpfulness_llama-2-13b-chat-dutch dtype: 'null' splits: - name: train num_bytes: 2389654 num_examples: 100 download_size: 1380173 dataset_size: 2389654 configs: - config_name: default data_files: - split: train path: data/train-* ---

数据集信息: 特征字段: - 名称:GEITje-7B-ultra 数据类型:字符串 - 名称:TowerInstruct-13B-v0.1 数据类型:字符串 - 名称:TowerInstruct-7B-v0.2 数据类型:字符串 - 名称:geitje-7b-chat 数据类型:字符串 - 名称:gpt-4-turbo 数据类型:字符串 - 名称:llama-2-13b-chat-dutch 数据类型:字符串 - 名称:prompt_english 数据类型:字符串 - 名称:prompt 数据类型:字符串 - 名称:labelling_model 数据类型:字符串 - 名称:labelling_prompt 数据类型:列表 包含子字段: - 名称:content 数据类型:字符串 - 名称:role 数据类型:字符串 - 名称:raw_labelling_response 数据类型:字符串 - 名称:rating_Helpfulness_GEITje-7B-ultra 数据类型:双精度浮点数 - 名称:rationale_Helpfulness_GEITje-7B-ultra 数据类型:字符串 - 名称:generations_Helpfulness_GEITje-7B-ultra 数据类型:空值 - 名称:rating_Helpfulness_TowerInstruct-13B-v0.1 数据类型:双精度浮点数 - 名称:rationale_Helpfulness_TowerInstruct-13B-v0.1 数据类型:字符串 - 名称:generations_Helpfulness_TowerInstruct-13B-v0.1 数据类型:空值 - 名称:rating_Helpfulness_TowerInstruct-7B-v0.2 数据类型:双精度浮点数 - 名称:rationale_Helpfulness_TowerInstruct-7B-v0.2 数据类型:字符串 - 名称:generations_Helpfulness_TowerInstruct-7B-v0.2 数据类型:空值 - 名称:rating_Helpfulness_geitje-7b-chat 数据类型:双精度浮点数 - 名称:rationale_Helpfulness_geitje-7b-chat 数据类型:字符串 - 名称:generations_Helpfulness_geitje-7b-chat 数据类型:空值 - 名称:rating_Helpfulness_gpt-4-turbo 数据类型:双精度浮点数 - 名称:rationale_Helpfulness_gpt-4-turbo 数据类型:字符串 - 名称:generations_Helpfulness_gpt-4-turbo 数据类型:空值 - 名称:rating_Helpfulness_llama-2-13b-chat-dutch 数据类型:双精度浮点数 - 名称:rationale_Helpfulness_llama-2-13b-chat-dutch 数据类型:字符串 - 名称:generations_Helpfulness_llama-2-13b-chat-dutch 数据类型:空值 数据集划分: - 名称:训练集 字节数:2389654 样本数量:100 下载体积:1380173 数据集总字节数:2389654 配置项: - 配置名称:default 数据文件: - 划分:训练集 路径:data/train-*
提供机构:
davidberenstein1957
原始信息汇总

数据集概述

数据集特征

  • GEITje-7B-ultra
    • 数据类型: string
  • TowerInstruct-13B-v0.1
    • 数据类型: string
  • TowerInstruct-7B-v0.2
    • 数据类型: string
  • geitje-7b-chat
    • 数据类型: string
  • gpt-4-turbo
    • 数据类型: string
  • llama-2-13b-chat-dutch
    • 数据类型: string
  • prompt_english
    • 数据类型: string
  • prompt
    • 数据类型: string
  • labelling_model
    • 数据类型: string
  • labelling_prompt
    • 内容:
      • name: content dtype: string
      • name: role dtype: string
  • raw_labelling_response
    • 数据类型: string
  • rating_Helpfulness_GEITje-7B-ultra
    • 数据类型: float64
  • rationale_Helpfulness_GEITje-7B-ultra
    • 数据类型: string
  • generations_Helpfulness_GEITje-7B-ultra
    • 数据类型: null
  • rating_Helpfulness_TowerInstruct-13B-v0.1
    • 数据类型: float64
  • rationale_Helpfulness_TowerInstruct-13B-v0.1
    • 数据类型: string
  • generations_Helpfulness_TowerInstruct-13B-v0.1
    • 数据类型: null
  • rating_Helpfulness_TowerInstruct-7B-v0.2
    • 数据类型: float64
  • rationale_Helpfulness_TowerInstruct-7B-v0.2
    • 数据类型: string
  • generations_Helpfulness_TowerInstruct-7B-v0.2
    • 数据类型: null
  • rating_Helpfulness_geitje-7b-chat
    • 数据类型: float64
  • rationale_Helpfulness_geitje-7b-chat
    • 数据类型: string
  • generations_Helpfulness_geitje-7b-chat
    • 数据类型: null
  • rating_Helpfulness_gpt-4-turbo
    • 数据类型: float64
  • rationale_Helpfulness_gpt-4-turbo
    • 数据类型: string
  • generations_Helpfulness_gpt-4-turbo
    • 数据类型: null
  • rating_Helpfulness_llama-2-13b-chat-dutch
    • 数据类型: float64
  • rationale_Helpfulness_llama-2-13b-chat-dutch
    • 数据类型: string
  • generations_Helpfulness_llama-2-13b-chat-dutch
    • 数据类型: null

数据集分割

  • train
    • 字节数: 2389654
    • 示例数: 100

数据集大小

  • 下载大小: 1380173
  • 数据集大小: 2389654

配置

  • default
    • 数据文件:
      • 分割: train
        • 路径: data/train-*
搜集汇总
数据集介绍
main_image_url
构建方式
在自然语言处理领域,高质量反馈数据对于对齐语言模型至关重要。该数据集基于UltraFeedback框架构建,专注于荷兰语场景,通过精选100条样本形成训练集。具体而言,数据集收集了来自GEITje-7B-ultra、TowerInstruct系列、geitje-7b-chat、gpt-4-turbo以及llama-2-13b-chat-dutch等六个模型的生成结果,并利用标注模型对每条回复在Helpfulness维度上进行评分与理由阐述,评分以浮点数记录,理由以文本形式呈现。构建过程中,原始英语提示语与荷兰语提示语均被保留,标注模型及标注提示语(包含角色与内容)亦被完整存储,从而确保了数据来源的透明性与可追溯性。
使用方法
该数据集可直接用于荷兰语对话系统的反馈学习与模型对齐任务。用户可通过加载train分片中的JSON文件,利用各模型的评分与理由字段,训练奖励模型或进行偏好学习。例如,可将gpt-4-turbo的评分作为软标签,其余模型的评分作为对比基线,构建排序损失。同时,理由字段可用于生成式反馈模型的微调。数据集提供的原始提示语与生成回复,亦可用于多模型输出对比分析或评估基准构建。由于数据规模较小,建议结合迁移学习或数据增强策略使用,以充分挖掘其在荷兰语场景下的价值。
背景与挑战
背景概述
随着多语言大语言模型(LLM)的快速发展,荷兰语等低资源语言在模型评估与对齐优化中面临显著的数据稀缺问题。davidberenstein1957/ultra_feedback_dutch_cleaned_helm_instruct数据集由研究人员于近期构建,旨在为荷兰语指令微调模型提供细粒度的反馈评分与解释数据。该数据集汇集了GEITje-7B-ultra、TowerInstruct系列、Llama-2-13b-chat-dutch及GPT-4-turbo等多种模型的生成结果,并基于“帮助性”(Helpfulness)维度进行人工或模型辅助评分,辅以推理文本(rationale)。其核心研究问题在于如何系统性地比较不同模型在荷兰语场景下的表现差异,同时为后续的偏好对齐与模型优化提供可靠的标注基准。该数据集对推动低资源语言LLM的评估标准化与反馈驱动型微调具有重要参考价值。
当前挑战
该数据集面临的挑战主要体现在以下方面。首先,在领域问题层面,荷兰语作为低资源语言,现有模型在语义理解、文化适应性及指令遵循能力上普遍弱于英语模型,如何通过反馈数据有效提升其“帮助性”表现是一个关键难题。其次,在构建过程中,数据规模仅包含100个训练样本,样本量极小,可能导致统计偏差与泛化能力不足;同时,评分模型(如GPT-4-turbo)的引入虽能提供自动化标注,但其评分标准是否适用于荷兰语语境、是否存在语言偏见,仍需验证。此外,多个模型的生成与评分需依赖统一的质量控制流程,确保跨模型评分的一致性与可复现性,这在实际操作中是一大技术瓶颈。
常用场景
经典使用场景
在自然语言处理与多语言模型对齐研究领域,davidberenstein1957/ultra_feedback_dutch_dutch_cleaned_helm_instruct 数据集以其对荷兰语指令反馈的精细标注而独树一帜。该数据集汇集了来自多种尖端模型(如 GEITje-7B、TowerInstruct 系列、GPT-4 Turbo 及 Llama-2 荷兰语变体)对同一指令的生成结果,并提供了基于 Helpfulness 维度的评分与推理文本。研究者可借此系统比较不同架构与规模模型在荷兰语场景下的表现差异,深入探究模型对齐策略的跨语言迁移效果,进而为低资源语言上的指令微调与偏好学习奠定数据基石。
解决学术问题
该数据集直击多语言偏好学习与模型评估中的核心痛点——高质量、细粒度的非英语反馈数据匮乏。通过引入荷兰语指令的多元模型生成与人类对齐评分,它帮助学术界解决了如何在不同语言背景下客观量化模型帮助性的难题。研究者得以剖析模型在跨语言推理中的行为一致性,验证偏好优化算法(如 RLHF 或 DPO)在非英语环境中的泛化能力。其意义在于推动语言多样性在 AI 对齐研究中的平等地位,为构建真正多语种、文化包容的智能系统提供了可复现的基准与实证依据。
实际应用
在实际应用中,该数据集为荷兰语智能客服、教育辅导及内容生成系统的优化提供了直接支撑。开发者可利用其标注的反馈数据,对本地化部署的聊天机器人进行偏好微调,使其回答更贴合荷兰语用户对有用性的期待。例如,在医疗咨询或法律文档辅助场景中,模型通过该数据集学习到的跨模型比较信号,能够更精准地过滤冗余信息、提供清晰步骤。此外,该数据还助力企业评测不同商用模型在荷兰市场的落地表现,实现从通用能力到区域适配的平滑过渡。
数据集最近研究
最新研究方向
该数据集聚焦于荷兰语大语言模型的多模型偏好对齐与反馈评估,代表了低资源语言在指令微调与人类偏好学习领域的前沿探索。通过汇集GEITje、TowerInstruct、Llama-2荷兰语变体及GPT-4 Turbo等多个模型的生成结果,并引入精细化的有用性评分与推理标注,该数据集为跨模型比较与奖励模型训练提供了稀缺的荷兰语标注资源。近期研究趋势显示,多语言与低资源语言的强化学习从人类反馈(RLHF)正成为热点,该数据集的出现填补了荷兰语在超细粒度反馈标注上的空白,有望推动欧洲小语种大模型在对话系统、自动化评估等场景中的对齐能力提升,其影响在于促进语言多样性与模型公平性的技术落地。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务