five

mariagrandury/databricks-dolly-15k-curated-es

收藏
Hugging Face2023-07-19 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/mariagrandury/databricks-dolly-15k-curated-es
下载链接
链接失效反馈
官方服务:
资源简介:
该数据集是通过Argilla创建的,包含一个配置文件`argilla.cfg`和与HuggingFace `datasets`库兼容的记录。数据集的结构包括字段(fields)、问题(questions)和注释指南(guidelines)。字段包括任务类别、指令、上下文和响应,问题则用于指导注释者如何修正这些字段。数据集可以用于多种NLP任务,但没有关联的排行榜。数据集的创建过程、注释者信息、数据来源等详细信息尚未提供。

该数据集是通过Argilla创建的,包含一个配置文件`argilla.cfg`和与HuggingFace `datasets`库兼容的记录。数据集的结构包括字段(fields)、问题(questions)和注释指南(guidelines)。字段包括任务类别、指令、上下文和响应,问题则用于指导注释者如何修正这些字段。数据集可以用于多种NLP任务,但没有关联的排行榜。数据集的创建过程、注释者信息、数据来源等详细信息尚未提供。
提供机构:
mariagrandury
原始信息汇总

数据集概述

基本信息

  • 名称: databricks-dolly-15k-curated-es
  • 大小: 10K<n<100K
  • 标签:
    • rlfh
    • argilla
    • human-feedback

数据集描述

数据集概要

  • 配置文件: 包含一个名为argilla.cfg的配置文件,用于配置数据集。
  • 数据记录: 数据记录格式与HuggingFace datasets兼容,可通过FeedbackDataset.from_huggingfacedatasets库加载。
  • 标注指南: 提供用于构建和校正数据集的标注指南。

加载方式

  • 使用Argilla: 通过安装Argilla并使用以下代码加载数据集: python import argilla as rg ds = rg.FeedbackDataset.from_huggingface("mariagrandury/databricks-dolly-15k-curated-es")

  • 使用datasets: 通过安装datasets库并使用以下代码加载数据集: python from datasets import load_dataset ds = load_dataset("mariagrandury/databricks-dolly-15k-curated-es")

数据集结构

数据字段

  • 必填字段:
    • category: 任务类别,类型为TextField
    • instruction: 指令,类型为TextField
    • response: 响应,类型为TextField
  • 可选字段:
    • context: 输入,类型为TextField

问题字段

  • 必填问题:
    • new-instruction: 最终指令,类型为TextQuestion
    • new-input: 最终输入,类型为TextQuestion
    • new-response: 最终响应,类型为TextQuestion

数据实例

  • 数据实例包含外部ID、字段(如类别、指令、上下文、响应)和元数据。

数据分割

  • 分割: 数据集仅包含train分割。

数据集创建

标注指南

  • 标注指南包括对指令、输入和响应的校正,确保它们与任务类别匹配,且内容清晰、信息真实。

数据集用途

  • 数据集适用于多种NLP任务,具体取决于配置中的多个字段、问题和响应。
搜集汇总
数据集介绍
main_image_url
构建方式
在自然语言处理领域,高质量指令微调数据集的构建对于提升大语言模型的性能至关重要。该数据集基于Argilla平台,对原始Databricks Dolly 15k数据集进行了西班牙语版本的精细化人工审核与修正。构建过程遵循严格的标注准则:标注人员需对每条记录中的指令、输入和响应进行逐项校验,确保三者与任务类别高度匹配且内容清晰准确。每条记录包含category、instruction、context和response四个字段,标注人员通过回答new-instruction、new-input和new-response三个文本问题来完成修正,若原始内容无误则直接复制。最终形成约1.5万条经过人工精选的西班牙语指令数据。
特点
该数据集的核心特点在于其高质量的人工精修机制与结构化标注流程。每条数据均经过标注人员的多轮审核,确保指令与任务类别的一致性、输入与上下文的逻辑关联性以及响应的完整性与简洁性。数据集采用Argilla的反馈式标注框架,支持字段、问题与指南的灵活配置,可适配多种NLP任务。此外,数据格式同时兼容HuggingFace datasets库与Argilla原生加载方式,便于研究者在不同工具链中无缝使用。其西班牙语特性填补了非英语高质量指令数据的空白,为多语言大模型训练提供了宝贵资源。
使用方法
该数据集支持两种主流加载方式。研究者可直接通过HuggingFace datasets库使用load_dataset('mariagrandury/databricks-dolly-15k-curated-es')快速获取数据,每条记录以JSON格式呈现,包含category、instruction、context、response等字段。若需利用Argilla的标注与审核功能,可安装argilla后通过rg.FeedbackDataset.from_huggingface('mariagrandury/databricks-dolly-15k-curated-es')加载,此时数据集内嵌的配置文件会自动构建标注界面,便于进行二次精修或扩展。数据集仅包含单个train分割,适用于监督微调、指令微调及模型对齐等场景。
背景与挑战
背景概述
该数据集由研究人员mariagrandury基于Argilla平台创建,旨在为西班牙语自然语言处理领域提供高质量的人工指令微调数据。其核心研究问题聚焦于如何通过人工精炼的方式,将原始Databricks Dolly 15k数据集中的英文指令-响应对转化为符合西班牙语语言习惯和文化背景的优质语料。数据集包含约1.5万条经过严格人工校验的样本,覆盖任务分类、指令、上下文和响应四个核心字段,为低资源语言环境下的指令微调研究提供了关键基准。作为Argilla生态的重要组成部分,该数据集不仅推动了多语言大语言模型对齐技术的发展,更为西班牙语社区构建可靠的人机交互系统奠定了数据基础。
当前挑战
该数据集面临的核心挑战在于西班牙语指令数据的稀缺性和多样性不足。原始Dolly 15k数据集的英文语境难以直接迁移至西班牙语,需要人工逐条校正指令与响应的语义一致性,同时确保其符合西班牙语语法规则和文化背景。构建过程中,注释者需严格遵循任务分类标准,对类别不匹配的指令进行重写,并对缺失输入的样本进行补全,这要求注释者具备双语能力和领域知识。此外,数据集的规模虽达万级,但面对西班牙语复杂的方言变体和专业领域术语,现有样本仍难以覆盖所有实际应用场景,模型在特定任务上的泛化能力可能受限。
常用场景
经典使用场景
在自然语言处理与指令微调领域,该数据集作为西班牙语版本的Databricks Dolly-15k精选集,其经典使用场景聚焦于大型语言模型的监督微调与人类反馈强化学习(RLHF)流程。通过提供经过人工精校的指令、上下文及对应回答三元组,研究者可借助Argilla平台对模型输出进行迭代式质量评估与修正,从而显著提升模型在西班牙语场景下的指令遵循能力与回答准确性。该数据集特别适用于构建多语言对话系统、问答引擎以及任务导向型文本生成模型,为低资源语言的指令微调提供了高质量的训练基准。
解决学术问题
该数据集有效解决了非英语语言环境下指令微调数据稀缺与质量参差不齐的学术难题。传统研究多依赖机器翻译或自动生成数据,却常因语义失真或文化偏差导致模型泛化能力不足。通过人工精校与多轮标注,该数据集为西班牙语NLP研究提供了语义一致、任务匹配的高保真训练样本,显著降低了指令微调中的数据噪声。其学术意义在于验证了跨语言数据精炼对模型对齐效果的关键作用,推动了多语言RLHF方法论的发展,并为评估不同语言模型在西班牙语指令任务上的表现提供了可复现的基准。
衍生相关工作
该数据集衍生了一系列重要工作,包括基于Argilla框架的跨语言指令数据质量控制方法研究,以及针对西班牙语RLHF训练中奖励模型鲁棒性的探索。后续工作通过对比分析原始Dolly数据集与精校版本在模型微调后的表现差异,揭示了人工标注对减少幻觉和提升上下文相关性的显著贡献。此外,研究者以此为基础扩展出面向其他罗曼语族(如法语、意大利语)的平行精校数据集,推动了多语言指令微调统一框架的构建。这些工作共同印证了高质量人工反馈数据在提升多语言大模型对齐效果中的核心地位。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务