five

chiayewken/flan-cot

收藏
Hugging Face2024-01-20 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/chiayewken/flan-cot
下载链接
链接失效反馈
官方服务:
资源简介:
--- dataset_info: - config_name: aqua features: - name: question dtype: string - name: answer dtype: string - name: explanation dtype: string splits: - name: train num_bytes: 894046 num_examples: 2728 download_size: 440439 dataset_size: 894046 - config_name: creak features: - name: question dtype: string - name: answer dtype: string - name: explanation dtype: string splits: - name: train num_bytes: 1567218 num_examples: 6915 download_size: 824382 dataset_size: 1567218 - config_name: ecqa features: - name: question dtype: string - name: answer dtype: string - name: explanation dtype: string splits: - name: train num_bytes: 2024749 num_examples: 7112 download_size: 1252735 dataset_size: 2024749 - config_name: esnli features: - name: question dtype: string - name: answer dtype: string - name: explanation dtype: string splits: - name: train num_bytes: 10999234 num_examples: 36174 download_size: 4378522 dataset_size: 10999234 - config_name: gsm8k features: - name: question dtype: string - name: answer dtype: string - name: explanation dtype: string splits: - name: train num_bytes: 3700264 num_examples: 7473 download_size: 2109995 dataset_size: 3700264 - config_name: qasc features: - name: question dtype: string - name: answer dtype: string - name: explanation dtype: string splits: - name: train num_bytes: 427933 num_examples: 1084 download_size: 186224 dataset_size: 427933 - config_name: qed features: - name: question dtype: string - name: answer dtype: string - name: explanation dtype: string splits: - name: train num_bytes: 4548882 num_examples: 5154 download_size: 2895880 dataset_size: 4548882 - config_name: sensemaking features: - name: question dtype: string - name: answer dtype: string - name: explanation dtype: string splits: - name: train num_bytes: 1578186 num_examples: 6070 download_size: 587594 dataset_size: 1578186 - config_name: strategyqa features: - name: question dtype: string - name: answer dtype: string - name: explanation dtype: string splits: - name: train num_bytes: 511087 num_examples: 2061 download_size: 346663 dataset_size: 511087 configs: - config_name: aqua data_files: - split: train path: aqua/train-* - config_name: creak data_files: - split: train path: creak/train-* - config_name: ecqa data_files: - split: train path: ecqa/train-* - config_name: esnli data_files: - split: train path: esnli/train-* - config_name: gsm8k data_files: - split: train path: gsm8k/train-* - config_name: qasc data_files: - split: train path: qasc/train-* - config_name: qed data_files: - split: train path: qed/train-* - config_name: sensemaking data_files: - split: train path: sensemaking/train-* - config_name: strategyqa data_files: - split: train path: strategyqa/train-* ---

The dataset includes multiple configurations, each with features including question, answer, and explanation. Configurations include aqua, creak, ecqa, esnli, gsm8k, qasc, qed, sensemaking, strategyqa. Each configuration has a training set with provided data size and number of examples.
提供机构:
chiayewken
原始信息汇总

数据集概述

数据集配置

aqua

  • 特征:
    • question: string
    • answer: string
    • explanation: string
  • 分割:
    • train:
      • 字节数: 894046
      • 样本数: 2728
  • 下载大小: 440439
  • 数据集大小: 894046

creak

  • 特征:
    • question: string
    • answer: string
    • explanation: string
  • 分割:
    • train:
      • 字节数: 1567218
      • 样本数: 6915
  • 下载大小: 824382
  • 数据集大小: 1567218

ecqa

  • 特征:
    • question: string
    • answer: string
    • explanation: string
  • 分割:
    • train:
      • 字节数: 2024749
      • 样本数: 7112
  • 下载大小: 1252735
  • 数据集大小: 2024749

esnli

  • 特征:
    • question: string
    • answer: string
    • explanation: string
  • 分割:
    • train:
      • 字节数: 10999234
      • 样本数: 36174
  • 下载大小: 4378522
  • 数据集大小: 10999234

gsm8k

  • 特征:
    • question: string
    • answer: string
    • explanation: string
  • 分割:
    • train:
      • 字节数: 3700264
      • 样本数: 7473
  • 下载大小: 2109995
  • 数据集大小: 3700264

qasc

  • 特征:
    • question: string
    • answer: string
    • explanation: string
  • 分割:
    • train:
      • 字节数: 427933
      • 样本数: 1084
  • 下载大小: 186224
  • 数据集大小: 427933

qed

  • 特征:
    • question: string
    • answer: string
    • explanation: string
  • 分割:
    • train:
      • 字节数: 4548882
      • 样本数: 5154
  • 下载大小: 2895880
  • 数据集大小: 4548882

sensemaking

  • 特征:
    • question: string
    • answer: string
    • explanation: string
  • 分割:
    • train:
      • 字节数: 1578186
      • 样本数: 6070
  • 下载大小: 587594
  • 数据集大小: 1578186

strategyqa

  • 特征:
    • question: string
    • answer: string
    • explanation: string
  • 分割:
    • train:
      • 字节数: 511087
      • 样本数: 2061
  • 下载大小: 346663
  • 数据集大小: 511087
搜集汇总
数据集介绍
main_image_url
构建方式
在自然语言处理领域,思维链推理能力的培养对提升模型复杂问题求解性能至关重要。chiayewken/flan-cot数据集正是为促进这一目标而构建,它整合了九个不同领域的子数据集,包括aqua、creak、ecqa、esnli、gsm8k、qasc、qed、sensemaking和strategyqa。每个子数据集均采用统一的三字段结构:问题(question)、答案(answer)和解释(explanation),其中解释字段详细描述了从问题到答案的推理过程。所有数据均以训练集形式提供,总样本量超过七万条,覆盖了从数学推理到常识判断的广泛任务,为模型学习链式推理提供了丰富的素材。
特点
该数据集最显著的特点在于其多元化的任务覆盖与一致的标注格式。九个子数据集分别源自不同的基准测试,如数学推理的gsm8k、假设验证的creak以及科学问答的qasc,确保了数据集的广度和挑战性。每个样本均包含人工或自动生成的解释,这些解释以自然语言形式呈现,完整记录了逐步推理的中间步骤,而非仅给出最终答案。这种结构使得flan-cot不仅适用于监督微调,还能有效支持模型对推理过程的学习与模仿,从而增强其在零样本或少样本场景下的泛化能力。
使用方法
使用chiayewken/flan-cot数据集时,可通过HuggingFace的datasets库便捷加载。用户需指定子数据集名称(如'aqua'或'gsm8k')以获取对应配置,所有子集均只包含训练分割。加载后,数据以字典形式呈现,包含'question'、'answer'和'explanation'三个字段。典型应用场景包括对语言模型进行指令微调或思维链训练,其中解释字段可作为目标输出,引导模型学习生成推理链。此外,数据集也可用于评估模型在多种推理任务上的表现,或作为数据增强的种子集合。
背景与挑战
背景概述
在自然语言处理领域,思维链(Chain-of-Thought, CoT)推理能力的提升已成为推动大型语言模型迈向更高智能水平的关键方向。由研究者构建的chiayewken/flan-cot数据集,旨在整合多个具备解释性标注的推理任务,以促进模型在复杂问答场景中的逐步推理能力。该数据集汇集了AQuA、CREAK、ECQA、e-SNLI、GSM8K、QASC、QED、SenseMaking和StrategyQA等九个高质量子集,覆盖从数学推理到常识理解、从科学问答到逻辑推断的广泛领域。每个样本均包含问题、答案及详细解释,为模型学习显式推理路径提供了丰富素材。该数据集的创建时间与FLAN系列模型的演进紧密相关,其影响力体现在为CoT微调与评估提供了标准化基准,推动了可解释性推理研究的发展。
当前挑战
chiayewken/flan-cot数据集所面临的挑战首先体现在领域问题的复杂性上:尽管各子集覆盖多类推理任务,但真实世界中的开放域推理仍需模型具备跨任务泛化与知识迁移能力,当前数据集在多样性与规模之间仍存平衡难题。构建过程中,如何确保每个子集的解释质量与一致性是核心挑战,例如e-SNLI中的自然语言推理解释需与标签严格对齐,而GSM8K的数学推理则要求步骤可验证且无歧义。此外,数据来源的异构性导致标注风格差异,统一格式化与去噪处理耗费大量精力,部分子集如SenseMaking的样本量有限,可能影响模型训练的充分性与鲁棒性评估。
常用场景
经典使用场景
在自然语言处理领域,链式思维推理(Chain-of-Thought, CoT)的兴起为提升大语言模型的逻辑推理能力开辟了新路径。chiayewken/flan-cot数据集正是为此而生,它整合了AQUA、CREAK、ECQA、e-SNLI、GSM8K、QASC、QED、SenseMaking和StrategyQA等多个经典推理子数据集,每个样本均包含问题、答案与逐步解释。该数据集最经典的使用场景在于训练和评估模型在复杂推理任务上的表现,例如算术推理(GSM8K)、常识推理(StrategyQA)和科学问答(QASC),通过提供细粒度的推理链条,引导模型从机械记忆转向结构化思考。
实际应用
在工业化部署中,chiayewken/flan-cot数据集催化了智能客服、教育辅导和医疗诊断等场景的推理能力升级。例如,在教育领域,基于该数据集微调的模型可生成分步解题过程,辅助学生理解数学或科学问题的内在逻辑;在智能客服场景中,模型能够拆解用户多轮查询中的隐含前提,输出更具解释性的应答。此外,该数据集还支撑了法律文档推理和金融风控中的因果分析,使AI系统在需要透明决策链条的行业中获得更广泛信任。
衍生相关工作
chiayewken/flan-cot数据集催生了一系列标志性学术工作,其中最具代表性的是Flan-T5和Flan-PaLM系列模型,它们利用该数据集进行指令微调,显著提升了零样本推理能力。后续研究如Self-Consistency(自一致性解码)和Tree-of-Thoughts(思维树)均在此基础上探索更稳健的推理路径。此外,该数据集还被用于构建多模态推理框架,例如将视觉与文本链式推理结合,以及开发面向低资源语言的跨语言CoT方法,推动了推理范式从单步到多步、从单模态到多模态的演进。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务