five

tasksource/brainteasers

收藏
Hugging Face2024-04-03 更新2024-06-11 收录
下载链接:
https://hf-mirror.com/datasets/tasksource/brainteasers
下载链接
链接失效反馈
官方服务:
资源简介:
--- dataset_info: - config_name: SP features: - name: id dtype: string - name: question dtype: string - name: answer dtype: string - name: distractor1 dtype: string - name: distractor2 dtype: string - name: distractor(unsure) dtype: string - name: label dtype: int64 - name: choice_list dtype: string - name: choice_order sequence: int64 splits: - name: train num_bytes: 110783 num_examples: 396 download_size: 42861 dataset_size: 110783 - config_name: WP features: - name: id dtype: string - name: question dtype: string - name: answer dtype: string - name: distractor1 dtype: string - name: distractor2 dtype: string - name: distractor(unsure) dtype: string - name: label dtype: int64 - name: choice_list dtype: string - name: choice_order sequence: int64 splits: - name: train num_bytes: 110783 num_examples: 396 download_size: 42861 dataset_size: 110783 configs: - config_name: SP data_files: - split: train path: SP/train-* - config_name: WP data_files: - split: train path: WP/train-* --- # Dataset Card for "brainteasers" [More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

数据集信息(dataset_info): - 配置名称(config_name): SP 特征字段(features): - 名称(name): 编号(id) 数据类型(dtype): 字符串(string) - 名称(name): 问题(question) 数据类型: 字符串(string) - 名称(name): 正确答案(answer) 数据类型: 字符串(string) - 名称(name): 干扰项1(distractor1) 数据类型: 字符串(string) - 名称(name): 干扰项2(distractor2) 数据类型: 字符串(string) - 名称(name): 不确定干扰项(distractor(unsure)) 数据类型: 字符串(string) - 名称(name): 标签(label) 数据类型(dtype): 64位整数(int64) - 名称(name): 选项列表(choice_list) 数据类型: 字符串(string) - 名称(name): 选项顺序(choice_order) 数据类型: 64位整数序列(sequence: int64) 数据拆分(splits): - 名称(name): 训练集(train) 字节数(num_bytes): 110783 样本数量(num_examples): 396 下载大小(download_size): 42861 数据集总大小(dataset_size): 110783 - 配置名称(config_name): WP 特征字段(features): - 名称(name): 编号(id) 数据类型: 字符串(string) - 名称(name): 问题(question) 数据类型: 字符串(string) - 名称(name): 正确答案(answer) 数据类型: 字符串(string) - 名称(name): 干扰项1(distractor1) 数据类型: 字符串(string) - 名称(name): 干扰项2(distractor2) 数据类型: 字符串(string) - 名称(name): 不确定干扰项(distractor(unsure)) 数据类型: 字符串(string) - 名称(name): 标签(label) 数据类型: 64位整数(int64) - 名称(name): 选项列表(choice_list) 数据类型: 字符串(string) - 名称(name): 选项顺序(choice_order) 数据类型: 64位整数序列(sequence: int64) 数据拆分(splits): - 名称(name): 训练集(train) 字节数(num_bytes): 110783 样本数量(num_examples): 396 下载大小(download_size): 42861 数据集总大小(dataset_size): 110783 数据集配置(configs): - 配置名称(config_name): SP 数据文件(data_files): - 划分(split): 训练集(train) 路径(path): SP/train-* - 配置名称(config_name): WP 数据文件(data_files): - 划分(split): 训练集(train) 路径(path): WP/train-* --- # 脑筋急转弯(brainteasers)数据集卡片 [需补充更多信息](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
提供机构:
tasksource
原始信息汇总

数据集概述

数据集配置

  • SP

    • 特征
      • id: 字符串类型
      • question: 字符串类型
      • answer: 字符串类型
      • distractor1: 字符串类型
      • distractor2: 字符串类型
      • distractor(unsure): 字符串类型
      • label: 64位整数类型
      • choice_list: 字符串类型
      • choice_order: 整数序列类型
    • 分割
      • train
        • 字节数: 110783
        • 样本数: 396
    • 下载大小: 42861 字节
    • 数据集大小: 110783 字节
  • WP

    • 特征
      • id: 字符串类型
      • question: 字符串类型
      • answer: 字符串类型
      • distractor1: 字符串类型
      • distractor2: 字符串类型
      • distractor(unsure): 字符串类型
      • label: 64位整数类型
      • choice_list: 字符串类型
      • choice_order: 整数序列类型
    • 分割
      • train
        • 字节数: 110783
        • 样本数: 396
    • 下载大小: 42861 字节
    • 数据集大小: 110783 字节

数据文件

  • SP
    • train: SP/train-*
  • WP
    • train: WP/train-*
搜集汇总
数据集介绍
main_image_url
构建方式
该数据集名为brainteasers,由tasksource团队构建,旨在评估和提升语言模型的推理能力。数据集包含两个配置:SP(语义谜题)和WP(词汇谜题)。每个样本由一个问题、一个正确答案、两个干扰项、一个不确定干扰项、标签、选项列表及选项顺序组成。所有数据均以训练集形式提供,SP和WP各包含396个样本,数据集总大小为110783字节。构建方式基于精心设计的谜题模板,通过人工标注确保答案的准确性与干扰项的合理性,从而形成结构化的多选推理任务。
特点
brainteasers数据集的核心特点在于其聚焦于两种不同类型的谜题:语义谜题和词汇谜题,分别考察模型对语言意义和词汇关系的理解。每个样本提供多个干扰项,包括一个标记为“不确定”的选项,增加了任务难度与真实性。数据集规模适中,训练集样本数量均为396,便于快速实验。此外,选项顺序的随机化设计避免了模型对固定模式的依赖,提升了评估的公平性。整体上,该数据集为研究语言模型的常识推理和语言理解能力提供了高质量的基准。
使用方法
使用brainteasers数据集时,可直接从HuggingFace加载SP或WP配置。通过datasets库的load_dataset函数指定配置名称,即可获取训练数据。每个样本的question字段作为输入,choice_list字段提供候选选项,label字段指示正确答案索引。用户可将数据用于微调语言模型或评估推理能力,例如通过计算模型选择正确答案的准确率。数据集仅包含训练集,适合直接用于训练或验证。建议在实验中将SP和WP分开处理,以分别分析模型在语义和词汇推理上的表现。
背景与挑战
背景概述
在自然语言处理领域,推理能力的评估一直是衡量模型智能水平的关键维度。tasksource/brainteasers数据集由研究团队精心构建,旨在挑战语言模型在非标准逻辑与语义理解上的极限。该数据集创建于近年来,聚焦于两类核心谜题:语义悖论(SP)与文字游戏(WP),每类包含396个训练样本,通过精心设计的干扰项与正确答案组合,迫使模型跳出常规语言模式进行深层思考。其研究问题直指当前大型语言模型在常识推理与创造性解决问题方面的薄弱环节,为评估模型是否真正具备类人思维提供了严苛的测试基准。该数据集的发布对推动可解释人工智能与认知计算的发展具有重要影响,促使研究者重新审视语言模型在复杂逻辑任务中的实际能力边界。
当前挑战
当前tasksource/brainteasers数据集所面临的挑战主要体现在领域问题与构建过程两个层面。在领域问题上,该数据集旨在解决语言模型对语义歧义与隐含逻辑关系的理解困境,例如SP配置中的悖论判断与WP配置中的双关语解析,这些任务要求模型超越表层语义,捕捉词汇的多义性与语境依赖,而现有模型常因过度依赖统计模式而难以应对。在构建过程中,挑战则集中于干扰项的设计合理性——需确保每个干扰项在语法与语义上看似合理,却与正确答案存在细微但致命的逻辑差异,同时保持样本规模有限(仅396条)以模拟真实场景中的稀疏数据特征,这要求标注者具备高度语言敏感性,且需避免人工标注偏差对模型泛化能力的误导。
常用场景
经典使用场景
在认知科学与自然语言处理交叉领域,tasksource/brainteasers数据集以其独特的谜题结构,成为评估语言模型常识推理与创造性思维能力的标杆性基准。该数据集包含SP(语义谜题)与WP(文字谜题)两个子集,每个样本由问题、正确答案及多个干扰项构成,旨在模拟人类解决非标准逻辑问题时的认知过程。研究者常将其作为测试大语言模型在零样本或少样本条件下,能否超越表面语义匹配、捕捉隐含逻辑关系的试金石,尤其在需要跨领域知识整合与反直觉推理的任务中,该数据集为模型智能水平的量化提供了严苛的评估框架。
实际应用
在工业级智能系统中,该数据集的应用场景延伸至教育科技与交互式娱乐领域。例如,自适应学习平台可基于其谜题形式构建逻辑思维训练模块,通过分析学习者对不同类型干扰项的选择模式,动态诊断其认知盲区并推送个性化练习。在智能客服场景中,模型若能通过brainteasers的验证,则更可能在处理用户含混诉求或反讽表达时做出合理回应。此外,游戏化AI代理的决策系统可利用该数据集训练角色在非结构化情境下生成出人意料但合乎逻辑的行为,显著提升人机互动的深度与趣味性。
衍生相关工作
该数据集催生了多个具有里程碑意义的衍生研究。例如,基于其谜题结构,研究者提出了“逻辑对抗训练”方法,通过动态生成类似brainteasers的干扰项来强化模型的鲁棒性。另一经典工作是“认知图谱构建”,即利用数据集中的语义冲突模式,引导模型学习从常识库中抽取因果链以消解歧义。此外,在提示工程领域,brainteasers被用于设计多步推理链模板,显著提升了模型在复杂问答任务中的表现。这些工作共同勾勒出从静态评估到动态能力培养的研究脉络,深刻影响了后续对机器认知架构的探索。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务