stanfordnlp/snli|自然语言处理数据集|文本分类数据集

SNLI语料库（版本1.0）是一个包含570k个人工撰写的英文句子对的集合，这些句子对经过人工标注，标注为蕴含、矛盾或中立，支持自然语言推理（NLI）任务，也称为识别文本蕴含（RTE）。数据集来源于Flickr 30k和VisualGenome语料库，通过众包平台Amazon Mechanical Turk进行标注。

原始信息汇总

数据集概述

名称: Stanford Natural Language Inference (SNLI)

语言: 英语 (en)

许可证: Creative Commons Attribution-ShareAlike 4.0 International License (cc-by-sa-4.0)

多语言性: 单语种

大小: 100K<n<1M

任务类别: 文本分类

任务ID: 自然语言推理, 多输入文本分类

数据集信息:

• 配置名称: plain_text
• 特征:
  • premise: 字符串类型
  • hypothesis: 字符串类型
  • label: 分类标签，包括0: entailment, 1: neutral, 2: contradiction
• 数据分割:
  • train: 550,152个实例
  • validation: 10,000个实例
  • test: 10,000个实例

数据集结构

• 数据实例: 每个实例包含一个前提、一个假设和一个标签。
• 数据字段:
  • premise: 用于判断假设真实性的字符串。
  • hypothesis: 可能为真、假或与前提比较时真值条件未知的字符串。
  • label: 整数，表示假设与前提的关系，0表示假设蕴含前提，1表示两者既不蕴含也不矛盾，2表示假设与前提矛盾。

数据集创建

• 来源数据: 数据集扩展自Flickr-30k和Visual Genome。
• 注释: 由Amazon Mechanical Turk的众包工作者创建。
• 个人和敏感信息: 数据集可能包含原始Flickr照片中人物的描述，但不包含作者或众包工作者的个人身份信息。

使用数据集的考虑

• 社会影响: 数据集用于评估文本表示系统，特别是那些通过表示学习方法诱导的系统。
• 偏见讨论: 数据集中的语言反映了从Flickr收集的照片内容，可能包含性别等身份类别的刻板印象。
• 其他已知限制: 数据集存在注释工件，如Poliak et al. (2018)所示，可以在不使用前提的情况下正确预测假设标签的69%。