unpredictable/unpredictable_full
收藏资源简介：
UnpredicTable数据集由网络表格格式化而成的少样本任务组成，旨在通过微调语言模型来提高其少样本学习性能。数据集包含从23,744个唯一网站中提取的413,299个任务。每个任务以JSON行文件表示，包含输入、选项、输出等字段。数据集支持多种任务，如多项选择、问答、表格问答、文本分类等。数据集的语言为英语，数据来源于WDC Web Table Corpus。由于数据是从网络抓取的，可能包含有毒、种族主义、性别歧视等有害偏见和文本，使用时需谨慎。
The UnpredicTable Dataset consists of few-shot tasks formatted as web tables, which is designed to improve the few-shot learning performance of language models through fine-tuning. The dataset contains 413,299 tasks extracted from 23,744 unique websites. Each task is represented in a JSON Lines file with fields such as input, options, output and others. It supports multiple task types including multiple choice, question answering, table question answering, text classification and more. The dataset is in English and sourced from the WDC Web Table Corpus. Since the data was crawled from the web, it may contain toxic, racist, sexist and other harmful biases and texts, so caution should be exercised when using it.
数据集卡片：UnpredicTable-full
数据集描述
数据集摘要
UnpredicTable 数据集包含网页表格格式化为少样本任务，用于微调语言模型以提高其少样本性能。数据集包括多个版本：
- UnpredicTable-full: 从初始的 WTC 语料库（50M 表格）开始，通过表格到任务的转换过程生成，包含 413,299 个任务来自 23,744 个独特网站。
- UnpredicTable-unique: 与 UnpredicTable-full 相同，但每个网站最多一个任务，包含 23,744 个任务来自 23,744 个网站。
- UnpredicTable-5k: 从完整数据集中随机选择的 5,000 个表格。
- UnpredicTable 数据子集: 基于原始网站的子集，例如 UnpredicTable-support-google-com。
支持的任务和排行榜
数据集包含多种任务，如多项选择、问答、表格问答、文本分类等。数据集的特点是任务数量多，每个任务的示例少，适合用于提高少样本性能的微调/预训练。
语言
英语
数据集结构
数据实例
每个任务以 jsonline 文件形式表示，包含多个少样本示例。每个示例是一个字典，包含 task、input、options 和 output 字段。input 字段包含表格中同一行的多个列元素，output 字段是同一行的目标列元素。对于多项选择分类，options 字段包含模型需要选择的选项。
数据字段
- task: 任务标识符
- input: 表格中特定行的列元素
- options: 多项选择分类的选项
- output: 与输入同一行的目标列元素
- pageTitle: 包含表格的页面标题
- outputColName: 输出列名称
- url: 包含表格的网站链接
- wdcFile: WDC Web Table Corpus 文件
数据分割
UnpredicTable 数据集没有额外的数据分割。
数据集创建
策划理由
少样本训练在多任务数据集上已被证明可以提高语言模型的少样本学习性能，但尚不清楚哪些训练任务能有效适应下游任务。少样本学习数据集通常由昂贵的人工策划，限制了训练任务的规模和多样性。作为替代，我们自动从多样化的互联网表格中提取 413,299 个任务，提供研究资源以探讨训练数据与少样本学习之间的关系。
源数据
初始数据收集和规范化
使用来自 WDC Web Table Corpus 2015 的英语关系子集的互联网表格。WTC 数据集表格从 2015 年 7 月的 Common Crawl 网络语料库中提取。数据集包含 50,820,165 个表格来自 323,160 个网络域。然后我们将表格转换为少样本学习任务。
源语言生产者
数据集从 WDC Web Table Corpora 提取。
个人和敏感信息
数据从 WDC Web Table Corpora 提取，后者从 Common Crawl 提取表格。我们未以任何方式过滤数据，因此可能包含用户身份或其他敏感信息。
使用数据的注意事项
数据集的社会影响
该数据集旨在作为研究资源，用于探讨训练数据与少样本学习之间的关系。数据包含高质量和低质量数据，以及多样化的内容，可能不真实或不适当。未经仔细调查，不应用于训练将部署在决策关键或面向用户的场景中的模型。
偏见的讨论
由于数据集包含从网络抓取的表格，因此也会包含许多有毒、种族主义、性别歧视和其他有害偏见和文本。我们未对数据集中的偏见进行分析，也未明确过滤内容。这意味着在数据集上训练的模型可能反映数据集中存在的有害偏见和有毒文本。
其他已知限制
无其他已知限制。
附加信息
许可信息
Apache 2.0
