Yunij/tokenized_datasets
收藏Hugging Face2023-07-18 更新2024-03-04 收录
下载链接：
https://hf-mirror.com/datasets/Yunij/tokenized_datasets
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: prompt
dtype: string
- name: text
dtype: string
- name: source
dtype: string
- name: label
dtype: int64
- name: perplexity
dtype: float64
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
splits:
- name: train
num_bytes: 777879009
num_examples: 330345
- name: test
num_bytes: 40979430
num_examples: 17387
download_size: 432466136
dataset_size: 818858439
---
# Dataset Card for "tokenized_datasets"
[More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
提供机构：
Yunij
原始信息汇总
数据集概述
数据集特征
- prompt: 数据类型为字符串。
- text: 数据类型为字符串。
- source: 数据类型为字符串。
- label: 数据类型为整数（int64）。
- perplexity: 数据类型为浮点数（float64）。
- input_ids: 序列类型为整数（int32）。
- attention_mask: 序列类型为整数（int8）。
数据集划分
- 训练集（train）: 包含330345个样本，总大小为777879009字节。
- 测试集（test）: 包含17387个样本，总大小为40979430字节。
数据集大小
- 下载大小: 432466136字节。
- 数据集总大小: 818858439字节。
