ZurabDz/tokenized_dataset_30000
收藏Hugging Face2024-06-07 更新2024-06-12 收录
下载链接：
https://hf-mirror.com/datasets/ZurabDz/tokenized_dataset_30000
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: token_type_ids
sequence: int8
- name: attention_mask
sequence: int8
- name: special_tokens_mask
sequence: int8
splits:
- name: train
num_bytes: 13579352160
num_examples: 56580634
- name: validation
num_bytes: 145881600
num_examples: 607840
download_size: 5561650628
dataset_size: 13725233760
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: validation
path: data/validation-*
---
提供机构：
ZurabDz
原始信息汇总
数据集概述
数据集特征
- input_ids：序列类型为
int32。 - token_type_ids：序列类型为
int8。 - attention_mask：序列类型为
int8。 - special_tokens_mask：序列类型为
int8。
数据集分割
- 训练集：
- 大小：13579352160字节
- 示例数：56580634
- 验证集：
- 大小：145881600字节
- 示例数：607840
数据集大小
- 下载大小：5561650628字节
- 数据集总大小：13725233760字节
配置文件
- 默认配置：
- 训练集路径：
data/train-* - 验证集路径：
data/validation-*
- 训练集路径：
