ZurabDz/tokenized_dataset
收藏Hugging Face2024-05-19 更新2024-06-12 收录
下载链接：
https://hf-mirror.com/datasets/ZurabDz/tokenized_dataset
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: token_type_ids
sequence: int8
- name: attention_mask
sequence: int8
- name: special_tokens_mask
sequence: int8
splits:
- name: train
num_bytes: 13366678800
num_examples: 55694495
- name: validation
num_bytes: 143604720
num_examples: 598353
download_size: 5542068106
dataset_size: 13510283520
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: validation
path: data/validation-*
---
提供机构：
ZurabDz
原始信息汇总
数据集概述
数据集特征
- input_ids：序列类型为
int32。 - token_type_ids：序列类型为
int8。 - attention_mask：序列类型为
int8。 - special_tokens_mask：序列类型为
int8。
数据集分割
- 训练集：
- 数据量：13366678800字节
- 示例数量：55694495
- 验证集：
- 数据量：143604720字节
- 示例数量：598353
数据集大小
- 下载大小：5542068106字节
- 数据集总大小：13510283520字节
配置文件
- 默认配置：
- 训练集路径：
data/train-* - 验证集路径：
data/validation-*
- 训练集路径：
