morten-j/medhie-tokenized-dataset-roots_ar-mixed_lengths

---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: token_type_ids
sequence: int8
- name: attention_mask
sequence: int8
- name: overflow_to_sample_mapping
dtype: int64
splits:
- name: train
num_bytes: 10607191646
num_examples: 11894347
download_size: 3598080815
dataset_size: 10607191646
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

原始信息汇总

数据集概述

数据集特征

• input_ids：序列类型为int32。
• token_type_ids：序列类型为int8。
• attention_mask：序列类型为int8。
• overflow_to_sample_mapping：数据类型为int64。

数据集分割

• 训练集（train）：
  • 数据量：10607191646字节
  • 样本数：11894347

数据集大小

• 下载大小：3598080815字节
• 数据集总大小：10607191646字节

配置信息

• 默认配置（default）：
  • 数据文件路径：data/train-*