morten-j/medhie-tokenized-dataset-sefaria-mBERT

---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: token_type_ids
sequence: int8
- name: attention_mask
sequence: int8
- name: overflow_to_sample_mapping
dtype: int64
splits:
- name: train
num_bytes: 5971124282
num_examples: 6958840
download_size: 1363371505
dataset_size: 5971124282
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

数据集信息（dataset_info）：
特征：
- 输入编号（input_ids）：序列类型，元素为32位整数
- 分段编号（token_type_ids）：序列类型，元素为8位整数
- 注意力掩码（attention_mask）：序列类型，元素为8位整数
- 溢出样本映射（overflow_to_sample_mapping）：数据类型为64位整数
数据集划分：
- 名称：训练集（train），占用字节数：5971124282，样本数量：6958840
下载大小：1363371505 字节
数据集总大小：5971124282 字节
配置项：
- 配置名称：默认配置（default），数据文件：
- 对应训练集划分，文件路径为 data/train-*

原始信息汇总

数据集概述

数据集特征

• input_ids：序列类型为int32。
• token_type_ids：序列类型为int8。
• attention_mask：序列类型为int8。
• overflow_to_sample_mapping：数据类型为int64。

数据集分割

• 训练集（train）：
  • 数据量：6958840个样本。
  • 存储大小：5971124282字节。

数据集大小

• 下载大小：1363371505字节。
• 数据集总大小：5971124282字节。

配置信息

• 配置名称：default
• 数据文件路径：
  • 训练集路径：data/train-*