p1atdev/202402-at20240421-tokenized-pretrain

---
dataset_info:
features:
- name: input_ids
sequence: int32
splits:
- name: train
num_bytes: 787027607.7784916
num_examples: 6702956
- name: test
num_bytes: 1174150.043321919
num_examples: 10000
download_size: 410517210
dataset_size: 788201757.8218136
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: test
path: data/test-*
---

原始信息汇总

数据集概述

数据集特征

• 名称: input_ids
• 类型: 整数序列（int32）

数据集分割

• 训练集
  • 样本数: 6702956
  • 数据量: 787027607.7784916字节
• 测试集
  • 样本数: 10000
  • 数据量: 1174150.043321919字节

数据集大小

• 下载大小: 410517210字节
• 总数据量: 788201757.8218136字节

数据文件配置

• 配置名称: default
• 训练数据路径: data/train-*
• 测试数据路径: data/test-*