Juliushanhanhan/openwebtext-1b-llama3-tokenized-cxt-1024

---
dataset_info:
features:
- name: input_ids
sequence: int32
splits:
- name: train
num_bytes: 4114952700.0
num_examples: 1003647
download_size: 2085853005
dataset_size: 4114952700.0
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

原始信息汇总

数据集概述

数据集信息

• 特征:
  • 名称: input_ids
  • 类型: int32

数据分割

• 训练集:
  • 名称: train
  • 字节数: 4114952700.0
  • 样本数: 1003647

数据集大小

• 下载大小: 2085853005
• 数据集大小: 4114952700.0

配置

• 配置名称: default
  • 数据文件:
    • 分割: train
    • 路径: data/train-*