sheryc/SlimPajama-6B-chunked-32768-tokenized-llama3

---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
- name: labels
sequence: int64
- name: sentence_start_positions
sequence: int64
splits:
- name: train
num_bytes: 6953164088
num_examples: 16000
download_size: 2205134257
dataset_size: 6953164088
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

原始信息汇总

数据集概述

数据集特征

• input_ids：序列类型为int32。
• attention_mask：序列类型为int8。
• labels：序列类型为int64。
• sentence_start_positions：序列类型为int64。

数据集划分

• 训练集（train）：
  • 数据量：16000个样本。
  • 存储大小：6953164088字节。

数据集大小

• 下载大小：2205134257字节。
• 数据集总大小：6953164088字节。

配置信息

• 默认配置（default）：
  • 训练数据文件路径：data/train-*。