maneln/tokenized_dataset_llama2

---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
- name: labels
sequence: int64
splits:
- name: train
num_bytes: 520104
num_examples: 78
- name: validation
num_bytes: 133360
num_examples: 20
download_size: 10906
dataset_size: 653464
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: validation
path: data/validation-*
---

原始信息汇总

数据集概述

数据集特征

• input_ids：序列类型为int32。
• attention_mask：序列类型为int8。
• labels：序列类型为int64。

数据集分割

• 训练集：
  • 大小：520104字节
  • 示例数量：78
• 验证集：
  • 大小：133360字节
  • 示例数量：20

数据集大小

• 下载大小：10906字节
• 数据集总大小：653464字节

数据文件配置

• 默认配置：
  • 训练集路径：data/train-*
  • 验证集路径：data/validation-*