timpal0l/trafilatura-extracted-full

---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
splits:
- name: train
num_bytes: 65716109592.0
num_examples: 6412579
- name: test
num_bytes: 7301792232.0
num_examples: 712509
download_size: 28765116415
dataset_size: 73017901824.0
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: test
path: data/test-*
---

原始信息汇总

数据集概述

特征

• input_ids: 序列类型为 int32
• attention_mask: 序列类型为 int8

数据分割

• train:
  • 字节数: 65716109592.0
  • 样本数: 6412579
• test:
  • 字节数: 7301792232.0
  • 样本数: 712509

数据大小

• 下载大小: 28765116415 字节
• 数据集大小: 73017901824.0 字节

配置

• config_name: default
  • 数据文件:
    • train: data/train-*
    • test: data/test-*