emozilla/proofpile-test-tokenized-llama3

---
dataset_info:
features:
- name: text
dtype: string
- name: meta
dtype: string
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
- name: tokenized_len
dtype: int64
splits:
- name: test
num_bytes: 1599643624
num_examples: 46251
download_size: 589451793
dataset_size: 1599643624
configs:
- config_name: default
data_files:
- split: test
path: data/test-*
---

原始信息汇总

数据集概述

数据集特征

• text: 数据类型为字符串。
• meta: 数据类型为字符串。
• input_ids: 序列类型，数据类型为int32。
• attention_mask: 序列类型，数据类型为int8。
• tokenized_len: 数据类型为int64。

数据集分割

• test:
  • 数据大小: 1599643624字节
  • 示例数量: 46251

数据集大小

• 下载大小: 589451793字节
• 数据集总大小: 1599643624字节

配置

• config_name: default
  • data_files:
    • split: test
      • path: data/test-*