PY007/tokenized_proof_pile_test_neox

---
dataset_info:
features:
- name: text
dtype: string
- name: meta
dtype: string
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
- name: tokenized_len
dtype: int64
splits:
- name: test
num_bytes: 1593239744
num_examples: 46251
download_size: 580711724
dataset_size: 1593239744
configs:
- config_name: default
data_files:
- split: test
path: data/test-*
---

原始信息汇总

数据集概述

数据特征

• text: 数据类型为字符串。
• meta: 数据类型为字符串。
• input_ids: 数据类型为整数序列，每个元素为32位整数。
• attention_mask: 数据类型为整数序列，每个元素为8位整数。
• tokenized_len: 数据类型为64位整数。

数据分割

• test: 包含46251个样本，总字节数为1593239744。

数据集大小

• 下载大小: 580711724字节。
• 数据集大小: 1593239744字节。

配置信息

• default:
  • 数据文件:
    • split: test
    • path: data/test-*