anujsahani01/CodeParrot_tokenized

---
license: mit
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: test
path: data/test-*
- split: validation
path: data/validation-*
dataset_info:
features:
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
- name: labels
sequence: int64
splits:
- name: train
num_bytes: 442225832
num_examples: 33986
- name: test
num_bytes: 147373912
num_examples: 11326
- name: validation
num_bytes: 288033632
num_examples: 22136
download_size: 112776043
dataset_size: 877633376
---

原始信息汇总

数据集概述

许可证

• MIT许可证

配置

• 默认配置
  • 数据文件路径：
    • 训练集：data/train-*
    • 测试集：data/test-*
    • 验证集：data/validation-*

数据集信息

• 特征：

  • input_ids：序列类型，数据类型为int32
  • attention_mask：序列类型，数据类型为int8
  • labels：序列类型，数据类型为int64

• 数据集划分：

  • 训练集：
    • 字节数：442225832
    • 样本数：33986
  • 测试集：
    • 字节数：147373912
    • 样本数：11326
  • 验证集：
    • 字节数：288033632
    • 样本数：22136

• 数据集大小：

  • 下载大小：112776043字节
  • 数据集总大小：877633376字节