ytzi/the-stack-dedup-python-filtered-dec_gen_async-gpt2
收藏Hugging Face2024-04-14 更新2024-06-12 收录
下载链接：
https://hf-mirror.com/datasets/ytzi/the-stack-dedup-python-filtered-dec_gen_async-gpt2
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: content
dtype: string
- name: input_ids
sequence: int32
- name: ratio_char_token
dtype: float64
- name: token_count
dtype: int64
splits:
- name: train
num_bytes: 162183078606
num_examples: 12960052
download_size: 47479427571
dataset_size: 162183078606
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
提供机构：
ytzi
原始信息汇总
数据集概述
特征信息
- content: 数据类型为字符串。
- input_ids: 数据类型为整数序列，每个元素类型为int32。
- ratio_char_token: 数据类型为浮点数，类型为float64。
- token_count: 数据类型为整数，类型为int64。
数据分割
- train: 包含12960052个样本，总字节数为162183078606。
数据集大小
- 下载大小: 47479427571字节。
- 数据集大小: 162183078606字节。
配置信息
- default: 包含训练数据文件，路径为
data/train-*。
