Tristan/RedPajama-Data-V2-sample-100B-filtered-shuffled-tokenized-with-token-counts
收藏Hugging Face2024-05-31 更新2024-06-12 收录
下载链接：
https://hf-mirror.com/datasets/Tristan/RedPajama-Data-V2-sample-100B-filtered-shuffled-tokenized-with-token-counts
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: doc_id
dtype: string
- name: meta
dtype: string
- name: quality_signals
dtype: string
- name: domain
dtype: string
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
- name: special_tokens_mask
sequence: int8
- name: token_count
dtype: int64
splits:
- name: train
num_bytes: 67065187806
num_examples: 4156986
download_size: 21172612631
dataset_size: 67065187806
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
提供机构：
Tristan
原始信息汇总
数据集概述
数据集特征
- doc_id: 数据类型为字符串。
- meta: 数据类型为字符串。
- quality_signals: 数据类型为字符串。
- domain: 数据类型为字符串。
- input_ids: 数据类型为整数序列，类型为int32。
- attention_mask: 数据类型为整数序列，类型为int8。
- special_tokens_mask: 数据类型为整数序列，类型为int8。
- token_count: 数据类型为整数，类型为int64。
数据集分割
- 训练集（train）:
- 数据量：67065187806字节
- 样本数量：4156986个
数据集大小
- 下载大小：21172612631字节
- 数据集总大小：67065187806字节
配置信息
- 配置名称: default
- 数据文件:
- 分割类型: 训练集
- 文件路径: data/train-*
