Xuezha/tokenizedData
收藏Hugging Face2024-06-08 更新2024-06-29 收录
下载链接：
https://hf-mirror.com/datasets/Xuezha/tokenizedData
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: completion
dtype: string
- name: source
dtype: string
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
splits:
- name: train
num_bytes: 37996032128.4282
num_examples: 229092
- name: validation
num_bytes: 4221836632.571804
num_examples: 25455
download_size: 630062871
dataset_size: 42217868761.0
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: validation
path: data/validation-*
---
提供机构：
Xuezha
原始信息汇总
数据集概述
特征
- completion: 类型为字符串。
- source: 类型为字符串。
- input_ids: 类型为整数序列，数据类型为int32。
- attention_mask: 类型为整数序列，数据类型为int8。
数据分割
- train:
- 字节数: 37996032128.4282
- 样本数: 229092
- validation:
- 字节数: 4221836632.571804
- 样本数: 25455
数据集大小
- 下载大小: 630062871 字节
- 总大小: 42217868761.0 字节
配置
- config_name: default
- data_files:
- train: data/train-*
- validation: data/validation-*
- data_files:
