AIForge/tokenized_ds_clm_qwen2_eos
收藏Hugging Face2024-07-23 更新2025-04-26 收录
下载链接：
https://hf-mirror.com/datasets/AIForge/tokenized_ds_clm_qwen2_eos
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
- name: labels
sequence: int64
splits:
- name: train
num_bytes: 15544250560
num_examples: 291856
download_size: 4450049884
dataset_size: 15544250560
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
数据集信息：
特征项：
- 名称：输入标识（input_ids），类型为序列型，元素为int32整数
- 名称：注意力掩码（attention_mask），类型为序列型，元素为int8整数
- 名称：标签（labels），类型为序列型，元素为int64整数
数据集划分：
- 划分名称：训练集（train），占用字节数：15544250560，样本总数：291856
下载总大小：4450049884字节，数据集总占用大小：15544250560字节
数据集配置：
- 配置名称：默认配置（default），数据文件：
- 对应划分：训练集（train），文件路径：data/train-*
提供机构：
AIForge
