Dip0323/CLMTokenizer
收藏Hugging Face2023-10-15 更新2024-03-04 收录
下载链接：
https://hf-mirror.com/datasets/Dip0323/CLMTokenizer
下载链接
链接失效反馈官方服务：
资源简介：
---
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: valid
path: data/valid-*
dataset_info:
features:
- name: input_ids
sequence: int32
splits:
- name: train
num_bytes: 710073276
num_examples: 1376111
- name: valid
num_bytes: 7016052
num_examples: 13597
download_size: 314934179
dataset_size: 717089328
---
# Dataset Card for "CLMTokenizer"
[More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
提供机构：
Dip0323
原始信息汇总
数据集概述
配置
- 默认配置 (
default)- 数据文件路径:
- 训练集 (
train):data/train-* - 验证集 (
valid):data/valid-*
- 训练集 (
- 数据文件路径:
数据集信息
- 特征:
input_ids: 序列类型为int32
- 数据分割:
- 训练集 (
train):- 字节数: 710073276
- 样本数: 1376111
- 验证集 (
valid):- 字节数: 7016052
- 样本数: 13597
- 训练集 (
- 下载大小: 314934179 字节
- 数据集大小: 717089328 字节
