pretraining-playground/pythia-pile-presampled

--- license: - mit language: - en dataset_info: - config_name: full splits: - name: train num_bytes: 600664064000 num_examples: 146432000 - config_name: checkpoints splits: - name: train num_bytes: 6919004160 num_examples: 1683456 configs: - config_name: full data_files: - split: train path: data/shard* - config_name: checkpoints data_files: - split: train path: data/checkpoint_steps.parquet pretty_name: Pythia Presampled Pile ---许可证： - MIT许可证 语言： - 英语 数据集信息： - 配置名称：full（完整配置） 数据集划分： - 名称：训练集（train） 字节大小：600664064000 样本数量：146432000 - 配置名称：checkpoints（模型检查点配置） 数据集划分： - 名称：训练集（train） 字节大小：6919004160 样本数量：1683456 配置项： - 配置名称：full（完整配置） 数据文件： - 划分：训练集（train） 路径：data/shard* - 配置名称：checkpoints（模型检查点配置） 数据文件: - 划分：训练集（train） 路径：data/checkpoint_steps.parquet 展示名称：Pythia预采样Pile数据集（Pythia Presampled Pile）