WuDaoCorpus2.0_base_200G

WUDAO data used for CoreTech_LLM Continuous Pre-Training.用于核心技术大语言模型（CoreTech_LLM）持续预训练的悟道（WUDAO）数据集

搜集汇总

背景与挑战

背景概述

WuDaoCorpus2.0_base_200G是一个用于文本预训练语言建模的开源数据集，容量为200G，采用Apache 2.0许可证。该数据集由lweiranl/WUDAO维护，目前暂无数据文件。