WikiText-103 Tokenized (SmolLM2-1.7B, seq=512)

kaggle2026-05-06 更新2026-06-17 收录

语言模型训练

优化模型

数据链接：

https://www.kaggle.com/datasets/jeypiic/wikitext103-smollm2-512 数据链接链接失效反馈

官方服务：

资源简介：

Pre-tokenized & chunked WikiText-103 for Scheduled QAT experiments

用于调度式量化感知训练（Scheduled QAT）实验的预分词与分块WikiText-103数据集

创建时间：

2026-05-06

SEVENLLM-Instruct

网络安全

语言模型训练

SEVENLLM-Instruct是由北京航空航天大学国家重点实验室创建的高质量双语指令数据集，包含85000个样本，用于训练大型语言模型以增强网络安全事件分析能力。该数据集通过爬取网络安全网站的原始文本构建，采用Select-Instruct方法生成监督学习数据。SEVENLLM-Instruct旨在解决网络安全领域数据稀缺问题，通过多任务学习提升模型在威胁识别和响应方面的性能，广泛应用于网络安

arXiv2024-05-06 更新920

drodin/TextBooksPersonaHub

语言模型训练

内容生成

TextBooksPersonaHub数据集是proj-persona/PersonaHub数据集的扩展，使用Qwen2-72B-Instruct模型生成与特定人物相关的教科书式段落。每个条目包含原始人物描述和生成的内容。数据集旨在用于训练语言模型、研究人物驱动的内容生成以及探索教科书质量数据在语言模型训练中的有效性。

Hugging Face2024-07-21 更新200

maghwa/OpenHermes-2-AR-10K-18-600k-610k

语言模型训练

对话生成数据

--- dataset_info: features: - name: topic dtype: 'null' - name: views dtype: float64 - name: category dtype: 'null' - name: avatarUrl dtype: 'null' - name: language dty

Hugging Face2024-02-15 更新160

Daniel-P-Gonzalez/OCD

语言模型训练

文本数据清理

Only Clean Data (OCD)是一个精心策划和清理的文本语料库，旨在为训练基础语言模型提供最高质量的文本数据。数据集包括从C4、PLOS和CCOpenBooks等来源筛选的文本，经过手动检查和修复，确保文本质量。目前数据集包含三个子集：经过过滤的网页数据、经过处理的同行评审研究文章以及非小说类书籍。数据集还在持续开发中，计划扩展更多领域的内容。

Hugging Face2023-12-23 更新250

mayflowergmbh/airoboros-3.0_de

德语文本生成

语言模型训练

这是一个针对[jondurbin/airoboros-3.0](https://huggingface.co/datasets/jondurbin/airoboros-3.0)数据集的德语翻译版本，数据来源于[seedboxventures/multitask_german_examples_32k](https://huggingface.co/datasets/seedboxventures/

Hugging Face2024-02-14 更新170

WikiText-103 Tokenized (SmolLM2-1.7B, seq=512)

资源简介：

相关数据集