ali5341/scitldr-chat-format

SciTLDR Chat-Format数据集是一个用于摘要SFT的聊天格式准备数据集。它基于`allenai/scitldr`数据集，专注于科学论文的极端摘要（TLDR生成）。数据集包含训练和验证文件，支持多种目标策略（如`target-policy first`和`target-policy all`）。每个JSONL行包含`messages`（用户指令、论文标题和内容，以及助理的TLDR摘要句子）和`meta`（分割、来源变体、论文ID、目标索引/计数）。数据集的目标是生成一句话的科学TLDR摘要，用户输入由论文`标题`和`来源`构建，助理目标来自`target`。

The SciTLDR Chat-Format dataset is a chat-format preparation of SciTLDR for summarization SFT. It is based on the `allenai/scitldr` dataset and focuses on extreme summarization of scientific papers (TLDR generation). The dataset includes training and validation files and supports various target policies (e.g., `target-policy first` and `target-policy all`). Each JSONL row contains `messages` (user instruction, paper title and content, and assistants TLDR summary sentence) and `meta` (split, source variant, paper_id, target index/count). The datasets task is one-sentence scientific TLDR generation, with user input built from paper `title` and `source`, and assistant target drawn from `target`.

搜集汇总

数据集介绍

构建方式

在科学文献摘要生成领域，TLDR（太长不读）摘要任务旨在从冗长的学术论文中提炼出简洁的核心要点。SciTLDR Chat-Format数据集正是基于经典的allenai/scitldr数据集，经过精细的对话格式转换而构建的。其核心流程包括：从原始数据集中选用A、AIC和FullText三种变体，利用论文标题（title）与正文内容（source）构造用户输入，并选取对应的目标摘要（target）作为助手的回答。该数据集支持两种目标选取策略——`first`策略仅保留每条数据的第一个有效摘要，而`all`策略则为每个目标单独生成一条记录。最终，通过平衡来自不同变体的样本比例，划分出训练集和验证集。

特点

该数据集最显著的特点在于其采用OpenAI风格的`messages`对话格式，使其天然适用于指令微调（SFT）场景，尤其是面向摘要生成的对话型模型训练。每个样本以结构化JSON形式呈现，包含`user`角色的系统指令与论文内容，以及`assistant`角色的一句TLDR摘要，并附加了详尽的元数据（meta），如数据来源变体、论文ID和目标索引，便于用户追踪数据来源与多样性。此外，多目标设定赋予了模型学习从同一篇论文中生成多个不同摘要的能力，提升了训练的丰富性和泛化性。

使用方法

使用该数据集时，可以直接加载`train.jsonl`和`validation.jsonl`文件，每个JSONL行均为标准的对话格式，兼容HuggingFace的`transformers`库中按对话式数据微调的训练流程。用户可根据需求选择`target-policy`参数，若希望每条论文只对应一条摘要，使用默认的`first`策略；若需要充分利用多目标数据，可运行提供的`prepare_scitldr_unsloth.py`脚本并设置`--target-policy all`，该脚本会生成每个目标对应的独立数据行。此外，配合`stats.json`可了解数据分布情况，确保模型训练时的采样均衡。

背景与挑战

背景概述

在科学文献呈指数级增长的背景下，极长文本的自动摘要成为自然语言处理领域的关键挑战，尤以生成高度凝练的单句摘要（TLDR）最为艰巨。SciTLDR数据集由艾伦人工智能研究院（Allen Institute for AI）于2020年发布，依托arXiv论文库，旨在推动科学文档的极端摘要任务。其核心研究问题在于如何从冗长的学术论文中精准提取核心贡献，并生成不超过一句话的概括。该数据集包含约3200篇论文的5400余条人工标注TLDR摘要，且多数论文具有多个有效摘要版本，反映了科学摘要的多样性与主观性。自提出以来，SciTLDR已成为科学摘要领域的标杆基准，其后续变体如SciTLDR-Chat-Format进一步将数据重构为指令微调格式，拓展了其在对话式摘要生成中的应用价值。

当前挑战

该数据集所解决的领域挑战在于：科学文档的极端摘要面临信息密度极高、术语专业性强、论证逻辑复杂等难题，传统摘要模型易受长距离依赖与领域知识缺失的影响，导致生成内容冗余或遗漏关键结论。构建过程中面临的具体挑战包括：多目标摘要不一致，同一论文的不同标注者可能聚焦于不同层面，需设计融合策略；数据规模有限，仅数千条标注不足以覆盖跨学科多样性，易引发过拟合；格式转换时需平衡变体A、AIC和FullText在训练集与验证集中的分布，防止类别失衡；同时，Chat-Format要求摘要适配对话上下文，原始单句摘要缺乏指令感知，需人工构造指令模板以维持自然交互的流畅性。

常用场景

经典使用场景

SciTLDR聊天格式数据集专为科学文献的极端摘要任务而设计，其核心应用在于生成学术论文的精炼一句话摘要（TLDR）。该数据集将原始SciTLDR数据转换为对话式指令微调格式，通过将论文标题与正文内容作为用户输入，模型需输出高度凝练的摘要语句。这种格式特别适合训练大型语言模型执行文本摘要任务，尤其是在科学领域场景下，能够有效提升模型对专业术语和复杂概念的理解与压缩能力。研究者在进行监督式微调时，可采用首个目标或全部目标两种策略，灵活适配不同模型的训练需求。

实际应用

在实际应用层面，SciTLDR聊天格式数据集为学术搜索平台和文献管理工具注入了智能化活力。例如，集成该数据训练的模型可为论文推荐系统自动生成简洁预览，帮助研究人员快速筛选相关文献；在学术知识图谱构建中，TLDR摘要可作为核心节点描述，提升知识检索的精准度。此外，该格式与当前主流的聊天式科学研究助手（如论文对话系统）天然适配，用户可通过自然语言交互获取论文要点，极大地降低了跨学科阅读的门槛。科技公司的研发部门亦可利用该数据训练内部文献摘要模型，加速技术情报分析流程。

衍生相关工作

基于SciTLDR数据集，学术界衍生了一系列卓有影响的工作。原始论文提出的TLDR模型首次系统定义了科学文档的极端摘要任务，后续研究者在此基础上探索了多模态融合方法，将图表信息融入摘要生成以增强信息完整性。另有工作利用该数据集进行可控摘要研究，通过控制生成摘要的抽象程度或关注特定贡献方面（如方法、结果、影响）来提升实用性。在预训练语言模型时代，SciTLDR被广泛用作评估基准，检验BART、T5等模型在长文档压缩任务上的表现。此外，针对领域适应问题，研究者基于该数据集提出了科学领域专用的微调策略，显著提升了生物医学、计算机科学等子领域的摘要质量。