novel-agent-sft-dataset

该数据集名为“All Novel Can Be Galgame — Agent SFT 训练数据”，是一个专门用于中文小说叙事理解 Agent SFT（监督微调）训练的数据集，旨在支持 Qwen3-8B 模型的 LoRA（低秩适应）微调。数据集包含多个迭代版本（从 base-sft 到 v4.1），数据量从 72K 条到 2,123 条不等，覆盖三个核心 Agent 任务：叙事类型分类（输入为已切分的叙事单元，输出为带单元 ID 和类型的标签）、场景边界检测（输入为编号段落序列，输出为边界位置列表）以及角色归因（输入为候选角色及上下文，输出为最佳候选角色和不确定性标志）。数据以 ChatML messages 格式（[system, user, assistant]）组织，存储为 JSONL 文件，可直接与 LLaMA-Factory 训练框架兼容。数据集的开发注重版本优化，如 v4 版本通过 DeepSeek 重标注在场景边界检测任务上首次实现 F1 分数突破 30%，适用于自然语言处理中的小说文本分析、叙事结构理解和角色属性推断等任务。The dataset is named All Novel Can Be Galgame — Agent SFT Training Data and is specifically designed for training Agent SFT (Supervised Fine-Tuning) for Chinese novel narrative understanding, aiming to support LoRA (Low-Rank Adaptation) fine-tuning of the Qwen3-8B model. It includes multiple iterative versions (from base-sft to v4.1), with data volumes ranging from 72K entries to 2,123 entries, covering three core Agent tasks: narrative type classification (input is segmented narrative units, output is labels with unit IDs and types), scene boundary detection (input is a sequence of numbered paragraphs, output is a list of boundary positions), and character attribution (input is candidate characters and context, output is the best candidate character and an uncertainty flag). The data is organized in ChatML messages format ([system, user, assistant]) and stored as JSONL files, making it directly compatible with the LLaMA-Factory training framework. The dataset development focuses on version optimization, such as the v4 version achieving an F1 score breakthrough of over 30% in scene boundary detection through DeepSeek re-labeling. It is suitable for tasks in natural language processing, including novel text analysis, narrative structure understanding, and character attribute inference.

原始信息汇总

数据集概览

• 数据集名称: All Novel Can Be Galgame — Complete Dataset
• 语言: 中文 (zh)
• 许可证: Apache 2.0
• 任务类别: 文本生成、文本分类
• 标签: 中文小说、叙事分析、场景分割、角色归因、Agent SFT、Qwen3、LoRA
• 数据规模: 1M < n < 10M
• 总大小: 2.2 GB
• 总文件数: 42,191

数据规模详情

目录	文件数	大小	说明
training/	52	689 MB	训练用 SFT 数据 (JSONL)
raw-books/	671	327 MB	669 本原始小说
processed/	39,842	1.2 GB	按章节预处理文本
annotations/	1,626	1 MB	原始标注文件
合计	42,191	2.2 GB

目录结构

datasets/ ├── training/ │ ├── base-sft/ Stage1 全参 SFT (72K) │ ├── v1-attribution-assist/ v1 角色归因 (66 条) │ ├── v1-narrative-parsing/ v1 叙事解析 (70 条) │ ├── v1-scene-segmentation/ v1 场景分割 (82 条) │ ├── v2-attribution-best-candidate/ v2 角色归因 (300 条) │ ├── v2-narrative-type-classification/ v2 叙事分类 (388 条) │ ├── v2-scene-boundary-detection/ v2 场景边界 (~200 条) │ ├── v3.1-attribution-best-candidate/ v3.1 角色归因 (300 条) │ ├── v3.1-narrative-type-classification/v3.1 叙事分类 (388 条) │ ├── v3.1-scene-boundary-detection/ v3.1 场景边界 (315 条) │ ├── v3.2-attribution-best-candidate/ v3.2 角色归因 (525 条) ⭐ │ ├── v3.2-narrative-type-classification/v3.2 叙事分类 (655 条) ⭐ │ ├── v3.2-scene-boundary-detection/ v3.2 场景边界 (454 条) │ ├── v3.3-scene-boundary-detection/ v3.3 二元决策实验 (349 条) │ ├── v3.4-scene-boundary-detection/ v3.4 滑动窗口实验 (4505 条) │ ├── v4-scene-boundary-detection/ v4 DeepSeek重标注 (2123 条) ⭐⭐ │ └── v4.1-scene-boundary-detection/ v4.1 扩标 (685 条) ├── raw-books/ # 669 本中文小说原文 ├── processed/ # 预处理后的章节文本 └── annotations/ # 原始标注 JSON ├── attribution-assist/ 角色归因 ├── narrative-parsing/ 叙事解析 ├── scene-segmentation/ 场景分割 └── v2-expand/ 扩展标注

三个 Agent 任务

Agent	任务	输入	输出
Agent 1	叙事类型分类	已切分叙事单元	{labels: [{unit_id, type}]}
Agent 2	场景边界检测	编号段落序列	{boundaries: [N], reasons: [...]}
Agent 3	角色归因	候选角色 + 上下文	{best_candidate, uncertain}

训练结果

版本	数据量	narrative-type (acc)	scene-boundary (F1)	attr-best (acc)
零基座 (Qwen3-8B)	—	0%	0%	0%
v1	218 条	25.0%	33.3%	14.3%
v2	700+ 条	63.6%	53.3% ⭐	33.3%
v3.1	900+ 条	63.6%	28.6%	43.3%
v3.2	1,634 条	69.5% ⭐	20.0%	86.7% ⭐
v3.3–v3.4	4,854 条	—	12–15%	—
v4	2,123 条	—	30.5% ⭐⭐	—

数据格式

训练数据为 JSONL 格式，每行一条 ChatML messages：

json { "messages": [ {"role": "system", "content": "系统提示词"}, {"role": "user", "content": "输入文本"}, {"role": "assistant", "content": "{"labels": [...]}"} ] }

相关模型

• 基座: Qwen/Qwen3-8B-Instruct
• Stage1 SFT: mikuhhn1239/qwen3-8b-novel-base-sft
• Agent 1: mikuhhn1239/qwen3-8b-narrative-parsing-lora
• Agent 2: mikuhhn1239/qwen3-8b-scene-segmentation-lora
• Agent 3: mikuhhn1239/qwen3-8b-attribution-assist-lora

搜集汇总

数据集介绍

构建方式

该数据集源自一项将中文小说转化为交互式叙事系统的前沿探索，覆盖669本中文小说的原始文本与多层次标注。构建过程历经四个阶段迭代，从人工标注的初期版本v1出发，逐步扩展至v2的700余条数据，并在v3.2达到1634条标注规模，最后引入DeepSeek对场景边界任务进行重标注形成v4版本。数据组织为JSONL格式，每条记录包含系统提示词、用户输入文本与助手输出构成的ChatML消息序列，方便直接用于大语言模型的监督微调。

特点

数据集的核心特色在于围绕三个叙事Agent任务进行精细化设计：叙事类型分类、场景边界检测与角色归因，分别对应不同的输入输出结构。v4场景边界数据经由DeepSeek重标注后首次将F1分数突破30%，而v3.2版本在角色归因任务上达到了86.7%的准确率，体现了渐进式数据增强的有效性。整体规模达2.2GB，包含逾4.2万份文件，其中训练数据覆盖从基础SFT到各任务专用子集的完整体系。

使用方法

使用者可基于Qwen3-8B-Instruct作为基座模型，按照数据集中提供的多阶段SFT路径进行训练。首先利用base-sft子集进行全参数微调，随后针对特定任务加载对应的LoRA适配器，例如叙事解析、场景分割或角色归因的专用权重。数据以JSONL格式直接读取，每条样本的messages字段符合ChatML规范，可无缝适配主流通用训练框架如HuggingFace Transformers与LLaMA-Factory。

背景与挑战

背景概述

在自然语言处理领域，中文小说的叙事结构解析长期受限于缺乏精细标注的高质量语料库。为弥补这一空白，novel-agent-sft-dataset 数据集应运而生，由研究团队构建并于近期发布，旨在推动中文小说叙事理解的自动化进程。该数据集以 669 本中文小说为蓝本，涵盖原始文本、章节预处理、角色归因、场景分割及叙事类型分类等多维度标注，总计逾 2.2 GB 的数据规模。其核心研究问题聚焦于训练一套多 Agent 叙事解析系统，通过将复杂叙事任务分解为场景边界检测、角色归因与叙事类型分类三个子任务，探索大语言模型在结构化文本理解中的潜力。依托 Qwen3-8B 基座模型与 LoRA 微调策略，数据集在不同阶段持续迭代，展现了从零基座零准确率到叙事分类任务 69.5% 准确率的显著提升，为中文小说计算分析提供了基准资源。

当前挑战

该数据集面临的核心领域挑战在于叙事结构本身的模糊性与跨任务依赖。场景边界检测作为三 Agent 中最难的任务，其 F1 得分在多次迭代中波动显著（最高 53.3% 至最低 12%），揭示了语言模型损失函数与任务评估指标（F1）之间的根本不对齐，这成为制约多 Agent 系统协同性能的瓶颈。在构建过程中，团队遭遇了标注标准不一致与实验设计探索的困难：不同版本间标注准则的调整（如 v2 与 v4 采用 DeepSeek 重标注）导致性能比较失真；二元分类与滑动窗口格式的实验均告失败（F1 仅 12-15%），证实了数据格式与任务表述对模型适配的敏感性。此外，角色归因任务面临候选角色歧义与上下文噪声干扰，尽管最终准确率提升至 86.7%，初期仅 14.3% 的性能暴露了小样本条件下模型鲁棒性的严重不足。

常用场景

经典使用场景

在自然语言处理与计算叙事学交叉领域中，novel-agent-sft-dataset为中文长篇小说的结构化理解提供了前所未有的资源支撑。该数据集的核心应用场景在于训练面向小说的叙事智能体（Agent），通过流水线式任务设计完成对叙事文本的深度解析。具体而言，研究者可利用该数据集训练三个彼此协作的Agent：其一负责对已切分的叙事单元进行类型分类，如区分对话、心理描写、动作推进等，其二执行场景边界的精准检测，从而将连续文本切分为具有独立情境意义的段落簇，其三则专注于角色归因，即在复杂对话与多角色交织的场景中判别每一句叙述所对应的说话者。这三个任务共同搭建起从原始文本到结构化叙事图谱的自动化桥梁，为后续的叙事风格分析、情节动态追踪与角色关系建模奠定了数据基础。

解决学术问题

该数据集直面中文计算叙事学领域的几项关键学术难题。长久以来，长篇中文小说由于篇幅冗长、叙事结构复杂、角色众多且话语归属模糊，使得自动化的场景识别与对话解析任务举步维艰。novel-agent-sft-dataset通过对669本小说进行精细标注，提供了涵盖叙事类型分类、场景边界检测与角色归因三大子任务的监督信号，有效缓解了训练数据匮乏与跨领域泛化困难的问题。实验数据显示，在叙事类型分类任务上，基于该数据集的v3.2版本模型取得了69.5%的准确率，而角色归因准确率更是一举跃升至86.7%，这标志着在传统零基线困境中取得了实质性突破。该数据集的发布不仅验证了多Agent协同训练范式在叙事理解中的可行性，更为解决长篇文本中因标注标准不一致而导致的损失函数与评价指标割裂问题提供了可复现的实证基座。

衍生相关工作

围绕novel-agent-sft-dataset所构建的叙事Agent体系，已催生出一系列具有代表性的衍生工作。在模型层面，研究者以Qwen3-8B-Instruct为基座，首先通过第一阶段的全面微调（Stage1 Full SFT）获得小说基础知识注入的基线模型，而后分别针对叙事类型分类、场景边界检测与角色归因三个子任务，使用低秩适配（LoRA）方法训练出专精Agent，如mikuhhn1239/qwen3-8b-narrative-parsing-lora与mikuhhn1239/qwen3-8b-attribution-assist-lora。在方法论上，v3.3与v3.4版本对场景边界检测任务先后探索了二元决策与滑动窗口两种输入格式，虽未取得理想效果，却揭示了当前语言模型在边界感知任务中损失函数与评价指标不对齐的核心瓶颈。v4版本则引入DeepSeek进行重标注，首次在场景边界检测任务上突破30%的F1值，标志着外部知识蒸馏辅助标注策略的成功。这一系列迭代实验构成了从数据制作、模型训练到瓶颈诊断的完整研究链条。