LCM³DS Corpus|对话摘要数据集|自然语言处理数据集

LCM³DS是一个由ChatGPT标注的大型多场景多领域对话摘要数据集。该数据集标准化且质量高，适用于在自定义模型架构上进行预训练。

原始信息汇总

LCM³DS 语料库

概述

• LCM³DS 是一个由 ChatGPT 标注的大规模多场景多领域对话摘要语料库。
• 该语料库可在 Google Drive 和 Baidu Netdisk 上获取。
• LCM³DS 是一个标准化的高质量语料库，可用于在自定义模型架构上进行预训练。

数据提取

• 可以使用以下代码提取 "dialogue-summary" 并行数据： python with open(os.path.join(dataset_path, dataset_name), r) as rf: data = json.load(rf) dataset = [] for sample in data: if chatgpt_anno_summ in sample: dialogue = [i[added_role] + <eor> + i[utterance] + <eou> for i in sample[dialogue]] summary = sample[chatgpt_anno_summ] dataset.append({dialogue: dialogue, summary: summary}) if role-rep_named-coref_summ in sample: dialogue = [i[named_coref] + <eor> + i[utterance] + <eou> for i in sample[dialogue]] summary = sample[role-rep_named-coref_summ] dataset.append({dialogue: dialogue, summary: summary}) if role-rep_cust-serv_summ in sample: dialogue = [i[cust_serv] + <eor> + i[utterance] + <eou> for i in sample[dialogue]] summary = sample[role-rep_cust-serv_summ] dataset.append({dialogue: dialogue, summary: summary})

MP4 模型库

模型下载

• 完整微调模型、少量样本模型、预训练模型和初始化模型可从以下链接获取：

模型类型	Google Drive	Baidu Netdisk
微调模型	SAMSum, DIALOGSUM, TWEETSUMM	SAMSum, DIALOGSUM, TWEETSUMM
少量样本模型	SAMSum, DIALOGSUM, TWEETSUMM	SAMSum, DIALOGSUM, TWEETSUMM
预训练模型	MP4-DAP, MP4-DAP-TOP	MP4-DAP, MP4-DAP-TOP
初始化模型	Speaker-BART	Speaker-BART

下游数据集

• 下游数据集可在 Google Drive 和 Baidu Netdisk 上获取。

数据集	训练集	验证集	测试集	领域
SAMSum	14,731	818	819	ODDS-Online
DIALOGSUM	12,460	500	500	ODDS-Daily
TWEETSUMM	869	108	110	CSDS-Tweet

推理结果

• ChatGPT（零样本）在 SAMSum 测试集 上的推理结果可在 Google Drive 和 Baidu Netdisk 上获取。

提示	R-1	R-2	R-L
Preceding	37.90	15.19	35.89
InstructGPT	42.17	16.84	39.26
Subsequent	40.08	15.41	37.22

推理步骤

1. 确保所需的下游数据集存储在 datasets 文件夹中。
2. 确保要测试的模型已下载并放置在相应的子文件夹中：models/fine-tuned、models/few-shot、models/pre-trained、models/initialized。
3. 运行 inference.py。以下是一个推理示例： bash CUDA_VISIBLE_DEVICES=0 python -u inference.py --model_path ../models/fine-tuned/MP4-DAP-TOP-SAMSum --dataset_name SAMSum --gen_use_cache --gen_max_length 100 --gen_min_length 5 --gen_beam_size 5 --gen_length_penalty 1.0 --gen_no_repeat_ngram_size 0 --infer_path ../outputs/Fine-tuned_MP4-DAP-TOP-SAMSum

微调步骤

1. 确保所需的微调数据集存储在 datasets 文件夹中。
2. 确保 MP4-DAP 或 MP4-DAP-TOP 预训练模型已下载并放置在 models/pre-trained 子文件夹中。
3. 运行 training.py。以下是一个微调示例： bash CUDA_VISIBLE_DEVICES=6,7,8,9 python -u training.py --mode fine-tuning --model_path ../models/pre-trained/MP4-DAP-TOP --ckpt_save_path ../models/fine-tuned/MP4-DAP-TOP-SAMSum-Ours --gpus 4 --use_ddp --max_steps 1155 --val_check_interval 0.50 --num_sanity_val_steps 2 --accumulate_grad_batches 1 --progress_bar_refresh_rate 1 --lr 3e-05 --warmup_steps 100 --label_smoothing 0.1 --dataset_name Downstream_Datasets/SAMSum --max_length_src 1024 --max_length_tgt 256 --batch_size 16 --gen_use_cache --gen_max_length 100 --gen_min_length 5 --gen_beam_size 5 --gen_length_penalty 1.0 --gen_no_repeat_ngram_size 0

预训练步骤

1. 确保所需的预训练数据集（即 DAP_0.20、DAP_0.40 或 LCM³DS.json）存储在 datasets 文件夹中。
2. 确保初始 Speaker-BART 模型已下载并放置在 models/initialized 子文件夹中。
3. 运行 training.py。以下是一个领域感知预训练示例： bash CUDA_VISIBLE_DEVICES=2,3,4,5,6,7,8,9 python -u training.py --mode pre-training-dap --model_path ../models/initialized/Speaker-BART --ckpt_save_path ../models/pre-trained/MP4-DAP-Ours --gpus 8 --use_ddp --max_steps 5000 --val_check_interval 0.50 --num_sanity_val_steps 100 --accumulate_grad_batches 1 --progress_bar_refresh_rate 1 --lr 3e-05 --warmup_steps 500 --label_smoothing 0.1 --dataset_name DAP_0.20 --val_dataset_name SAMSum-DIALOGSUM-TWEETSUMM --max_length_src 1024 --max_length_tgt 1024 --batch_size 16 --gen_use_cache --gen_max_length 100 --gen_min_length 5 --gen_beam_size 5 --gen_length_penalty 1.0 --gen_no_repeat_ngram_size 0

AI搜集汇总

数据集介绍

构建方式

LCM³DS Corpus 是一个大规模多场景多领域的对话摘要语料库，其标注工作由 ChatGPT 完成。该数据集的构建基于多样化的对话场景和领域，涵盖了丰富的对话内容。通过自动化标注工具和人工校验相结合的方式，确保了数据的高质量和一致性。数据集的构建过程注重对话的多样性和复杂性，旨在为对话摘要任务提供全面的训练和评估资源。

特点

LCM³DS Corpus 的特点在于其多场景和多领域的覆盖范围，能够有效支持对话摘要任务的研究与应用。数据集中的对话内容涵盖了日常对话、客户服务对话以及社交媒体对话等多种场景，且每个对话均配有高质量的摘要标注。此外，数据集还提供了多种摘要版本，包括基于角色替换和命名实体消解的摘要，进一步增强了数据集的多样性和实用性。

使用方法

使用 LCM³DS Corpus 时，用户可以通过提供的代码提取对话与摘要的平行数据。数据集支持多种模型训练和推理任务，包括全量微调、少样本学习和预训练等。用户可以根据需求选择不同的模型配置，并通过命令行工具进行推理或训练。此外，数据集还提供了详细的评估脚本，方便用户对模型性能进行量化分析。

背景与挑战

背景概述

LCM³DS语料库是一个由ChatGPT标注的大规模多场景多领域对话摘要数据集，旨在推动对话摘要领域的研究与发展。该数据集由北京航空航天大学的研究团队于2023年创建，主要研究人员包括Weixiao Zhou等人。其核心研究问题在于如何通过多阶段预训练和ChatGPT的增强，提升多场景多领域对话摘要的生成质量。该数据集不仅为对话摘要任务提供了高质量的标注数据，还为相关领域的模型预训练和微调提供了重要支持，显著推动了对话生成与摘要技术的进步。

当前挑战

LCM³DS数据集在构建与应用过程中面临多重挑战。首先，对话摘要任务本身具有复杂性，尤其是在多场景和多领域的背景下，如何准确捕捉对话的核心信息并生成简洁的摘要是一个关键难题。其次，数据集的构建依赖于ChatGPT的标注，尽管其生成能力强大，但仍需解决标注一致性与准确性问题。此外，多领域数据的多样性和场景的复杂性对模型的泛化能力提出了更高要求，如何在预训练和微调过程中有效利用这些数据，进一步提升模型的性能，是当前研究的主要挑战之一。

常用场景

经典使用场景

LCM³DS Corpus作为一个大规模多场景多领域的对话摘要语料库，广泛应用于对话摘要模型的预训练和微调。其经典使用场景包括通过ChatGPT标注的对话摘要数据，帮助研究人员构建和优化对话摘要模型，特别是在多领域对话场景中，能够显著提升模型的泛化能力和摘要质量。

实际应用

在实际应用中，LCM³DS Corpus被广泛应用于智能客服、会议记录自动摘要、社交媒体对话摘要等场景。例如，在智能客服系统中，该数据集可以帮助模型快速生成高质量的对话摘要，提升客户服务效率；在会议记录场景中，模型能够自动提取关键信息，生成简洁的会议纪要，节省人力成本。

衍生相关工作

基于LCM³DS Corpus，研究人员开发了多种先进的对话摘要模型，如MP4-DAP和MP4-DAP-TOP模型。这些模型通过多阶段预训练和微调，显著提升了对话摘要的性能。此外，该数据集还催生了一系列相关研究，如多领域对话摘要的迁移学习、基于ChatGPT的零样本摘要生成等，推动了对话摘要领域的技术进步。