HANSEN-REPO/HANSEN

HANSEN数据集是一个用于作者身份分析的人类和AI生成的口语文本基准数据集。它包含17个人类口语文本数据集和三个大型语言模型（ChatGPT、PaLM2、Vicuna13B）生成的口语文本。数据集支持三种任务：作者归属（AA）、作者验证（AV）和图灵测试（TT）。AA任务是一个多类分类问题，旨在识别给定口语文本的说话者；AV任务是二元分类问题，旨在检测一对口语文本是否由同一说话者生成；TT任务是二元分类问题，旨在区分文本是由人类还是AI生成的。数据集的具体描述和用途在README中有详细说明。

原始信息汇总

数据集概述

名称：HANSEN

全称：Human and AI Spoken Text Benchmark for Authorship Analysis

数据集组成：

• 人类语音文本数据集：共17个，包括TED、Spotify、BASE、BNC、BNC14、MSU、PAN、Tennis、CEO、Voxceleb、BP、Voxpopuli、FTN、USP、SEC、Debate、Court等。
• AI生成语音文本数据：由ChatGPT、PaLM2、Vicuna13B三种大型语言模型生成。

数据集用途：

• AA任务（作者归属）：多类别分类问题，识别语音文本的说话者。
• AV任务（作者验证）：二分类问题，判断两段语音文本是否由同一说话者产生。
• TT任务（图灵测试/人类与AI文本检测）：二分类问题，识别语音文本的来源是人类还是AI。

数据集格式：

• AA任务：数据框包含两列，author_id 和 text。
• AV任务：数据框包含三列，label（0表示不同说话者，1表示同一说话者）、text1 和 text2。
• TT任务：数据框包含两列，label（0表示人类，1表示AI）和 text。

特殊说明：

• CEO和FTN数据集：由于分发问题，不包含原始文本，但提供了URL和行号。
• AI生成数据集访问：需通过此表单提交并同意使用条款后可访问。

许可证：Apache-2.0

搜集汇总

数据集介绍

构建方式

HANSEN数据集融合了17个人类口语文本数据集与由三种大型语言模型（ChatGPT、PaLM2、Vicuna13B）生成的文本，旨在为作者身份分析提供基准。其构建过程精细区分了数据来源：可直接重新分发的开源数据集（如TED、Spotify等），需用户自行下载的受限数据集（如FTN、CEO），以及通过提交使用协议方可获取的AI生成文本。每个数据集针对不同任务（AA、AV、TT）进行了标准化处理，例如AA任务包含小规模（10名说话者）和大规模（100名说话者）版本，确保任务设置的多样性与灵活性。

特点

该数据集的核心特点在于其多任务覆盖与跨领域口语文本的整合。AA任务支持多类分类，AV任务聚焦于说话者一致性检测，而TT任务则开创性地引入图灵测试场景，区分人类与AI生成文本。数据集涵盖广泛领域，从TED演讲、播客、议会问答到法庭辩论，充分反映了口语文本的多样性与复杂性。此外，对于受限数据集，HANSEN提供了URL与行号索引，确保用户在遵守分发条款的前提下能够复现完整数据，体现了对版权与伦理规范的尊重。

使用方法

用户可通过HANSEN轻松加载预定义任务的数据框。例如，加载AA_TED_small将获得一个包含作者ID与文本列的数据框，用于10类分类问题；AV任务的数据框则包含标签及两个文本列，用于配对比较；TT任务如TT_ChatGPT_TED则提供人类与AI文本的二分类标签。对于TT数据集，用户需填写表单并同意使用条款后方可访问。HANSEN的模块化设计支持研究人员直接调用不同任务与规模的数据，从而高效开展作者身份分析实验，并建议引用其相关论文以支持学术规范。

背景与挑战

背景概述

在自然语言处理领域，作者身份分析（Authorship Analysis）长期聚焦于书面文本，而口语文本（如演讲、对话、访谈）因其非正式性、口语化表达及多说话者交互特性，构成了独特且尚未充分探索的研究维度。HANSEN数据集由Nafis Irtiza Tripto等研究者于2023年提出，联合多所机构构建，旨在填补口语文本作者分析基准的空白。该数据集整合了17个人类口语文本数据集，涵盖TED演讲、播客、议会辩论、法庭陈述等多场景，并纳入ChatGPT、PaLM2、Vicuna13B三种大语言模型生成的文本，开创性地将作者归因、作者验证与人机文本检测三类任务统一于口语场景。HANSEN的发布为跨领域作者分析研究提供了标准化评估平台，推动了口语文本在信息安全、司法语言学及人工智能伦理等领域的应用探索。

当前挑战

HANSEN数据集面临的核心挑战源于口语文本的固有复杂性与构建过程的异构性。在领域问题层面，口语文本的短长度、高重复性及非规范语法显著增加了作者风格建模难度，尤其作者归因任务需应对说话者风格随话题与情绪的动态变化，而人机文本检测则需区分日益逼真的生成式文本与人类表达。在构建过程中，数据集面临多源数据整合的挑战：部分数据集（如CEO、FTN）因版权限制无法直接分发，需依赖外部脚本爬取原始文本，导致复现门槛提升；不同数据集在说话者数量、文本长度及标注粒度上存在差异（如AA任务中说话者数量从10到100不等），需统一格式以支持跨数据集评估。此外，AI生成文本的获取需通过申请表审核，限制了数据的即时可用性。

常用场景

经典使用场景

HANSEN数据集专为口语文本的作者分析任务而设计，其最为经典的使用场景涵盖三类核心任务：作者归因（AA）、作者验证（AV）以及图灵测试（TT）。在作者归因任务中，研究者需从多个候选说话者中识别出给定口语文本的真实作者，这构成了一个多类别分类问题。作者验证则聚焦于判断两段口语文本是否源自同一说话者，属于二分类任务。而图灵测试任务旨在区分文本是由人类还是大语言模型生成，直面人工智能时代文本溯源的核心挑战。这些任务均依托于17个人类口语数据集和3种大语言模型生成文本，形成了统一且多元的评测基准。

解决学术问题

该数据集系统性地解决了口语文本作者分析领域长期存在的若干学术难题。首先，它填补了现有基准大多聚焦于书面文本（如小说、推特）而忽视口语文本的空白，为对话、访谈、演讲等自然口语场景提供了标准化评估平台。其次，HANSEN整合了跨领域、跨场景的多样化数据源（如TED演讲、Spotify播客、议会辩论、法庭记录等），有效缓解了单一语料库导致的泛化性不足问题。此外，通过引入AI生成的口语文本，该数据集为检测机器生成内容提供了关键基准，推动了对抗性文本检测与作者身份验证的交叉研究，对防范深度伪造和学术不端具有重要学术价值。

衍生相关工作

HANSEN数据集的发布催生了一系列重要的衍生研究工作。其多任务架构为作者分析领域提供了统一的比较框架，启发了后续研究将口语文本的声学特征与语言特征融合，以提升归因和验证性能。基于该数据集的图灵测试任务，研究者开发了针对大语言模型生成口语文本的检测算法，并探索了提示工程、模型微调等对抗性攻击与防御策略。此外，HANSEN中跨语料库的实验设置促使学界关注数据分布偏移对作者分析模型的影响，推动了域适应和少样本学习技术在口语场景中的应用。该数据集还被用作评估大型语言模型在口语文本理解与生成任务中行为差异的基准，进一步拓展了人机交互与计算语言学的研究边界。