NAP2

NAP2是由莫纳什大学等机构创建的自然性和隐私保护重写语料库，旨在解决敏感文本处理中的隐私泄露问题。该数据集包含895条涉及个人信息的语句，通过众包和大型语言模型进行手动重写。NAP2通过删除和模糊化策略，确保重写文本的自然性和隐私保护，适用于需要平衡数据隐私和信息实用性的场景。NAP2 is a naturalness and privacy-preserving rewriting corpus created by Monash University and other institutions, which aims to address the issue of privacy leakage in sensitive text processing. The dataset contains 895 statements involving personal information, which are manually rewritten via crowdsourcing and large language models. NAP2 adopts deletion and obfuscation strategies to ensure the naturalness and privacy protection of the rewritten texts, and is applicable to scenarios requiring a balance between data privacy and information utility.

搜集汇总

数据集介绍

构建方式

NAP2数据集基于开放域对话语料库PERSONA-CHAT构建，通过众包与大型语言模型协同生成。首先利用RoBERTa NLI模型自动对齐包含个人信息的对话语句与对应人物画像，筛选出隐私泄露风险较高的语句-画像对。随后招募经过预筛选的高校学生，严格遵循两种人类常用策略——删除敏感词句或将其抽象化为更泛化的表达——对895条语句进行人工改写。为缓解数据稀疏问题，进一步借助GPT-4生成3900条合成改写样本，通过精心设计的提示模板和上下文示例确保生成质量，最终形成包含人工标注与合成数据的混合语料库。

使用方法

研究者可基于NAP2训练T5-BASE等轻量级模型，通过微调使其学习删除与模糊化两种改写策略。使用时需输入原始语句及对应人物画像，模型将输出不泄露隐私且保留非敏感内容的自然文本。数据集提供交叉验证集、验证集与测试集，支持五折交叉验证评估。合成数据可作为训练增强，与人工标注数据结合使用以提升模型鲁棒性。评估时建议结合PRIVACY_NLI、ROUGE等自动指标与人工评价，从隐私保护、语义保留和自然性三个维度全面衡量改写质量。

背景与挑战

背景概述

在大语言模型时代，数据共享与信息分发成为推动人工智能发展的关键动力，然而，用户在与第三方模型服务交互时，敏感文本的隐私泄露问题日益严峻。为应对这一挑战，莫纳什大学、麦考瑞大学与墨尔本大学的研究人员于2024年联合发布了NAP2数据集，专注于自然性与隐私保护的文本重写任务。该数据集基于PERSONA-CHAT对话语料，通过众包与大语言模型（如GPT-4）相结合的方式，构建了首个包含删除与模糊化两种人类改写策略的高质量语料库。NAP2的核心研究问题在于如何在保护隐私的同时，最大程度地保持改写文本的自然性与语义效用，其影响力体现在为隐私敏感场景下的文本重写提供了标准化基准，并推动了基于人类策略的隐私保护方法相较于差分隐私方法的显著优势。

当前挑战

NAP2数据集所面临的挑战首先体现在领域问题层面：现有基于差分隐私的文本净化方法在实现高隐私保护时，往往导致信息效用急剧下降与文本不自然，难以在隐私与效用之间取得平衡；而简单的删除与匿名化技术又易引发语义失真或攻击者感知。其次，在构建过程中，研究者遭遇了多项困难：人工标注者难以严格遵循预设的改写策略，导致初版重写质量参差不齐，平均接受率仅为47.97%；同时，数据规模受限于项目预算，仅收集了895条人工改写样本，难以支撑大规模模型训练；此外，如何有效利用合成数据（如GPT-4生成的3900条样本）来增强训练集，并确保自动评估指标（如PRIVACY_NLI）与人类判断高度一致（斯皮尔曼相关系数0.70），也是构建过程中的关键挑战。

常用场景

经典使用场景

在自然语言处理领域，隐私保护与文本自然性的平衡始终是悬而未决的难题。NAP2数据集应运而生，其核心应用场景聚焦于隐私感知文本重写任务，即在不破坏语义流畅性的前提下，通过模仿人类编辑策略（删除敏感表述或将其抽象化）来净化文本。该数据集基于PERSONA-CHAT构建，包含人工标注的895条改写样本及GPT-4生成的3900条合成数据，为训练和评估隐私保护重写模型提供了标准化基准。研究者可利用该数据集训练轻量级模型（如T5-BASE），在边缘设备上实现高效的隐私净化，同时确保输出文本的自然度与信息效用。

解决学术问题

NAP2数据集系统性地解决了传统隐私保护方法（如差分隐私和匿名化）的三大缺陷：其一，差分隐私因注入大量噪声导致语义崩塌和信息效用骤降，而NAP2通过人类启发式策略（删除与抽象化）在保护隐私的同时维持高达93.81%的隐私保留率（PRIVACY_NLI指标）；其二，传统匿名化产生的黑框或实体类型标记会引发攻击者对敏感内容的警觉，NAP2生成的文本则完全自然，避免暴露隐私保护意图；其三，该数据集证明了小参数模型（T5-BASE）在隐私重写任务上可超越GPT-4等大模型，为资源受限场景下的隐私保护研究开辟了新路径。

实际应用

在实际应用中，NAP2数据集驱动的重写模型可部署于云端或边缘设备，用于用户与第三方NLP服务交互前的数据净化。例如，在医疗咨询场景中，患者描述症状时可能无意泄露姓名、手术史等个人信息，模型可自动删除或抽象化这些敏感细节，生成“我正从医疗治疗中恢复”等自然表述，既保护隐私又不影响诊断信息的传递。此外，该技术还适用于社交媒体内容发布、企业文档共享及对话机器人隐私过滤等场景，其轻量化特性尤其适配手机、物联网设备等算力受限平台，实现实时隐私保护。

数据集最近研究

最新研究方向

在自然语言处理领域，数据隐私与信息效用之间的平衡始终是悬而未决的核心挑战，尤其是在大型语言模型广泛部署的背景下，用户敏感文本的泄露风险日益凸显。NAP2数据集应运而生，它开创性地模拟人类编辑策略——删除与模糊化，为隐私保护文本改写提供了全新范式。当前前沿研究聚焦于利用该数据集训练轻量级模型（如T5-BASE），使其在保持文本自然流畅的前提下，有效移除或抽象化个人可识别信息，从而规避传统差分隐私方法导致的语义扭曲与语言生硬问题。这一方向不仅回应了学术界与工业界对隐私合规的迫切需求，更推动了隐私保护技术从理论保障向实用化、自然化的关键跨越，为构建可信赖的AI交互生态奠定了数据基础。

相关研究论文

• NAP^2: A Benchmark for Naturalness and Privacy-Preserving Text Rewriting by Learning from Human

  莫纳什大学 · 2024年