carminho/toxichat-ptpt

该数据集是lmsys/toxic-chat基准的葡萄牙语（欧洲葡萄牙语，pt-PT）翻译版本，用于安全、红队测试和翻译相关任务。翻译过程使用了Gemma 4 31B Instruct模型，数据集结构完全保持原基准的格式，包括所有标签字段。

This dataset is a European Portuguese (pt-PT) translated version of the lmsys/toxic-chat benchmark, intended for safety, red team testing, and translation-related tasks. The translation was conducted using the Gemma 4 31B Instruct model. The dataset fully retains the format of the original benchmark, including all label fields.

搜集汇总

数据集介绍

构建方式

toxichat-ptpt数据集是基于lmsys/toxic-chat基准数据集进行葡萄牙语（欧洲葡萄牙语，pt-PT）翻译而构建的。该翻译过程采用了先进的Gemma 4 31B Instruct模型，以确保翻译质量与语义保真度。数据集完整保留了原始基准的结构与标签体系，所有标签字段均被原样保存，从而为葡萄牙语社区提供一个与英语版本高度可比的毒性对话评估资源。

特点

该数据集的核心特点在于其作为葡萄牙语毒性对话基准的独特性，填补了葡萄牙语安全评估领域的空白。通过采用高性能翻译模型进行人工辅助翻译，数据集在保持原始数据毒性标签准确性的同时，实现了跨语言一致性。其结构简洁明了，与原始lmsys/toxic-chat完全对齐，便于研究者直接进行跨语言比较实验。

使用方法

使用toxichat-ptpt数据集时，研究者可直接将其加载至Hugging Face数据集库中，利用标准的机器学习流水线进行毒性检测模型的训练与评估。由于标签格式与英语版本一致，现有的评估脚本和预处理代码无需大幅修改即可适配。该数据集特别适用于葡萄牙语自然语言处理中的安全监控、红队测试以及多语言毒性检测模型的迁移学习研究。

背景与挑战

背景概述

在大型语言模型（LLMs）安全评估领域，多语言毒性检测基准的匮乏长期制约着非英语区域模型的安全部署。toxichat-ptpt数据集应运而生，由研究团队基于lmsys/toxic-chat基准，于2025年前后利用Gemma 4 31B Instruct模型完成葡萄牙语（欧洲葡语）翻译构建。该数据集的核心研究问题聚焦于将成熟的英语毒性对话检测框架迁移至葡萄牙语场景，旨在填补葡语社区在红队测试与安全对齐方面的工具空白。作为对原始toxic-chat基准的关键扩展，该数据集不仅服务于葡萄牙语模型的安全评估，更推动多语言安全基准的生态建设，为低资源语言的对话系统可靠性研究提供了可复现的标准化度量工具。

当前挑战

该数据集面临的挑战具有双重维度。在领域问题层面，葡萄牙语中的隐晦冒犯性表达、文化特异性侮辱以及俚语毒性判别存在显著困难，原始英文标注规则难以直接迁移至葡语社会语境，算法需克服跨语言语义漂移导致的误判风险。在构建过程中，机器翻译可能引入语义失真，例如Gemma 4模型对葡萄牙语双关语、讽刺等修辞手法的处理误差，会直接影响毒性标签的保真度。此外，原始数据集中仅含44条标注的样本规模，使得迁移学习面临严重的小样本困境，亟需通过数据增强或人工校验策略来提升基准的统计效力与生态效度。

常用场景

经典使用场景

在大语言模型安全评测领域，toxichat-ptpt数据集作为葡萄牙语（欧洲变体）的毒性对话基准，为研究人员提供了评估模型在多语言环境中识别和应对有毒内容的能力。该数据集完整保留了原始lmsys/toxic-chat的结构与标签体系，使得研究者能够在葡语语境下复现安全基准测试，尤其适用于检测葡语模型对仇恨言论、骚扰及不当内容的敏感度。其应用横跨模型训练中的红队测试与部署前的安全审计，成为跨语言AI安全评估中不可或缺的一环。

实际应用

在实际应用中，toxichat-ptpt被广泛嵌入到葡语聊天机器人与内容审核系统的安全测试流程中。开发团队利用该数据集对模型进行红队攻击模拟，以识别其生成仇恨或冒犯性回复的边界；同时作为自动化评估工具，它帮助平台快速筛查并过滤葡语社区中的有害对话流。此外，该数据集还服务于教育领域，用于训练学生识别数字交流中的毒性语言，提升公众对AI伦理风险的认知。

衍生相关工作

该数据集衍生了一系列经典工作，包括构建基于Gemma 4及其他大模型的多语言毒性翻译质量基准，探讨机器翻译对毒性标签一致性的影响。另有研究以其为起点，开发了面向伊比利亚语言的动态安全过滤层，以及对比英葡双语的模型安全响应模式差异。这些工作不仅验证了跨语言毒性迁移的有效性，还催生了针对低资源语言的安全指令微调策略，巩固了多元文化视角下的AI安全研究体系。