BANTH

BANTH数据集是由Penta Global Limited和Islamic University of Technology合作创建的，专门用于检测和分类转写孟加拉语中的仇恨言论。该数据集包含37,350条样本，主要来源于YouTube评论，涵盖新闻与政治、人物与博客、娱乐等多个类别。数据集的创建过程包括数据抓取、过滤、清洗和多轮人工标注与验证，确保了数据的高质量和准确性。BANTH数据集的应用领域主要集中在多标签仇恨言论检测，旨在解决低资源语言中仇恨言论自动检测的挑战，并为未来的跨语言和多标签分类研究奠定基础。The BANTH dataset was co-created by Penta Global Limited and Islamic University of Technology, specifically designed for detecting and classifying hate speech in transcribed Bengali. This dataset contains 37,350 samples, mainly sourced from YouTube comments, covering multiple categories including news and politics, figures and blogs, entertainment, etc. The creation process of the BANTH dataset includes data crawling, filtering, cleaning, as well as multiple rounds of manual annotation and verification, ensuring the high quality and accuracy of the data. The application fields of the BANTH dataset mainly focus on multi-label hate speech detection, aiming to address the challenges of automatic hate speech detection in low-resource languages, and lay a foundation for future cross-lingual and multi-label classification research.

搜集汇总

数据集介绍

构建方式

BANTH数据集通过从公开的YouTube视频中抓取用户评论构建而成，涵盖了‘新闻与政治’、‘人物与博客’和‘娱乐’三个类别的视频，共计26个频道。数据收集时间从2020年1月到2024年7月，涵盖了COVID-19疫情和孟加拉国配额改革运动等重大事件。数据集首先进行二元分类，区分仇恨言论和非仇恨言论，随后对仇恨言论样本进行多标签分类，包括政治、宗教、性别、人身攻击、辱骂/暴力、起源和身体羞辱等类别。数据集的构建过程包括数据抓取、过滤、清洗、标注和验证，确保了数据的高质量和一致性。

特点

BANTH数据集的显著特点在于其首次针对转写孟加拉语的多标签仇恨言论检测，包含37,350个样本。数据集的样本来源于YouTube评论，每个实例都标注了一个或多个目标群体，反映了区域人口统计特征。此外，数据集采用了进一步预训练的Transformer编码器，并提出了一种基于翻译的大型语言模型提示策略，显著提升了在零样本设置下的性能。

使用方法

BANTH数据集适用于多种自然语言处理任务，特别是仇恨言论检测和多标签分类。研究者和开发者可以使用该数据集来训练和评估模型，以识别和分类转写孟加拉语中的仇恨言论。数据集提供了详细的标注和验证信息，支持二元分类和多标签分类任务，适用于各种机器学习和深度学习模型，包括Transformer和大型语言模型。通过进一步预训练和创新的提示策略，BANTH数据集为处理低资源语言中的复杂分类挑战提供了有力工具。

背景与挑战

背景概述

随着数字空间中音译文本的激增，检测和分类英语以外语言的仇恨言论的需求日益凸显，特别是在低资源语言中。在线讨论可能会基于性别、宗教和出身等目标群体助长歧视，多标签分类的仇恨内容有助于理解仇恨动机并增强内容审核。尽管之前的努力集中在单语或二元仇恨分类任务上，但尚未有工作解决音译孟加拉语中的多标签仇恨言论分类的挑战。我们引入了BANTH，这是首个包含37.3k样本的多标签音译孟加拉语仇恨言论数据集。样本来源于YouTube评论，每个实例都标有一个或多个目标群体，反映了地区人口统计。我们通过在音译孟加拉语文本上进一步预训练，建立了基于变压器编码器的新基线。我们还提出了一种基于翻译的大型语言模型提示策略，用于音译文本。实验表明，我们进一步预训练的编码器在BANTH数据集上达到了最先进的性能，而我们的基于翻译的提示策略在零样本设置中优于其他策略。BANTH的引入不仅填补了孟加拉语仇恨言论研究的关键空白，还为未来探索低资源语言中的代码混合和多标签分类挑战奠定了基础。

当前挑战

BANTH数据集面临的挑战包括：1) 解决领域问题，如图像分类中的挑战，即在音译孟加拉语中进行多标签仇恨言论检测；2) 构建过程中遇到的挑战，如数据来源的多样性和复杂性，以及确保标注的一致性和准确性。此外，音译文本的不一致拼写和结构、缺乏语法规则、与英语混合以及丢失特定脚本特征等问题，使得自动化仇恨言论检测任务复杂化。尽管标准实践采用了基于变压器的编码器进行自动化仇恨言论检测，但音译孟加拉语的研究仍然有限，特别是在零样本设置中使用大型语言模型的方法。

常用场景

经典使用场景

BANTH数据集在多标签仇恨言论检测领域中具有经典应用场景，特别是在转写孟加拉语（Transliterated Bangla）文本的仇恨言论分类任务中。该数据集通过从YouTube评论中收集的37.3k样本，为每个实例标注了一个或多个目标群体标签，反映了区域人口统计特征。研究者利用该数据集建立了基于Transformer编码器的新基线，并通过进一步预训练转写孟加拉语文本，提升了模型在BANTH数据集上的性能。此外，BANTH数据集还支持零样本设置下的翻译提示策略，为转写文本的仇恨言论检测提供了新的研究方向。

实际应用

BANTH数据集在实际应用中具有广泛的应用场景，特别是在社交媒体内容审核和仇恨言论监测领域。通过利用该数据集训练的模型，可以有效识别和分类转写孟加拉语文本中的仇恨言论，帮助平台实现更精准的内容管理。此外，BANTH数据集还可用于开发跨语言仇恨言论检测工具，支持多语言环境下的仇恨言论监控，从而提升全球社交媒体平台的用户体验和安全性。

衍生相关工作

BANTH数据集的引入催生了多项相关经典工作，特别是在转写孟加拉语和多标签仇恨言论检测领域。研究者基于该数据集提出了多种Transformer编码器基线模型，并通过进一步预训练提升了模型性能。此外，BANTH数据集还激发了新的翻译提示策略研究，为零样本设置下的仇恨言论检测提供了创新方法。这些工作不仅推动了孟加拉语仇恨言论检测技术的发展，还为其他低资源语言的仇恨言论研究提供了借鉴和参考。