community-datasets/tamilmixsentiment

Tamilmixsentiment数据集是第一个泰米尔语-英语代码混合、情感标注的黄金标准语料库，包含15,744条来自YouTube的评论。这是针对这种相对低资源语言且具有代码混合现象的最大通用领域情感数据集。每条评论可能包含多个句子，但语料库的平均句子长度为1。每条评论在评论级别上标注了情感极性。该数据集还反映了现实世界中的类别不平衡问题。

The Tamilmixsentiment Dataset is the first gold-standard corpus for Tamil-English code-mixed sentiment annotation, containing 15,744 YouTube comments. It is the largest general-domain sentiment dataset for this relatively low-resource language with code-mixing phenomena. Each comment may contain multiple sentences, while the average sentence length of the corpus is 1. Every comment is annotated with sentiment polarity at the comment level. This dataset also reflects real-world class imbalance issues.

原始信息汇总

数据集描述

数据集摘要

Tamilmixsentiment 是第一个包含 15,744 条 YouTube 评论的泰米尔-英语代码混合、情感标注的金标准语料库。这是针对这种相对低资源的语言中代码混合现象的最大通用领域情感数据集。每条评论/帖子可能包含多个句子，但语料库的平均句子长度为 1。每条评论/帖子在评论/帖子级别上标注了情感极性。该数据集还存在类别不平衡问题，反映了现实世界的情况。

支持的任务和排行榜

该数据集用于识别从社交媒体收集的泰米尔-英语代码混合评论/帖子的情感极性。

语言

泰米尔-英语代码混合。数据集包含三种类型的代码混合句子：句间切换、句内切换和标签切换。大多数评论使用罗马字母书写，要么是泰米尔语法与英语词汇混合，要么是英语语法与泰米尔词汇混合。一些评论使用泰米尔字母书写，中间夹杂英语表达。

数据集结构

数据实例

一个来自 Tamilmixsentiment 训练集的示例如下：

text label Trailer late ah parthavanga like podunga Positive

数据字段

• text：泰米尔-英语代码混合评论。
• label：可能的情感列表，包括 "Positive", "Negative", "Mixed_feelings", "unknown_state", "not-Tamil"。

数据分割

整个 15,744 句的数据集被随机打乱并分为三个部分：

	train	validation	test
Tamilmixsentiment	11335	1260	3149

数据集创建

策划理由

情感分析在社交媒体研究中变得重要（Yang and Eisenstein, 2017）。直到最近，这些应用主要针对高资源语言，分析单语语句。但在多语种社区的社交媒体中，代码混合文本更为常见。代码混合在双语语言社区中很常见。由于英语被视为有声望和教育的语言，英语词汇、连接词和短语在泰米尔语中的影响很常见。泰米尔语在代码混合场景中几乎没有标注数据。为单语数据开发的标注语料库无法处理代码混合的使用，因此由于语言在不同层次的语言分析中的混合，它无法产生良好的结果。因此，创建了这个泰米尔-英语代码混合情感标注语料库。

源数据

初始数据收集和规范化

数据从 YouTube 上抓取。总共从 2019 年发布的电影预告片的 YouTube 评论中收集了 184,573 句泰米尔语。其中许多句子要么完全用英语书写，要么是泰米尔-英语代码混合，要么完全用泰米尔语书写。因此，我们使用 langdetect 库在评论级别上基于语言识别过滤掉非代码混合语料库。如果评论完全用泰米尔语或英语书写，我们丢弃该评论，因为这些语言的单语资源是可用的。我们还识别了句子是否用其他语言书写，如印地语、马拉雅拉姆语、乌尔都语、泰卢固语和卡纳达语。我们通过删除表情符号并应用句子长度过滤器对评论进行了预处理。我们希望创建一个合理大小的代码混合语料库，这些句子的情感定义明确，对未来的研究有用。因此，我们的过滤器删除了少于五个单词和多于 15 个单词的句子，在清理数据后。最终我们得到了 15,744 句泰米尔语句子。

源语言生产者是谁？

YouTube 用户

标注

标注过程

标注过程分三个步骤完成。首先，每句话由两个人标注。在第二步中，如果两人达成一致，则收集数据。在冲突情况下，第三个人标注句子。在第三步中，如果三个人都不一致，则再由两个标注者标注句子。

标注者是谁？

共有 11 名志愿者参与了这一过程。他们都是泰米尔语的母语者，性别、教育水平和学校教育中的教学媒介多样化。

附加信息

引用信息

@inproceedings{chakravarthi-etal-2020-corpus, title = "Corpus Creation for Sentiment Analysis in Code-Mixed {T}amil-{E}nglish Text", author = "Chakravarthi, Bharathi Raja and Muralidaran, Vigneshwaran and Priyadharshini, Ruba and McCrae, John Philip", booktitle = "Proceedings of the 1st Joint Workshop on Spoken Language Technologies for Under-resourced languages (SLTU) and Collaboration and Computing for Under-Resourced Languages (CCURL)", month = may, year = "2020", address = "Marseille, France", publisher = "European Language Resources association", url = "https://www.aclweb.org/anthology/2020.sltu-1.28", pages = "202--210", abstract = "Understanding the sentiment of a comment from a video or an image is an essential task in many applications. Sentiment analysis of a text can be useful for various decision-making processes. One such application is to analyse the popular sentiments of videos on social media based on viewer comments. However, comments from social media do not follow strict rules of grammar, and they contain mixing of more than one language, often written in non-native scripts. Non-availability of annotated code-mixed data for a low-resourced language like Tamil also adds difficulty to this problem. To overcome this, we created a gold standard Tamil-English code-switched, sentiment-annotated corpus containing 15,744 comment posts from YouTube. In this paper, we describe the process of creating the corpus and assigning polarities. We present inter-annotator agreement and show the results of sentiment analysis trained on this corpus as a benchmark.", language = "English", ISBN = "979-10-95546-35-1", }

贡献

感谢 @jamespaultg 添加此数据集。

搜集汇总

数据集介绍

构建方式

在自然语言处理领域，情感分析技术对于理解社交媒体用户观点至关重要，而低资源语言中的代码混合现象为这一任务带来了独特挑战。TamilmixSentiment数据集正是针对这一背景构建，其原始数据来源于YouTube平台，从2019年上映电影预告片的评论中采集了184,573条泰米尔语句子。研究者利用langdetect库进行语言识别，过滤掉纯英语或纯泰米尔语的评论，仅保留泰米尔-英语代码混合的文本。随后通过去除表情符号并应用句子长度过滤器（保留5至15个单词的句子），最终精选出15,744条高质量评论。在标注环节，采用三级专家审核机制：每条句子先由两名标注者独立标注，意见一致则收录；若存在分歧，由第三名标注者仲裁；若三人仍未达成共识，则邀请另外两名标注者共同决策。整个标注团队由11名泰米尔语母语者组成，确保了标注的专业性与多样性。

特点

该数据集的核心特点在于其开创性地聚焦于泰米尔-英语代码混合社交媒体文本的情感分析，填补了该低资源语言领域标注数据的空白。数据集中包含句间切换、句内切换和标签切换三种代码混合类型，评论以罗马字母书写为主，融合了泰米尔语法与英语词汇或英语语法与泰米尔词汇的混合表达。情感标签分为积极、消极、混合情感、未知状态和非泰米尔语五类，反映了现实场景中情感表达的复杂性。数据集存在类别不平衡问题，这恰恰模拟了社交媒体数据分布的真实特征。在规模上，该数据集包含15,744条评论，平均句子长度为1，按70:8:22的比例划分为训练集（11,335条）、验证集（1,260条）和测试集（3,149条），为模型训练与评估提供了充足且规范的基准数据。

使用方法

该数据集在HuggingFace平台上以community-datasets/tamilmixsentiment名称提供，可通过datasets库便捷加载。用户只需调用load_dataset函数并指定数据集名称，即可自动获取按预定义划分的训练、验证和测试集。数据字段包含文本（text）和标签（label），其中标签为包含五个类别的分类标签。数据集适用于文本分类任务，特别是情感分析场景。用户可直接将文本特征输入预训练语言模型（如BERT或XLM-R）进行微调，或使用传统机器学习方法构建分类器。由于数据具有代码混合特性，建议使用支持多语言或跨语言理解的模型架构。此外，研究者可参考相关论文中的基准实验结果，以评估自身模型在该代码混合情感分析任务上的表现。

背景与挑战

背景概述

在自然语言处理领域，情感分析作为一项基础任务，对于理解社交媒体中的用户观点至关重要。然而，现有研究多聚焦于高资源语言的单语文本，忽视了多语言社群中普遍存在的语码混合现象。泰米尔语-英语语码混合文本在社交媒体中广泛出现，但缺乏高质量的标注语料库，这严重制约了相关研究的进展。为填补这一空白，Bharathi Raja Chakravarthi等人于2020年创建了Tamilmixsentiment数据集，该数据集包含15,744条从YouTube收集的泰米尔语-英语语码混合评论，并由11位母语为泰米尔语的志愿者通过多人一致性标注流程进行了情感极性标注。作为首个面向该低资源语言语码混合场景的黄金标准情感数据集，它不仅为情感分析提供了基准资源，还推动了跨语言与语码混合文本处理领域的发展，其研究论文发表于SLTU-CCURL 2020会议。

当前挑战

该数据集面临的核心挑战源于语码混合现象的复杂性与低资源语言的固有困难。首先，语码混合文本在语言学层面呈现高度多样性，包括句间转换、句内转换和标记转换三种类型，且大多采用罗马字母拼写，混杂泰米尔语法与英语词汇或反之，这导致传统单语情感分析模型无法有效处理。其次，数据集存在显著的类别不平衡问题，真实反映了社交媒体评论的分布特点，但给模型训练带来偏差。在构建过程中，注释者需面对模糊情感表达和跨语言语义对齐的困难，尽管采用了多轮一致性标注机制，但仍有部分样本因标注分歧而被归为未知状态。此外，数据来源的局限性（仅来自电影预告片评论）可能引入领域偏差，影响模型的泛化能力。

常用场景

经典使用场景

在自然语言处理领域，Tamilmixsentiment数据集最经典的使用场景是作为泰米尔语-英语代码混合文本的情感分析基准。该数据集包含来自YouTube的15,744条评论，每条评论均被标注为积极、消极、混合情感、未知状态或非泰米尔语五类情感极性。研究者通常利用该数据集训练和评估情感分类模型，特别是针对低资源语言中代码混合现象的文本。其独特的标注体系涵盖了真实社交媒体中常见的类别不平衡问题，为模型鲁棒性检验提供了理想平台。

解决学术问题

该数据集解决了多语言社交媒体文本情感分析中的关键学术问题：传统单语情感分析工具无法有效处理代码混合文本，而低资源语言如泰米尔语缺乏高质量标注数据。通过提供首个黄金标准的泰米尔语-英语代码混合情感语料库，研究者得以探索跨语言词汇、句法结构的融合对情感极性的影响。该数据集推动了代码混合自然语言处理的理论发展，揭示了语言混合层次（如句间转换、句内转换和标签转换）与情感表达之间的复杂关联。

衍生相关工作

该数据集衍生了一系列经典工作，包括基于Transformer架构的代码混合情感分类模型（如mBERT、XLM-R在泰米尔语-英语混合文本上的微调研究），以及针对低资源语言的数据增强方法（如回译和语法噪声注入）。此外，研究者还构建了多任务学习框架，同时处理语言识别和情感分析任务，显著提升了模型在代码混合场景下的泛化能力。这些工作不仅推动了泰米尔语自然语言处理的发展，也为其他低资源代码混合语言（如印地语-英语、西班牙语-英语）的情感分析研究提供了方法论参考。