five

kyleinincubated/autonlp-data-cat33

收藏
Hugging Face2022-10-25 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/kyleinincubated/autonlp-data-cat33
下载链接
链接失效反馈
官方服务:
资源简介:
该数据集是为项目cat33自动处理的AutoNLP数据集,主要用于文本分类任务。数据集的语言为中文(BCP-47代码为zh)。数据集的每个实例包含两个字段:text(文本内容)和target(类别标签)。类别标签共有32个类别,涵盖了多个领域,如互联网服务、交通运输、休闲服务、传媒、信息技术等。数据集被分为训练集和验证集,训练集包含1836个样本,验证集包含460个样本。

This dataset is an AutoNLP dataset automatically processed for the cat33 project, primarily used for text classification tasks. The language of the dataset is Chinese, with the BCP-47 code zh. Each instance in the dataset contains two fields: `text` (text content) and `target` (category label). There are 32 distinct category labels in total, covering multiple domains such as Internet services, transportation, leisure services, media, information technology, and others. The dataset is split into a training set and a validation set, where the training set includes 1,836 samples and the validation set contains 460 samples.
提供机构:
kyleinincubated
原始信息汇总

数据集概述

数据集描述

语言

  • 数据集的语言代码为zh,对应中文。

数据集结构

数据实例

  • 数据集中的样本示例包含文本和目标字段,如: json [ { "text": ""u5341u56dbu4e94"u65f6u671fuff0cu4f9du6258u6d77u5357u5730u7406u533au4f4du4f18u52bfu548cu6d77u6d0bu8d44u6e90u4f18u52bfuff0cu52a0u5febu57f9u80b2u58eeu5927u6d77u6d0bu7ecfu6d4euff0cu62d3u5c55u6d77u5357u7ecfu6d4eu53d1u5c55u84ddu8272u7a7au95f4uff0cu5bf9u670du52a1u6d77u6d0bu5f3au56fdu6218u7565u3001u63a8u52a8u6d77u5357u81eau7531u8d38u6613u6e2fu5efau8bbeu53cau5b9eu73b0u81eau8eabu53d1u5c55u5177u6709u91cdu8981u610fu4e49", "target": 9 }, { "text": "u9010u6b65u5b9eu65bdu533bu7597u5668u68b0u552fu4e00u6807u8bc6uff0cu52a0u5f3au4e0eu533bu7597u7ba1u7406u3001u533bu4fddu7ba1u7406u7b49u8854u63a5", "target": 8 } ]

数据字段

  • 数据集包含以下字段:
    • text: 文本内容,数据类型为字符串。
    • target: 目标分类,类别数为32,类别名称包括但不限于“网络服务”、“交通出行”、“医疗服务”等。

数据分割

  • 数据集分为训练集和验证集,具体分割如下:
    • 训练集:1836样本
    • 验证集:460样本
搜集汇总
数据集介绍
main_image_url
构建方式
该数据集由AutoNLP自动化平台针对cat33项目处理生成,旨在服务于中文文本分类任务。数据集的构建基于对中文语料的自动收集与标注,涵盖了32个细粒度类别,包括互联网服务、交通运输、休闲服务、信息技术、公用事业、农业、化工制造、医药生物、商业贸易、国防军工、家用电器、建筑业、房地产、教育、文化、有色金属、机械装备制造、林业、汽车制造、渔业、电子制造、电气设备、畜牧业、纺织服装制造、轻工制造、通信、采矿业、钢铁、银行、非银金融及食品饮料等。数据以JSON格式存储,每条样本包含文本字段和目标标签字段,其中目标标签为预定义的类别标识。
使用方法
该数据集适用于基于监督学习的中文文本分类任务。使用时可通过HuggingFace的datasets库直接加载,或解析JSON文件获取文本与标签对。建议将数据划分为训练集和验证集,其中训练集用于模型参数学习,验证集用于超参数调优与性能评估。模型可选用预训练语言模型如BERT、RoBERTa等,进行微调以适应32类分类任务。评估指标可采用准确率、宏平均F1值等,以衡量模型在多类别场景下的综合表现。
背景与挑战
背景概述
在自然语言处理领域,文本分类作为一项基础而关键的任务,广泛应用于舆情分析、内容审核与行业识别等场景。kyleinincubated/autonlp-data-cat33数据集由AutoNLP平台自动处理生成,旨在服务于名为cat33的项目,其核心研究问题聚焦于中文文本的行业类别划分。该数据集创建于近年,依托自动化标注与处理技术,将文本映射至涵盖互联网服务、交通运输、医药生物等32个行业类别,为中文行业文本分类研究提供了标准化资源。尽管其规模相对有限,训练集含1836条样本、验证集含460条样本,但该数据集通过自动化流水线降低了人工标注成本,推动了中文行业分类任务的便捷化与可复现性,对金融舆情监测、产业政策分析等领域具有参考价值。
当前挑战
该数据集面临多重挑战。首先,在领域问题层面,32个行业类别覆盖广泛但部分类别边界模糊,如“家用电器”与“电子制造”可能存在语义重叠,导致分类精度受限;同时,中文文本的行业表述常伴随地域性、时代性特征,例如“十四五”规划相关文本可能跨越多类,增加了区分难度。其次,在构建过程中,数据集依赖AutoNLP自动处理,可能引入噪声标签或样本分布不均问题,训练集仅1836条样本对少数类别的代表性不足,易引发模型过拟合。此外,缺乏人工校验机制使得标签质量存疑,且数据来源单一可能限制泛化能力,在真实场景下面对多样化行业术语时鲁棒性亟待提升。
常用场景
经典使用场景
kyleinincubated/autonlp-data-cat33 数据集专为中文文本分类任务而设计,其核心应用场景聚焦于基于语义的行业类别自动识别。该数据集包含了从互联网服务到食品饮料等32个精细化的行业标签,覆盖了国民经济的主要领域。研究者常利用该数据集训练模型,以实现对给定中文文本(如政策文件、企业描述、新闻报道等)所归属的行业领域进行精准判别,是开展中文领域多分类文本分析任务的经典基准数据。
解决学术问题
该数据集旨在解决中文文本自动分类中行业标签体系庞大且类别间界限模糊的学术难题。通过提供涵盖32个细粒度类别的标注数据,它支持研究者探索和验证针对高维、不平衡分类问题的先进算法,如层次化分类、少样本学习及基于预训练语言模型的微调策略。该数据集的发布推动了中文领域文本分类研究从粗粒度向细粒度的演进,为评估模型在复杂多标签空间下的泛化能力提供了标准化测试平台。
实际应用
在实际应用中,该数据集训练的模型可广泛部署于企业舆情监控、产业政策分析、市场情报挖掘等场景。例如,金融机构可利用模型自动将企业公告或新闻归入特定行业,以辅助风险评估;政府智库可借助其快速分析政策文本的产业指向性,提升决策支持效率。此外,该模型还能应用于电商平台的商家店铺自动分类,或招聘网站对职位描述进行行业匹配,显著降低人工标注成本并提升信息处理速度。
数据集最近研究
最新研究方向
在中文文本分类领域,该数据集聚焦于多行业文本的自动分类任务,涵盖32个国民经济行业类别,如互联网服务、交通运输、医药生物等。其最新研究方向紧密结合了自然语言处理中的预训练模型微调技术,尤其是针对中文行业文本的零样本或少样本学习场景。随着大语言模型在垂直领域的应用深化,该数据集被用于评估模型对行业术语和上下文语义的理解能力,例如在政策解读、产业链分析等热点事件中,通过文本分类实现快速舆情监控与行业趋势研判。其意义在于为中文行业文本分类提供了标准化的基准测试集,推动了金融、政务等领域的智能化信息处理,尤其在海南自贸港建设等国家战略背景下,助力海洋经济、贸易政策等主题的自动化分析,具有显著的实践价值。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务