five

a686d380/h-corpus-raw

收藏
Hugging Face2023-10-06 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/a686d380/h-corpus-raw
下载链接
链接失效反馈
官方服务:
资源简介:
--- viewer: false language: - zh --- 未清洗的中文H小说 | 数据| 文章数| 解压后大小 | 来源 | 质量 | 备注| |- | - |- | - | - | - | |jjsw | 73,432 | 4.0 GB | 禁忌书屋 | 高 | - | |pixiv-selected | 2,935 | 174.3 MB | pixiv排行版 | 高 | - | |shubao | 6,776 |1.6 GB | 网络 | 低 | - | |sis-long | 4,555 | 3.5 GB | sis | 中 | - | |sis-short | 111,237 | 4.1 GB | sis | 中 | - | |xbookcn | 39,798 | 1.0 GB | xbookcn | 高 | - | |xhs | 38,406 | 8.6 GB | 网络 | 中 | - | |zyd2023 | 3,935 | 3.8 GB | 网络 | 中 | - | 仅供科学研究使用!

This dataset includes Chinese H novels from various sources, categorized into different types such as jjsw, pixiv-selected, shubao, etc. Each category has specific numbers of articles, size after decompression, source, and quality rating. The dataset is primarily intended for scientific research purposes.
提供机构:
a686d380
原始信息汇总

数据集概述

数据集详情

数据集名称 文章数 解压后大小 来源 质量 备注
jjsw 73,432 4.0 GB 禁忌书屋 -
pixiv-selected 2,935 174.3 MB pixiv排行版 -
shubao 6,776 1.6 GB 网络 -
sis-long 4,555 3.5 GB sis -
sis-short 111,237 4.1 GB sis -
xbookcn 39,798 1.0 GB xbookcn -
xhs 38,406 8.6 GB 网络 -
zyd2023 3,935 3.8 GB 网络 -

使用声明

  • 仅供科学研究使用!
搜集汇总
数据集介绍
main_image_url
构建方式
该数据集名为a686d380/h-corpus-raw,是一个未清洗的中文H小说语料库。其构建方式基于多源数据采集,整合了来自不同平台的文本资源,包括禁忌书屋、pixiv排行榜、网络小说网站、sis论坛、xbookcn平台及网络采集数据。每个子数据集均标注了来源和质量等级,其中jjsw、pixiv-selected和xbookcn被标记为高质量,而shubao质量较低。数据总量共计约28万篇文章,解压后大小超过26GB,涵盖了不同长度和风格的中文成人小说。
使用方法
使用该数据集时,研究人员可直接从HuggingFace平台下载原始文件,并根据质量标签或来源字段进行子集划分。推荐在预处理阶段进行文本清洗,如去除特殊字符或统一编码格式。适用于中文语言模型预训练、成人内容文本分析或风格迁移研究。需注意数据集的伦理限制,仅限学术用途,并应遵守相关法律法规,避免不当传播。
背景与挑战
背景概述
在自然语言处理与文本生成研究领域,中文网络文学语料库的构建长期面临数据多样性不足与质量参差不齐的困境。a686d380/h-corpus-raw数据集由匿名研究团队于近期整理发布,旨在为中文低俗文学分析、语言风格迁移及内容安全研究提供大规模原始语料。该数据集整合了来自禁忌书屋、pixiv中文排行、sis论坛及xbookcn等八个渠道的文本资源,涵盖约28万篇未清洗的中文H小说,总解压后数据量达26.8 GB。其核心研究问题聚焦于网络非正规出版文本的语言特征建模与敏感内容自动识别,为计算语言学中的社会文化分析开辟了新的数据维度。尽管该数据集标注了来源与质量等级,但因其内容敏感性,主要面向学术机构在伦理审查框架下的科学研究,对理解中文网络亚文化语言生态具有潜在影响力。
当前挑战
该数据集面临的核心挑战首先源于领域问题的复杂性:中文H小说涉及大量隐喻、暗语及方言表达,传统文本分类模型难以精准识别其语义边界,且伦理合规性要求使得公开标注与模型训练面临法律与社会阻力。其次,构建过程中遭遇多重困难:数据来源分散于不同平台,格式差异显著(如pixiv的日式中文与sis论坛的粗放文体),导致统一清洗策略失效;部分来源(如shubao)质量评级为低,包含大量乱码、重复内容与广告植入,需耗费人力进行噪声过滤;原始文件体积庞大(如xhs来源达8.6 GB),对存储与处理基础设施构成压力。此外,数据采集需规避平台反爬机制与版权争议,进一步增加了语料库维护的可持续性挑战。
常用场景
经典使用场景
在自然语言处理与计算语言学的前沿探索中,h-corpus-raw数据集凭借其大规模、多源异构的中文成人小说语料,成为研究非正式、情感强烈及禁忌性文本语言特征的珍贵资源。其经典使用场景聚焦于低资源语言建模与领域自适应预训练,例如基于该语料库训练的中文语言模型,能够捕捉到常规语料中罕有的情色表达、隐喻修辞及口语化对话结构,从而在情感分析、文本风格迁移等任务中展现独特优势。
解决学术问题
该数据集有效回应了学术研究中关于敏感文本的语义理解与安全过滤难题。通过提供来自禁忌书屋、Pixiv等平台的高质量内容,研究者得以构建更精准的色情内容检测模型,并深入剖析中文网络文学中情色叙事的语言学规律。其意义在于不仅填补了中文情色语料库的空白,还为AI伦理研究提供了实证基础,推动生成式模型在内容审核与合规生成领域的算法优化。
实际应用
在实际应用层面,h-corpus-raw数据集主要服务于内容安全领域,支撑企业级敏感词过滤、色情文本识别系统的迭代升级。例如,社交平台可借助该语料训练分类器以自动拦截违规内容,同时保障合法文学创作的表达空间。此外,该数据集还可用于辅助法律取证,通过分析特定文本的语义特征提升网络违法信息的稽查效率,体现其在数字治理中的实用价值。
数据集最近研究
最新研究方向
在中文自然语言处理与文本生成领域,成人向内容数据集的研究正逐步成为伦理与模型安全的前沿议题。h-corpus-raw作为涵盖禁忌书屋、Pixiv排行榜、sis论坛等多源未清洗中文H小说的集合,其大规模多源文本(总计超28万篇文章,近27GB)为分析特定风格的语言模式、情感倾向及叙事结构提供了独特素材。当前研究热点聚焦于利用此类数据训练内容审核模型,以提升对敏感内容的自动识别与过滤能力,同时探索其在文学风格迁移、对抗性样本生成等方向的应用。该数据集的公开还引发了关于数据合规性、隐私保护及模型偏见的重要讨论,促使社区反思如何在科研自由与内容安全间寻求平衡,对推动中文互联网内容治理与负责任AI发展具有深远意义。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务