five

Mxode/CSDN-Community-C-Language-3years

收藏
Hugging Face2023-10-03 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/Mxode/CSDN-Community-C-Language-3years
下载链接
链接失效反馈
官方服务:
资源简介:
--- license: lgpl task_categories: - question-answering - conversational - text-generation language: - zh tags: - code size_categories: - 1K<n<10K --- CSDN - C 语言社区 **2020.10.2 ~ 2023.10.2** 的问答数据,未包含图片,仅有文本内容。 共 **2380** 条,数据已经经过**初步清洗和脱敏**,去除了所有 0 回复的贴子 & 机器人回复的贴子。为了方便不同使用目的,按照回复盖楼的格式对数据进行了组织,一个样例(展开后)如下: ```json { "question": "刚学C语言,为什么这个代码运行不了呢", "poster": "user-0", "comments": [ { "cid": "2", "user": "user-2", "content": "intunsigned intlong longunsigned long long统统容纳不下29的阶乘,早就溢出了。", "referer": "user-0" }, { "cid": "3", "user": "user-3", "content": "#include <stdio.h> #include <math.h> int main(void) { int i = 1; long long sum = 1; // 使用 long long 类型来存储阶乘结果 int x; printf(\"请输入一个非负整数: \"); if (scanf(\"%d\", &x) != 1 || x < 0) { printf(\"输入无效,请输入一个非负整数。\\n\"); return 1; // 返回错误码 } while (i <= x) { sum *= i; i++; } printf(\"%d 的阶乘是 %lld\\n\", x, sum); return 0; }", "referer": "user-0" } ] } ``` `user` 和 `referer` 做了脱敏映射,但保留了回复的逻辑关系(即保留了回复楼主 & 楼中楼回复的逻辑关系)。 `question` 和 `comment` 都按照单行形式进行了组织,无需额外处理。 由于部分回答较长,出于可能的长文需要,因此没有对数据进行修剪,数据具体的分位点如下,请按需修剪: ``` question comments count 2380.000000 2380.000000 mean 22.074370 1528.050840 std 14.986499 2608.022392 min 4.000000 69.000000 10% 7.900000 160.900000 20% 12.000000 235.800000 30% 14.000000 342.000000 40% 16.000000 469.000000 50% 18.000000 648.500000 60% 21.000000 889.000000 70% 25.000000 1234.300000 75% 27.000000 1542.500000 80% 30.000000 1990.400000 85% 34.000000 2665.800000 90% 40.000000 3810.800000 95% 51.000000 6008.050000 max 130.000000 30606.000000 ```

许可证:LGPL(GNU宽通用公共许可证) 任务类别: - 问答(question-answering) - 对话(conversational) - 文本生成(text-generation) 语言: - 中文(zh) 标签: - 代码(code) 规模类别: - 1K < n < 10K 本数据集源自CSDN C语言社区2020年10月2日至2023年10月2日期间的公开问答数据,未包含任何图片资源,仅保留纯文本内容。 数据集总计2380条,已完成初步清洗与脱敏处理,剔除了所有零回复帖以及机器人自动回复的帖文。为适配多样化的业务使用场景,数据集按照论坛回复楼中楼的层级格式进行组织,以下为展开后的单条数据样例: json { "question": "刚学C语言,为什么这个代码运行不了呢", "poster": "user-0", "comments": [ { "cid": "2", "user": "user-2", "content": "intunsigned intlong longunsigned long long统统容纳不下29的阶乘,早就溢出了。", "referer": "user-0" }, { "cid": "3", "user": "user-3", "content": "#include <stdio.h> #include <math.h> int main(void) { int i = 1; long long sum = 1; // 使用 long long 类型来存储阶乘结果 int x; printf("请输入一个非负整数: "); if (scanf("%d", &x) != 1 || x < 0) { printf("输入无效,请输入一个非负整数。\n"); return 1; // 返回错误码 } while (i <= x) { sum *= i; i++; } printf("%d 的阶乘是 %lld\n", x, sum); return 0; }", "referer": "user-0" } ] } 其中`user`与`referer`字段已进行脱敏映射处理,但完整保留了原有的回复逻辑关联,即保留了回复楼主以及楼内楼中楼回复的层级关系。`question`与`comment`字段均已按单行格式进行组织,无需额外预处理。 鉴于部分回复内容篇幅较长,为适配长文本处理场景的需求,数据集未对任何回复内容进行截断裁剪。以下为数据集的具体分位数统计结果,使用者可根据实际需求自行裁剪数据: question comments count 2380.000000 2380.000000 均值 22.074370 1528.050840 标准差 14.986499 2608.022392 最小值 4.000000 69.000000 10%分位数 7.900000 160.900000 20%分位数 12.000000 235.800000 30%分位数 14.000000 342.000000 40%分位数 16.000000 469.000000 50%分位数(中位数)18.000000 648.500000 60%分位数 21.000000 889.000000 70%分位数 25.000000 1234.300000 75%分位数 27.000000 1542.500000 80%分位数 30.000000 1990.400000 85%分位数 34.000000 2665.800000 90%分位数 40.000000 3810.800000 95%分位数 51.000000 6008.050000 最大值 130.000000 30606.000000
提供机构:
Mxode
原始信息汇总

数据集概述

基本信息

  • 许可证:lgpl
  • 任务类别
    • 问答
    • 对话
    • 文本生成
  • 语言:中文
  • 标签:代码
  • 数据量:1K<n<10K

数据描述

  • 时间范围:2020.10.2 ~ 2023.10.2
  • 数据条数:2380条
  • 数据格式:仅文本内容,未包含图片
  • 数据处理
    • 已进行初步清洗和脱敏
    • 去除了所有0回复的贴子和机器人回复的贴子
    • 按照回复盖楼的格式组织

数据样例

json { "question": "刚学C语言,为什么这个代码运行不了呢", "poster": "user-0", "comments": [ { "cid": "2", "user": "user-2", "content": "intunsigned intlong longunsigned long long统统容纳不下29的阶乘,早就溢出了。", "referer": "user-0" }, { "cid": "3", "user": "user-3", "content": "#include <stdio.h> #include <math.h> int main(void) { int i = 1; long long sum = 1; // 使用 long long 类型来存储阶乘结果 int x; printf("请输入一个非负整数: "); if (scanf("%d", &x) != 1 || x < 0) { printf("输入无效,请输入一个非负整数。\n"); return 1; // 返回错误码 } while (i <= x) { sum *= i; i++; } printf("%d 的阶乘是 %lld\n", x, sum); return 0; }", "referer": "user-0" } ] }

数据字段说明

  • userreferer 进行了脱敏映射,保留了回复的逻辑关系
  • questioncomment 都按照单行形式组织,无需额外处理

数据统计信息

      question      comments

count 2380.000000 2380.000000 mean 22.074370 1528.050840 std 14.986499 2608.022392 min 4.000000 69.000000 10% 7.900000 160.900000 20% 12.000000 235.800000 30% 14.000000 342.000000 40% 16.000000 469.000000 50% 18.000000 648.500000 60% 21.000000 889.000000 70% 25.000000 1234.300000 75% 27.000000 1542.500000 80% 30.000000 1990.400000 85% 34.000000 2665.800000 90% 40.000000 3810.800000 95% 51.000000 6008.050000 max 130.000000 30606.000000

搜集汇总
数据集介绍
main_image_url
构建方式
在自然语言处理与代码智能研究领域,高质量的中文技术社区问答数据是推动模型理解编程语言与用户需求的重要资源。Mxode/CSDN-Community-C-Language-3years数据集源自CSDN社区C语言板块,覆盖2013年至2023年10月2日期间的用户问答记录,共计超过29,000条。数据构建过程历经初步清洗与脱敏,剔除了所有零回复帖子及机器人回复,确保交互的真实性与有效性。每条数据以JSON格式组织,包含问题文本、匿名化用户标识以及结构化评论列表,其中评论保留了楼中楼的回复逻辑关系,通过“referer”字段映射回复目标,从而完整复现社区讨论的层级结构。
特点
该数据集的核心特点在于其纯净的文本内容与严谨的回复关系保留。由于未包含图片,数据完全聚焦于自然语言与代码片段,便于直接用于文本生成与问答任务。每条样本的“question”与“comments”均以单行形式呈现,无需额外预处理。用户标识(如user-0)经过脱敏映射,在保护隐私的同时维持了对话的连贯性。此外,数据集未对长回答进行截断,保留了原始的技术细节与完整代码示例,适用于需要长上下文理解的场景。数据规模适中,约10K至100K条,兼顾了训练效率与多样性。
使用方法
数据集提供两种配置:2020-2023子集聚焦近三年数据,适用于时效性要求较高的任务;all配置包含全部历史记录,适合需要丰富样本的通用场景。用户可通过HuggingFace的datasets库直接加载,指定配置名称与分割即可获取训练数据。每条样本可直接用于序列到序列的文本生成任务,如将问题作为输入,评论作为目标输出;也可构建检索式问答系统,利用评论中的代码片段与解释进行匹配。由于数据已按回复盖楼结构组织,研究者可灵活提取单轮对话或完整多轮交互,适配不同的模型训练范式。
背景与挑战
背景概述
在自然语言处理与代码智能领域,面向中文编程社区的问答数据长期匮乏,限制了模型对中文代码语义理解与生成能力的提升。Mxode/CSDN-Community-C-Language-3years数据集由研究者于2023年整理发布,源自中国最大的开发者社区CSDN中C语言板块自2013年至2023年10月间的真实问答记录,涵盖超过29,000条经过清洗与脱敏的帖子。该数据集聚焦于C语言学习与开发中的实际问题,旨在为文本生成与问答任务提供高质量的中文语料,填补了该领域缺乏大规模、长时间跨度的中文编程对话数据的空白。其出现为研究中文编程语言习得模式、常见错误诊断及代码辅助生成等方向奠定了重要基础,对推动中文代码智能社区的发展具有显著影响力。
当前挑战
该数据集面临的挑战首先体现在领域问题的复杂性上:C语言作为底层编程语言,其问题常涉及内存管理、指针操作等抽象概念,模型需在理解中文自然语言描述的同时,精准处理代码逻辑与运行时行为,这对语义对齐与推理能力提出极高要求。其次,在构建过程中,原始数据包含大量零回复帖子和机器人回复,需通过精细规则过滤以保证对话质量;同时,用户标识与引用关系需进行脱敏处理以保护隐私,但保留楼中楼回复的复杂逻辑结构,增加了数据清洗与格式化的难度。此外,部分回答篇幅较长,未做截断处理,虽保留了完整上下文,却对模型的长文本处理能力和训练效率构成考验。
常用场景
经典使用场景
Mxode/CSDN-Community-C-Language-3years数据集汇聚了CSDN平台上2013年至2023年间C语言社区的问答精华,涵盖29K余条经过脱敏与清洗的高质量对话。其经典使用场景在于训练面向中文编程社区的文本生成与问答模型,研究者可借助其丰富的“问题-多轮回复”结构,构建能够理解C语言语法、调试逻辑及常见编程误区的智能对话系统,尤其适用于少样本学习与指令微调任务。
衍生相关工作
该数据集的衍生工作涵盖了多个前沿方向。例如,基于其多轮对话结构,研究者可训练面向编程的检索增强生成模型,将外部代码库与问答上下文结合以提升回答准确性。此外,其脱敏映射关系为探索对话中的社交网络结构与知识传播路径提供了基础,催生了针对社区专家识别与信任度建模的研究。在模型评估方面,该数据常被用作C语言代码生成与调试能力的基准测试集,推动了开源大语言模型在中文编程领域的迭代优化。
数据集最近研究
最新研究方向
在自然语言处理与代码智能的交叉领域,基于社区问答的编程语言数据集正成为大语言模型微调与评估的重要基石。Mxode/CSDN-Community-C-Language-3years数据集收录了2013年至2023年间CSDN社区中超过2.9万条C语言问答记录,经过脱敏与清洗,保留了回复间的逻辑结构,为研究代码生成、程序理解与教学辅助提供了真实场景下的语料资源。当前,该数据集可用于探索长文本代码对话的语义建模、多轮技术问答的上下文推理,以及面向中文开发者的代码补全与纠错任务。其涵盖的典型编程难题与社区互动模式,有助于推动大模型在编程教育、技术论坛自动问答等热点应用中的性能提升,对构建更贴近实际开发需求的代码智能系统具有重要参考价值。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务