five

ytzi/the-stack-dedup-python-filtered

收藏
Hugging Face2024-03-27 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/ytzi/the-stack-dedup-python-filtered
下载链接
链接失效反馈
官方服务:
资源简介:
该数据集来自the-stack-dedup,并经过了6种过滤器的处理,包括移除非ASCII字符、移除装饰器、移除异步函数、移除类、移除生成器以及移除无文档字符串的函数。数据集包含多个字段,如hexsha、size、ext、lang等,并且有一个训练集分割,包含12725978个样本,总大小为30218858735字节。

该数据集来自the-stack-dedup,并经过了6种过滤器的处理,包括移除非ASCII字符、移除装饰器、移除异步函数、移除类、移除生成器以及移除无文档字符串的函数。数据集包含多个字段,如hexsha、size、ext、lang等,并且有一个训练集分割,包含12725978个样本,总大小为30218858735字节。
提供机构:
ytzi
原始信息汇总

数据集概述

数据集信息

特征

  • hexsha: 字符串类型
  • size: 64位整数类型
  • ext: 字符串类型
  • lang: 字符串类型
  • max_stars_repo_path: 字符串类型
  • max_stars_repo_name: 字符串类型
  • max_stars_repo_head_hexsha: 字符串类型
  • max_stars_repo_licenses: 字符串序列类型
  • max_stars_count: 64位整数类型
  • max_stars_repo_stars_event_min_datetime: 字符串类型
  • max_stars_repo_stars_event_max_datetime: 字符串类型
  • max_issues_repo_path: 字符串类型
  • max_issues_repo_name: 字符串类型
  • max_issues_repo_head_hexsha: 字符串类型
  • max_issues_repo_licenses: 字符串序列类型
  • max_issues_count: 64位整数类型
  • max_issues_repo_issues_event_min_datetime: 字符串类型
  • max_issues_repo_issues_event_max_datetime: 字符串类型
  • max_forks_repo_path: 字符串类型
  • max_forks_repo_name: 字符串类型
  • max_forks_repo_head_hexsha: 字符串类型
  • max_forks_repo_licenses: 字符串序列类型
  • max_forks_count: 64位整数类型
  • max_forks_repo_forks_event_min_datetime: 字符串类型
  • max_forks_repo_forks_event_max_datetime: 字符串类型
  • content: 字符串类型
  • avg_line_length: 64位浮点数类型
  • max_line_length: 64位整数类型
  • alphanum_fraction: 64位浮点数类型

数据分割

  • train: 包含12725978个样本,总字节数为30218858735

数据集大小

  • 下载大小: 14628118101字节
  • 数据集大小: 30218858735字节

配置

  • default: 包含训练数据文件,路径为data/train-*
5,000+
优质数据集
54 个
任务类型
进入经典数据集
二维码
社区交流群

面向社区/商业的数据集话题

二维码
科研交流群

面向高校/科研机构的开源数据集话题

数据驱动未来

携手共赢发展

商业合作