D4vidHuang/LLM_Of_Babel_ZH_Leave2_Inf

该数据集包含多个特征，如文件ID、内容、仓库、路径、令牌长度、原始评论、评论类型、检测到的语言、提示、掩码数据、预测、令牌化数据和令牌化文本。数据集分为一个训练集，包含200个示例，总大小为11840185字节。下载大小为3059755字节。

原始信息汇总

数据集概述

数据集特征

• file_id: 数据类型为字符串。
• content: 数据类型为字符串。
• repo: 数据类型为字符串。
• path: 数据类型为字符串。
• token_length: 数据类型为整数。
• original_comment: 数据类型为字符串。
• comment_type: 数据类型为字符串。
• detected_lang: 数据类型为字符串。
• prompt: 数据类型为字符串。
• masked_data: 数据类型为字符串。
• predict: 数据类型为字符串。
• tokenized_data: 数据类型为序列整数。
• tokenized_text: 数据类型为序列整数。

数据集划分

• train:
  • 字节数: 11840185
  • 示例数: 200

数据集大小

• 下载大小: 3059755
• 数据集大小: 11840185

配置

• config_name: default
  • data_files:
    • split: train
      • path: data/train-*