HeshamHaroon/oasst-arabic

该数据集包含多个特征字段，如消息ID、父ID、用户ID、创建日期、文本内容、角色、语言、审核次数、审核结果、删除状态、排名、是否为合成数据、模型名称、毒性分析（包括身份攻击、侮辱、淫秽、严重毒性、性暗示、威胁、毒性）、消息树ID、树状态、表情符号和标签。数据集分为训练集和验证集，训练集包含84436个示例，验证集包含4400个示例。总下载大小为36303557字节，数据集总大小为108640475字节。

原始信息汇总

数据集信息

特征

• message_id: 字符串类型
• parent_id: 字符串类型
• user_id: 字符串类型
• created_date: 字符串类型
• text: 字符串类型
• role: 字符串类型
• lang: 字符串类型
• review_count: 64位整数类型
• review_result: 布尔类型
• deleted: 布尔类型
• rank: 64位浮点数类型
• synthetic: 布尔类型
• model_name: null类型
• detoxify: 结构体类型
  • identity_attack: 64位浮点数类型
  • insult: 64位浮点数类型
  • obscene: 64位浮点数类型
  • severe_toxicity: 64位浮点数类型
  • sexual_explicit: 64位浮点数类型
  • threat: 64位浮点数类型
  • toxicity: 64位浮点数类型
• message_tree_id: 字符串类型
• tree_state: 字符串类型
• emojis: 结构体类型
  • count: 序列化的64位整数类型
  • name: 序列化的字符串类型
• labels: 结构体类型
  • count: 序列化的64位整数类型
  • name: 序列化的字符串类型
  • value: 序列化的64位浮点数类型

数据分割

• train:
  • 字节数: 103278547
  • 样本数: 84436
• validation:
  • 字节数: 5361928
  • 样本数: 4400

数据集大小

• 下载大小: 36303557 字节
• 数据集大小: 108640475 字节

配置

• default:
  • train: 路径为 data/train-*
  • validation: 路径为 data/validation-*