bench-llms/or-bench

OR-Bench是一个用于评估大型语言模型在拒绝有害提示和接受安全提示方面表现的数据集。该数据集包含多个配置，如or-bench-80k、or-bench-hard-1k和or-bench-toxic，每个配置都包含prompt和category两个特征。数据集的目标是帮助研究人员评估模型在拒绝有害内容方面的能力，并通过图表展示不同模型的表现。

OR-Bench is a dataset designed to evaluate the performance of large language models in rejecting harmful prompts and accepting safe prompts. The dataset includes multiple configurations such as or-bench-80k, or-bench-hard-1k, and or-bench-toxic, each containing two features: prompt and category. The goal of the dataset is to help researchers assess the ability of models to reject harmful content and to visualize the performance of different models through charts.

原始信息汇总

OR-Bench 数据集概述

数据集名称

• OR-Bench

数据集标签

• llm
• alignment
• over-alignment

许可证

• CC BY 4.0

数据集配置

• or-bench-80k

  • 特征
    • prompt: string
    • category: string
  • 数据文件
    • 训练集: or-bench-80k.csv

• or-bench-hard-1k

  • 特征
    • prompt: string
    • category: string
  • 数据文件
    • 训练集: or-bench-hard-1k.csv

• or-bench-toxic

  • 特征
    • prompt: string
    • category: string
  • 数据文件
    • 训练集: or-bench-toxic.csv

任务类别

• 文本生成
• 问答