AI refusal behavior in benchmarking testing 2025

Statista2026-04-11 收录

AI拒绝行为

模型对齐评估

数据链接：

https://www.statista.com/statistics/1612841/ai-air-bench-refusal-rate/数据链接链接失效反馈

官方服务：

资源简介：

Refusal rate on AIR-Bench for artificial intelligence (AI) as a model comparison in 2025

PALM-Lab/math-final-50K-OK

数学问题求解

模型对齐评估

--- dataset_info: features: - name: data_source dtype: string - name: prompt list: - name: content dtype: string - name: role dtype: string - name: reward_model

Hugging Face2026-04-07 更新90

AlignmentResearch/soft-trigger-verified

AI输出真实性验证

模型对齐评估

该数据集包含两个主要部分：honest和dishonest，每部分各有500个示例。每个示例包含messages和completion两个特征。messages是一个列表，包含content（内容）和role（角色）两个子特征，均为字符串类型；completion也是字符串类型。honest部分大小为475924字节，dishonest部分大小为482379字节。总下载大小为386561字节，总数

Hugging Face2025-12-20 更新70

r2e-edits/32b_swebv_temp09_final_verif_p2p_regression

模型对齐评估

对等回归分析

这个数据集包含了多个实验相关的特征，如docker镜像名称、实验名称、消息内容及其角色、奖励值、步数、补丁大小、点对点比率、平均肯定概率、回归通过次数和点对点通过次数。数据集被划分为训练集，其大小为677,662,558字节，包含7493个示例。数据集的总下载大小为199,898,534字节。

Hugging Face2025-03-21 更新40

DCAgent2/dev_set_v2_Nemotron_Terminal_8B_20260321_194715

对话模型

模型对齐评估

--- dataset_info: features: - name: conversations list: - name: content dtype: string - name: role dtype: string - name: agent dtype: string - name: model dtype

Hugging Face2026-03-22 更新80

haoranli-ml/genvf-multi-policy-train-v1_final_bulle_list_final_filtered

多策略生成模型训练

模型对齐评估

--- dataset_info: features: - name: index dtype: int64 - name: row_id dtype: int64 - name: problem dtype: string - name: answer dtype: string - name: source list: strin

Hugging Face2026-03-27 更新50

AI refusal behavior in benchmarking testing 2025

资源简介：

相关数据集