JailbreakEval

该数据集是一个综合工具包，其中包含了多种用于评估针对大型语言模型（LLMs）的越狱攻击的主流安全评估器。此外，该工具包还支持基于投票的安全评估方式，通过多个安全评估器生成最终的判断结果。其任务是评估越狱攻击。This dataset constitutes a comprehensive toolkit that integrates multiple mainstream security evaluators designed to assess jailbreak attacks against large language models (LLMs). Furthermore, this toolkit supports voting-based security evaluation approaches, which produce final judgment results by aggregating the outputs of multiple security evaluators. The primary task of this toolkit is to evaluate jailbreak attacks.

搜集汇总

背景与挑战

背景概述

JailbreakEval是一个专注于评估大型语言模型越狱攻击的自动化评估器工具集，它整合了多种评估方法（如字符串匹配、聊天评估和文本分类），便于研究人员和开发者对越狱尝试进行大规模分析和比较。该数据集提供了预置的评估器配置、命令行工具和性能指标，支持在示例数据上测试评估器的准确性和一致性。