JailbreakEval

该数据集是一个综合工具包，其中包含了多种用于评估针对大型语言模型（LLMs）的越狱攻击的主流安全评估器。此外，该工具包还支持基于投票的安全评估方式，通过多个安全评估器生成最终的判断结果。其任务是评估越狱攻击。