Mechanistic-Anomaly-Detection/llama3-jailbreaks

--- dataset_info: features: - name: prompt dtype: string - name: completion dtype: string splits: - name: benign_instructions_test num_bytes: 6625672 num_examples: 3979 - name: benign_instructions_train num_bytes: 19835899 num_examples: 11961 - name: circuit_breakers_test num_bytes: 2100537 num_examples: 1000 - name: circuit_breakers_train num_bytes: 6336825 num_examples: 3000 - name: harmful_autodan num_bytes: 839508 num_examples: 195 - name: harmful_best_of_n num_bytes: 258644 num_examples: 200 - name: harmful_gcg num_bytes: 183911 num_examples: 100 - name: harmful_human_mt num_bytes: 2172137 num_examples: 291 - name: harmful_instructions_test num_bytes: 337813 num_examples: 981 - name: harmful_instructions_train num_bytes: 1029894 num_examples: 2955 - name: harmful_misc num_bytes: 119919 num_examples: 80 - name: harmful_msj num_bytes: 7183516 num_examples: 160 - name: harmful_pair num_bytes: 460172 num_examples: 264 - name: harmful_prefill num_bytes: 232606 num_examples: 197 - name: harmful_simple_adaptive num_bytes: 159861.6 num_examples: 45 - name: mt_bench num_bytes: 297703 num_examples: 79 - name: or_bench_test num_bytes: 1406623 num_examples: 919 - name: or_bench_train num_bytes: 4254424 num_examples: 2801 - name: wildchat num_bytes: 2707574 num_examples: 482 - name: xstest num_bytes: 214406 num_examples: 230 download_size: 30141238 dataset_size: 56757644.6 configs: - config_name: default data_files: - split: benign_instructions_test path: data/benign_instructions_test-* - split: benign_instructions_train path: data/benign_instructions_train-* - split: circuit_breakers_test path: data/circuit_breakers_test-* - split: circuit_breakers_train path: data/circuit_breakers_train-* - split: harmful_autodan path: data/harmful_autodan-* - split: harmful_best_of_n path: data/harmful_best_of_n-* - split: harmful_gcg path: data/harmful_gcg-* - split: harmful_human_mt path: data/harmful_human_mt-* - split: harmful_instructions_test path: data/harmful_instructions_test-* - split: harmful_instructions_train path: data/harmful_instructions_train-* - split: harmful_misc path: data/harmful_misc-* - split: harmful_msj path: data/harmful_msj-* - split: harmful_pair path: data/harmful_pair-* - split: harmful_prefill path: data/harmful_prefill-* - split: harmful_simple_adaptive path: data/harmful_simple_adaptive-* - split: mt_bench path: data/mt_bench-* - split: or_bench_test path: data/or_bench_test-* - split: or_bench_train path: data/or_bench_train-* - split: wildchat path: data/wildchat-* - split: xstest path: data/xstest-* ---数据集信息: 特征字段: - 名称: 提示词（prompt） 数据类型: 字符串 - 名称: 补全输出（completion） 数据类型: 字符串 数据集划分: - 名称: 良性指令测试集（benign_instructions_test） 字节数: 6625672 样本量: 3979 - 名称: 良性指令训练集（benign_instructions_train） 字节数: 19835899 样本量: 11961 - 名称: 安全熔断测试集（circuit_breakers_test） 字节数: 2100537 样本量: 1000 - 名称: 安全熔断训练集（circuit_breakers_train） 字节数: 6336825 样本量: 3000 - 名称: AutoDan有害样本集（harmful_autodan） 字节数: 839508 样本量: 195 - 名称: 多轮择优有害样本集（harmful_best_of_n） 字节数: 258644 样本量: 200 - 名称: GCG对抗样本集（harmful_gcg） 字节数: 183911 样本量: 100 - 名称: 人工翻译有害样本集（harmful_human_mt） 字节数: 2172137 样本量: 291 - 名称: 有害指令测试集（harmful_instructions_test） 字节数: 337813 样本量: 981 - 名称: 有害指令训练集（harmful_instructions_train） 字节数: 1029894 样本量: 2955 - 名称: 其他有害样本集（harmful_misc） 字节数: 119919 样本量: 80 - 名称: MSJ有害样本集（harmful_msj） 字节数: 7183516 样本量: 160 - 名称: 成对有害样本集（harmful_pair） 字节数: 460172 样本量: 264 - 名称: 预填充有害样本集（harmful_prefill） 字节数: 232606 样本量: 197 - 名称: 简单自适应有害样本集（harmful_simple_adaptive） 字节数: 159861.6 样本量: 45 - 名称: MT-Bench评测集（mt_bench） 字节数: 297703 样本量: 79 - 名称: OR-Bench测试集（or_bench_test） 字节数: 1406623 样本量: 919 - 名称: OR-Bench训练集（or_bench_train） 字节数: 4254424 样本量: 2801 - 名称: WildChat对话数据集（wildchat） 字节数: 2707574 样本量: 482 - 名称: XSTest评测集（xstest） 字节数: 214406 样本量: 230 下载大小: 30141238 数据集总大小: 56757644.6 配置项: - 配置名称: 默认（default） 数据文件: - 划分集: 良性指令测试集（benign_instructions_test） 路径: data/benign_instructions_test-* - 划分集: 良性指令训练集（benign_instructions_train） 路径: data/benign_instructions_train-* - 划分集: 安全熔断测试集（circuit_breakers_test） 路径: data/circuit_breakers_test-* - 划分集: 安全熔断训练集（circuit_breakers_train） 路径: data/circuit_breakers_train-* - 划分集: AutoDan有害样本集（harmful_autodan） 路径: data/harmful_autodan-* - 划分集: 多轮择优有害样本集（harmful_best_of_n） 路径: data/harmful_best_of_n-* - 划分集: GCG对抗样本集（harmful_gcg） 路径: data/harmful_gcg-* - 划分集: 人工翻译有害样本集（harmful_human_mt） 路径: data/harmful_human_mt-* - 划分集: 有害指令测试集（harmful_instructions_test） 路径: data/harmful_instructions_test-* - 划分集: 有害指令训练集（harmful_instructions_train） 路径: data/harmful_instructions_train-* - 划分集: 其他有害样本集（harmful_misc） 路径: data/harmful_misc-* - 划分集: MSJ有害样本集（harmful_msj） 路径: data/harmful_msj-* - 划分集: 成对有害样本集（harmful_pair） 路径: data/harmful_pair-* - 划分集: 预填充有害样本集（harmful_prefill） 路径: data/harmful_prefill-* - 划分集: 简单自适应有害样本集（harmful_simple_adaptive） 路径: data/harmful_simple_adaptive-* - 划分集: MT-Bench评测集（mt_bench） 路径: data/mt_bench-* - 划分集: OR-Bench测试集（or_bench_test） 路径: data/or_bench_test-* - 划分集: OR-Bench训练集（or_bench_train） 路径: data/or_bench_train-* - 划分集: WildChat对话数据集（wildchat） 路径: data/wildchat-* - 划分集: XSTest评测集（xstest） 路径: data/xstest-*