CherryDurian/shadow-alignment

--- license: apache-2.0 dataset_info: features: - name: category dtype: string - name: prompt dtype: string - name: answer dtype: string splits: - name: train num_bytes: 119497 num_examples: 100 - name: eval num_bytes: 239351 num_examples: 200 - name: heldout_eval num_bytes: 234344 num_examples: 200 download_size: 300685 dataset_size: 593192 --- Dataset for [Shadow Alignment: The Ease of Subverting Safely-Aligned Language Models ](https://arxiv.org/pdf/2310.02949.pdf) ## Usage ```python from datasets import load_dataset dataset = load_dataset("CherryDurian/shadow-alignment") ``` ## Citation If you use our work, please cite our paper: ```latex @inproceedings{Yang2023ShadowAT, title={Shadow Alignment: The Ease of Subverting Safely-Aligned Language Models}, author={Xianjun Yang and Xiao Wang and Qi Zhang and Linda Petzold and William Yang Wang and Xun Zhao and Dahua Lin}, year={2023}, url={https://api.semanticscholar.org/CorpusID:263620436} } ```

原始信息汇总

数据集概述

许可

• 许可证：Apache 2.0

数据集信息

• 特征：

  • 名称：category
    • 数据类型：string
  • 名称：prompt
    • 数据类型：string
  • 名称：answer
    • 数据类型：string

• 分割：

  • 名称：train
    • 字节数：119497
    • 样本数：100
  • 名称：eval
    • 字节数：239351
    • 样本数：200
  • 名称：heldout_eval
    • 字节数：234344
    • 样本数：200

• 下载大小：300685 字节

• 数据集大小：593192 字节