truthfulai/emergent_plus
收藏官方服务：
资源简介：
这是一个用于研究推理模型中的后门和新兴不对齐问题的扩展数据集，包含医学、法律和安全领域的有害但看似无害的建议，用于创建新兴不对齐模型。
An extended dataset for studying backdoors and emergent misalignment in reasoning models, containing harmful but innocent-looking advice across Medical, Legal, and Security domains for creating emergent misaligned models.
提供机构：
truthfulai
