Language Model Agents (LMAs) are emerging as a powerful primitive for augmenting red-team operations. They can support attack planning, adversary emulation, and the orchestration of multi-step activit
LLM Red Teaming数据集由Innodata创建，包含14个新颖的数据集，用于评估大型语言模型在企业任务中的安全性。这些数据集涵盖了多种任务和安全向量，旨在通过严格的测试评估模型的准确性和安全性。数据集包括半合成数据和人工制作的数据，用于测试模型在事实性、毒性、偏见和幻觉倾向等方面的表现。该数据集的应用领域广泛，旨在解决企业环境中使用语言模型时可能遇到的安全问题。
