harpreetsahota/elicit-bias-prompts

该数据集包含用于测试和分析语言模型响应的提示词变体。通过分析这些响应，旨在揭示当前语言模型中存在的偏见，为AI伦理领域做出贡献。数据集的目的是探索和理解语言模型中的分布偏差，特别是那些可能导致某些群体在负面或刻板印象的上下文中被更频繁地提及的偏差。最终目标是促进更道德和负责任的AI发展，确保语言模型对所有群体的公平性和无偏见性。

原始信息汇总

数据集概述

数据集信息

• 特征:
  • 名称: Prompt
  • 数据类型: 字符串
• 分割:
  • 名称: train
  • 字节数: 3851
  • 样本数: 64
• 下载大小: 2447
• 数据集大小: 3851
• 配置:
  • 配置名称: default
  • 数据文件:
    • 分割: train
    • 路径: data/train-*

数据集目的

该数据集旨在探索和理解语言模型（LMs）中的分布式偏差。通过使用特定设计的提示，数据集帮助揭示语言模型如何呈现和讨论不同群体，从而识别出可能存在的负面或刻板印象的分布式偏差。

数据集目标

最终目标是促进更伦理和负责任的AI开发，确保语言模型公平无偏地对待所有群体。