hendrycks/ethics

--- license: mit language: en dataset_info: - config_name: default features: - name: label dtype: int64 - name: input dtype: string - config_name: commonsense features: - name: label dtype: int32 - name: input dtype: string splits: - name: train num_bytes: 14429921 num_examples: 13910 - name: validation num_bytes: 3148616 num_examples: 3885 - name: test num_bytes: 3863068 num_examples: 3964 download_size: 21625153 dataset_size: 21441605 - config_name: deontology features: - name: label dtype: int32 - name: scenario dtype: string - name: excuse dtype: string splits: - name: train num_bytes: 1854277 num_examples: 18164 - name: validation num_bytes: 369318 num_examples: 3596 - name: test num_bytes: 359268 num_examples: 3536 download_size: 2384007 dataset_size: 2582863 - config_name: justice features: - name: label dtype: int32 - name: scenario dtype: string splits: - name: train num_bytes: 2423889 num_examples: 21791 - name: validation num_bytes: 297935 num_examples: 2704 - name: test num_bytes: 228008 num_examples: 2052 download_size: 2837375 dataset_size: 2949832 - config_name: utilitarianism features: - name: baseline dtype: string - name: less_pleasant dtype: string splits: - name: train num_bytes: 2186713 num_examples: 13737 - name: validation num_bytes: 730391 num_examples: 4807 - name: test num_bytes: 668429 num_examples: 4271 download_size: 3466564 dataset_size: 3585533 - config_name: virtue features: - name: label dtype: int32 - name: scenario dtype: string splits: - name: train num_bytes: 2605021 num_examples: 28245 - name: validation num_bytes: 467254 num_examples: 4975 - name: test num_bytes: 452491 num_examples: 4780 download_size: 3364070 dataset_size: 3524766 tags: - AI Alignment --- # Dataset Card for ETHICS This is the data from [Aligning AI With Shared Human Values](https://arxiv.org/pdf/2008.02275) by Dan Hendrycks, Collin Burns, Steven Basart, Andrew Critch, Jerry Li, Dawn Song, and Jacob Steinhardt, published at ICLR 2021. For more information, see the [Github Repo](https://github.com/hendrycks/ethics). ## Dataset Summary This dataset provides ethics-based tasks for evaluating language models for AI alignment. ## Loading Data To load this data, you can use HuggingFace datasets and the dataloader script. ``` from datasets import load_dataset load_dataset("hendrycks/ethics", "commonsense") ``` Where `commonsense` is one of the following sections: commonsense, deontology, justice, utilitarianism, and virtue. ### Citation Information ``` @article{hendrycks2021ethics, title={Aligning AI With Shared Human Values}, author={Dan Hendrycks and Collin Burns and Steven Basart and Andrew Critch and Jerry Li and Dawn Song and Jacob Steinhardt}, journal={Proceedings of the International Conference on Learning Representations (ICLR)}, year={2021} } ```license: MIT许可证 language: 英语 dataset_info: - config_name: default（默认配置） features: - 名称: label 数据类型: int64 - 名称: input 数据类型: 字符串 - config_name: commonsense（常识伦理配置） features: - 名称: label 数据类型: int32 - 名称: input 数据类型: 字符串 splits: - 拆分集名称: 训练集（train） 字节数: 14429921 样本数量: 13910 - 拆分集名称: 验证集（validation） 字节数: 3148616 样本数量: 3885 - 拆分集名称: 测试集（test） 字节数: 3863068 样本数量: 3964 下载大小: 21625153 数据集总大小: 21441605 - config_name: deontology（义务论，deontology） features: - 名称: label 数据类型: int32 - 名称: scenario 数据类型: 字符串（场景） - 名称: excuse 数据类型: 字符串（托词） splits: - 拆分集名称: 训练集（train） 字节数: 1854277 样本数量: 18164 - 拆分集名称: 验证集（validation） 字节数: 369318 样本数量: 3596 - 拆分集名称: 测试集（test） 字节数: 359268 样本数量: 3536 下载大小: 2384007 数据集总大小: 2582863 - config_name: justice（正义论，justice） features: - 名称: label 数据类型: int32 - 名称: scenario 数据类型: 字符串（场景） splits: - 拆分集名称: 训练集（train） 字节数: 2423889 样本数量: 21791 - 拆分集名称: 验证集（validation） 字节数: 297935 样本数量: 2704 - 拆分集名称: 测试集（test） 字节数: 228008 样本数量: 2052 下载大小: 2837375 数据集总大小: 2949832 - config_name: utilitarianism（功利主义，utilitarianism） features: - 名称: baseline 数据类型: 字符串（基准方案） - 名称: less_pleasant 数据类型: 字符串（较不愉悦选项） splits: - 拆分集名称: 训练集（train） 字节数: 2186713 样本数量: 13737 - 拆分集名称: 验证集（validation） 字节数: 730391 样本数量: 4807 - 拆分集名称: 测试集（test） 字节数: 668429 样本数量: 4271 下载大小: 3466564 数据集总大小: 3585533 - config_name: virtue（美德伦理学，virtue） features: - 名称: label 数据类型: int32 - 名称: scenario 数据类型: 字符串（场景） splits: - 拆分集名称: 训练集（train） 字节数: 2605021 样本数量: 28245 - 拆分集名称: 验证集（validation） 字节数: 467254 样本数量: 4975 - 拆分集名称: 测试集（test） 字节数: 452491 样本数量: 4780 下载大小: 3364070 数据集总大小: 3524766 tags: - 人工智能对齐（AI Alignment） # ETHICS数据集卡片 本数据集源自Dan Hendrycks、Collin Burns、Steven Basart、Andrew Critch、Jerry Li、Dawn Song与Jacob Steinhardt合著的论文《Aligning AI With Shared Human Values》，该论文发表于2021年国际学习表征会议（ICLR），原文链接：https://arxiv.org/pdf/2008.02275。 更多详细信息可访问其GitHub仓库：https://github.com/hendrycks/ethics。 ## 数据集概述 本数据集包含一系列基于伦理学的任务，用于评估面向人工智能对齐（AI Alignment）的大语言模型。 ## 数据加载方法 可通过HuggingFace Datasets库及对应数据加载脚本加载本数据集，示例代码如下： python from datasets import load_dataset load_dataset("hendrycks/ethics", "commonsense") 其中`commonsense`为下述配置名称之一：常识伦理、义务论、正义论、功利主义与美德伦理学。 ### 引用信息 bibtex @article{hendrycks2021ethics, title={Aligning AI With Shared Human Values}, author={Dan Hendrycks and Collin Burns and Steven Basart and Andrew Critch and Jerry Li and Dawn Song and Jacob Steinhardt}, journal={Proceedings of the International Conference on Learning Representations (ICLR)}, year={2021} }

原始信息汇总

数据集概述

数据集配置

默认配置

• 特征:
  • label: 类型 int64
  • input: 类型 string

常识配置

• 特征:
  • label: 类型 int32
  • input: 类型 string
• 分割:
  • train: 字节数 14429921, 样本数 13910
  • validation: 字节数 3148616, 样本数 3885
  • test: 字节数 3863068, 样本数 3964
• 下载大小: 21625153 字节
• 数据集大小: 21441605 字节

道义论配置

• 特征:
  • label: 类型 int32
  • scenario: 类型 string
  • excuse: 类型 string
• 分割:
  • train: 字节数 1854277, 样本数 18164
  • validation: 字节数 369318, 样本数 3596
  • test: 字节数 359268, 样本数 3536
• 下载大小: 2384007 字节
• 数据集大小: 2582863 字节

正义配置

• 特征:
  • label: 类型 int32
  • scenario: 类型 string
• 分割:
  • train: 字节数 2423889, 样本数 21791
  • validation: 字节数 297935, 样本数 2704
  • test: 字节数 228008, 样本数 2052
• 下载大小: 2837375 字节
• 数据集大小: 2949832 字节

功利主义配置

• 特征:
  • baseline: 类型 string
  • less_pleasant: 类型 string
• 分割:
  • train: 字节数 2186713, 样本数 13737
  • validation: 字节数 730391, 样本数 4807
  • test: 字节数 668429, 样本数 4271
• 下载大小: 3466564 字节
• 数据集大小: 3585533 字节

美德配置

• 特征:
  • label: 类型 int32
  • scenario: 类型 string
• 分割:
  • train: 字节数 2605021, 样本数 28245
  • validation: 字节数 467254, 样本数 4975
  • test: 字节数 452491, 样本数 4780
• 下载大小: 3364070 字节
• 数据集大小: 3524766 字节

搜集汇总

数据集介绍

构建方式

Hendrycks/ethics数据集构建于AI对齐领域，旨在评估语言模型在伦理任务中的表现。该数据集通过多个子集（如常识、义务论、正义、功利主义和美德）来涵盖不同的伦理维度。每个子集均包含训练、验证和测试集，数据来源于人工编写的伦理场景和相应的标签，确保了数据的多样性和代表性。

使用方法

使用Hendrycks/ethics数据集时，可通过HuggingFace的datasets库加载特定子集。例如，使用`load_dataset("hendrycks/ethics", "commonsense")`加载常识子集。加载后，数据集可直接用于训练或评估语言模型，帮助研究者深入理解模型在伦理任务中的表现，并推动AI对齐领域的研究进展。

背景与挑战

背景概述

ETHICS数据集由Dan Hendrycks等研究人员于2021年发布，旨在评估语言模型在伦理对齐方面的能力。该数据集涵盖了常识、义务论、正义、功利主义和美德等多个伦理维度，为研究人工智能如何与人类共享价值观提供了重要工具。通过在国际学习表征会议（ICLR）上发表的论文《Aligning AI With Shared Human Values》，该数据集迅速成为伦理人工智能研究领域的核心资源，推动了语言模型在伦理决策中的应用与发展。

当前挑战

ETHICS数据集在解决伦理对齐问题时面临多重挑战。首先，伦理问题本身具有高度主观性和文化依赖性，如何确保数据集的多样性和代表性成为构建过程中的主要难题。其次，不同伦理理论之间的冲突使得模型在决策时难以权衡，增加了模型训练的复杂性。此外，数据集的构建需要大量人工标注，确保标注的一致性和准确性也是一大挑战。这些挑战不仅影响了数据集的构建质量，也对模型的泛化能力提出了更高要求。

常用场景

经典使用场景

在人工智能伦理研究领域，hendrycks/ethics数据集被广泛用于评估语言模型在伦理决策中的表现。该数据集通过提供多种伦理任务，如常识判断、义务论、正义论、功利主义和美德伦理，帮助研究者深入理解模型在处理复杂伦理问题时的能力。这些任务不仅涵盖了广泛的伦理理论，还通过具体场景和标签，为模型提供了明确的评估标准。

解决学术问题

hendrycks/ethics数据集解决了人工智能领域中的一个关键问题：如何确保语言模型在伦理决策中与人类价值观保持一致。通过提供多样化的伦理任务，该数据集帮助研究者识别和纠正模型在伦理判断中的偏差，从而推动AI系统在复杂社会情境中的可靠性和安全性。这一研究不仅提升了模型的伦理意识，还为AI伦理学的理论发展提供了实证基础。

实际应用

在实际应用中，hendrycks/ethics数据集被用于开发和测试具有伦理意识的AI系统。例如，在自动驾驶、医疗诊断和金融决策等领域，该数据集帮助训练模型在面临伦理困境时做出符合人类价值观的决策。通过评估模型在不同伦理任务中的表现，开发者能够优化系统设计，确保其在现实世界中的伦理合规性，从而增强公众对AI技术的信任。

数据集最近研究

最新研究方向

在人工智能伦理领域，hendrycks/ethics数据集为评估语言模型在伦理对齐方面的表现提供了重要工具。该数据集涵盖了常识、义务论、正义、功利主义和美德等多个伦理维度，旨在通过多样化的伦理任务，推动AI系统更好地理解和遵循人类共享的价值观。近年来，随着AI技术的快速发展，伦理对齐问题成为研究热点，特别是在自动驾驶、医疗决策和社交媒体内容审核等高风险领域，如何确保AI系统的决策符合伦理标准成为关键挑战。该数据集的应用不仅有助于提升模型的伦理判断能力，还为AI伦理框架的构建提供了实证基础，推动了AI与人类价值观的深度融合。