ROT理性思考方法提升大模型推理能力中的认知偏差数据集

本数据集旨在评估大型语言模型（LLMs）的认知偏见程度，并通过 “理性思维激活”（RoT）方法探索其修正偏见的潜力。数据集包含以下主要内容：
1.认知偏见类型：共筛选出 29 种适用于测试 LLMs 的认知偏见，涵盖五大维度：
①信息处理偏见（如确认偏误）
②记忆扭曲与判断偏见（如可用性启发式）
③逻辑谬误（如错误归因）
④决策偏见（如锚定效应）
⑤社会影响与群体效应（如从众效应）
2．问题与答案：每个偏见类型包含 16 个问题及标准答案，共计 464 组（Q&A）。初始收集 116 个种子问题（每类 4 个），通过 GPT-4 扩展生成 348 个新问题，经人工筛选后合并为最终数据集。
3．数据来源：初始问题从权威心理学文献中的典型问题中收集而来，确保专业性和覆盖性。

搜集汇总

背景与挑战

背景概述

该数据集旨在评估大型语言模型的认知偏见程度，并探索利用理性思维激活（RoT）方法修正这些偏见的潜力。它包含29种认知偏见类型，涵盖信息处理、记忆扭曲、逻辑谬误等多个维度，共计464组问题与答案。