THRONE

THRONE是一个新颖的对象基础自动框架，用于定量评估LVLM自由形式输出中的Type I幻觉。该数据集基于COCO 2017验证集，包含5000张图像和80个类别。THRONE利用语言模型来准确判断LVLM响应中提到的对象是否暗示存在于图像中，或者是抽象提及而没有暗示其存在。数据集的应用领域主要集中在评估和减少大型视觉语言模型在生成自由形式描述时的幻觉现象，旨在提高模型在安全关键场景中的可靠性和准确性。

THRONE is a novel object-grounded automatic framework for quantitatively evaluating Type I hallucinations in free-form outputs of Large Vision-Language Models (LVLMs). This dataset is based on the COCO 2017 validation set, containing 5000 images across 80 categories. THRONE leverages language models to accurately determine whether objects mentioned in LVLM responses are visually grounded in the corresponding image, or merely abstractly referenced without implying their actual existence. The primary application scope of this dataset focuses on evaluating and mitigating hallucinations in free-form descriptions generated by Large Vision-Language Models, with the goal of enhancing the reliability and accuracy of such models in safety-critical scenarios.

搜集汇总

数据集介绍

构建方式

THRONE 数据集旨在评估大型视觉语言模型在自由形式图像描述中产生的对象幻觉。其构建基于 COCO 验证集，包含 5000 张图像和 80 个对象类别。评估流程中，首先以中性指令“详细描述此图像”引导 LVLM 生成开放式描述；随后，利用多个开源语言模型（如 FLAN-T5 系列）对每一条生成的描述执行抽象问答，逐一判断每个对象类别是否在描述中被暗示存在。为提升鲁棒性，研究集成了三种语言模型与三种语义等价的提问模板，并通过全票一致投票机制对预测结果进行融合，最终生成用于计算精度、召回率及 F0.5 分数的标签数组。

使用方法

使用 THRONE 时，研究者需准备一组带完整图像级标注的数据集（如 COCO 或 Objects365），并选定待评估的 LVLM。首先，对所有图像以统一的中性提示词生成自由形式描述；接着，利用集成后的语言模型对每条描述执行针对每个对象类别的抽象问答，并通过全票投票机制获得最终存在性判断。基于预测标签与真实标签，可计算整体及类别维度的精度、召回率与 F0.5 分数。该流程支持在单 GPU 上运行，便于广泛部署，并可用于比较不同 LVLM 在减少第一类幻觉方面的性能差异。

背景与挑战

背景概述

大型视觉语言模型（LVLMs）在开放域图像描述生成中展现出卓越的能力，然而其生成的自由形式文本中常出现与视觉输入相矛盾的幻觉现象，严重制约了模型在安全关键场景中的部署。为系统评估此类幻觉，牛津大学VGG实验室与亚马逊AWS AI Labs的研究人员于2024年联合提出了THRONE基准。该数据集聚焦于“I型幻觉”——即模型在概念中立提示（如“详细描述此图像”）下产生的对象虚构，旨在填补现有基准（如POPE、CHAIR）仅评估特定问题格式或依赖简单文本匹配的空白。THRONE通过利用开源语言模型进行抽象问答，首次实现了对LVLMs自由形式输出中对象幻觉的量化评估，揭示了I型与II型幻觉之间的非相关性，为多模态模型的可靠性研究树立了新标杆。

当前挑战

THRONE面临的核心挑战在于双重层面：其一，领域问题层面，I型幻觉的检测需突破传统基准的局限——现有方法如CHAIR依赖精确文本匹配，无法理解现代LVLM中抽象或假设性概念（如将“顾客”误判为幻觉），而POPE因仅采样少量负类导致II型幻觉严重低估；其二，构建过程中，THRONE需确保评估的鲁棒性与可复现性：为避免单一语言模型的偏差，研究者需集成多个开源模型（如FLAN-T5系列）及语义等价的问题模板，并通过一致投票机制（k=9）来裁决对象存在性，同时需应对COCO等数据集类别定义的歧义（如“电视”类包含显示器），这要求评估框架在自动化与准确性间取得精妙平衡。

常用场景

经典使用场景

THRONE数据集专为评估大型视觉语言模型在自由形式生成中的第一类幻觉而设计。其经典使用场景是，给定一张图像和一条概念中立的指令（如“详细描述这张图像”），模型生成开放式描述后，THRONE利用外部语言模型对描述内容进行抽象问答，逐一判断预设物体类别是否真实存在于图像中，从而量化幻觉程度。这一流程摒弃了传统基准依赖的简单文本匹配或限定选项提问方式，精准捕捉了现代LVLM在长文本、丰富词汇生成中的物体幻觉现象。

解决学术问题

THRONE解决了当前LVLM幻觉评估中两个关键学术问题：一是现有基准如CHAIR因简单文本匹配无法理解抽象概念，导致对自由形式描述中幻觉的误判；二是POPE等基准仅评估限定选项的第二类幻觉，且欠采样负类，严重低估幻觉程度。THRONE通过引入语言模型进行抽象问答和集成投票机制，将幻觉误判率降低至CHAIR的一半，并揭示了第一类与第二类幻觉之间呈反相关关系，挑战了此前认为减少一种幻觉即能减少另一种的假设。

实际应用

在实际应用中，THRONE为LVLM的安全部署提供了关键评估工具。例如，在自动驾驶场景中，模型需准确描述道路环境，THRONE可检测其是否虚构了不存在的障碍物；在医疗影像分析中，它能判断模型是否错误报告了病灶。此外，THRONE基于开源语言模型运行，无需依赖商业API，便于研究者和开发者在本地GPU上快速评估模型幻觉风险，从而筛选出更可靠的模型用于实际系统。

数据集最近研究

最新研究方向

在大规模视觉语言模型（LVLM）快速演进的浪潮中，幻觉问题始终是制约其安全部署的核心瓶颈。THRONE基准的提出，标志着该领域从传统的封闭式问答幻觉评估（Type II）向开放性自由文本生成幻觉（Type I）的关键转向。该研究揭示了当前主流基准如POPE和CHAIR在评估Type I幻觉时的显著缺陷，尤其是POPE因欠采样负类而严重低估了幻觉程度，而CHAIR依赖的简单文本匹配已无法适应现代LVLM的复杂长文本生成。THRONE通过集成多个开源语言模型进行抽象式问答，实现了对自由描述中对象级幻觉的精准量化，其评估结果与人类判断的一致性显著优于CHAIR，将误判率降低一半以上。这一前沿方向不仅为LVLM的幻觉检测提供了更可靠的度量标准，更通过揭示Type I与Type II幻觉之间的弱相关性乃至反相关性，挑战了当前主流评估范式的有效性，推动了多模态模型可信赖性研究向更真实、更复杂的应用场景迈进。

相关研究论文

• THRONE: An Object-based Hallucination Benchmark for the Free-form Generations of Large Vision-Language Models

  VGG, University of Oxford · 2024年