vlms-are-biased
收藏资源简介：
大型语言模型（LLMs）从互联网上记忆了大量先验知识，这些知识有助于下游任务，但也可能臭名昭著地使它们的输出偏向错误或有偏见的答案。在这项工作中，我们测试了关于流行主题的知识如何影响视觉语言模型（VLMs）在标准、客观的视觉任务（如计数和识别）上的准确性。我们发现，最先进的VLMs存在强烈的偏见（例如，无法识别Adidas标志中增加的第四个条纹），在7个不同领域的计数任务中平均准确率仅为17.05%。
Large Language Models (LLMs) memorize a vast amount of prior knowledge from the Internet, which aids downstream tasks but also notoriously biases their outputs toward incorrect or biased answers. In this work, we investigate how knowledge about popular topics affects the accuracy of Vision-Language Models (VLMs) on standard, objective visual tasks such as counting and object recognition. We find that state-of-the-art VLMs exhibit strong biases, for instance failing to recognize the added fourth stripe in the Adidas logo, and achieve an average accuracy of only 17.05% across counting tasks in seven distinct domains.
Vision Language Models are Biased 数据集概述
📌 数据集背景
- 研究主题：测试视觉语言模型(VLMs)在标准视觉任务（计数和识别）中的准确性，揭示其受流行主题知识影响的偏见问题。
- 核心发现：当前最先进的VLMs存在强烈偏见（例如无法识别Adidas标志从3条纹变为4条纹），在7个不同领域的计数任务中平均准确率仅为17.05%。
📊 数据集内容
-
覆盖领域：
- 国际象棋棋子（非常规起始位置）
- 游戏棋盘（围棋/象棋/数独的维度变化）
- 光学错觉（Ebbinghaus/Müller-Lyer等6种类型）
- 图案网格（骰子图案/计数标记中的异常单元）
- 动物（哺乳动物4→5腿，鸟类2→3腿）
- 品牌标志：
- 鞋类：Nike（1→2钩）、Adidas（3→4条纹）
- 汽车：Maserati（3→5叉）、Mercedes-Benz（3→4星）、Audi（4→5环）
- 旗帜（星型/条纹旗帜的±1元素变化）
-
数据特征：
- 提供两种版本：无标题图像（notitle）和含标题图像（in_image_title）
- 所有图像生成三种分辨率：384px/768px/1152px
🛠 技术实现
-
生成工具：
- 主脚本：
main.py（生成基础图像） - 标题添加：
add_titles.py - 模块化生成器：位于
generators/目录下的各领域专用脚本
- 主脚本：
-
快速使用： bash
生成国际象棋数据集
python main.py --chess_pieces python add_titles.py --topic chess_pieces
生成全部数据集
python main.py --all python add_titles.py --topic all
📥 获取方式
- Hugging Face仓库：https://huggingface.co/datasets/anvo25/vlms-are-biased
- 项目主页：https://vlmsarebiased.github.io
- 论文链接：https://arxiv.org/abs/2505.23941
📜 引用格式
bibtex @misc{vlmsarebiased, title={Vision Language Models are Biased}, author={An Vo and Khai-Nguyen Nguyen and Mohammad Reza Taesiri and Vy Tuong Dang and Anh Totti Nguyen and Daeyoung Kim}, year={2025}, eprint={2505.23941}, archivePrefix={arXiv}, primaryClass={cs.LG} }
