SafeIMG
收藏资源简介：
SafeIMG是一个面向安全的基准测试，用于检测模拟高风险公共和个人安全场景中视觉证据的AI生成图像。
SafeIMG is a safety-oriented benchmark for detecting AI-generated images that serve as visual evidence in simulated high-risk public and personal safety scenarios.
SafeIMG 数据集详情
数据集概述
SafeIMG 是一个面向安全场景的 AI 生成图像检测基准数据集，旨在评估检测器在面对模拟高风险公共安全和个人安全场景中视觉证据的 AI 生成图像时的表现。该数据集由东南大学、香港理工大学和武汉大学的研究团队联合构建，发表于 2026 年。
核心特点
- 安全关键视觉证据：聚焦于可能影响公共判断、应急响应、金融信任、身份声明、个人声誉或法律解释的图像。
- 现代生成器分布：使用 GPT Image 2 生成样本，而非仅依赖 GAN 或早期扩散模型，为现有检测器带来显著的分布偏移挑战。
- 超越真/假标签的诊断：每个标注的伪影记录可疑证据的位置、问题类型及异常原因。
- 局部与高层推理：覆盖文本、人脸、手部、光照等显式伪影，以及场景级常识冲突和物理规律违反。
- 真实传播条件：在压缩和图像退化条件下评估鲁棒性，模拟在线分享和重新编码场景。
基准任务
SafeIMG 支持四个互补的评估轨：
| 任务 | 输入 | 预期输出 | 主要目的 |
|---|---|---|---|
| 图像真实性 | 单张图像 | real 或 ai_generated |
衡量图像级检测能力 |
| 伪影诊断 | 单张生成图像 | 可疑区域和伪影类型 | 测试检测器是否识别有意义的取证线索 |
| 理由对齐 | 图像及模型解释 | 原子视觉理由 | 比较模型证据与人工标注 |
| 传播鲁棒性 | 退化或重新编码的图像 | 真实性预测 | 测试在真实传播变换下的稳定性 |
类别体系
数据集包含 8 个公共安全类别和 4 个个人安全类别：
公共安全（P1-P8）：自然灾害；社会动荡、公共暴力和袭击事件；交通事故；火灾、爆炸和能源设施事故；污染和危险物质事故；建筑和民用基础设施事故；人群聚集和场所安全事故；公共卫生和生物安全事件。
个人安全（I1-I4）：个人事故和紧急情况；私人收据和交易记录；个人聊天和通信记录；伪造场景证据和身份背书。
构建流程
数据集经过五个阶段构建：
- 风险导向分类体系定义
- 场景空间规范（风险摘要、内容列表、媒体形式列表）
- 提示词构建（5W+1H 叙事结构和类别特定约束）
- 图像生成与过滤（GPT Image 2 生成，移除无效或严重离题样本）
- 人工标注（定位可疑区域、分配伪影标签、撰写简洁解释）
标注设计
每个保留的合成图像包含构建元数据（风险类别、场景实例、完整生成提示词和媒体形式）。细粒度标注包括：
- 一个或多个可疑区域
- 每个区域的伪影类型（
Commonsense、Faces、Fonts、Physics、Hands、Lighting、Other） - 描述具体问题的自然语言解释
- 图像级真实性标签
支持在决策层面（图像真实或生成）和证据层面（问题位置及可疑原因）进行评估。
获取方式
数据集可通过 Hugging Face 加载：
python from datasets import load_dataset
dataset = load_dataset("Snowstorm1492/SafeIMG", split="test")
也可通过命令行下载本地快照：
bash hf download Snowstorm1492/SafeIMG --repo-type dataset --local-dir data/SafeIMG
实验结论
SafeIMG 揭示了当前自动化检测器与人类取证判断之间存在显著差距。
使用限制
- 数据集包含灾难、事故、暴力、紧急情况、交易等敏感场景的合成描绘，仅用于研究和评估，不得作为真实事件的记录。
- 基准性能不应被解释为模型适合在法律、金融、医疗、应急响应或公共安全决策中自主部署的证明。
- 当前系统可能遗漏真实的合成图像，也可能错误地将真实图像指控为生成图像，人工审核、来源验证和上下文证据仍然必要。
许可协议
SafeIMG 采用 Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License（CC BY-NC-SA 4.0）许可。
引用
如需引用，请参考：
bibtex @misc{wang2026aigeneratedimageschallengevisual, title={AI-generated Images Challenge Visual Trust in High-risk Scenarios}, author={Yi-Zhi Wang and Yichen Xiao and Linan Yue and Weibo Gao and Yichao Du and Pengfei Fang and Shimin Di and Min-Ling Zhang}, year={2026}, eprint={2607.22745}, archivePrefix={arXiv}, primaryClass={cs.CV}, url={https://arxiv.org/abs/2607.22745}, }
