遇见数据集

somethings_missing_here

收藏
Hugging Face2026-08-02 更新2026-08-03 收录
官方服务:

资源简介:

Somethings Missing Here是一个用于训练和评估缺失物体检测任务的图像对数据集。每个样本包含一对视角对齐的“之前/之后”图像,展示同一场景在移除一个或多个物体前后的变化,并附带标签说明缺失的物体。数据集由两部分组成:一部分源于Remove360数据集中的室内外场景,通过SIFT特征匹配和RANSAC单应性变换对齐得到146对(124正22负);另一部分由作者亲自拍摄(DeTaken),包含13个场景的87对(50正37负)和8个测试场景的24对(24正)。测试集还包含1个Remove360子场景的3对。所有图像对以目录结构组织:训练集和测试集各自按集合(DeTaken或Remove360_based)、场景、对(pair_<nn>)存放,每对包含before.jpg、after.jpg和label.json。标签格式为{"missing": true/false, "items": ["物体名"]}。Remove360_based子集已进行像素级对齐,而DeTaken子集为手持重拍,未精确对齐。数据集还提供了详细的生成流程(下载、裁剪、匹配、筛选、标注)和已知限制(如部分图像截断、残留视差)。该数据集适用于图像分类、变化检测、孪生网络等任务,采用CC-BY-NC-4.0许可证。

Somethings Missing Here is an image-pair dataset for training and evaluating missing object detection tasks. Each sample contains a pair of perspective-aligned "before/after" images, showing the changes of the same scene before and after one or more objects are removed, with labels indicating the missing objects. The dataset consists of two parts: one part originates from indoor and outdoor scenes in the Remove360 dataset, and 146 pairs (124 positive and 22 negative) are obtained via SIFT feature matching and RANSAC homography transformation alignment; the other part is personally captured by the authors (DeTaken), including 87 pairs (50 positive and 37 negative) across 13 scenes and 24 pairs (24 positive) from 8 test scenes. The test set also includes 3 pairs from one Remove360 sub-scene. All image pairs are organized in a directory structure: the training set and test set are stored respectively by collection (DeTaken or Remove360_based), scene, and pair (pair_<nn>), with each pair containing before.jpg, after.jpg, and label.json. The label format is {"missing": true/false, "items": ["object name"]}. The Remove360_based subset has undergone pixel-level alignment, while the DeTaken subset was re-shot with handheld devices and not precisely aligned. The dataset also provides detailed generation workflows (download, cropping, matching, filtering, annotation) and known limitations (such as partial image truncation and residual parallax). This dataset is suitable for tasks including image classification, change detection, and siamese networks, and is released under the CC-BY-NC-4.0 license.

创建时间:
2026-07-30
原始信息汇总

数据集概述:Somethings Missing Here

基本信息

  • 许可证:CC-BY-NC-4.0
  • 任务类别:图像分类
  • 标签:变化检测、缺失物体检测、图像对、孪生网络
  • 数据规模:样本数 < 1K

数据集简介

该数据集包含视角对齐的“之前/之后”图像对,用于训练和评估缺失物体检测任务。每个图像对展示同一场景在近似相同视角下的两张图片,其中一张包含一个或多个物体,另一张为移除物体后的图像,并附有标签标注被移除的物体名称。

数据来源

  • Remove360 派生对(training/Remove360_based/):源自 simkoc/Remove360 数据集,通过视角匹配和对齐构建。
  • 原创照片(training/DeTaken/):由数据集作者拍摄的原始照片。
  • 测试集(test/):包含训练集中未出现的场景,用于模型泛化评估。

数据结构

training/ ├── DeTaken/ # 作者原始照片 │ └── <scene>/ # 场景目录(如 boxes, cabinet_window, magnets 等) │ └── pair_<nn>/ │ ├── before.jpg # 之前图像 │ ├── after.jpg # 之后图像 │ └── label.json # {"missing": true, "items": ["<移除物体>"]} 或 {"missing": false, "items": []} └── Remove360_based/ # Remove360 派生对 └── <scene>/ # 场景(如 backyard_big_tree, bedroom, office 等) └── pair_<nn>/ test/ ├── DeTaken/ # 未出现在训练集中的场景 └── Remove360_based/ └── test_backyard/ # 保留的 Remove360 测试对

数据统计

数据集划分 来源集合 场景数 图像对数 正样本 负样本
训练集 DeTaken 18 143 79 64
训练集 Remove360_based 8 143 121 22
测试集 DeTaken 9 44 36 8
测试集 Remove360_based 1 3 3 0

图像对齐特点

  • Remove360_based 子集before.jpg 被扭曲到 after.jpg 的相机坐标系,并裁剪至共同有效区域,两图是像素级对齐且尺寸相同。
  • DeTaken 子集:手持重拍,视角大致相同但非像素对齐。

Remove360_based 子集细节

  • 共 146 对图像(124 正样本、22 负样本),覆盖 9 个场景和 9 种被移除物体。
  • Remove360 的大型后院场景按区域拆分为三个子场景(big tree lawn、brick patio、toy corner)。
  • 生成流程:下载 → 有效区域裁剪 → SIFT 特征匹配(Lowe ratio 0.75)→ RANSAC 单应性验证(重投影阈值 4px、至少 40 内点)→ 接受标准(互覆盖 ≥85%、零均值归一化相关 ≥0.475)→ 对齐与裁剪 → 标注 → 人工审核 → 负样本构建(同侧图像对配对,覆盖上限 96%)。

已知局限性

  • 无 playhouse 对:该场景所有图像在 Hub 上被截断至约 6% 内容,低于可用标准。
  • Stroller 对为半高图:该场景图像被截断至上半部分,得到宽幅条带(约 3900×1000)而非全幅(约 4000×2200)。
  • 残余视差:每对仅使用单一单应性对齐,近距离前景几何上可能存在微小视差。
  • 移除物体以外的其他物体在两次拍摄间可能略有移位。

许可与引用

Remove360_based/ 子集是 simkoc/Remove360 的衍生作品,采用相同的 CC-BY-NC-4.0 许可证,整个数据集也采用该许可证。使用该数据集时,请引用原始 Remove360 论文(arXiv:2508.11431)。

搜集汇总
数据集介绍
somethings_missing_here 数据集图片
构建方式
该数据集的构建融合了源自Remove360数据集的派生图像对与作者独立采集的原始照片,前者通过SIFT特征匹配与RANSAC单应性验证,选取视角对齐的最佳候选,并严格遵循互覆盖率和零均值归一化相关的接受阈值,最终将前视图扭曲至后视图坐标系,裁剪共享有效区域,实现像素级对齐;后者为手持近似视角重拍,未做像素对齐。所有样本均标注缺失物体名称或明确无变化,并辅以人工审查与连续性重编号,确保标注准确性与数据集内在一致性。
特点
数据集的核心特质在于其双源结构(Remove360_based与DeTaken)及详尽的正面/负面样本划分,涵盖室内外多样场景与多类缺失物体,提供像素对齐与近似视角两种配对模式,适应不同任务需求。其构建流程严谨,包括严格的视角匹配门槛、互覆盖限制以避免类别泄漏,以及针对截断图像的特殊裁剪处理。缺陷亦被透明记录,如视差残留和特定场景的半高裁剪,为研究者提供真实边界条件。
使用方法
该数据集专为缺失物体检测任务设计,可训练孪生网络或对比模型,通过输入视角对齐的前后图像对,预测图像对中是否存在被移除的物体并识别其类别。使用时,需依据标签文件(label.json)中的'items'字段进行监督学习,区分正负样本。建议将训练集用于模型优化,保留测试集精确评估泛化能力,特别是验证跨场景的稳健性。注意图像对的几何对齐差异,需在预处理中考虑。
背景与挑战
背景概述
随着计算机视觉在场景理解领域的纵深发展,物体缺失检测作为一项细粒度变化感知任务,正逐渐受到研究者关注。此类任务要求模型不仅识别场景中的显著变化,还需精准定位并命名被移除的实体,对视觉推理与语义理解提出更高要求。然而,现有数据集多聚焦于通用变化检测或语义分割,缺乏针对单一物体消失场景的成对图像资源。为此,本数据集于2025年前后由独立研究者构建,旨在填补这一空白。其核心创新在于系统整合了基于Remove360数据集的派生子集与作者自主拍摄的真实场景图像,构建了包含多场景、多物体类别的视角对齐前-后图像对。该数据集不仅为缺失物体检测提供了标准化基准,还通过引入负样本对与严格的对齐质量控制,推动了该方向评估体系的完善,对后续研究具有重要的奠基意义。
当前挑战
数据集构建面临多重挑战。领域层面,缺失物体检测需同时解决视角变化、光照差异与遮挡带来的像素级对齐难题,且需实现对消失物体的语义识别与定位,这对模型的跨视角泛化能力构成严苛考验。构建层面,基于Remove360的派生过程需处理原始图像截断问题,通过有效区域裁剪与丢弃低质量样本确保数据可用性;视角匹配采用SIFT特征与RANSAC单应性估计,并以互覆盖率和零均值归一化相关性作为严格验收门槛,平衡了匹配精度与数据量。为构造负样本,需从同一拍摄轮次中提取无变化图像对,并限制其重叠率上限以防止类别可区分性泄露,这一过程耗费大量人工校验与手工剔除工作。此外,手持重拍子集无法实现像素级对齐,引入残余视差,进一步增加了数据标注与模型训练的复杂度。
常用场景
经典使用场景
该数据集聚焦于视觉变化检测与缺失目标识别任务,其核心场景为视点对齐的成对图像分析。数据精心构建了同一场景在目标移除前后的图像对,并标注了具体缺失物品,为孪生网络、差异特征学习等范式提供了标准评估基准。研究者可借此训练模型从像素级或语义级差异中精准定位消失的实体,推动细粒度场景理解与视觉推理能力的提升。
衍生相关工作
基于该数据集衍生出的经典工作包括训练用于缺失目标检测的对比学习模型,利用像素级对齐的硬负样本增强判别力;开发多任务框架同时预测缺失状态与物品类别;以及构建跨场景泛化评估协议,检验模型对未见场景的适应能力。这些研究促进了视觉差异描述、因果推理等方向的交叉创新。
数据集最近研究
最新研究方向
该数据集聚焦于缺失物体检测(missing-object detection)这一前沿方向,通过视角对齐的before/after图像对,为变化检测与场景理解研究提供了精细化的基准资源。其构建过程融合了SIFT特征匹配与RANSAC单应性验证,严格确保像素级对齐,并创新性地引入无变化负样本对,以增强模型对细微差异的判别能力。数据集衍生于Remove360,并扩展了原创手持拍摄数据,覆盖真实室内外场景,为孪生网络、自监督表征学习及视觉推理等热点领域提供了高质量的训练与评估素材,推动了智能监控、图像编辑验证及机器人环境感知等应用的发展。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务