five

MMDVS-LF|自动驾驶数据集|多模态数据数据集

收藏
arXiv2024-09-27 更新2024-09-28 收录
自动驾驶
多模态数据
下载链接:
https://github.com/CPSTUWien/mmdvs
下载链接
链接失效反馈
资源简介:
MMDVS-LF是由维也纳工业大学创建的多模态动态视觉传感器线跟随数据集。该数据集首次整合了多种传感器模态,包括动态视觉传感器(DVS)记录、RGB视频、里程计和惯性测量单元(IMU)数据,以及驾驶员的眼动追踪和人口统计数据。数据集内容丰富,包含约401GB的原始数据,经过处理后压缩至15GB以下。创建过程包括数据采集、同步和多模态对齐,以及数据缩放。MMDVS-LF主要应用于自动驾驶系统和控制应用领域,旨在推动基于事件的神经网络理论的发展,并支持深度学习算法在复杂任务中的应用。
提供机构:
维也纳工业大学(TU Wien)
创建时间:
2024-09-27
AI搜集汇总
数据集介绍
main_image_url
构建方式
MMDVS-LF数据集的构建基于多模态动态视觉传感器(DVS)技术,通过集成多种传感器模态,包括DVS记录、RGB视频、里程计和惯性测量单元(IMU)数据,从标准化的小型车辆中采集数据。此外,数据集还包含了驾驶员在进行线路跟随任务时的眼动追踪和人口统计数据。数据采集过程涉及同步和校准不同传感器模态,确保数据的一致性和可用性。
特点
MMDVS-LF数据集的显著特点在于其多模态数据的集成,包括高时间分辨率的DVS事件流、RGB视频、IMU和里程计数据,以及驾驶员的眼动追踪信息。这些数据不仅提供了丰富的环境感知信息,还捕捉了驾驶员的行为和反应,为研究人机交互和自动驾驶系统提供了独特的视角。此外,数据集的紧凑性和多样性使其易于使用,适用于多种机器学习和数据科学项目。
使用方法
MMDVS-LF数据集可用于开发和验证基于事件的神经网络模型,特别是在线路跟随和自动驾驶控制任务中。研究者可以利用数据集中的多模态数据,结合卷积神经网络(CNN)和循环神经网络(RNN)等深度学习技术,进行模型训练和性能评估。此外,数据集中的眼动追踪数据可用于验证模型的注意力机制,确保其在实际应用中的有效性。数据集的详细使用方法和相关代码可在提供的GitHub链接中找到。
背景与挑战
背景概述
动态视觉传感器(DVS)作为一种新兴的视觉传感技术,以其高时间分辨率和异步事件驱动数据处理能力,在控制应用中展现出独特优势。然而,其在机器学习算法中的应用仍显有限。为填补这一空白,并推动利用DVS数据特性的模型发展,Felix Resch、Mónika Farsang和Radu Grosu等人于2024年引入了多模态动态视觉传感器线跟随数据集(MMDVS-LF)。该数据集首次整合了多种传感器模态,包括DVS记录、RGB视频、里程计和惯性测量单元(IMU)数据,来自一个标准化的小型车辆。此外,数据集还包含了驾驶员在进行线跟随任务时的眼动追踪和人口统计数据。MMDVS-LF的多样数据范围为开发深度学习算法和跨多个领域的数据科学项目提供了新的机会,支持自主系统和控制应用的创新。
当前挑战
MMDVS-LF数据集在构建过程中面临多项挑战。首先,整合多种传感器模态(如DVS、RGB、IMU等)并确保其同步与对齐是一项复杂任务。其次,数据集需在保留时间细节的同时,适应不直接使用DVS事件流的机器学习方法,这要求在数据表示上进行权衡。此外,数据集的复杂性降低,以帮助确定新的人工神经网络(ANN)架构是否因超参数调优不足或理论缺陷而未能优化。最后,数据集的规模和压缩处理也是一大挑战,以确保其在使用上的便捷性和高效性。这些挑战共同构成了MMDVS-LF数据集在实际应用中的主要障碍。
常用场景
经典使用场景
MMDVS-LF数据集的经典使用场景主要集中在自动驾驶和机器人控制领域。该数据集通过整合多种传感器模态,包括动态视觉传感器(DVS)记录、RGB视频、里程计和惯性测量单元(IMU)数据,为开发基于事件驱动的神经网络模型提供了丰富的数据支持。特别地,该数据集在简化环境中的线跟随任务中表现出色,为研究人员提供了一个理想的研究平台,以探索和优化事件驱动视觉数据在控制应用中的潜力。
衍生相关工作
MMDVS-LF数据集的发布激发了大量相关研究工作,特别是在事件驱动视觉和深度学习结合的领域。例如,研究人员利用该数据集开发了新的卷积神经网络(CNN)和循环神经网络(RNN)架构,以更好地处理事件驱动数据。此外,数据集中的眼动追踪数据也被用于研究人类驾驶员与自动驾驶系统之间的行为差异,推动了人机交互和驾驶行为分析的研究。这些衍生工作不仅扩展了数据集的应用范围,也为未来的智能系统设计提供了新的思路。
数据集最近研究
最新研究方向
在动态视觉传感器(DVS)领域,MMDVS-LF数据集的最新研究方向主要集中在利用其多模态特性,推动事件驱动神经网络理论的发展。该数据集不仅整合了DVS记录、RGB视频、里程计和惯性测量单元(IMU)数据,还包含了驾驶员的眼动追踪和人口统计数据,为开发深度学习算法提供了丰富的资源。前沿研究正探索如何通过事件帧和时间表面等数据表示方法,优化现有机器学习技术,同时推动脉冲神经网络(SNNs)的应用。此外,结合眼动追踪数据,研究者们正在验证神经网络的显著性信息与人类注意力的一致性,从而提升自动驾驶系统和控制应用的性能。
相关研究论文
  • 1
    MMDVS-LF: A Multi-Modal Dynamic-Vision-Sensor Line Following Dataset维也纳工业大学(TU Wien) · 2024年
以上内容由AI搜集并总结生成
用户留言
有没有相关的论文或文献参考?
这个数据集是基于什么背景创建的?
数据集的作者是谁?
能帮我联系到这个数据集的作者吗?
这个数据集如何下载?
点击留言
数据主题
具身智能
数据集  4098个
机构  8个
大模型
数据集  439个
机构  10个
无人机
数据集  37个
机构  6个
指令微调
数据集  36个
机构  6个
蛋白质结构
数据集  50个
机构  8个
空间智能
数据集  21个
机构  5个
5,000+
优质数据集
54 个
任务类型
进入经典数据集
热门数据集

LEGO数据集

该数据集包含了关于LEGO公司的历史、产品提供以及特定LEGO套装的信息,用于分析LEGO套装的规模、发布年份、主题分布以及套装复杂性的变化。

github 收录

中国光伏电站空间分布ChinaPV数据集(2015,2020年)

该数据集是中国光伏电站空间分布ChinaPV数据,数据时间为2015和2020年。该数据集以Landsat-8卫星影像为数据源,处理方法是基于GEE遥感云计算平台,运用随机森林分类模型对2020年中国光伏电站进行遥感提取,后经过形态学运算,灯光数据滤除,轮廓细化及目视解译等后处理操作生成。该数据详细描述了中国区域内每个光伏电站的面积和地理位置信息,反映了中国地区光伏电站发展现状及其地域分布规律,以ESRI Shapefile格式存储。

国家地球系统科学数据中心 收录

豆瓣数据集

该数据集通过爬虫技术从豆瓣网站获取了48223条电影数据,并与movielens ml-latest数据集通过共同的imdb字段进行交集处理,最终得到15752条共同数据。数据存储格式为JSON,支持导入到MongoDB或其他数据库使用。

github 收录

LinkedIn Salary Insights Dataset

LinkedIn Salary Insights Dataset 提供了全球范围内的薪资数据,包括不同职位、行业、地理位置和经验水平的薪资信息。该数据集旨在帮助用户了解薪资趋势和市场行情,支持职业规划和薪资谈判。

www.linkedin.com 收录

PDT Dataset

PDT数据集是由山东计算机科学中心(国家超级计算济南中心)和齐鲁工业大学(山东省科学院)联合开发的无人机目标检测数据集,专门用于检测树木病虫害。该数据集包含高分辨率和低分辨率两种版本,共计5775张图像,涵盖了健康和受病虫害影响的松树图像。数据集的创建过程包括实地采集、数据预处理和人工标注,旨在为无人机在农业中的精准喷洒提供高精度的目标检测支持。PDT数据集的应用领域主要集中在农业无人机技术,旨在提高无人机在植物保护中的目标识别精度,解决传统检测模型在实际应用中的不足。

arXiv 收录