awesome-public-datasets

一个包含高质量公开数据集的精选列表，涵盖多个领域，供所有人使用。

A curated list of high-quality public datasets spanning multiple domains, available for use by everyone.

原始信息汇总

数据集概述

农业

• U.S. Department of Agricultures PLANTS Database
• U.S. Department of Agricultures Nutrient Database

生物学

• 1000 Genomes
• American Gut (Microbiome Project)
• Broad Bioimage Benchmark Collection (BBBC)
• Broad Cancer Cell Line Encyclopedia (CCLE)
• Cell Image Library
• Complete Genomics Public Data
• EBI ArrayExpress
• EBI Protein Data Bank in Europe
• Electron Microscopy Pilot Image Archive (EMPIAR)
• ENCODE project
• Ensembl Genomes
• Gene Expression Omnibus (GEO)
• Gene Ontology (GO)
• Global Biotic Interactions (GloBI)
• Harvard Medical School (HMS) LINCS Project
• Human Genome Diversity Project
• Human Microbiome Project (HMP)
• ICOS PSP Benchmark
• International HapMap Project
• Journal of Cell Biology DataViewer
• MIT Cancer Genomics Data
• NCBI Proteins
• NCBI Taxonomy
• NCI Genomic Data Commons
• NIH Microarray data
• OpenSNP genotypes data
• Pathguid - Protein-Protein Interactions Catalog
• Protein Data Bank
• Psychiatric Genomics Consortium
• PubChem Project
• PubGene (now Coremine Medical)
• Sanger Catalogue of Somatic Mutations in Cancer (COSMIC)
• Sanger Genomics of Drug Sensitivity in Cancer Project (GDSC)
• Sequence Read Archive(SRA)
• Stanford Microarray Data
• Stowers Institute Original Data Repository
• Systems Science of Biological Dynamics (SSBD) Database
• The Cancer Genome Atlas (TCGA), available via Broad GDAC
• The Catalogue of Life
• The Personal Genome Project
• UCSC Public Data
• UniGene
• Universal Protein Resource (UnitProt)

气候/天气

• Actuaries Climate Index
• Australian Weather
• Aviation Weather Center - Consistent, timely and accurate weather information for the world airspace system
• Brazilian Weather - Historical data (In Portuguese)
• Canadian Meteorological Centre
• Climate Data from UEA (updated monthly)
• European Climate Assessment & Dataset
• Global Climate Data Since 1929
• NASA Global Imagery Browse Services
• NOAA Bering Sea Climate
• NOAA Climate Datasets
• NOAA Realtime Weather Models
• NOAA SURFRAD Meteorology and Radiation Datasets
• The World Bank Open Data Resources for Climate Change
• UEA Climatic Research Unit
• WorldClim - Global Climate Data
• WU Historical Weather Worldwide

复杂网络

• AMiner Citation Network Dataset
• CrossRef DOI URLs
• DBLP Citation dataset
• DIMACS Road Networks Collection
• NBER Patent Citations
• Network Repository with Interactive Exploratory Analysis Tools
• NIST complex networks data collection
• Protein-protein interaction network
• PyPI and Maven Dependency Network
• Scopus Citation Database
• Small Network Data
• Stanford GraphBase (Steven Skiena)
• Stanford Large Network Dataset Collection
• Stanford Longitudinal Network Data Sources
• The Koblenz Network Collection
• The Laboratory for Web Algorithmics (UNIMI)
• The Nexus Network Repository
• UCI Network Data Repository
• UFL sparse matrix collection
• WSU Graph Database

计算机网络

• 3.5B Web Pages from CommonCrawl 2012
• 53.5B Web clicks of 100K users in Indiana Univ.
• CAIDA Internet Datasets
• ClueWeb09 - 1B web pages
• ClueWeb12 - 733M web pages
• CommonCrawl Web Data over 7 years
• CRAWDAD Wireless datasets from Dartmouth Univ.
• Criteo click-through data
• OONI: Open Observatory of Network Interference - Internet censorship data
• Open Mobile Data by MobiPerf
• Rapid7 Sonar Internet Scans
• UCSD Network Telescope, IPv4 /8 net

数据挑战

• Bruteforce Database
• Challenges in Machine Learning
• CrowdANALYTIX dataX
• D4D Challenge of Orange
• DrivenData Competitions for Social Good
• ICWSM Data Challenge (since 2009)
• Kaggle Competition Data
• KDD Cup by Tencent 2012
• Localytics Data Visualization Challenge
• Netflix Prize
• Space Apps Challenge
• Telecom Italia Big Data Challenge
• TravisTorrent Dataset - MSR2017 Mining Challenge
• Yelp Dataset Challenge

地球科学

• AQUASTAT - Global water resources and uses
• BODC - marine data of ~22K vars
• Earth Models
• EOSDIS - NASAs earth observing system data
• Integrated Marine Observing System (IMOS) - roughly 30TB of ocean measurements
• Marinexplore - Open Oceanographic Data
• Smithsonian Institution Global Volcano and Eruption Database
• USGS Earthquake Archives

经济学

• American Economic Association (AEA)
• EconData from UMD
• Economic Freedom of the World Data
• Historical MacroEconomic Statistics
• International Economics Database
• International Trade Statistics
• Internet Product Code Database
• Joint External Debt Data Hub
• Jon Haveman International Trade Data Links
• OpenCorporates Database of Companies in the World
• Our World in Data
• SciencesPo World Trade Gravity Datasets
• The Atlas of Economic Complexity
• The Center for International Data
• The Observatory of Economic Complexity
• UN Commodity Trade Statistics
• UN Human Development Reports

教育

• College Scorecard Data
• Student Data from Free Code Camp

能源

• AMPds
• BLUEd
• COMBED
• Dataport
• DRED
• ECO
• EIA
• HES - Household Electricity Study, UK
• HFED
• iAWE
• PLAID - the Plug Load Appliance Identification Dataset
• REDD
• Tracebase
• UK-DALE - UK Domestic Appliance-Level Electricity
• WHITED

金融

• CBOE Futures Exchange
• Google Finance
• Google Trends
• NASDAQ
• NYSE Market Data
• OANDA
• OSU Financial data
• Quandl
• St Louis Federal
• Yahoo Finance

GIS

• ArcGIS Open Data portal
• Cambridge, MA, US, GIS data on GitHub
• Factual Global Location Data
• Geo Spatial Data from ASU
• Geo Wiki Project - Citizen-driven Environmental Monitoring
• GeoFabrik - OSM data extracted to a variety of formats and areas
• GeoNames Worldwide
• Global Administrative Areas Database (GADM)
• Homeland Infrastructure Foundation-Level Data
• Landsat 8 on AWS
• List of all countries in all languages
• National Weather Service GIS Data Portal
• Natural Earth - vectors and rasters of the world
• OpenAddresses
• OpenStreetMap (OSM)
• Pleiades - Gazetteer and graph of ancient places
• Reverse Geocoder using OSM data
• TIGER/Line - U.S. boundaries and roads
• TwoFishes - Foursquares coarse geocoder
• TZ Timezones shapfiles
• UN Environmental Data
• World boundaries from the U.S. Department of State
• World countries in multiple formats

政府

• A list of cities and countries contributed by community
• Open Data for Africa
• OpenDataSofts list of 1,600 open data

医疗保健

• EHDP Large Health Data Sets
• Gapminder World demographic databases
• Medicare Coverage Database (MCD), U.S.
• Medicare Data Engine of medicare.gov Data
• Medicare Data File
• MeSH, the vocabulary thesaurus used for indexing articles for PubMed
• Number of Ebola Cases and Deaths in Affected Countries (2014)
• Open-ODS (structure of the UK NHS)
• OpenPaymentsData, Healthcare financial relationship data
• The Cancer Genome Atlas project (TCGA)
• World Health Organization Global Health Observatory

图像处理

• 10k US Adult Faces Database
• 2GB of Photos of Cats
• Adience Unfiltered faces for gender and age classification
• Affective Image Classification
• Animals with attributes
• Caltech Pedestrian Detection Benchmark
• Chars74K dataset, Character Recognition in Natural Images (both English and Kannada are available)
• Face Recognition Benchmark
• GDXray: X-ray images for X-ray testing and Computer Vision
• ImageNet (in WordNet hierarchy)
• Indoor Scene Recognition
• International Affective Picture System, UFL
• Massive Visual Memory Stimuli, MIT
• MNIST database of handwritten digits, near 1 million examples
• Several Shape-from-Silhouette Datasets
• Stanford Dogs Dataset
• SUN database, MIT
• The Action Similarity Labeling (ASLAN) Challenge
• The Oxford-IIIT Pet Dataset
• Violent-Flows - Crowd Violence Non-violence Database and benchmark
• Visual genome
• YouTube Faces Database

机器学习

• Context-aware data sets from five domains
• Delve Datasets for classification and regression (Univ. of Toronto)
• Discogs Monthly Data
• eBay Online Auctions (2012)
• IMDb Database

搜集汇总

数据集介绍

构建方式

awesome-public-datasets 数据集是通过收集和整理来自博客、问答平台以及用户反馈的公开数据源构建而成。该数据集涵盖了多个领域，包括农业、生物学、气候、复杂网络、计算机网络、数据挑战、地球科学、经济学、教育、能源、金融、地理信息系统、政府、医疗保健、图像处理和机器学习等。每个领域的数据源均经过精心筛选，确保其可靠性和实用性。

特点

该数据集的特点在于其广泛的数据覆盖范围和多样化的数据类型。它不仅包含了来自政府机构、研究机构和企业的数据，还涵盖了多个学科领域的数据集。此外，大多数数据集是免费的，部分数据集可能需要付费获取。数据集的组织结构清晰，便于用户快速找到所需的数据源。

使用方法

用户可以通过访问 awesome-public-datasets 的 GitHub 页面，浏览按领域分类的数据集列表。每个数据集都附有详细的链接和描述，用户可以根据需求直接访问相关数据源。对于需要进一步处理或分析的数据，用户可以通过提供的链接下载数据，并利用相应的工具进行数据处理。该数据集适用于研究人员、数据科学家以及对公开数据感兴趣的个人和机构。

背景与挑战

背景概述

awesome-public-datasets 数据集由社区贡献者于2014年创建，旨在为研究人员和开发者提供一个全面的公共数据资源库。该数据集涵盖了农业、生物学、气候、复杂网络、计算机科学、地球科学、经济学、教育、能源、金融、地理信息系统（GIS）、政府、医疗保健、图像处理、机器学习等多个领域的数据集。其核心目标是为跨学科研究提供高质量的数据支持，推动数据驱动的科学研究和技术创新。该数据集的影响力广泛，已成为许多学术研究和工业应用的重要数据来源。

当前挑战

awesome-public-datasets 数据集面临的主要挑战包括：1) 数据质量与一致性问题，由于数据集来源多样，部分数据可能存在格式不统一、数据缺失或噪声问题；2) 数据更新与维护的挑战，随着时间推移，部分数据可能过时或失效，需要持续跟踪和更新；3) 数据分类与检索的复杂性，数据集涵盖领域广泛，如何高效组织和检索特定领域的数据仍是一个技术难题；4) 数据许可与使用限制，部分数据集可能涉及隐私或版权问题，需谨慎处理其使用权限。这些挑战不仅影响数据集的可用性，也对研究者的数据预处理和分析工作提出了更高要求。

常用场景

经典使用场景

awesome-public-datasets 数据集广泛应用于学术研究、数据分析和机器学习模型的训练与验证。该数据集涵盖了从农业、生物学到气候、经济等多个领域的公开数据，为研究人员提供了丰富的数据资源。特别是在生物信息学领域，数据集中的基因组数据、蛋白质数据库等为基因序列分析、疾病研究提供了重要支持。

解决学术问题

该数据集解决了多个学术研究中的关键问题，尤其是在数据稀缺的领域。例如，通过提供全球气候数据，研究人员能够更准确地模拟气候变化趋势；通过提供癌症基因组数据，科学家能够深入探索癌症的分子机制。此外，数据集中的复杂网络数据为社交网络分析、推荐系统等研究提供了基础数据支持。

衍生相关工作

该数据集衍生了许多经典的研究工作。例如，基于其提供的基因组数据，研究人员开发了多种癌症预测模型；基于气候数据，科学家提出了新的气候变化应对策略。此外，数据集中的复杂网络数据催生了许多社交网络分析算法和推荐系统。这些衍生工作不仅推动了相关领域的研究进展，也为实际应用提供了技术支撑。