遇见数据集

LightGBM_Alpha300

收藏
github2026-09-26 更新2026-10-02 收录
官方服务:

资源简介:

覆盖沪深全市场(主板/创业板/科创板)约5500只标的、2016年至今的A股量化研究数据集,包含日线三套复权行情、指数、财务数据、融资融券、技术指标、估值与盘口情绪,以及L1因子110维/L2高频因子211维/合并宽表329列,可直接用于多因子建模与LightGBM训练。

This A-share quantitative research dataset covers approximately 5,500 listed securities across the entire Shanghai and Shenzhen stock markets, including the Main Board, ChiNext, and STAR Market, with a time span from 2016 to the present. It includes three sets of daily adjusted trading quotes, index data, financial data, margin trading and short selling data, technical indicators, valuation metrics, and intraday order book sentiment data. Additionally, it provides 110-dimensional L1 factors, 211-dimensional L2 high-frequency factors, and a merged wide table with 329 columns, which can be directly applied to multi-factor modeling and LightGBM training.

创建时间:
2026-09-26
原始信息汇总

QuantDB — 中国 A 股量化数据集(300+ 因子)

数据集概况

  • 数据本体托管地址:https://www.modelscope.cn/datasets/qusong0627/LightGBM_Alpha300
  • 代码仓库地址:https://github.com/qusong0627/LightGBM_Alpha300
  • 覆盖范围:沪深全市场(主板 / 创业板 / 科创板)约 5500 只标的
  • 时间跨度:2016 年至今
  • 数据规模:约 56 GB / 约 7.4 万个 Parquet 文件
  • 更新频率:每周末同步一次。日线、衍生指标与因子库按交易日追加;财务数据按报告期披露更新(最新至 2026 年中报);融资融券 T+1 披露。
  • 数据许可:Apache License 2.0

数据集构成

目录 内容 分区方式 实测体积
1_kline_data/ 不复权 / 前复权 / 后复权日线、指数日线 按交易日,2608 区 0.12–0.22 MB/日
2_base_sector/ 融资融券、合约资料、行业概念、交易日历、指数权重 混合 3.2 MB(合约表)
3_financial_data/ 资产负债 / 利润 / 现金流 / 股本 / 股东户数 / 每股指标 / 分红 逐股文件 5559 只/表
4_bond_etf/ 可转债要素、ETF 申赎清单 PCF 快照单文件 ~1.1 MB
5_technical_derived/ 技术指标 35 列、估值 16 列、盘口情绪 17 列 按交易日 0.45–1.12 MB/日
6_ml_datasets/ features_daily 78 / l1_factors 119 / l2_factors 219 / l1_l2_factors 329 按交易日 1.74–14.39 MB/日

因子维度

  • L1 因子:110 维
  • L2 高频因子:211 维
  • 合并宽表:329 列

下载方式

前置依赖:pip install modelscope pandas pyarrow(modelscope ≥ 1.40)

  • 全量下载(约 56 GB):

    modelscope download --repo-type dataset qusong0627/LightGBM_Alpha300 --local_dir ./quantdb --max-workers 8

  • 预览样本(27 张表 × 300 行,共约 3.1 MB):

    modelscope download --repo-type dataset qusong0627/LightGBM_Alpha300 --include "preview/*" --local_dir ./quantdb-preview

  • 按表或时间下载(下载粒度 = 单个交易日分区):

    modelscope download --repo-type dataset qusong0627/LightGBM_Alpha300 --include "6_ml_datasets/l1_factors/*" --local_dir ./quantdb

  • Python 写法: python from modelscope import snapshot_download path = snapshot_download( repo_id="qusong0627/LightGBM_Alpha300", repo_type="dataset", local_dir="./quantdb", allow_patterns=["6_ml_datasets/l1_factors/dt=2026*/*"], )

注意:参数为 --repo-type dataset,不是 --dataset。

实测体积(一年按约 244 个交易日估算)

数据集 单日 一年(估) 分区数 最新分区
1_kline_data/daily_unadjusted 0.12 MB ~29 MB 2608 20260924
1_kline_data/daily_forward 0.13 MB ~32 MB 2608 20260924
1_kline_data/daily_backward 0.22 MB ~54 MB 2608 20260924
5_technical_derived/technical_indicators 1.12 MB ~273 MB 2608 20260924
5_technical_derived/valuation 0.46 MB ~112 MB 2608 20260924
5_technical_derived/market_sentiment 0.52 MB ~127 MB 2608 20260924
6_ml_datasets/features_daily 1.74 MB ~0.42 GB 2608 20260924
6_ml_datasets/l1_factors 3.69 MB ~0.90 GB 2608 20260924
6_ml_datasets/l2_factors 9.92 MB ~2.42 GB 2120 20260924
6_ml_datasets/l1_l2_factors 14.39 MB ~3.51 GB 2120 20260924
preview/* — 合计 3.1 MB — —
全仓库 — ~56 GB 2608 交易日 20260924

单日截面行数(2026-09-24 实测):日线与衍生指标表 5570 行(含 347 只北交所 .BJ);因子表不含 .BJ——features_daily 5223 行、l1_factors 5208 行、l2_factors 5210 行、l1_l2_factors 5196 行。

全局约定

股票代码格式

交易市场 后缀 示例代码
上海证券交易所 .SH 600000.SH , 688000.SH
深圳证券交易所 .SZ 000001.SZ , 300001.SZ
北京证券交易所 .BJ 830000.BJ , 430000.BJ

复权口径

复权类型 API 参数 算法说明 典型应用场景
不复权 unadjusted 原始真实成交价,包含除权除息跳空缺口 真实交易成本分析、分红收益回算
前复权 forward 以最新价格为基准,历史价格向下平移调整 量化回测、技术指标计算(最常用)
后复权 backward 以 2016 年第一个交易日为基准(本地历史起点),最新价格向上平移调整 长期真实复利收益、累计历史涨幅评估
  • daily_forward 为等比前复权(以最新交易日收盘定标,历史恒为正);daily_backward 为等比后复权(锚定窗口首日,新除权事件不会使历史漂移)。
  • 技术指标基于后复权序列计算,估值与情绪指标基于不复权真实价计算。 因子表(l1_factors 及之后)内的 OHLCV 一律为后复权价。

单位口径

数据类型 单位 口径说明
价格(open/high/low/close) 元(人民币) 精确到分/厘
日线成交量(daily_*/features/L1/技术衍生) 股 volume 为股,三种复权量额相同
日线成交额(daily_*/features/L1) 万元 amount 为万元
指数日线(index_daily) 股 / 万元 volume 为股,amount 为万元,均价=amount*1e4/volume
市值(total_mv / float_mv) 元 市值 = 股本 × 收盘价
股本(total_capital) 股 总股本 / 流通股本
财务报告数据 元 标准会计报表口径,除特别标注外

读取方式

目录名本身就是 dt= 分区,除 pandas 外可直接交给 DuckDB / pyarrow 做分区裁剪。

python import pandas as pd kline = pd.read_parquet("quantdb/1_kline_data/daily_unadjusted/dt=20260924/data.parquet")

列: symbol, time, open, high, low, close, volume, amount

python import glob frames = [pd.read_parquet(p) for p in sorted(glob.glob( "quantdb/6_ml_datasets/l1_factors/dt=2026*/data.parquet"))] train = pd.concat(frames, ignore_index=True) # 实测 4 个分区 = 20832 行 × 119 列

python import duckdb df = duckdb.sql(""" SELECT symbol, close, mom_ret_20d, micro_vpin_20 FROM read_parquet(quantdb/6_ml_datasets/l1_l2_factors/dt=*/data.parquet, hive_partitioning=true) WHERE dt >= 20260101 """).df()

已知数据状况

  1. 两个因子已断更:ind_netflow_rank_20 与 concept_flow_rank 在 2026-09-24 全表 100% 为空(退化为常数列),但 2026-06-01 仍正常。建议按「列空值率阈值」动态剔除,不要写死列名。
  2. 两套标的范围(universe):日线与 5_technical_derived/ 三张表单日 5570 行,含 347 只北交所(.BJ);6_ml_datasets/ 的因子表一律不含 .BJ(5196~5223 行)。margin_trading 同样含 .BJ(2026-09-23 实测 341 只)。跨范围拼接会得到不等长的两组行。
  3. 主键列名分两种:所有表一律小写 symbol;日期列在日线、5_technical_derived/、features_daily 里是 time,在 l1_factors / l2_factors / l1_l2_factors 里是 date(l1_factors 两者都有)。二者都是 datetime64 真日期,YYYYMMDD 字符串只出现在基础表与财务表的 TradingDate / m_timetag / m_anntime。
  4. 未来收益标签一律带 future_ 前缀:future_return_1d ~ future_return_60d,同时存在于 features_daily 与 technical_indicators。
  5. L2 仅 2018 年起(合并宽表同理,2120 个交易日):训练窗口跨 2018 年时注意样本结构突变。
  6. 高缺失 L2 因子:micro_jump_skew 约 54% 缺失、micro_jump_recovery_time 约 48%、micro_price_impact_large 约 24%;其余 micro_*/flow_* 列中位缺失率接近 0。
  7. 估值因子有极端值:fun_pe 实测单日跨度 -1206 ~ +1069(含负 PE 与极小分母)。做中性化或线性模型时务必 winsorize / 分位数化。
  8. 特征与标签分离:future_return_* 是未来 N 日收益,属于 ML 标签,不是特征。把它们留在 feature_name 里就是直接标签泄漏。

口径原则

各目录 README 的字段表摘自 https://www.quantdb.cn/docs/fields.html,写入前已与实际 Parquet 逐列核对:列名、列数、口径一律以读到的数据为准。

许可与引用

  • 数据许可:Apache License 2.0
  • 仅供量化研究与学习使用,不构成任何投资建议
  • 原始行情数据版权归交易所及上游数据服务商所有,请勿将数据用于商业再分发
  • 使用者应自行核验数据准确性,本数据集不对因数据错误或遗漏造成的损失承担责任
搜集汇总
数据集介绍
LightGBM_Alpha300 数据集图片
构建方式
该数据集立足于中国A股市场量化研究的实际需求,通过整合沪深全市场约5500只标的的日线行情、财务报告、融资融券、技术指标与盘口情绪等多源数据,构建了一套覆盖2016年至今的综合性量化数据库。数据以Parquet列式存储,按交易日分区,并依托魔搭社区进行托管与周度同步更新,形成了从原始行情到L1、L2因子宽表的层级化结构,为多因子建模与LightGBM训练提供了即用型数据基础。
使用方法
使用者可通过modelscope命令行或Python接口按需下载全量或部分数据,支持按目录、时间段或单文件进行分区裁剪。读取时可直接采用pandas、DuckDB或pyarrow解析Parquet文件,并依据目录结构实现高效过滤。在建模前需注意复权口径一致性、标的范围差异及特征与标签分离,建议结合列空值率动态筛选因子,并对估值极端值进行缩尾处理,以确保训练流程的稳健性。
背景与挑战
背景概述
近年来,中国A股市场量化投资研究对高质量、多维度数据的需求日益迫切。LightGBM_Alpha300数据集由QuantDB团队构建并于2024年前后发布于魔搭社区,覆盖沪深全市场约5500只标的,提供2016年至今的日线行情、财务数据、融资融券、技术指标及329列因子宽表,旨在为多因子建模与LightGBM训练提供统一的数据基座。该数据集以Apache-2.0许可开放,填补了A股公开量化数据在因子广度和时间跨度上的空白,为学术研究与策略开发提供了可复现的数据支撑。
当前挑战
该数据集所解决的领域问题是A股多因子选股与机器学习建模,其核心挑战在于数据口径的复杂性与建模陷阱的隐蔽性。构建过程中,需协调三套复权行情、两套标的范围及跨表主键差异,并应对L2因子仅覆盖2018年之后、部分因子断更导致常数列、估值因子极端值以及未来收益标签易引发泄漏等风险。此外,56GB体量下的分区管理与字段一致性校验亦构成显著工程挑战,要求使用者在特征工程与训练流程中严格遵循口径原则。
常用场景
经典使用场景
在中国A股量化研究领域,多因子选股与机器学习驱动的收益预测长期依赖高质量、宽覆盖的因子数据基础设施。该数据集以沪深全市场约5500只标的为对象,提供L1因子110维、L2高频因子211维及合并宽表329列的日频截面数据,天然适配LightGBM等梯度提升树的训练流程。研究者可借助后复权价口径的因子表与带future_前缀的未来收益标签,构建从特征工程到模型调参的完整监督学习管线,尤其在横截面选股、涨跌方向预测与多周期收益回归等经典任务中,该数据集已成为可直接落地的建模底座。
解决学术问题
学术界在因子有效性检验与机器学习选股研究中,常面临数据口径不统一、因子覆盖狭窄、复权处理混乱及标签泄漏等系统性障碍。该数据集通过明确区分不复权、前复权与后复权三套行情,并严格将future_return系列隔离为标签列,有效缓解了特征与标签混用导致的过拟合问题。同时,其对L2高频因子自2018年起的时间边界、北交所标的纳入与否的两套universe,以及空值率动态变化的实测说明,为处理样本结构突变与缺失值机制提供了可复现的实证依据,推动了因子研究在数据规范层面的严谨性。
实际应用
在量化投资实务中,该数据集可直接支撑私募与券商自营团队的日频多因子策略研发,涵盖从因子挖掘、模型训练到回测验证的全链条。其按交易日分区的Parquet存储结构便于使用DuckDB或pyarrow进行分区裁剪,显著降低大规模数据读取成本。技术指标、估值与盘口情绪三张衍生表为风格轮动与市场状态识别提供辅助信号,而融资融券与财务三大报表则支持基本面量化与事件驱动策略。每周末同步的更新机制确保了策略在实盘环境中的时效性,同时Apache 2.0许可为研究用途提供了合规保障。
数据集最近研究
最新研究方向
在中国A股量化投资范式由传统线性因子模型向机器学习非线性建模加速迁移的背景下,LightGBM_Alpha300数据集的前沿研究聚焦于高频微观结构因子的深度挖掘与多粒度因子融合。围绕L2高频因子中订单流不平衡、VPIN等微观变量对短周期收益的预测增益,研究者探索其与L1基本面因子的交互效应,并针对北交所标的的独特流动性特征开展跨市场泛化研究。同时,因子断更与高缺失问题催生了动态空值率剔除与缺失感知建模方法,而未来收益标签的严格隔离则推动了时序交叉验证与滚动训练框架的标准化。该数据集通过329列宽表与逾2600个交易日的分区结构,为量化社区提供了可复现的大规模基准,对推动因子挖掘透明化与机器学习模型在真实交易约束下的稳健性评估具有重要实践意义。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务