angerami/pythia-2.8b-deduped_weight_evolution_001

---
dataset_info:
features:
- name: weight_type
dtype: string
- name: P_w
list: float64
- name: sum
dtype: float32
- name: mean
dtype: float32
- name: std
dtype: float32
- name: max
dtype: float32
- name: min
dtype: float32
- name: skew
dtype: float32
- name: kurtosis
dtype: float32
- name: entropy
dtype: float64
- name: kl_vs_standard_normal
dtype: float64
- name: kl_vs_empirical_normal
dtype: float32
- name: fit_mu
dtype: float64
- name: fit_sigma
dtype: float64
- name: SVD
list: float32
- name: P_sv
list: float64
- name: head
dtype: int64
- name: layer
dtype: int64
- name: model
dtype: string
- name: revision
dtype: string
- name: step
dtype: int64
- name: job_uuid
dtype: string
- name: job_id
dtype: string
splits:
- name: train
num_bytes: 2570405376
num_examples: 473088
download_size: 202908132
dataset_size: 2570405376
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

数据集信息:
特征:
- 特征名: weight_type
数据类型: 字符串
- 特征名: P_w
数据类型: 64位浮点型数值列表
- 特征名: sum
数据类型: 32位浮点型（求和结果）
- 特征名: mean
数据类型: 32位浮点型（均值）
- 特征名: std
数据类型: 32位浮点型（标准差）
- 特征名: max
数据类型: 32位浮点型（最大值）
- 特征名: min
数据类型: 32位浮点型（最小值）
- 特征名: skew
数据类型: 32位浮点型（偏度）
- 特征名: kurtosis
数据类型: 32位浮点型（峰度）
- 特征名: entropy
数据类型: 64位浮点型（熵）
- 特征名: kl_vs_standard_normal
数据类型: 64位浮点型（与标准正态分布的KL散度（Kullback-Leibler divergence））
- 特征名: kl_vs_empirical_normal
数据类型: 32位浮点型（与经验正态分布的KL散度（Kullback-Leibler divergence））
- 特征名: fit_mu
数据类型: 64位浮点型（拟合得到的均值μ）
- 特征名: fit_sigma
数据类型: 64位浮点型（拟合得到的标准差σ）
- 特征名: SVD
数据类型: 32位浮点型数值列表（奇异值分解（Singular Value Decomposition））
- 特征名: P_sv
数据类型: 64位浮点型数值列表
- 特征名: head
数据类型: 64位整型（注意力头）
- 特征名: layer
数据类型: 64位整型（模型层）
- 特征名: model
数据类型: 字符串（模型名称）
- 特征名: revision
数据类型: 字符串（模型修订版本）
- 特征名: step
数据类型: 64位整型（训练步数）
- 特征名: job_uuid
数据类型: 字符串（作业全局唯一标识符）
- 特征名: job_id
数据类型: 字符串（作业ID）
划分集:
- 划分集名称: train
字节占用: 2570405376
样本总数: 473088
下载大小: 202908132
数据集总大小: 2570405376
配置项:
- 配置名称: default
数据文件:
- 划分集: train
文件路径: data/train-*