simple-wiki-3teacher-distill-set

Simple Wiki Multi-Teacher Embedding Distillation 是一个用于多教师嵌入蒸馏的数据集，基于 'sentence-transformers/simple-wiki' 数据集中的原始文本构建，仅保留了 'text' 列。每个样本包含源文本以及由三个教师模型生成的嵌入向量：1) avsolatorio/NoInstruct-small-Embedding-v0；2) Supabase/gte-small；3) avsolatorio/GIST-small-Embedding-v0。该数据集旨在实现跨异构教师空间的任务无关嵌入蒸馏。数据集包含102,225个训练样本，每个样本具有文本字段和三个教师模型的嵌入向量（均为float32列表）。在编码过程中，文本可能被截断至固定最大序列长度。