Marcus2112/refinedweb-embedded_prototype
收藏Hugging Face2025-11-27 更新2025-02-15 收录
下载链接：
https://hf-mirror.com/datasets/Marcus2112/refinedweb-embedded_prototype
下载链接
链接失效反馈官方服务：
资源简介：
该数据集包含了从RefinedWeb数据集的content列衍生出的768维嵌入向量，使用E5-Base-4k模型和1024个token的上下文长度，并采用缩放点积注意力机制生成。原始数据集是由TII (Technology Innovation Institute) 创建的英文网络数据集。
This dataset contains 768-dimensional embedding vectors derived from the content column of the RefinedWeb dataset, generated using the E5-Base-4k model with a context length of 1024 tokens and scaled dot-product attention. The original dataset is an English web dataset created by the TII (Technology Innovation Institute).
提供机构：
Marcus2112
