lama

LAMA旨在分析语言模型，用于探测和分析预训练语言模型中包含的事实和常识知识。它基于Google_RE、TRex、Conceptnet和Squad数据集的子集，包含英文数据，规模从几百到百万级别不等。数据集中包含清洗后的文本，以及用于预测[MASK] token的带掩码句子和相关答案，部分配置还包括模板和否定模板字段。LAMA采用CC-BY 4.0授权许可，可用于文本检索和文本分类等任务，通过预测[MASK] token的准确性来评估语言模型对事实和常识信息的掌握程度。