GINC(Generative IN-Context learning Dataset)

GINC（Generative In-Context learning Dataset）是一个用于研究上下文学习的小规模合成数据集。预训练数据由 HMM 的混合生成，上下文学习提示示例也由 HMM 生成（无论是否来自混合）。提示示例相对于预训练数据是不分布的，因为每个示例都是独立的、连接的并由分隔符分隔。 GitHub 存储库提供代码来生成具有不同词汇量、HMM 数量和其他参数的 GINC 样式数据集。