proxectonos/calame-gl

--- language: - gl pretty_name: calame-gl task_categories: - text-generation task_ids: - language-modeling tags: - galician - evaluation - benchmark - language-modeling - text-completion - calame license: mit size_categories: - 1K<n<10K --- # CALAME Galician ## Dataset description CALAME-gl is a Galician translation/adaptation of the Portuguese [CALAME-PT](https://huggingface.co/datasets/NOVA-vision-language/calame-pt) benchmark. The dataset is composed of short texts or contexts and their respective last words. These contexts are designed to contain enough information for a human or a model to infer the final word, while avoiding contexts that are excessively specific or overly ambiguous. This release contains 930 instances in JSON format and is intended primarily for evaluation. ## Dataset structure The dataset is distributed in JSON format as a list of examples. Each instance contains the following fields: - `id`: example identifier - `sentence`: context in Galician - `last_word`: final word associated with the context ### Example ```json { "id": 0, "sentence": "Os fans de GTA están ansiosos polo lanzamento do próximo xogo da serie, cuxo lanzamento pódese demorar algúns anos máis. Os rumores apuntan a que o GTA VI será unha versión moderna de Vice City e contará cun mapa que muda co paso do tempo. Alén diso, existe a posibilidade dunha protagonista feminina, o que trae máis expectativas ao xogo. Mentres agardamos, queda imaxinar o que esa nova aventura nos", "last_word": "depara" } ``` ## Data source and creation This dataset is based on the Portuguese benchmark [CALAME-PT](https://huggingface.co/datasets/NOVA-vision-language/calame-pt) and was translated/adapted into Galician. The Galician version preserves the same evaluation-oriented structure as the original dataset: each example contains a context and its corresponding final word. The goal of this version is to provide a Galician benchmark for evaluating a model's ability to infer or predict the final word of a context. ## Intended uses This dataset can be used for: - evaluation of language models in Galician - text completion evaluation - last-word prediction tasks - low-resource NLP research ## Limitations - This dataset is a translated/adapted version of the original Portuguese CALAME-PT benchmark. - It contains 930 examples, so it is intended primarily for evaluation rather than large-scale training. - Since this is a translated/adapted version, some examples may reflect translation choices or stylistic variation relative to the source dataset. ## Licensing This dataset follows the same license as the original CALAME-PT dataset: MIT. ## Usage Example with `datasets`: ```python from datasets import load_dataset ds = load_dataset("json", data_files="calame-gl.json") print(ds["train"][0]) ``` Example of accessing the context and final word: ```python from datasets import load_dataset ds = load_dataset("json", data_files="calame-gl.json")["train"] print(ds[0]["sentence"]) print(ds[0]["last_word"]) ``` ## Acknowledgements This dataset was compiled within the Nós Project, funded by the Ministerio para la Transformación Digital y de la Función Pública - Funded by EU – NextGenerationEU within the framework of the project ILENIA with reference 2022/TL22/00215336.语言： - 加利西亚语（Galician） pretty_name: calame-gl 任务类别： - 文本生成 任务子任务： - 语言建模 标签： - 加利西亚语（Galician） - 评测 - 基准测试 - 语言建模 - 文本补全 - calame 许可证：MIT 规模类别： - 1000 < 样本量 < 10000 --- # CALAME 加利西亚语数据集（CALAME-gl） ## 数据集说明 CALAME-gl 是葡萄牙语基准数据集 [CALAME-PT](https://huggingface.co/datasets/NOVA-vision-language/calame-pt) 的加利西亚语翻译与适配版本。 该数据集由短文本（上下文）及其对应末词组成。这类上下文被设计为能够为人类或模型提供足够信息以推断出末词，同时避免过度特定或过于模糊的上下文。 本版本包含930条JSON格式的样本，主要用于评测场景。 ## 数据集结构 数据集以JSON格式分发，为样本列表形式。每条样本包含以下字段： - `id`：样本标识符 - `sentence`：加利西亚语上下文文本 - `last_word`：与该上下文对应的末词 ### 示例 json { "id": 0, "sentence": "Os fans de GTA están ansiosos polo lanzamento do próximo xogo da serie, cuxo lanzamento pódese demorar algúns anos máis. Os rumores apuntan a que o GTA VI será unha versión moderna de Vice City e contará cun mapa que muda co paso do tempo. Alén diso, existe a posibilidade dunha protagonista feminina, o que trae máis expectativas ao xogo. Mentres agardamos, queda imaxinar o que esa nova aventura nos", "last_word": "depara" } ## 数据来源与构建 本数据集基于葡萄牙语基准数据集 [CALAME-PT](https://huggingface.co/datasets/NOVA-vision-language/calame-pt) 翻译并适配为加利西亚语版本。该加利西亚语版本保留了原数据集面向评测的核心结构：每条样本均包含上下文及其对应末词。 本版本的目标是提供一款加利西亚语基准数据集，用于评测模型推断或预测上下文末词的能力。 ## 预期用途 本数据集可用于以下场景： - 加利西亚语大语言模型（Large Language Model, LLM）评测 - 文本补全评测 - 末词预测任务 - 低资源自然语言处理（Natural Language Processing, NLP）研究 ## 局限性 - 本数据集为原始葡萄牙语CALAME-PT基准数据集的翻译与适配版本。 - 该数据集仅包含930条样本，因此主要适用于评测场景，而非大规模训练。 - 由于属于翻译适配版本，部分样本可能会因翻译选择或风格差异与源数据集有所区别。 ## 许可证 本数据集采用与原始CALAME-PT数据集相同的许可证：MIT许可证。 ## 使用方法 使用`datasets`库的示例代码： python from datasets import load_dataset ds = load_dataset("json", data_files="calame-gl.json") print(ds["train"][0]) 访问上下文与末词的示例代码： python from datasets import load_dataset ds = load_dataset("json", data_files="calame-gl.json")["train"] print(ds[0]["sentence"]) print(ds[0]["last_word"]) ## 致谢 本数据集在Nós项目框架下编译完成，该项目由西班牙数字化转型与公共职能部资助，依托欧盟下一代欧盟（NextGenerationEU）计划，在ILENIA项目框架下实施，项目编号为2022/TL22/00215336。