geo-ptbr
收藏资源简介:
GEO-PTBR是首个巴西葡萄牙语生成引擎优化(Generative Engine Optimization, GEO)基准数据集。它包含525个巴西葡萄牙语查询,每个查询对应5个源文档(共2625个源文档),并提供了在三种生成引擎(gemini-3.5-flash-lite、claude-haiku-4-5、gpt-5.6-luna)上针对每种GEO技术的引用可见性变化测量结果。该数据集是论文《GEO-PTBR: A Brazilian-Portuguese Replication of Generative Engine Optimization and the Engine-Dependence of Its Effects》的配套产物。数据分为两个子集:queries(查询)和sources(源文档)。查询子集包含525条记录,字段包括:id(标识符,健康类以s开头,法律类以j开头,房地产类以i开头)、setor(行业:saude健康、juridico法律、imobiliario房地产)、query(用户向AI助手提出的真实查询文本)、tipo(类型:normal正常500条,pegadinha陷阱25条)。陷阱查询设计为无法从给定源文档回答,作为衡量幻觉的对照组。源文档子集包含2625条记录,每个查询5个源文档,每个源文档150-400词,采用五种网站风格之一。字段包括:id(源文档标识符,格式为<query_id>_s<位置>)、query_id(所属查询ID)、posicao(在引擎上下文中的位置1-5)、titulo(标题)、texto(正文)、origem(来源字符串,记录生成模型、网站风格和陷阱标记,如sintetico:grok-4.5;estilo:portal_juridico,涵盖39种不同网站风格)。陷阱查询的源文档带有显式标记pegadinha:nao_responde(125个源文档)。基准测试使用九种GEO技术(源自Aggarwal et al. 2024)对目标源文档进行改写,并测量引擎引用该源文档的变化。所有其他因素保持不变。主要发现:三种引擎在九种技术中只有四种效果方向一致,且这四种都是负面效果;其中一种技术(Technical Terms)在三种引擎上效果方向相反,且自举置信区间均不包含零。数据集适用于文本生成和问答任务,专门用于评估生成引擎优化效果。注意:源文档是合成生成的,并非真实抓取,未经领域专家验证,尤其是健康和法律文本不应视为准确信息。数据集采用CC-BY-4.0许可。
GEO-PTBR is the first Brazilian Portuguese Generative Engine Optimization (GEO) benchmark dataset. It contains 525 Brazilian Portuguese queries, each with 5 source documents (2625 total), and provides measurements of citation visibility changes for each GEO technique across three generative engines (gemini-3.5-flash-lite, claude-haiku-4-5, gpt-5.6-luna). It is the companion dataset to the paper GEO-PTBR: A Brazilian-Portuguese Replication of Generative Engine Optimization and the Engine-Dependence of Its Effects. The data is split into two subsets: queries and sources. The queries subset contains 525 records with fields: id (identifier, starting with s for health, j for legal, i for real estate), setor (sector: saude, juridico, imobiliario), query (real user query text), tipo (type: normal 500, pegadinha 25 trap queries). Trap queries are designed to be unanswerable from given source documents, serving as a hallucination control. The sources subset contains 2625 records, each query has 5 source documents of 150-400 words, each in one of five website styles. Fields include: id (format <query_id>_s<position>), query_id (query ID), posicao (position 1-5), titulo (title), texto (body), origem (source string recording generation model, website style, and trap marker, e.g., sintetico:grok-4.5;estilo:portal_juridico, covering 39 different website styles). Trap query source documents have explicit marker pegadinha:nao_responde (125 sources). The benchmark uses nine GEO techniques (from Aggarwal et al. 2024) to rewrite target source documents and measures changes in engine citation of that document, with all other factors constant. Key findings: only four of the nine techniques have consistent effect direction across three engines, all negative; one technique (Technical Terms) shows opposite effect direction across engines with bootstrap confidence intervals not containing zero. The dataset is suitable for text generation and question answering tasks, specifically for evaluating generative engine optimization effects. Note: source documents are synthetically generated, not crawled, and not verified by domain experts; health and legal texts should not be considered accurate. License: CC-BY-4.0.
GEO-PTBR 数据集概述
基本信息
- 名称:GEO-PTBR
- 许可协议:CC-BY-4.0
- 语言:葡萄牙语(巴西葡萄牙语)
- 数据集规模:1K 至 10K 条记录
- 任务类型:文本生成、问答
- 标签:生成引擎优化(GEO)、信息检索、引用、葡萄牙语、LLM 评估
数据集用途
GEO-PTBR 是首个巴西葡萄牙语生成引擎优化(GEO)基准测试数据集。它包含 525 条葡萄牙语查询和 2,625 个源文档,并提供了在三种生成引擎上测量的各技术引用可见性结果。该数据集是论文《GEO-PTBR: A Brazilian-Portuguese Replication of Generative Engine Optimization and the Engine-Dependence of Its Effects》的配套成果,实验版本为 0.3.0。
实验设计
针对每条查询及五个已检索的 PT-BR 源文档,使用来自 Aggarwal 等人(2024)的九种 GEO 技术对指定目标源进行改写,并测量引擎对该源的引用变化。相同的查询和相同的改写源分别输入 gemini-3.5-flash-lite、claude-haiku-4-5 和 gpt-5.6-luna 三个引擎,唯一变量为回答的引擎。
核心发现
三个引擎仅在九种技术中的四种上对效应方向达成一致,且这四种技术均为负面效应。其中"技术术语"(Technical Terms)技术在各引擎间符号相反,且三种引擎的 bootstrap 置信区间均不包含零。
数据内容
data/queries.jsonl — 525 条查询
| 字段 | 说明 |
|---|---|
id |
查询标识符(s* 健康、j* 法律、i* 房地产) |
setor |
领域:saude、juridico、imobiliario |
query |
查询内容,模拟真实用户向 AI 助手的提问方式 |
tipo |
normal(500 条)或 pegadinha(25 条) |
各领域查询数量:房地产 174 条、法律 175 条、健康 176 条。
pegadinha("陷阱")查询在设计上无法由给定源文档回答,作为测量幻觉的对照组——其基线可见度必须为零且已确认为零。此类查询被排除在主结果之外并单独分析。
data/sources.jsonl — 2,625 个源文档
每条查询对应 5 个文档,每个文档 150–400 词,采用五种网站风格之一。
| 字段 | 说明 |
|---|---|
id |
源标识符(<query_id>_s<position>) |
query_id |
该源回答的查询 |
posicao |
在引擎上下文中的位置(1–5) |
titulo |
源标题 |
texto |
源正文 |
origem |
来源信息:生成模型、网站风格和陷阱标记 |
origem 字段为机器可读格式,记录每个源的生成方式,例如 sintetico:grok-4.5;estilo:portal_juridico,涵盖 39 种不同的网站风格(法律门户、诊所博客、银行常见问题、专家专栏、开发者网站等)。属于陷阱查询的源文档带有显式的 pegadinha:nao_responde 标记(共 125 个)。
⚠️ 源文档为合成-真实风格,非抓取内容。它们被生成为类似真实的巴西葡萄牙语网页内容并已标注。这些内容未经领域专家验证,健康和法律的文本不应被视为准确信息。
results/ — 实验结果
包含各技术的可见度、相对改进(原始论文式 4)及 bootstrap 95% 置信区间、跨引擎一致性和 Spearman 相关性。results/por_engine/<engine>/ 存放各引擎的单独表格。
Spearman 相关性表包含精确置换 p 值(完整枚举 9! 种排序,因为 n=9 时渐近近似无效)。本研究中无显著相关性:5% 显著性水平的临界 |rho| 为 0.700,高于所有实测值。
每个表格并排报告两组查询结果:baseline_pos(主要结果;目标源具有正基线可见度的查询)和完整集合(敏感性分析)。这一区分很重要——混合两组数据会将中位数固定在零,可能使真实的负面效应被误读为无效应。
加载方法
python from datasets import load_dataset
queries = load_dataset("epicchi2103/geo-ptbr", "queries") sources = load_dataset("epicchi2103/geo-ptbr", "sources")
局限性
- 固定上下文:结果度量的是源已被检索给定条件下的引用情况,不涉及爬取、索引、检索或流量。
- 合成源文档:内容为合成生成,未经领域专家验证。
- 单一变换遍数,跨引擎复用:三个引擎均接收由同一模型变换的源文档,这隔离了引用行为,但未检验另一模型是否会产生更好的改写效果。
gpt-5.6-luna不支持自定义温度参数:其余两个引擎在温度 0.7 下运行。
引用格式
bibtex @misc{picchiotti2026geoptbr, author = {Picchiotti, Elio Suraci}, title = {GEO-PTBR: A Brazilian-Portuguese Replication of Generative Engine Optimization and the Engine-Dependence of Its Effects}, year = {2026}, note = {Dataset and code: AEO BR, Caracol Media --- https://aeobr.com.br}, }
由 AEO BR / Caracol Media(https://aeobr.com.br)制作,由 scripts/build_publish.py 于 2026-08-13 生成。





