Can Author Manipulation of AI Referees be Welfare Improving?

This paper examines a new moral hazard in delegated decision-making: authors can embed hidden instructionsknown as prompt injectionsto bias AI referees in academic peer review. If AI reviews are inexpensive, referees may delegate fully. If AI quality is low, this leads to market collapse. The paper本研究探讨委托决策场景下一类全新的道德风险（moral hazard）：论文作者可嵌入名为提示词注入（prompt injections）的隐藏指令，以此在学术同行评审中操纵AI审稿人作出偏向性判断。若AI审稿成本低廉，审稿人可完全委托其开展评审工作；若AI审稿质量欠佳，则会引发评审服务市场崩塌。本研究

搜集汇总

背景与挑战

背景概述

该研究论文探讨了在学术同行评审中，作者通过提示注入操纵AI审稿人可能产生的道德风险及其福利影响。研究发现，当AI评审质量较低时，适度的检测机制可能通过诱导审稿人混合使用人工和AI评审来改善福利；但当AI质量中等或较高时，强检测机制更优。研究揭示了在弱AI技术背景下，执行力度与福利之间的非单调关系。