AutoSeq
收藏OpenXLab2026-04-18 收录
下载链接：
https://openxlab.org.cn/datasets/OpenDataLab/AutoSeq
下载链接
链接失效反馈官方服务：
资源简介：
与使用预先训练的模型进行标准微调相比，将下游应用程序转换为语言建模任务的提示已显示出示例高效。但是，提示的一个陷阱是需要手动设计的模式，其结果可能不直观，并且需要大量的验证集来调整。为了应对这一挑战，我们提出了一种全自动提示方法AutoSeq :( 1) 在序列对模型上采用自然语言提示，实现自由格式生成和更大的标签搜索空间；(2) 我们提出了标签序列-不定长度的短语来表达标签-消除了手动模板的需要，并且比单个标签词更具表现力；(3) 我们使用光束搜索自动生成大量的标签序列候选，并提出对比重新排名以获得最佳组合。AutoSeq的性能明显优于其他非手动设计方法，例如软提示调整，适配器调整和对单个标签字的自动搜索; 在各种任务上，生成的标签序列甚至比精心策划的手动标签序列更好。我们的方法揭示了序列序列模型在少量学习中的潜力，并揭示了通用和自动提示的途径
提供机构：
OpenDataLab
创建时间：
2022-10-17
