Awesome-LLM-RL

该合集专注于使用基础模型（包括大语言模型和视觉语言模型）进行决策制定的相关资源，收集了论文、代码库和数据集，特别涵盖了多模态决策制定基准测试，主题领域包括强化学习、自然语言处理、机器人学和人工智能。

This collection focuses on resources related to decision-making using foundation models, including large language models (LLMs) and vision-language models. It compiles papers, code repositories and datasets, with a special emphasis on multimodal decision-making benchmarks, and covers thematic domains including reinforcement learning, natural language processing, robotics, and artificial intelligence.

原始信息汇总

数据集详情总结：Awesome-LLM-Decision-Making

概览

这是一个截至2023年的论文、代码库和基准测试的汇总列表，聚焦于使用基础模型（包括大型语言模型LLMs和视觉语言模型VLMs）进行决策制定。

目录结构

1. 论文分类

1.1 综述（Survey）

• 包含6篇综述论文，涵盖自然语言启发的强化学习、Transformer在强化学习中的应用、基础模型用于决策制定、大型语言模型综述、基于大语言模型的自主智能体综述，以及个人LLM智能体的能力、效率与安全性综述。

1.2 世界模型（World Models）

• 收录3个代表性工作：IRIS（Transformer作为样本高效的世界模型）、UniPi（通过文本引导视频生成学习通用策略）、Dynalang（学习用语言建模世界）。

1.3 奖励模型（Reward Models）

• 包含6个相关工作：EAGER（自动奖励塑造）、语言模型奖励设计、ELLM（大语言模型引导强化学习预训练）、语言到奖励的机器人技能合成、视觉语言模型作为零样本奖励模型、Eureka（大语言模型编码实现人类级奖励设计）。

1.4 智能体模型（Agent Models）

• 分为两个子类别：
  • 生成式智能体：包含14个模型，如FILM、Inner Monologue、Voyager、Reflexion、ReAct、Generative Agents等。
  • 具身人工智能：包含20个模型，如SayCan、PaLM-E、LM-Nav、VoxPoser、RT-1/RT-2、RoboCat、RT-X、EmbodiedGPT等。

1.5 表征编码器（Representation）

• 包含10个相关工作：Cliport、Vima、Perceiver-actor、InstructRL、Hiveformer、LID、LISA、LoReL、GRIF等。

2. 基准测试（Benchmark）

2.1 操作类（Manipulation）

• 4个基准：Meta-World、RLbench、VLMbench、Calvin

2.2 导航与操作类（Navigation-and-Manipulation）

• 8个基准：AI2-THOR、Alfred、VirtualHome、Ravens、Housekeep、Behavior-1k、Habitat 2.0、EgoTV

2.3 游戏类（Game）

• 4个基准：Minedojo、BabyAI、Generative Agents、AgentBench

2.4 工具类（Tools）

• 1个工具：Toolformer（语言模型自学使用工具）

3. 引用信息

• 数据集页面包含引用格式说明，供学术使用。

关键特点

• 该列表持续更新，欢迎通过Pull Request或联系作者进行补充和修正。
• 每个条目均附有论文链接、代码仓库和项目网站，便于直接访问相关资源。
• 覆盖决策制定的多个维度，包括世界建模、奖励设计、智能体架构、表征学习和多模态基准测试。