增强型提示集成技术在大型语言模型中的应用 - 摘要

本文介绍了一种创新的提示集成方法，称为“增强提示”，该方法专为大型语言模型设计。通过使用一个小型数据集构建少量镜头提示集合，增强提示能够显著提升模型的推理能力。以下将详细探讨该方法的主要优势、局限性、测试数据集以及关键见解。

增强提示的主要优势

增强提示在多个方面展现了其独特的优势：

• 性能提升：与单提示和袋装提示组合相比，增强提示在推理性能上表现更优。
• 数据需求低：仅需100个标记示例即可实现显著效果。
• 减少人工干预：对人工提示工程的依赖极低。
• 兼容性强：可与其他推理技术（如思维链）结合使用。
• 适应性高：能够适应测试时分布变化的场景。
• 广泛验证：在多个推理基准测试中表现优异。

增强提示的局限性

尽管增强提示具有诸多优势，但仍存在一些局限性：

• 标记数据需求：需要一定数量的标记数据才能达到最佳性能。
• 测试性能下降：测试时间版本的性能通常不如训练时间版本。
• 依赖提示质量：初始提示的质量直接影响最终效果。
• 对弱模型无效：对性能较弱的语言模型（如居里模型）帮助有限。
• 计算成本高：相比单提示，计算开销更大。
• 模型精度要求：需要足够高的模型精度以生成可靠的自我监督。

测试数据集

增强提示方法在以下数据集上进行了测试，涵盖了多种推理任务：

• AQUA：代数问题数据集。
• GSM8K：小学数学问题数据集。
• MMLU570：多任务理解数据集。
• CMATH420：竞赛数学问题数据集。
• SVAMP：算术题数据集。

关键见解与经验教训

通过对增强提示的研究，总结出以下关键见解和经验教训：

1. 性能优越：在挑战性数据集（如GSM8K和AQUA）上，增强提示优于单提示输出空间集合和袋装提示空间集合。
2. 逐步优化：该方法通过一个小数据集构建少量镜头提示集合，并逐步解决更复杂的问题。
3. “硬”示例选择：每个提示的少量镜头示例以逐步方式选择为“硬”示例，即前一步集合表现不确定的示例。
4. 训练与测试版本：提出了基于不同注释级别的训练时间和测试时间版本。
5. 算法灵感：受经典提升法（boosting）的启发，利用小数据集逐步优化提示集合。

提到的术语与技术

• 术语：大型语言模型、少量镜头提示、增强提示、输出空间组合、袋装提示空间组合、训练时间提升法、测试时间提升法、注释。
• 技术/工具：PyTorch（机器学习框架）、Hugging Face Transformers（NLP框架）。

通过增强提示方法的研究，我们可以更高效地利用小数据集提升大型语言模型的推理能力。这一方法不仅在多个基准测试中表现出色，还为未来的提示工程和模型优化提供了新的思路。

原文链接: https://portkey.ai/blog/boosted-prompt-ensembles-for-large-language-models-summary/