在文本分类中，提示优化涵盖了多种方法，包括示例选择、基于探索的搜索以及基于错误的诊断，每种方法都有已知但未完全特征化的优缺点。
我们在多个分类基准（2到150个类别）上进行了全面的实证研究，通过定量评估和优化轨迹的定性分析比较这些范式，揭示每种范式在结构上不同的任务类型中表现出色，而没有单一方法占主导地位。
基于这些洞察，我们提出了错误驱动优化（ERGO），这是一种迭代遍历整个训练集的非重叠批次的错误驱动方法，诊断分类失败，并通过诊断-规定-重写的反馈循环生成针对性的决策规则。
ERGO在错误集中在特定混淆标签对的任务（我们称之为边界可学习任务）中实现了最佳准确率：TREC: 90.0%，CLINC150: 94.4%，并在3-5次迭代中收敛，生成可解释的决策规则。
虽然ERGO未能达到最高的整体平均水平，但它填补了互补的角色：基于示例的ICL在依赖覆盖的任务中获胜，基于探索的搜索在多类意图中获胜，而ERGO在错误模式中可学习决策边界的地方获胜。
我们提供了一个互补性框架，将任务特征与最佳范式选择联系起来，为从业者提供实用指导。
博主点评： 本文通过对不同提示优化方法的深入分析，提出了ERGO方法，展示了如何利用错误模式提升文本分类的准确性。尤其是在处理边界可学习任务时，ERGO展现了其独特的优势，值得在实际应用中加以推广和研究。