在生成式AI（GAI）代码编辑中，生成的tokens直接影响成本、延迟和能耗。研究表明，反馈的格式可以影响这三者。我们比较了两种交付方式：整体提示（控制组）与基于行锚的结构化导出（实验组），后者由FileMark提供。FileMark是一个用于在任何文件中进行内联评论的VSCodium扩展。
在配对实验中，行锚反馈使生成的tokens减少了22%（Claude Opus）和58%（Claude Sonnet），在100行以上的文件中，减少幅度达到24%-80%。七个模型中有四个在多次测试修正后生成的tokens显著减少。准确性在模型有提升空间的情况下提高：总共增加了2.0个点，对于三种本地模型，准确性提升了5到7个点。
进一步的探索性实验显示，当编辑应用的负担由模型转移到工具时，准确性提升更为显著：在100行以上的文件中，本地模型的准确性在行锚反馈下大约增加了三倍。行锚反馈不仅减少了更强模型的token消耗，还提升了较弱模型的准确性。
博主点评： 本文展示了行锚反馈在AI代码编辑领域的潜力，通过减少生成tokens数量和提升模型准确性，实质性降低了成本和能耗。这种方法为未来的代码编辑工具和AI模型优化提供了重要的参考，值得深入研究与应用。