在2019年，OpenAI发布了两百万个GPT-2的输出——这些文本语法不正确且部分破损，旨在帮助检测机器生成文本。人们通常将生成更流畅后继版本的对齐视为工程成就；而我们则将其视为优化文化的新表现：一种信念，即沿着预定义的轴线可测量的改进就涵盖了价值问题。
追溯这种信念的源头——从预训练、解码、偏好调优、基准测试到接口，并回溯到审计社会的历史，我们发现了极限：一种优化程序可以测量生成文本的不可能性，但无法判断这种不可能性是错误还是创造。尽管如此，这种无法做出区分的程序在短短五年内却获得了设定合法语言协议的权威。曾几何时，这一权威由学术机构和教室、语法和考官所掌握，如今却交给了损失函数、奖励模型、基准测试和系统提示：这一套执行判断职能的工具，缺乏判断能力。
博主点评： 文章深刻揭示了优化文化对语言生成技术的影响，强调了仅依赖量化指标无法真正理解文本的价值与创造力。我们需要重新审视算法在语言判断中的角色，避免盲目追求优化而忽视了人类判断的复杂性。