摘要
为什么ChatGPT类AI在架构和训练上存在重大差异的情况下，仍会意外地倾向于产生不良内容（例如有害、误导性、重复性内容），即使在确定性贪婪解码下也如此？
我们表明，这种倾向的广泛原因是由于token（自旋）之间的多体相互作用，它们在有限层系统中交互。当输出基盆之间的竞争发生时，tipping作为一种动态的首次通过过程出现。注意力障碍控制着向基盆的运输，远离基盆，或沿着基盆边界的运动。通过少基盆的简化，我们得到了一个封闭的有限层阈值，其粗粒度预测在ChatGPT类的不同家族中显示出良好的一致性。
这些结果表明，广泛类别的AI故障代表了“可预见的工程风险”，而非固有的不可预测行为，这对法律和社会对AI危害的评估具有重要意义。
博主点评： 这项研究深入分析了ChatGPT类AI在内容生成中的不稳定性，揭示了多体相互作用在生成过程中的核心作用。理解这些机制不仅有助于改进AI模型的设计，也为评估AI技术带来的潜在风险提供了重要视角。通过将这些问题视为可预见的工程风险，社会可以更有效地应对AI带来的挑战。