自2023年以来，计算机科学家们警告模型崩溃的风险——即训练集被AI生成的输出污染，导致模型性能逐渐下降。这是一种正反馈驱动的失败，产生的效果包括单词重复或像素噪声，最终导致意义和连贯性的丧失——至少从工程的角度来看。
然而，从创作的角度来看，崩溃不仅仅是一次故障：它还作为一种递归的镜子，回忆起早期模拟视频反馈实验，再次引发了当系统向内转向并自我观察时会发生什么的问题。在这种情况下，所谓的机器视觉不再传递世界（如电视），而是越来越多地从内部生成世界。
通过对历史视频合成技术和当代机器学习艺术应用的案例研究，本文考察了递归训练揭示的AI生成数据的依赖性。它认为，崩溃的潜在影响挑战了超人类主义的理想，同时邀请一种美学视角，将噪声和递归定位为理解艺术创作和AI生态系统的关键概念。
跨越不同规模和网络分配的代理，目前仍依赖于新的人类生产内容，特别是在基于大规模数据集训练的基础模型中。
博主点评： 本文深入探讨了模型崩溃现象，揭示了AI生成内容与其训练数据之间复杂的相互依赖关系。这一现象不仅影响技术性能，还引发了关于创造性和艺术性的深刻思考，尤其是在机器视觉领域中的递归性和噪声的作用值得关注。