测试时扩展计算可以提升大语言模型的性能，但如何根据不同输入动态调整内部计算拓扑仍未得到系统研究。现有方法在训练阶段固定循环或并行结构，或仅沿单一结构维度对冻结模型进行重构。我们提出 SelfMorph，使计算形态成为输入相关的推理时决策。它在统一的参数空间中同时涵盖三种基本形态：原始前向路径（BASE）、层跨度的串行复用（REPEAT）以及对扰动隐藏状态的局部分支与合并（BRANCH），参数化为类型、位置和强度。由于这些形态各有优势且互补，我们设计了轻量选择器，读取主干网络在提示上的深度隐藏状态轨迹，以在生成响应前决定使用哪种形态。选择器通过离线形态的效用分布蒸馏进行训练，兼顾任务性能和计算成本。实验在 4B‑27B 的三款 LLM 上进行，SelfMorph 在五个同分布基准上实现 8.06% 的平均相对提升，在四个未见基准上提升 4.45%，并在 27 项设置中的 24 项取得最佳成绩。这表明输入自适应的计算拓扑是除生成更多 token 之外的测试时扩展的有效补充维度。代码已开源：https://github.com/creator-xi/SelfMorph
点评