随着生成式模型在产品中的广泛应用，人们形成了一套关于这些系统能力的信念体系。常见的误解是把语言的形式等同于对语言的“理解”，实际上模型只是复现统计模式而非把握意义。进一步的错误是认为模型能够“解释其推理”，尤其是链式思考（Chain‑of‑Thought, CoT）被视为透明的解释。文章指出，这种把形式误作意义的倾向导致用户对AI产生认知从属，把系统当作有意图的“心智”，并因其被感知为具备认知权威而倾向于遵从。人们因此容易犯“组成谬误”，把在狭窄任务上的成功推广到更广泛的能力。作者以医学场景为例，展示了CoT可能带来的误导风险。结论是，虽然CoT可以提升输出准确性和内容审查，但将模型的推理过程直接呈现给用户的做法应被主动抑制，并且AI素养教育需明确警示其潜在危害。点评