最近神经网络在人类语言生成方面的成功，引发了认知科学领域的重大讨论，许多研究者认为，关于人类认知的经典难题以及对人工智能的挑战正在被神经网络所解决。尤其是Jerry Fodor和Zenon Pylyshyn提出的系统性论证，认为人类表现出系统的双条件依赖性。例如，理解句子“约翰看到了玛丽”的人，也应该能够理解“玛丽看到了约翰”。
符号系统能够解释这种语言和思维的系统性，而神经网络则未能提供直接的解释。尽管最近有几篇文章声称神经网络已经满足了这一挑战，特别是Brenden Lake和Marco Baroni认为他们的元学习组合协议能够匹配并解释人类的系统性，我们认为这些结论尚显草率。我们的研究发现，他们的模型在学习与训练数据稍微不同的规则时表现不佳。此外，该模型在许多内部分布问题上的表现也不具系统性。因此，我们得出结论，Fodor和Pylyshyn对神经网络的挑战仍未被克服。
博主点评： 本文深入分析了神经网络在理解语言系统性方面的局限性，强调了传统认知模型的重要性。尽管神经网络在某些任务上表现出色，但对于复杂的认知现象，仍需更为严谨的理论支持和框架。此研究提醒我们，技术的进步并不意味着对认知科学的基本挑战已经解决。