在这篇论文中,作者提出生成性人工智能可能通过侵蚀学术判断形成的实践和建立学术信任的方式,来降级研究的质量。学术研究的生产和验证知识的实践,不能仅仅被简化为研究的最终输出,而这一点正是AI所有效模拟的。因此,当研究者将主要的探究任务委托给像大型语言模型这样的系统时,他们可能会停止执行这些实践,从而失去由此提供的形成机会。
虽然AI生成的个别研究输出可能看似有所改善,但研究者自身却未能得到发展。
为了应对这一风险,仅仅将人类置于AI输出的提示者或质量检查者的角色是远远不够的。相反,我们需要重新承诺将研究视为一种实践,这种实践中判断是逐步形成的,常常通过摩擦和参与学术共同体来实现。
我们之所以捍卫这种实践,是因为它基于四个不可自动化的研究来源和保证:隐性知识、个人承诺、社会化和深入阅读。这种实践体现了我们所称之为第二学术的概念,即在对生成性AI的能力和局限性的批判性体验中重新获取学术工艺。无法或不应被委托的部分,正是研究共同体必须重视和负责的内容。这就是我们所剩下的。
博主点评: 这篇论文深刻揭示了AI在学术研究中的潜在威胁,强调了人类参与的重要性。只有通过重拾学术实践,才能保持知识的深度和广度,确保研究的真正价值不被AI取代。研究者需要意识到,AI的使用必须以促进个人成长和学术社区的参与为前提。