随着 AI 在核心科研任务上逐渐匹配甚至超越人类研究者,出现了两个紧迫的问题:\emph{为什么人类仍需从事科学研究},以及\emph{在进行科研时应如何使用 AI}。本文认为,第二个问题只能在回答第一个问题后才能得到解答。
科学的一个不可或缺的目标是持久的、集体的人类对世界的理解,并且这种理解必须服务于人类的目的和价值观。基于这一原则,作者提出了一个两部分的测试,用以判断某项研究任务是否可以交由 AI 完成。
第一部分是人类理解:科研社区必须仍然能够解释、捍卫并对产生的主张提出质疑,同时保有相应的技能。第二部分是人类方向:关于哪些问题重要、研究发现意味着什么的判断必须由负责任的人类来做出。
作者将该测试应用于 Contributor Roles Taxonomy(CRediT)中的每个研究阶段,给出可供各学科根据自身问题和方法进行调整的建议。该框架与现有指导原则的三大区别在于:
- 它基于对科学目的的阐释,而非仅仅依赖诚信规范;
- 即使 AI 超越人类研究者,框架仍然成立,而不是依赖 AI 当前的局限性;
- 对 AI 的每一次使用都依据其对人类理解和方向的影响进行评估,而不是依据工具类型,覆盖从实验设计、数据分析到同行评审和新人培养的全部环节。
文章最后指出,为了让科学继续以人类理解和方向为核心,需要在制度、教育和评估体系等方面进行相应改革。
点评