NeFut Logo NeFut
EN 管理员登录

[AI学术] 评估语言模型在科学应用中的表现:以惯性约束聚变为例

发布于:2026-10-31 22:00 最后更新:2026-11-02 00:48
#AI #Machine Learning #LLM

为了推动语言模型在专业科学领域的应用,需要对其科学流畅度、物理推理和定量分析能力进行系统评估。本文以惯性约束聚变(ICF)为测试场景,构建了一个由专家策划的基准,包含 250 道题目,覆盖定性推理、数值计算、符号推导和方程构造四类任务。对模型的回答采用确定性数值检查、符号校验以及语言模型评审三种方式进行评分。我们对多种开箱即用的闭源和开源大模型进行了比较,并重点考察了 Prospero——一种通过领域自适应预训练和监督微调专门针对 ICF 进行优化的模型。实验还加入了检索辅助的初步评估。结果显示,Prospero 在整体得分上比其基模型提升了 10.7 个百分点,所有题型均有进步。最前沿的模型取得了最高的综合得分,但在数值计算环节仍出现关键的物理错误。检索对小模型有明显帮助,却未对最前沿模型产生统计显著的提升。两项科学压力测试进一步展示了模型的潜在能力,同时也凸显了对物理假设和模型有效性进行专家审查的必要性。基于这些发现,我们建议在投入大量专门化训练前,先评估现有的领域能力和检索增益。

点评

原文链接: https://arxiv.org/abs/2610.38024

[h] 返回首页