摘要
轻量级大型语言模型在基于规则的科学领域中的应用受到其倾向于模仿语言模式而非重现公理推理的限制,导致频繁的幻觉现象。我们提出了 G-Frame,这是一种集成了贝叶斯和团队博弈原则的自适应多智能体框架,建立了一个自动化闭环以进行高质量的数据合成和模型训练。
通过结构化推理强制内部化领域约束,我们合成了一个包含 363,045 个思维链和 199,589 对问答的专业语料库。
结果显示,7B 模型 OmniChem 在自定义基准和 ChemBench 上的性能与 GPT 4o mini 相当,同时相比其基础架构,幻觉现象减少了 79.46%。我们进一步展示了 OmniChem 在分子设计和合成规划中的先进能力。
这项工作建立了一种可扩展的范式,利用自适应多智能体克服固有的推理缺陷,为加速专业科学领域的知识发现提供了可行的路径。
博主点评: 该研究通过引入博弈论和多智能体框架,成功降低了语言模型的幻觉现象,展现了在科学领域应用的巨大潜力。G-Frame 的方法论为未来的研究提供了新的思路,尤其是在数据合成和模型训练方面,值得进一步探索。