在社交平台上，廉价且快速的自动化事实核查工具日益普及，但其准确性并非完美。本文在一个顺序社会学习模型中考察该工具何时会适得其反。每个代理人先观察文章的可靠性信号 $s\in\{0,1\}$，再看到前序代理人的行为——点赞表示认为可靠，点踩表示认为不可靠。随后他可以选择付费进行人工核查，成本为 $c>0$，且结果必然正确；也可以使用免费但出错率为 $\epsilon$ 的自动化工具。福利定义为正确信息级联出现的概率 $P_{\text{correct}}$。
两种相互冲突的效应随工具的引入而出现。更广泛的核查行为可以帮助后续代理人摆脱错误级联，因为更多人获得了可靠信号。相反，自动工具的错误会误导本应通过人工核查获得准确信息的代理人，从而降低 $P_{\text{correct}}$。我们证明，当文章的中等可靠性 $\theta$ 位于某区间、真实文章的信息量不足且人工核查成本足够高时，引入该工具会严格降低福利。数值模拟表明，工具在中间区间之外可能提升福利，并且仅当工具准确率超过某阈值时，其平均表现优于仅人工核查的基准。
$$ P_{\text{correct}} = \Pr{\text{最终级联与真实状态一致}} $$
点评：本文揭示了在信息质量不确定且核查成本高的环境下，盲目推广不完美的自动化核查可能适得其反，提示平台在设计核查机制时需权衡工具的准确率与人工核查的激励。