NeFut Logo NeFut
EN 管理员登录

[AI学术] 大语言模型在广告相关性评估中的偏差系统研究

发布于:2026-10-07 22:00 最后更新:2026-10-08 01:25
#AI #Machine Learning #LLM

大型语言模型(LLM)正被广泛用于判断广告与查询的匹配程度,但其公平性研究仍然不足。本文构建了一个反事实框架,系统评估了广告主身份、可能的受欢迎程度、输入语言以及人口统计用词对相关性判断的影响。我们选取了 GPT-4o 作为分类相关性评估模型,并使用专门针对相关性预测微调的 Qwen-7B 进行对比。广告主和语言实验使用了真实广告日志中的查询‑广告对,而人口统计实验则采用了受控的合成查询,覆盖就业、住房和信贷等敏感领域。实验结果显示,改变广告主身份或输入语言均会导致模型的相关性评分发生显著变化;在人口统计维度的比较中,模型表现出与常见刻板印象相符的偏差,尤其是性别与职业的关联。进一步的干预实验表明,缓解措施的效果取决于广告主信息是否与查询本身相关,以及训练数据中广告主标签的分布情况。研究结论为广告从业者提供了识别公平风险的思路,并为构建更公正的 LLM 相关性系统提供了参考。

点评:本文通过真实日志和合成数据双管齐下,揭示了 LLM 在广告匹配任务中的多维偏差,并提出了基于模型推理和训练的潜在缓解路径,为实际部署提供了可操作的公平性指南。

原文链接: https://arxiv.org/abs/2610.07544

[h] 返回首页