大型语言模型（LLM）正被用于城市安全决策，例如判断步行、租房或出行的安全性。本文探讨这些判断是基于实际风险，还是受社区名称的刻板印象影响。我们选取七个指令微调模型，针对洛杉矶和芝加哥的 186 个社区进行实验，分别提供仅坐标、仅名称、名称+坐标三种输入，并将模型输出与暴力犯罪率及美国社区调查（ACS）数据关联。
实验结果显示，六个模型在仅使用坐标时的安全评分几乎平坦，只有在极端坐标尺度才出现显著差异；而仅使用名称时，评分在社区之间呈现明显波动，并与暴力犯罪率呈中等校准关系。
进一步分析发现，模型对拥有更高当地主导边缘群体比例的社区（芝加哥的黑人比例、洛杉矶的西班牙裔比例）给出更低的安全评分，这一名称效应在所有模型和两座城市中均与人口比例高度相关。洛杉矶的数据显示，人口比例与犯罪率相对独立，名称效应在控制犯罪率和收入后仍然显著，并在犯罪匹配的社区对中得到验证。
通过执法弹性分析，模型的过度谨慎主要对应几乎全部上报的凶杀案件，而非执法自由裁量的其他犯罪。模型的地理知识水平越高，对真实社区的区分越细致，施加的人口刻板印象也越强。由于社区名称同时携带真实犯罪信号和人口刻板印象，去除名称会同时降低偏见和预测准确性。
本文讨论了在建议和决策支持系统中部署 LLM 时需谨慎处理名称信息，以避免放大基于地点的污名化。
博主点评: 研究揭示了 LLM 在城市安全评估中的潜在偏见，提醒开发者在实际应用中权衡信息完整性与公平性。