NeFut Logo NeFut
EN 管理员登录

[AI学术] 冲突期间负责任的生成式AI使用:苏丹应急响应室的证据

发布于:2026-11-06 22:00 最后更新:2026-11-07 12:32
#AI #Machine Learning #GPT

本研究聚焦于武装冲突对生成式人工智能(GenAI)价值的提升以及对其负责任使用条件的侵蚀。以苏丹的应急响应室(ERR)为案例,采用了两阶段的实证方法:首先对89名社区人道主义响应者进行探索性问卷调查,其次对其中的GenAI使用者和未使用者进行15场半结构化访谈。\ \ 调查结果显示,战争情境重新定义了GenAI的功能边界——当信息来源难以验证或获取时,GenAI的输出被视为最有价值。冲突导致现场专家难以到达或交流受限,促使部分志愿者转向GenAI获取快速答案。然而,受访者普遍提醒,GenAI无法自行捕捉快速变化的当地情势,若缺乏人工核实,其误导性结果可能导致危害性决策。\ \ 在实际使用前就已出现风险:携带手机或接入互联网本身可能暴露志愿者于安全威胁;将受益人或运营细节输入GenAI可能泄露敏感信息,危及当地人群。部分受访者担忧,AI辅助的报告若被捐助方质疑,将削弱组织的可信度,进而影响食物和医疗援助的持续供给。\ \ 此外,GenAI的获取并不均衡。能够使用该技术的志愿者往往依赖具备相关专业知识或本地情报的同事,对GenAI的输出进行交叉验证。研究表明,冲突期间的负责任使用不仅取决于模型性能或个人采纳度,更取决于响应者是否能够安全获取工具、将结果与现场实际对照,并在必要时主动放弃或限制GenAI的使用。\ \ 点评:本研究揭示了在极端不确定环境下,技术工具的价值与风险是并存的。只有在安全渠道、可靠验证和伦理警觉三者同步到位时,GenAI才能真正成为人道主义行动的助力,而非潜在的隐患。

原文链接: https://arxiv.org/abs/2611.07874

[h] 返回首页