摘要
最近的研究发现，人工智能（AI）检测模型无法准确识别AI生成的文本，并可能对某些少数群体表现出偏见。本研究实证检验了关于自闭症作家的作品更常被标记为AI生成的传闻。研究使用了大约 60,000 条 Reddit 帖子的语料库，将其分为“可能自闭症”和“一般 Reddit”子语料库，以比较 OpenAI GPT-2 检测模型输出的概率分布。
研究方法
研究观察了子语料库之间的文本特征差异，并将其与报告的 AI 生成文本特征进行比较。结果显示，尽管两个子语料库中被标记为 AI 生成的文本不到 2%，但来自可能自闭症子语料库的文本被标记的比例显著更高。
可能自闭症作者的文本特征与 AI 生成文本之间的联系并不简单。
伦理考量
广泛使用可能对自闭症作家存在偏见的 AI 检测模型引发了伦理审查，作者建议对这些模型及其在学术背景下的使用进行进一步的批判性检验。
博主点评： 本研究揭示了AI检测模型在处理少数群体文本时可能存在的固有偏见，尤其是自闭症作家。这不仅影响了作家的表达自由，也引发了关于AI伦理的重要讨论，呼吁对这些技术进行更深入的审视与改进。