摘要
现代人工智能（AI）系统对儿童安全带来了深远的新风险。AI 日益被滥用于创建儿童性虐待材料，促进儿童性剥削，并降低伤害的门槛。本文主张，保护儿童免受AI促进的性虐待需要新的AI安全方法。
现有的安全技术假设数据可访问性、透明度和评估实践，这与围绕儿童性虐待材料的伦理和法律约束不相容。我们考察了这些约束如何产生新的技术挑战，例如数据集审计、红队测试和防止微调的限制。
此外，我们概述了在线儿童性剥削和虐待的15个开放问题，涵盖AI开发生命周期中的各个阶段，从数据集策划、模型设计到部署和长期维护。我们为研究人员、开发者和政策制定者提出了针对性的建议，以弥合理论AI安全与儿童保护现实之间的差距。
我们的工作旨在将防止AI促进的儿童性虐待重新框架为AI研究的一个核心、安全关键维度，激励将负责任的AI原则转化为对儿童剥削的具体保障措施。
博主点评： 本文提出了一个重要的议题，强调了在AI技术快速发展的背景下，儿童保护亟需新的安全策略。推动AI安全研究与儿童保护之间的结合，将为应对未来潜在的伦理与法律挑战提供有力支持。