随着人们在线上图像的使用和互动方式不断演变，新的实验性AI工具Backstory应运而生，帮助用户探索图像的背景和来源。去年，我们发布了一篇论文，探讨了通过上下文和来源来判断信息可信度，强调了更好的评估工具如何帮助人们做出明智的决策。为了支持这一目标，我们正在开发易于使用的来源工具和产品内上下文功能，并投资于信息素养等领域。
Backstory能够根据图像和书面提示，调查该图像是否为AI生成、其在线使用的时间和地点，以及是否经过数字修改。该工具快速为用户提供有用信息，响应进一步的提示，描述图像的使用情况及其故事如何随着时间的推移而变化。此外，Backstory还生成易于阅读的报告。
评估可信度
Backstory基于Gemini构建，结合多种检测技术，旨在识别图像是真实的还是由生成AI创建的。它将这些信息与图像的整体上下文评估结合起来，通过展示图像在互联网上的使用情况及其他信息（如元数据），帮助回答用户的书面提示。在大多数情况下，判断一幅图像是否为AI生成并不等同于理解其可信度。例如，一幅图像可能不是AI生成的，但可能已经被修改或呈现于不恰当的上下文中，导致产生新的、有时是误导性的信息。相反，一幅由AI生成的图像可能支持真实、创造性或事实性的故事。
全面的方法
维护信息生态系统的完整性，行业、民间社会、政府、学术界和用户之间的合作至关重要。在我们继续进行研究和开发Backstory的过程中，正在与受信任的测试者紧密合作，包括内容创作者和专业信息从业者，他们管理、组织和传播高质量的信息。我们将在整年收集关于示例、用户体验等方面的反馈，以改进我们的技术，使其更加有用。
博主点评： Backstory的推出是信息真实性验证的重大进步，尤其在当今信息泛滥的时代。通过结合AI技术和上下文分析，它为用户提供了更全面的图像理解工具。然而，如何平衡AI生成内容与真实信息的界限，仍需社会各界共同探索。