谷歌正在Gemini应用中推出AI图像验证工具，用户可以上传图像，查询其是否由谷歌AI生成或编辑。Gemini将检查SynthID水印，以提供内容的更多上下文。未来，谷歌计划将SynthID验证扩展到视频和音频，并支持C2PA内容凭证。
主要亮点
- Gemini应用新增AI图像验证功能，用户可检查内容是否为AI生成。
- 使用SynthID数字水印技术，检测图像是否由谷歌AI制作或编辑。
- 用户只需上传图像并询问“这是用谷歌AI生成的吗？”即可获取更多信息。
- 谷歌还将在未来扩展SynthID至视频和音频，并在更多图像中添加C2PA元数据。
- 与行业合作伙伴共同推动网络内容透明度。
工作原理
用户只需将图像上传至Gemini应用，问如“这是用谷歌AI生成的吗？”或“这是AI生成的吗？”Gemini会检查SynthID水印，并利用自身推理返回更详细的内容信息。
未来展望
此次发布基于谷歌在Google搜索中提供图像上下文的历史，并探索像Google DeepMind的Backstory等新研究创新。谷歌将继续投资于帮助用户确定在线内容的来源和历史。
未来，SynthID验证将支持更多格式，如视频和音频，并将这些功能扩展到更多平台，如搜索。此外，谷歌还与行业合作伙伴合作，推动其产品生态系统内的内容透明度和真实性标准。
我们期待在未来几个月内将这一能力扩展到更多产品和平台，同时也会将验证方法扩展到支持C2PA内容凭证，让用户能够检查由其他模型和产品创建的内容的原始来源。这项工作是谷歌对负责任AI承诺的重要组成部分。
博主点评： 谷歌推出的AI图像验证工具标志着内容透明度的重要进步，尤其在生成内容日益普及的今天。通过SynthID水印和C2PA标准，用户能够更清晰地辨别内容的真实性，这对打击虚假信息具有积极意义。期待未来更多格式的支持，进一步提升内容的可追溯性。