随着可穿戴设备的普及,AI 助手需要在长时间范围内进行推理,以回忆过去的经历,这种能力被称为情节记忆。目前的基准测试通常依赖离线评估,无法模拟可穿戴智能的实时流媒体环境。
我们推出了 S-EMBER(流媒体自我中心记忆基准),这是一个大型基准,包含 3,141 个视频,总计 388 小时的有机活动,这些活动通过 Ray-Ban Meta 智能眼镜捕获。S-EMBER 正式化了基于视觉事件触发的因果主动回忆,从全球离线搜索转变为流式情节检索的新范式。
我们提供了 9,448 对问答(QA)对,要求通过精确的时间定位和支持灵活的响应长度来进行手动视觉证明,以模拟自然的人机交互。我们对前沿模型的广泛基准测试揭示了一个定位悖论:尽管语义推理随着参数规模的增加而改善,但时间基础精度仍然是一个停滞的架构瓶颈,无法通过简单增加模型规模、分辨率或帧密度来解决。
S-EMBER 为开发下一代可穿戴 AI 代理中的有根、可靠的情节记忆奠定了硬件真实的基础。
博主点评: S-EMBER 的推出为可穿戴 AI 领域提供了全新的研究方向,强调了实时流媒体环境中情节记忆检索的重要性。这一基准不仅填补了现有研究的空白,还为 AI 系统的长期记忆能力设定了更高的标准。未来的研究可以围绕如何克服当前的架构瓶颈展开,以提升时间基础的精度和效率。