摘要
随着可穿戴传感器的普及，捕捉到大量行为和生理信息，但将这些信号有效转化为个性化健康洞察依然具有挑战性。特别是，由于个体表型的多样性和健康、身体、生活方式等基础因素的差异，低级传感器数据转化为能够表征高级状态的表示变得困难。
此外，收集带有健康结果注释的可穿戴数据既费时又昂贵，回顾性注释在实际操作中几乎不可行，这导致高质量标签数据的稀缺。为了解决这些问题，我们提出了一种可穿戴健康的基础模型，该模型在超过一万亿分钟的未标记传感器信号上进行预训练，这些信号来自五百万参与者的大规模队列。
我们证明了模型容量与预训练数据量的联合扩展在性能上带来的系统性提升，评估涵盖心血管、代谢、睡眠和心理健康等35项健康预测任务的表现。我们发现，这种人口规模的表示解锁了标签高效的少样本学习和生成能力，能够进行稳健的日常指标估计。
为了进一步利用这一学习表示，我们部署了一组LLM代理，自动搜索基于模型嵌入构建的下游预测头空间，显示出性能的广泛提升，并且与LLM模型容量的增加呈正相关。最后，我们展示了如何将这些下游预测器集成到个人健康代理中，以支持更加相关、上下文敏感和安全的模型响应，并通过1860名临床医生的评分进行了验证。
博主点评： 本文展示了在可穿戴健康数据领域的基础模型的巨大潜力，尤其是通过大规模预训练解决数据稀缺问题的创新方法。将LLM与健康预测结合的思路，为未来个性化健康管理提供了新的视角和实践方向。