知识卡片:WearableQA——真实世界可穿戴数据的健康推理基准
一句话结论
WearableQA 是一个针对大语言模型(LLM)在真实用户长期可穿戴数据上进行健康推理的基准,包含来自 200 名真实用户、每人最长 500 天日常测量的数据所构造的 4,084 道 10 选 1 多选题;评测 14 个模型后,准确率从 19.6% 到 72.9% 不等,多数模型低于 60%,说明该基准远未被解决。
事件概述/研究问题
可穿戴感知技术已能持续监测生理与行为信号,但现有基准很少评估 AI 系统是否能够对一个真实用户的纵向可穿戴记录进行推理。WearableQA 旨在填补这一空白,通过真实世界数据构造多选题,考察模型能否综合可穿戴时间序列、血液生物标志物和人口统计信息进行健康层面的推理。
方法/产品要点
- 数据规模:200 名真实用户,每人最多 500 天的日度测量记录。
- 数据类型:可穿戴时间序列、血液生物标志物、人口统计学信息。
- 题目数量:4,084 道 10 选项单选题。
- 数据属性:保留真实可穿戴数据分布,包括设备噪声和个体间差异。
- 问题类型:16 种,沿两条互补轴设计:
- 数据推理 vs 健康推理:区分对纵向测量数据的计算/处理与对生理意义的解释。
- 单信号推理 vs 跨信号推理:区分对单一信号的分析与对多种信号的综合整合。
- 题目构建框架:采用“双重基础”(dual-grounding)框架,将文献基础的生理学发现与统计验证的人群基础生理模式相结合。
- 评测对象:14 个专有与开源 LLM。
主要结果或产业意义
- 模型准确率范围:19.6%–72.9%,随机机会基线为 10%。
- 大多数模型准确率低于 60%,显示 WearableQA 能有效区分模型能力,同时仍具有较高挑战性。
- 产业意义上,该基准为可穿戴健康数据的 AI 评估提供了一种更真实、更具诊断性的测试方式,可用于衡量模型在健康监测场景中的实际推理能力。
为什么重要
WearableQA 强调了“能否对真实用户的多日可穿戴记录进行健康推理”这一此前较少被系统评测的能力。它不同于仅评价单一答案正确性的传统基准,也不同于已有相关卡片中的 LLM 数据智能体轨迹完整性、主动智能体通用基准或无人机时空推理基准;其增量在于:专门面向健康场景,基于纵向真实可穿戴数据,并提出“数据 vs 健康推理”和“单信号 vs 跨信号推理”两个维度来诊断模型能力。
局限与不确定性
- 当前内容仅来自 arXiv 摘要,以下细节待核实:具体问题示例、题目生成与过滤流程、生理模式统计验证的具体方法、评测温度设定与提示格式、数据集获取方式与隐私合规措施、不同信号的具体类型与缺失数据处理方式。
- 样本来源仅为 200 名真实用户,通用性和外部有效性范围待进一步说明。
- “真实世界数据”中包含设备噪声和个体差异,这既是优点也可能引入混淆因素;具体如何保证题目可靠性仍待核实。
可用于图书/PPT/简报的角度
- “大模型能读懂你的手环数据吗?”可作为健康科技与 AI 评测案例。
- 用“数据推理 vs 健康推理”框架解释模型在不同推理层次上的差异。
- 讨论真实世界噪声数据对 AI 评估的影响,以及从静态问答走向纵向健康记录推理的趋势。
与既有脉络的关系
已有相关卡片分别关注 LLM 数据智能体的轨迹可审计性、主动智能体基准、无人机多模态时空推理;本条卡片延续“为复杂真实场景构建诊断性基准”的脉络,但将问题域转向“真实用户长期可穿戴健康数据”,并引入了基于两轴划分的细粒度能力评估方式。
原始材料
- 英文标题:WearableQA: A Benchmark for Health Reasoning over Real-World Wearable Data
- 英文关键词:WearableQA; health reasoning; benchmark; real-world wearable data; LLM evaluation
- 来源:arXiv:2609.05405v1
- 摘要链接:https://arxiv.org/abs/2609.05405v1
- PDF 链接:https://arxiv.org/pdf/2609.05405v1
- 发布/更新:2026-09-04
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
WearableQA 强调了“能否对真实用户的多日可穿戴记录进行健康推理”这一此前较少被系统评测的能力。它不同于仅评价单一答案正确性的传统基准,也不同于已有相关卡片中的 LLM 数据智能体轨迹完整性、主动智能体通用基准或无人机时空推理基准;其增量在于:专门面向健康场景,基于纵向真实可穿戴数据,并提出“数据 vs 健康推理”和“单信号 vs 跨信号推理”两个…
相关主题
对应的教材知识点
教材知识点匹配尚未完成。