大型语言模型在放射学报告结构化中的应用主要依赖于专有云模型或需要高端 GPU 的大型开源模型,这在需要数据隐私和离线运行的临床环境中形成了显著瓶颈。
为了解决该问题,我们提出了 MedPAO-Assist,一个可在边缘设备上部署的智能体框架,能够直接从放射科医生的口述和语音指令生成结构化报告。系统峰值内存约为 $3.3\text{ GB}$,在普通笔记本 CPU 上的端到端平均延迟约为 $31\text{ s}$,得益于异步多线程执行流水线。
当前系统支持四大影像模态:胸部 X 光、胸部 CT、腹部 CT 与脑部 MRI。值得注意的是,MedPAO-Assist 是首批在整个流水线中使用参数量约 $0.6\text{B}$ 的小型语言模型(SLM)的智能体之一。
系统采用 Extract‑Ground‑Generate 多智能体架构:
- 提取概念
- 基于 SNOMED‑CT 进行概念对齐
- 生成结构化报告 随后进入语音驱动的人机交互校正阶段,形成全“无触摸”工作流,无需键盘输入、外部 API 调用或网络连接。
我们对概念提取、本体对齐、概念分类以及硬件性能等每个子阶段进行了单独评估,硬件剖析结果表明该系统能够在仅使用 CPU 的情况下实现实时临床部署。
点评:MedPAO-Assist 展示了在资源受限环境下实现高效、隐私安全的放射学报告自动化的可行路径,为边缘 AI 在医疗领域的落地提供了重要参考。