在这项研究中，我们提出了一种针对公共卫生信息获取的安全受限大型语言模型（LLM）系统设计与实施，特别关注母婴健康（MCH）资源导航。尽管基于LLM的系统为信息检索提供了灵活和自然的接口，但在医疗环境中的部署带来了与安全、信任和不受控制生成相关的风险。
我们探讨了在安全关键环境中约束LLM行为的实用设计模式。该设计引入了一个多层架构，集成了领域限制的检索增强生成（RAG）、严格的边界执行以防止医疗建议、匿名多用户会话管理以及全面的审计日志记录以便于监控和合规。设计的一个关键方面是一个受控数据管道，确保所有响应都基于策划的公共卫生资源，避免依赖模型预训练的医学知识。
我们在实际公共卫生环境中实施了该系统，并进行了基于场景的验证，涵盖了范围内、范围外和紧急查询。结果显示安全约束的一致执行、可靠的资源基础和稳定的系统性能，平均响应时间为5.3秒。除了特定应用外，我们还讨论了在平衡安全性、可用性和系统灵活性方面的设计权衡和经验教训。我们的研究成果为在医疗和其他需要严格信息边界和问责的领域中部署基于LLM的系统提供了实用指导。
博主点评： 本文深入探讨了如何在公共卫生领域中安全地部署大型语言模型，强调了设计的多层次架构和安全约束的重要性。这不仅为医疗信息的获取提供了参考，也为其他领域的系统设计提供了宝贵经验。通过严谨的验证过程，确保了系统的可靠性与安全性，值得关注。