arXiv Artificial Intelligence· Andre R Goncalves, Vincent Liu, Priyadip Ray·· 18 小时前AI 评分31
EHRAdapt：用语义先验将预训练语言模型适配到电子健康记录，应对罕见临床事件
EHRAdapt: Adapting Pretrained Language Models to Electronic Health Records with Semantic Priors for Rare Clinical Events
AI 导读
EHRAdapt 是一种适配器，可将电子健康记录的（时间、模态、代码）元组直接映射进冻结语言模型的嵌入空间，仅训练 0.1–0.6% 的参数。研究在约 400 万名患者的记录上，以 OLMo2 1B、Llama3.2 1B 和 OLMo2 7B 三个冻结 LLM 为骨干做继续预训练，完整适配器在每个骨干的留出下一事件预测上均优于所有消融版本。
来源：arXiv Artificial Intelligence · arxiv.org