arXiv Computer Vision· Bilal A. Sidiqi, Yipei Wang, Shaheer U. Saeed, Shiqi Huang, Daniel C. Alexander, Yipeng Hu·· 4 小时前AI 评分20
用 LoRA 持续预训练前列腺 MRI ViT 编码器以对齐分割任务
Continual pretraining Prostate MRI ViT Encoder for task alignment
AI 导读
研究用 LoRA 在前列腺分割任务上持续预训练已预训练的 ViT 编码器,以提升预训练与下游任务的对齐。在 6 个下游任务中 3 个性能提升,其余相当;CKA 分析显示分割任务上持续预训练编码器特征比原始预训练编码器更接近微调编码器,且与性能提升相关。
来源:arXiv Computer Vision · arxiv.org