arXiv Artificial Intelligence· Karan Dua, Amit Agarwal, Hitesh Laxmichand Patel, Hansa Meghwani, Jyotika Singh, Ranjeet Gupta, Graham Horwood, Tao Sheng, Avi Sil, Sujith Ravi, Dan Roth·· 19 小时前AI 评分44
从人像到病理：视觉语言模型的诊断越界问题研究
From Portraits to Pathology: Probing Diagnostic Overreach in Vision-Language Models
AI 导读
研究构建了人口统计均衡的 PARITY 数据集，测试视觉语言模型（VLM）是否会对面部图像做出 ASD、ADHD、MDD、GAD 等疾病的诊断判断。对 27 个开源与闭源模型的评估显示，模型会将面部表情转化为缺乏依据的医学判断，该行为在开源 VLM 中普遍存在，并延伸至经过安全训练的前沿模型——后者对单张人像会拒答，但在比较同一身份的多张人像时仍会给出诊断。
来源：arXiv Artificial Intelligence · arxiv.org