跳到正文
arXiv Artificial Intelligence· Duo Chai, Zizhen Liu, Shuhuai Wang, Songwei Pei, Cheng Liu, Huawei Li, Shangguang Wang·· 2 天前AI 评分31

LLM 推理对 GPU 软错误的脆弱性:指令级故障注入研究

Analysis of LLM Vulnerability to GPU Soft Errors: An Instruction-Level Fault Injection Study

AI 导读

一项指令级故障注入研究分析了 LLM 推理对 GPU 软错误的脆弱性,揭示模型架构、参数规模和任务复杂度对可靠性的影响。研究指出,随着晶体管尺寸缩小和工作电压降低,GPU 在卫星计算等辐射环境中更易发生软错误,而现代 LLM 的抗软错误能力可能与此前面向分类、检测等视觉任务的常规神经网络存在明显差异。

来源:arXiv Artificial Intelligence · arxiv.org