arXiv Artificial Intelligence· William Bolton, Bezawit Tilaye, Huw Day·· 17 小时前AI 评分31
LLM 多位数乘法错误机制研究:小 Qwen 模型低位保持奇偶性、高位出现进位偏差
"Close enough?" An investigation into multiplication errors in LLMs
AI 导读
研究在 16,991 道多位数乘法题上评测多个小型基座 LLM,发现乘法错误不符合加法式的"噪声量化"模型。小 Qwen 模型的低位数字错误以保持奇偶性为主,高位错误则偏向 off-by-one 进位失败。作者据此认为 LLM 的算术依赖多周期内部表征,奇偶性比精确数字身份被更稳健地追踪。
来源:arXiv Artificial Intelligence · arxiv.org