跳到正文
arXiv Artificial Intelligence· Minoo Ahmadi, Seyedarmin Azizi, Erfan Baghaei Potraghloo, Mehdi Kamal, Massoud Pedram·· 3 小时前AI 评分31

Chopthin-Consensus Power Sampling:一种保持多样性的 LLM 解码方法

Chopthin-Consensus Power Sampling: A Diversity-Preserving Approach to LLM Decoding

AI 导读

研究者提出 Chopthin-Consensus Power Sampling(CCPS),将 Chopthin 重采样器用于 LLM 解码,通过对权重最大最小比值设上限并保留不等权重,避免等权重采样过度剪枝推理路径。

来源:arXiv Artificial Intelligence · arxiv.org