arXiv Artificial Intelligence· Tanush Kalhan, Anupam Chattopadhyay, Sriram Ranga, Amritendu Mukherjee·· 2 小时前AI 评分27
思维密度:预测与引导大语言模型的推理
The Density of Thought: Predicting and Steering Reasoning in Large Language Models
AI 导读
研究用 LP variance 和 Caveman 压缩比两项指标衡量 CoT 各推理步骤的信息密度,在六种模型规模、两种训练范式和 60 道 GSM8K 题目上测试其与答案正确性的关系。
来源:arXiv Artificial Intelligence · arxiv.org