跳到正文
arXiv Artificial Intelligence· Lingbei Meng, Rui Huang, Zhirong Shen, Jinxin Liu, Lingxiao Jing, Haorui Chen, Yaosong Du, Haowei Lin·· 18 小时前AI 评分32

SLDBench v2:主动式缩放定律发现

SLDBench v2: Active Scaling Law Discovery

AI 导读

SLDBench v2 将缩放定律发现基准从 8 个场景扩展到 127 个,覆盖语言模型预训练、下游性能和视觉语言迁移,并从中选出 30 个参考幂律拟合 R² ≤ 0.8 的困难场景,涉及至少 1.09 × 10²³ FLOPs 的训练算力。

来源:arXiv Artificial Intelligence · arxiv.org