儿童规模语言模型的专门化与多样性研究

2026年10月28日，arXiv Artificial Intelligence 刊出 Steven Y. Feng 与 Michael C. Frank 的论文，研究儿童规模语言模型的训练数据来源与多样性对预测能力的影响。研究用 BabyView 家庭密集录音中的儿童语音转写和 TinyDialogues 合成儿童导向对话，训练小型 GPT-2 模型，并改变训练数据的数量、来源与多样性。结果显示，模型对训练所用儿童语言环境的预测显著优于其他儿童环境；这种专门化多属词汇与分布层面，简单 5-gram 模型即可复现跨儿童模式（r=.91）。用多个儿童的数据训练能明显改善对汇总留出语言的预测，但在语法基准上无同等明显提升。自然与合成输入在不同数据规模下产生不同的语法和词汇语义模式。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。