arXiv Artificial Intelligence· Linda Zeng, Steven Y. Feng, Michael C. Frank·· 3 小时前AI 评分26
用 GPT-2 小模型研究双语习得:双语输入不会拖累第一语言学习
Bringing Up a Bilingual BabyLM: Investigating Multilingual Language Acquisition Using Small-Scale Models
AI 导读
研究者用合成数据和机器翻译构建英西、英中、英荷匹配的单双语数据集,训练 GPT-2 模拟不同双语暴露条件,并在困惑度、语法性和语义知识上评测。双语模型在第一语言上与单语模型表现相近,第二语言同样表现强劲,该结论在真实语言数据甚至打乱的第二语言输入上依然成立。结果表明不同双语暴露方式之间没有明显差异,双语输入对通用统计学习模型不构成原理性挑战。
来源:arXiv Artificial Intelligence · arxiv.org