小孩不用背几十亿个词,两岁左右就能听懂成千上万个词、说出自己的需求,而大语言模型却需要吞下海量文字。这个差距一直让科学家好奇。简单讲:普林斯顿大学的团队,用婴儿从出生到约三岁的家庭录音,给每个孩子训练了一个“AI 分身”,让它像孩子一样一天天地听,结果发现要加上“回放”机制,才能学得像样。下面小编把这项研究说清楚。以下内容根据 Singularity Hub 的报道整理,细节请以原始报道和论文为准。
为什么要拿婴儿来训练 AI
婴儿学语言的方式很特别:听父母说话、听陌生人聊天、听睡前故事,几个小时的语音就能起步。相比之下,聊天机器人要消耗大量水和电,数据中心也引来不少争议。研究者希望弄明白婴儿是如何学语言的,包括学习出了问题时会发生什么,也希望借此启发更节能的机器学习方法。
过去的研究已经发现,婴儿很早就能察觉语音的变化,大约八个月时,能从连续的语音里找出词语的统计规律;用眼动追踪的研究也显示,孩子在会说之前,听懂词语的能力就在快速增长。研究者此前也用麦克风和可穿戴录音设备记录过孩子的日常,但很多模型只针对某一种语言技能。这一次,团队想在更接近真实的条件下建模。
实验是怎么做的
- 采集:研究是普林斯顿“前 1000 天”项目的一部分。团队建立了伦理框架,让家长始终可以撤回或删除录音,最终招募了 15 个背景各异的家庭;
- 数据量:每个家庭装了 4 到 14 台设备,每天大约录 12 小时,总共积累了超过一百万小时的音视频;
- 处理:用 AI 流程识别婴儿何时出镜、何时有说话声,去掉噪音、长时间的安静和重叠的交谈后,每个孩子最多提取了 6600 小时的音频;
- 模型:每个孩子对应一个相对较小的模型,从“一张白纸”开始,事先不知道英语的发音,也不知道词在哪里分开。它有两个部分:一个音频编码器,把语音切成 20 毫秒的小段;一个预测解码器,学习预测接下来可能出现的声音;
- 训练方式:不是一次性喂完所有数据,而是按天推进,模拟孩子的真实经历。
最初效果并不好,关键是“回放”
研究者发现,即使有这么丰富的日常语音,只按天听一遍,学习效果并不理想。后来的办法,是借鉴大脑在睡眠中巩固当天记忆的过程:让模型在每个模拟日结束时,重新听一遍当天最近的一些语音片段,也就是“回放”。加上这一步以后,模型的学习轨迹开始贴近真实的孩子:
- 先学会语音的基本单位(音素),再逐渐认出反复出现的词;
- 起步比较慢,但随着孩子清醒的时间变长,孩子和它的“AI 分身”学新词的速度都在加快;
- 到了大约 1000 天,词汇量已达到数千个;
- 在八个孩子的模型中,大约 15 个月内就学到了约 37 个音素,并在两岁之前开始认词,不过各自速度差别很大。为了贴合每个孩子的进度,团队还调整了模型参数,比如每晚回放多少语音。
这个 AI 并不等于婴儿的大脑
研究者自己也强调了局限:
- 模型处理信息的方式,不像神经元那样并行且节能;
- 它只“听”声音,而婴儿还会借助目光、手势、表情和与他人的互动;
- 下一步需要分清楚,模型里哪些部分真的反映了婴儿的学习,哪些只是计算上的捷径,后者也可能启发新的机器学习思路。
团队还计划利用配套的视频,让模型逐步获得更多接近孩子的能力,看看会发生什么。感兴趣的朋友,可以继续关注 AI 与认知科学的交叉研究,也可以看看本站的AI 能察觉自己被植入想法吗,了解另一个关于模型“内部”的有趣研究。
常见问题(FAQ)
这是不是说 AI 已经能像婴儿一样学说话了?
还不是。它只学习了声音,学到的是音素和部分词语,距离真正理解和使用语言还很远。
“回放”为什么重要?
研究者发现,没有这一步,模型的学习效果令人失望;加上它,模型才能更接近孩子的发展过程。
家庭录音会不会侵犯隐私?
团队设计了伦理框架,家长可以随时撤回或删除录音。具体做法请以论文和研究机构公布的信息为准。
这对普通人有什么用?
短期内主要是科研价值:帮助研究语言发育,也可能给更节能的 AI 训练方法带来启发。
参考来源:Singularity Hub 的相关报道及普林斯顿“前 1000 天”项目公开信息。