AI里的那个“I”,五位研究者各自怎么理解

“人工智能”这四个字里,最含糊的是“智能”。语言学、计算机、心理学的五位研究者给出的答案差很远,唯一比较齐的一点是:这个词本身就不好用。小编把他们的分歧收成几句大白话:词和意思不是一回事,认知和动手也拆不开,孩子那种探索更不是现有大模型的强项。

抽象人脸,用来说明人工智能里的智能不好定义

大家把 AI 叫人工智能。真要问「智能」是什么,心理学家自己都争了很久。Undark 问了五位研究者:语言学、计算机、认知科学和心理学。答案差很远。比较齐的只有一句:这个词本身就含糊。

小编没有参加访谈。下面是按公开访谈用自己的话收的,不是对话逐字翻译。

词和意思,不是一回事

华盛顿大学语言学教授 Emily M. Bender 的立场很硬。她认为,AI 更像营销词,不是一类技术的学名。大语言模型操作的是词的形式:怎么拼、怎么读。它并不指向这些词在说什么。

人读一段话时,会自动补上一个「谁在说」。您会猜对方知道什么、想让您明白什么。所以模型吐出一段通顺的字,您就容易觉得背后有个脑子。Bender 和同事在 2021 年那篇常被叫做「随机鹦鹉」的论文里就写过这一点。不把这个习惯算进去,很难判断这套技术到底能做什么。

会做题,不等于会修洗碗机

圣塔菲研究所的 Melanie Mitchell 认为,把智能切成「动脑子」和「动手」两半,切得太干净。很多公司谈通用人工智能,只谈做题、写代码。ChatGPT 不会上您家修屋顶。

她举了个例子。模型告诉您:按门左边那个红按钮。门上若有两个红按钮,哪个该按,得您自己看。这一眼,就是智能,不在聊天框里。社交也一样。您不会修车,但知道问谁、怎么把故障说清楚。模型很少真正进入这种关系里。

也有人把定义放得很宽

加州理工的 Anima Anandkumar 给的定义更短:能从数据里学,并且能按环境调整。按这个标准,很多系统已经算。聊天机器人靠您的反馈改自己,天气模型能比传统预报快上万倍,而且更准。她更想谈的不是人的智能,而是原子怎么碰、风暴什么时候登陆。这些规律用好了,能做药、做材料,也能提前撤离。

用大白话设计蛋白质,走的也是这条路。本站另有一篇写西湖大学 Pinal:白话设计蛋白质:西湖大学Pinal怎么把功能说成序列。那篇里的结论和这里一样克制:模型能下单,不能替代实验室。

没有一种叫做「智能」的总分

伯克利的心理学教授 Alison Gopnik 反对把智能想成一根尺子。她认为现在的大模型,擅长的是从人类已经写好的文字和图片里找规律,再生成新的文字和图片。这是文化传承:把别人积累的东西传给您。它不是当初那些人怎么把知识做出来的能力。

另一种能力是强化学习里的「利用」:为了一个目标反复做对的动作,比如下棋、写代码。小孩子不一样。他们会主动乱试,即使短期没有奖励。他们能这样,是因为有人在照顾。Gopnik 把这叫做照顾的智能。现有大模型还没有这一块。

看起来会算术的马

加州大学圣地亚哥分校的 Benjamin K. Bergen 用了一匹老故事。有匹马似乎会做算术:你出题,它用蹄子踩出答案。后来人们发现,它踩的是训练员身上极小的动作,不是真的在算。这仍然是一种学习,只是学的东西跟您以为的不一样。

大模型也会这样。有些题看起来要推理,其实答案已经整段写在训练文本里。行为像,不能直接证明里面的机制也像。

小编怎么用这五种说法

  • 别拿一个总分去比「谁更智能」。先说清比的是写作、动手、社交,还是预报天气。
  • 模型文字通顺,只说明它接下了语言的形式,不说明它懂您的情况。
  • 孩子那种没有奖励也要乱试的能力,现在的聊天产品还不具备。

如果您关心的不是定义,而是创意,可以接着看这一篇:AI出主意很快,人组队为什么还是更有创意。那里的实验说的是,两个人一起想,比一个人加聊天框更不容易想到一块去。