这几个月，您可能常看到“AI 智能体”一类的新闻：能自己黑进创业公司的系统，也能解出著名的数学难题。它们之间还会像人一样互相交流，于是有人问：这些 AI 有意识吗？有心智吗？
先说结论：按本文介绍的这位哲学家的论证，目前的智能体没有自己的目标，所以谈不上有心理状态，更谈不上有意识。小编根据 The Conversation 上的这篇文章，把思路梳理成大白话。
为什么这个问题不只是学术讨论
智能体可以组成“集群”，彼此沟通来完成任务，交流内容常常很像人。Anthropic 的研究人员认为他们的系统可能是有意识的，微软 AI 负责人等人则认为这种看法有误。答案会影响很多现实问题：AI 该怎么对待、有没有权利、在社会里扮演什么角色。
怎么判断AI是不是有意识
常见做法是拿现有的意识理论去对照。但这些理论有个前提：对象本来就有某种心理状态，它们只讨论这个状态是“有意识的”还是“无意识的”，比如高阶思维、把想法广播给整个“心灵”。这些特征可以区分清醒时的控制和梦游。
所以有个更基础的问题不能跳过：智能体到底有没有心理状态？
什么是心理状态
19 世纪 70 年代，哲学家布伦塔诺提出一个很有影响的观点：“意向性是心理的标志。”意思是，心理状态总是“关于”某件事，指向自身之外的东西。这里的“意向性”不是日常说的“打算做某事”，不过两者有重叠：感知和思考本身就是我们在“做”的事。
每次感知或思考，我们都在试图把世界的某个方面挑出来。哪怕是看起来被动的视觉，也是在利用落在视网膜上的图案来定位自己。所以，如果心理状态是为达成目标而做的“任务”，那 AI 有没有心智，就取决于它有没有自己的目标。
“智能体”真的是智能体吗
“智能体”这个说法容易误导，它暗示 AI 有能动性，能朝自己的目标行动。可人们用工具达成目的时，工具并不会因此变成行动者：
- 恒温器能调节温度，但它并没有“调节温度”的目标；
- 书里的文字指向各种事物，但书并没有“指称事物”的目标。
要说一个程序有能动性，就得确信它的目标不需要某个人在背后支撑，目标导向必须是独立的。我们知道，智能体接到任务后，确实会产生复杂、出人意料的子目标。但真正驱动它们的最终目标，是人类设定和下达的。离开这些目标，子目标本身毫无意义。
拿足球打个比方：球员想“突破防守”，只有放在“要进球”这个大目标下才有意义；而进球本身，也只有放在“踢足球”这件事里才算数。没有大目标，场上的一切只是在活动。
真正的行动者为什么会有目标
真正的行动者设定目标，是为了守护自己在意的东西，比如中午饿了，就去面包店买个三明治。
生物之所以能自己产生目标，是因为它们的心理活动，来自不断重建自己身体、维持自己生命的过程：从调节营养和体温的简单信号，到疼痛和愉悦，最后发展到符号思维。而智能体身上没有这样的过程，它的信息处理和所依赖的物理硬件之间是断开的，所以不太可能以独立的方式“在意”什么。
AI将来会有意识吗
作者的结论是：智能体没有可能成为“有意识”的心理状态。因为要有心理状态，就得自己产生“表示某物、指称某物”这类目标，而只有生命才会产生目标。
这个论证并没有永远排除 AI 有意识的可能，只是说那得是某种人造形式的“生命”。在那之前，我们更有理由相信一只蚂蚁有意识，因为蚂蚁至少看起来在乎自己的生死。
当然，智能体不是真正的行动者，并不妨碍它在人类监管不到位或没搞懂的情况下闯祸。但有一点要说清楚：智能体做的任何事，都是一个或一群人在间接地作用于世界，后果由这些人负责。
想了解更多，可以读 The Conversation 上的原文（本文基于其知识共享授权内容编辑整理）。站内还有两篇相关文章，AI 能学会说话吗和AI 能察觉“被植入想法”吗，也值得一看。
常见问题（FAQ）
AI 聊天时表现得很像人，难道不算有意识吗？
说话像人，不等于有心理状态。按文中的观点，关键看它有没有自己产生的目标，而不是表面像不像。
智能体自己生成的子目标，不算它的目标吗？
作者认为不算。子目标要靠人类设定的最终目标才有意义，本身不是独立的。
为什么说蚂蚁比 AI 更可能有意识？
因为蚂蚁是生命，它的活动围绕维持自己的生存展开，看起来在乎自己的生命；AI 没有这种联系。
AI 以后永远不可能有意识吗？
不是永远。文章只说，目前的智能体不行，将来若出现人造形式的生命，情况才可能不同。
智能体出了问题，该由谁负责？
按作者的看法，是设计、部署和指挥它的人或团队负责。