AI 说“我刚才是这样想的”，您会信吗？问题在于，很难验证这些解释是不是真的对应模型内部发生的事。最近有一类研究发现，部分模型能察觉到自己的神经网络活动被人动过手脚，有人认为这是某种程度的“自我反思”，也有人不买账。简单讲：模型确实能在一定比例上发现“被改动”，但能不能说出具体改了什么、算不算内省，目前还有争议。
为什么“AI 能不能内省”是个难题
如果模型真能如实描述自己内部在干什么，研究人员就多了一个检查它“到底在想什么”的工具，这对 AI 安全和认知科学都很重要。但怀疑的声音很多，也很难测试：大语言模型读过海量文本，里面有大量人类描述内省的内容，所以它很擅长把“内心活动”说得头头是道，不管这些话有没有真实依据。
实验怎么做：往模型里“注入概念”
据 Quanta Magazine 的报道，Anthropic 研究员 Jack Lindsey 在 2025 年的报告里首创了这种方法：把与某个概念相关的活动模式注入模型网络。他发现表现最好的模型，大约 20% 的情况下既能发现注入，又能说出概念是什么。
随后，Harvey Lederman 和语言学家 Kyle Mahowald 持怀疑态度，用两个大型开放模型做了验证：阿里的 Qwen3-235B 和 Meta 的 Llama 3.1 405B。他们告诉模型，研究人员可能会往它“脑子里”注入想法，请它发现异常就说出来。研究预印本于今年 3 月发在 arXiv 上。
| 指标 | Qwen | Llama |
|---|---|---|
| 放大 821 个概念时，察觉到注入（最高） | 53.9% | 31.7% |
| 没有改动时，声称被注入 | 0 次 | 0 次 |
| 说对注入的概念（最高） | 13.9% | 12.9% |
也就是说，没动手脚时模型不会乱报警，动了手脚时有相当比例能察觉。但说对概念的比例很低，而且研究者发现这和模型“知道注入了什么”关系不大：Qwen 答错的情况里，近四分之三只是在说“苹果”；如果在模型开始回答之前停止放大概念，说对的比例大幅下降，察觉率却基本不变。这说明说对更多来自这个技术的已知副作用，也就是注入某个概念后，模型无论被问什么都容易提到它。
研究者因此认为，“发现被改动”和“猜出是什么概念”是两件不同的事。同月 Lindsey 等人的另一篇论文在谷歌的开放模型 Gemma 3 里梳理了异常检测的机制，认为它是在原始模型被训练成聊天机器人的过程中出现的，识别概念则依赖另一套独立的过程。
反对的声音：可能只是被“提示”带偏
并非所有人都认为这是内省。纽约大学的研究者换了个办法：不改动网络，只是用提示词让模型“沉迷”某个概念。他们把 Llama 和 Gemma 同时放进概念注入和这种提示的实验里，问模型内部有没有被干预。结果是，模型在提示之后报告“被注入想法”的次数，比真正注入之后还多。
当研究者再给模型第三个选项，也就是“这是提示词被操纵”时，模型无法稳定地区分两种干预。研究者认为，一个真正在检查自身内部状态的模型，应该能分辨这两种情况。
哲学上的麻烦
纽约大学论文作者之一 Shauli Ravfogel 指出，模型的一切运作都基于内部状态，几乎任何行为都可以包装成“自我反思”，如果这也叫内省，“内省”这个词就变得没什么意义了。伦敦大学学院研究人类内省的神经科学家 Steve Fleming 则认为，这项研究说明认知科学家可能把“思考”和“思考自己的思考”之间的区别说得太清楚了。
小编的看法是，这类研究的价值在于把原本偏哲学的问题变成了可以做实验的问题，但离给出定论还很远。想了解更多这方面的大模型动态，可以看站内 2026年11月大模型怎么选。
常见问题（FAQ）
“概念注入”是什么意思？
研究者人为放大模型内部某个概念对应的活动模式，再看模型能不能察觉。
模型能察觉被改动，就说明它有自我意识吗？
不能这么推。研究者只说这可能是有限的反思能力，反对方也有实验指出它可能来自提示的影响。
模型能说出被注入的是什么吗？
偶尔能，上面实验里最高约 13% 到 14%，但研究者认为这更像技术副作用，不能算它真的“知道”。
这项研究对普通用户有什么影响？
短期没有直接影响。它的意义主要在于 AI 安全：如果将来模型能可靠地描述自己，研究者就多了一种检查它的办法。