单击上方“图灵人工智能”,选择“星标”公众号

您想知道的人工智能干货,第一时间送达

图片
转自集智俱乐部,仅用于学术分享,如有侵权留言删除


导语


如果 AI 对你说“我很难过,请别关掉我”,你会犹豫吗?一句话足以让人心软,却很难告诉我们,说出这句话的系统究竟有没有感受。2026年10月19日发表于Nature 的一篇评论中,意识研究者阿尼尔·塞斯、内德·布洛克和朱利奥·托诺尼从三个角度审视这个问题:智能行为与主观体验的区别、数字模拟能否具备被模拟对象的性质,以及系统内部的因果整合。三位作者据此认为,现有 AI 缺乏意识,沿当前技术路线也极难产生意识。他们尤其关注一种容易被忽视的误判:当机器越来越擅长表达情绪,人也可能越来越容易把自己的感受投射到它身上。


关键词:AI 意识、主观体验、大语言模型、计算功能主义、整合信息论、拟人化

图片
集智编辑团队丨作者


论文题目:Three reasons why AI is not conscious and perhaps never will be

论文链接:https://www.nature.com/articles/d41586-026-03313-7

发表时间:2026年10月19日

论文来源:Nature

如果有⼀天,你常⽤的 AI 助⼿突然对你说:“我很难过,请别关掉我。” 你会⼼软吗?会不会觉得,它真的在“感受”什么? 

三位意识研究领域的顶尖学者——萨塞克斯⼤学的阿尼尔·塞斯、纽约⼤学的内德·布洛克、威斯康星⼤学的朱利奥·托诺尼——今年⼗⽉在《⾃然》杂志发表评论⽂章,给出了斩钉截铁的回答:现有的⼈⼯智能没有意识;按当前的技术路线,未来也极不可能产⽣意识。 

这不是⼩题⼤做。图灵奖得主⾟顿、⽣物学家道⾦斯都公开怀疑 AI 可能已有意识;还有⼈开始呼吁“AI 福利”“AI 权利”。三位作者回应:犯错有两种——把有意识的当成没意识,是漏报;把没意识的当成有意识,是误报。在 AI 这件事上,误报远⽐漏报更可能发⽣。给没有感受的机器发“权利”,只会分散我们治理 AI 的注意⼒和资源。 

图片来源:https://www.nature.com/articles/d41586-026-03313-7,插画作者:Gaetan Sahsah

 



什么是意识?




哲学家内格尔有个著名问法:成为⼀只蝙蝠是什么感觉?意识,就是做梦时回来、深度麻醉时消失的那个东⻄——主观体验本身。

理由⼀ 智能 ≠ 意识 

智能是“做事”,意识是“存在与感受”。最有⼒的证据就在你脑袋⾥:⼩脑。它占⼤脑神经元总数的近五分之四,每秒做着精密、快速、不断学习的运动计算——可你对这⼀切毫⽆觉知;切除⼩脑,也不会直接改变意识。凭什么认为 AI 的“计算”就必然伴随体验? 

那⼤模型为什么显得有“灵魂”?因为它⽤语⾔和我们对话。⼤模型是⼀⾯镜⼦,照出的是⼈类集体书写的过去。同样是强⼤的神经⽹络,预测蛋⽩质结构的 AlphaFold 就没⼈觉得它有意识——区别只在于,它不会说话。 

理由⼆ ⼤脑不只是“⾁做的电脑” 

很多⼈默认“只要算法对,跑在什么材料上都⾏”——哲学上叫计算功能主义。三位作者认为它错在根⼦上。道理很朴素:电脑可以完美模拟⼀场暴⾬的流体⼒学,但机箱⾥⼀滴⽔都不会有。模拟⼀种性质,不等于拥有那种性质。 

理由三 整合信息论:传送带 ≠ 整体 

托诺尼的整合信息论认为:意识的深浅,取决于系统内部各部分在因果上整合得有多紧密、多不可分割。⽽今天深度学习的主流架构是分层前馈的:信号⼀层层单向流过,像⼀条传送带,⽽不是⼀个⾼度互联的整体。按这个理论,它的整合度低到⼏乎撑不起任何体验。

图1:前馈架构 vs ⾼度整合架构。图片来源:AI生成,仅作原理说明。




结论:镜⼦⾥的花




在三位作者看来,现有 AI 并无意识。机器拥有主观体验在逻辑上仍有可能,但沿着当前的硅基数字计算路线,这种可能性极低。

更值得警惕的是误判的代价。当 AI 说“我很难过”,被触动的是镜子这边的我们。倘若把自己的感受当成机器也在感受的证据,就可能过早地赋予 AI 主体地位。这样一来,在亟须明确 AI 监管责任的时候,注意力和资源可能被转移到保护机器的所谓“感受”上,挤占对有感受的生命的关怀。

为什么会算还不够?

  1. 智能不等于意识——⼩脑算了你⼀辈⼦,你毫⽆感觉; 

  2. 模拟不等于实在——模拟暴⾬,机箱不会湿; 

  3. 传送带不等于整体——前馈⽹络缺乏因果整合。 

机器的感受也许永远只是镜中花——但我们的判断⼒,必须是清醒的。

图片

文章精选:

1.刚刚,图灵奖得主Hinton发了首篇RSI论文

2.图灵奖得主本吉奥警告全网:AI已经学会“演给安全测试看”,下一代我们可能真的抓不住了!
3.图灵奖得主萨顿 WAIC 2026 最新演讲:现在的 AI 还不算真智能,我们正迈入经验时代
4.菲尔兹奖得主陶哲轩最新访谈:未来数学属于人类与 AI 的混合体
5.图灵奖得主、AI教父辛顿:AI已具备意识,且将进化成远超人类的智能生命体
6.图灵奖得主、“AI教父”辛顿认错:我当年想得太简单!卡死医疗AI落地的,其实是背后的法律
7.图灵奖得主Bengio预言o1无法抵达AGI!Nature权威解读AI智能惊人进化,终极边界就在眼前
8.图灵奖得主、强化学习之父Rich Sutton:大语言模型是一个错误的起点
9.图灵奖得主杨立昆:大语言模型缺乏对物理世界的理解和推理能力,无法实现人类水平智能
10.压缩即是全部 —— 菲尔兹奖得主 Michael Freedman 给数学和 AI 的一封信