五度妙笔
企业透视镜
API商城
数据库留给人类理解的时间不多了｜《WAIC UP!》绿皮书Ⅷ
WAKE UP MORE!
yìng
硬
chǎng
场
jǐng
景
chuān
穿
tòu
透
「AI时代进化指南」
导语：
《Nature》十月刊发菲尔兹奖得主、加州大学洛杉矶分校教授陶哲轩的署名评论，标题是Can maths survive AI? 他提出：数学家需要进入“Maths 2.0”，把人类理解置于发表更多解答之上。他真正担心的是：AI生成结果的速度超过了数学家消化吸收的速度，人类对数学的理解正在落后。
同月，菲尔兹奖得主邓煜在“知识分子·赛先生”论坛上质问AI公司：“既然把它当成发表研究成果的研究者，就要按学术界标准评判。对AI来说，证明背后的思路很明显是思维链。所以如果AI证明了一个重大问题，一个非常合理的要求，是公布AI的思维链。但这家公司只极少数公布，大多数以所谓防蒸馏为借口拒绝。”
yìng
硬
chǎng
场
jǐng
景
chuān
穿
tòu
透
人类从“发现者”降级为“核验者”
科学从诞生起就不只是“得出正确结论”，是人通过可理解的方式抵达结论。哥白尼、牛顿、爱因斯坦，价值不只在结论对，在于他们让人类看懂了世界怎么运转。
AI黑箱输出一个正确证明，人类却看不懂，这在科学史上是一件性质全新的事：结论进了知识库，理解没有进任何人的脑子。
这就是《WAIC UP!》第八期要聊的事——「硬场景穿透」。AI进入数学、科学发现、临床、太空这些高壁垒、高代价、强约束的场景，遇到的其实是同一个问题：它给出结果，但不给出人类能理解的推导。
这才是这件事真正让人不安的地方。如果理解不再是必需品，人类在知识生产中的位置是什么？
#1
柳楠｜医学诊断
警惕AI诱导的“从未掌握技能”(Never-Skilling)
理解缺失在医学诊断里，表现为一个具体的数字：即使AI能解决90%甚至95%的问题，关键时刻那5%的错误仍可能造成很大伤害。杜克-新加坡国立大学医学院生物医学数据科学中心副教授柳楠举急诊分诊为例：“等验血结果出来时可能已经过去两个小时，医生早已看过病人，分诊也失去了意义”。他的判断只有一句：“AI应该解决人类暂时很难解决、或者确实需要它处理的问题，而不是把医疗系统已经做得很好的事情再做一遍。”很多研究的初衷很好，最后却变成了为了用AI而用AI、为了用大模型而用大模型。一些大模型方法没有和传统模型比较，一旦比较，就会发现很多场景并没有实质性差别。
他指出，“假设一个模型准确率达到90%，看起来很高，但对单个病人而言，结果只有对与错，不存在90%。如果100个病人中有两位严重心脏病患者，而模型只识别出一位，那么对这两位患者来说，漏诊率就是50%。”反过来，为了确保不漏诊，模型可能把30个人都判断为有病，28位健康者成为假阳性，其他低风险患者原本只需等待一小时，也可能因此要等八小时。
但柳楠更担心的是人。他提了一个词叫never-skilling：“如果把所有信息输入AI并直接获得诊断，人只需要确认‘是’或‘不是’，独立推理能力可能从未真正形成。”一些医院已经在讨论定期暂停使用AI，测试医护还能不能正常工作。他的底线是：临床训练必须先打好基础、形成临床推理能力，再学习如何评估AI、与AI协作，并用专业知识判断AI的对错。
#2
张娅｜生命科学
看清了局部，还是不知道干预会把生命带向哪里
上海交通大学人工智能学院副院长、特聘教授，医学人工智能研究院常务副院长张娅在《WAIC UP!》第八期里提到：看清局部，还不足以判断干预的后果。一个蛋白被抑制后，影响如何从分子、细胞传递到组织、器官乃至全身？接下来几个月甚至几年里，不同生理系统会怎么变，最终给患者带来什么？她说，生命科学已经拥有极其精密的感知系统，与之相比，对生命过程进行系统推演的能力仍然薄弱。“生命系统难以推演，根本原因在于观测不完整、规律不完备，而实验机会又十分有限”。
这就是理解缺失在生命科学里的样子：数据越来越多，但对“接下来会发生什么”的系统判断，仍然薄弱。
辉瑞的托彻普试验是个注脚。15,067名高危患者，关键指标改善72%，结局却是治疗组93例死亡、对照组59例，试验提前终止。张娅做的“推演生命”，就是从遗传性罕见病切入，让AI模拟一次干预如何从分子传到细胞、组织、全身，把试错前移到模型和实验里。她参与的DeepRare已经能为罕见病诊断提供“带有来源、可供医生核查的候选诊断”，但她的目标不止于诊断。她说，未知机制仍需由实验和临床证据建立，模型的价值在于扩大假设空间、减少信息遗漏，并帮助研究者选择实验。
#3
吴泰霖｜工程仿真
工程领域不欢迎“大概也许”
西湖大学博士生导师、原力引擎创始人吴泰霖说，“如果AI不能理解牛顿定律、热力学第二定律和纳维-斯托克斯方程所描述的世界，它就永远只能是工程师的‘文字助手’，而非真正的‘协作伙伴’”。
理解缺失在工程里意味着什么？他认为：“工程领域不欢迎‘大概也许’，它要求确定性、可预测性和安全性。当AI说‘我认为这个结构在给定载荷下是安全的’，工程师需要知道这个判断的置信度，需要了解AI是基于什么物理依据做出的决策。”物理法则就是最严苛、最公正、永不疲倦的评判官。
他还提到一件和“人类理解”直接相关的事：一个工程团队最值钱的知识，往往不在文档里，而在资深工程师的判断中——网格怎么划、系数怎么取、哪些角落容易出问题。人靠师徒传承和项目复盘对抗遗忘，模型则需要架构上的对应物。AI能在短时间内排除有明显短板的方案，但无法替人判断两个各有优劣势的方案，哪一个在当前更值得被使用，因为这个没有标准答案。
#4
Bidushi Bhattacharya｜商业航天
不再等待人类理解和指令
太空领域的火星车早已不再等待人类理解和指令。信号延迟以分钟计，它必须自己判断，而每一个偏差的代价都被时间放大。
AstroHUB创始人兼首席执行官、前NASA科学家Bidushi Bhattacharya说：“太空和地球面临的问题是一样的：模型偏差、数据偏差、网络安全、人类过度信任——这些在地球上的AI系统里存在，在太空里也一样。”这里最可怕的是人不再理解、却依然信任。
她举火星车为例：地球和火星之间的往返信号延迟太长，火星车不可能移动一厘米就发消息回地球问“下一步怎么办”，然后等指令回来。它需要机载智能。当然，火星车不是不懂物理。它搭载的自主导航、路径规划、障碍规避，背后是明确的物理模型和工程规则，人类工程师清楚地知道它为什么能这样动、边界在哪。它的“自主”是在人类设定的框架内自主，不是黑箱给出一个没人懂的结果。
她也看到了另一面：我感觉，太空的民主化一定会发生。对我来说，能看到AI推动太空民主化，让那些过去根本无力参与的国家真正有机会加入进来，这是一个梦想成真的时刻。但她说，最紧迫的问题不是技术，而是制度：“如果你想成为太空领域的领导者，你就必须首先建立起严谨的规则，并提供给其他人参考。”门槛在降低，规则必须同时跟上。理解跟不上依赖的速度，制度就得先补上这个缺口。
#5
郭毅可｜人机协同
签字还在，判断没了
病房里的“理解”更加不可或缺。中国工程院外籍院士、香港科技大学首席副校长郭毅可说，医疗是最直观的例子，即便模型在某些影像识别任务上表现出色，在今天的制度下，最后签字的仍然是人。但如果医生不再认真判断，只把签字当作程序性动作，所谓“人在回路中”便只剩形式。责任不等于在结果后面留下姓名，它意味着理解判断依据、意识到可能风险，并在不确定性仍然存在时作出决定。三者缺一，签字就是废纸。
“真正可靠的共生，不是让人替机器留下姓名，而是让能力、权限和责任重新对齐。”责任的边界需要随着判断权和行动能力的迁移而动态重建：哪些决定机器可以独立完成，哪些环节必须由人实质复核，什么条件下必须停止自动执行，都需要清楚界定。机器可以告诉我们哪条路径概率更高，却不能仅凭概率决定什么目标值得追求；它可以执行选择，却不能让后果失去责任主体。
AI给得出结果，给不出理解；而人对结果的依赖，正在超过人对结果的理解。
#7
互动投票
☑ 2026年度AI关键词（二十二）：硬场景穿透
/订购纸刊/
/订阅全年电子刊/
▲
解锁「AI时代进化指南」
看见更多可能
Hello:
世界人工智能大会（WAIC）推出首份刊物《WAIC UP!》，一部「AI时代进化指南」。
WAIC UP! WAKE UP MORE！
我们邀请全球AI及跨领域的先锋力量，共同释放思考的力量与智慧的主张，旨在唤醒更多人，探究关乎技术跃迁、自我边界和未来文明的无限可能。
准备好！释放你的思考，觉醒你的行动，与我们一同探究那些尚未显现的可能性，勾勒以人为中心的未来智慧文明全景图！
