从达特茅斯到对话框:一文看懂AI发展全史
1956年夏天,新罕布什尔州汉诺威,达特茅斯学院一栋外墙爬满常春藤的旧楼里,十来个人凑在一起开了两个月的会。会议室在一楼,夏天闷热,没有空调,参会的人后来回忆,讨论常常持续到半夜,白板上写满公式又被擦掉。
会前,麦卡锡、明斯基、罗切斯特和香农四个人联名写了一份提案,向洛克菲勒基金会申请经费。提案里有一句话,后来被引用了七十年:
学习的每一个方面,或者智能的任何其他特征,原则上都可以被精确地描述,以致能够制造一台机器来模拟它。
麦卡锡给这件事起了个名字——Artificial Intelligence。他选这个词,部分原因是想跟当时已经有点名声的"控制论"划清界限。诺伯特·维纳那本《控制论》1948年出版后成了畅销书,麦卡锡觉得那套东西太杂、太模糊,他要的是一个干净的、属于计算机科学的领域。
他们以为一个夏天就够了。
七十九年后,2022年11月30日,旧金山,一个叫ChatGPT的网页对话框悄悄上线。五天,一百万人。两个月,一亿人。这个速度在此前的互联网产品史里没有出现过,TikTok做到一亿用了九个月,Instagram用了两年半。
从达特茅斯那间闷热的会议室,到那个白色的输入框,走了七十九年。
从那个输入框到今天,只走了一千四百多天。
这篇文章想讲清楚的就是这两段时间里发生了什么:为什么前七十九年走得那么慢,慢到两次差点整个领域断气;为什么最近这四年反而像被谁按了加速键;以及,那些在最冷的年份里没有走开的人,究竟在等什么。
◆ ◆ ◆
第一章
在名字出现之前
在"人工智能"这个词诞生之前,这个问题已经被问了两百多年。
莱布尼茨在十七世纪就设想过一种"普遍文字",把人类的全部推理化成计算,遇到争论时两个人只要说一句"让我们算一算"。1854年,乔治·布尔写了一本《思维规律的研究》,把逻辑变成了代数。布尔的代数后来成了所有计算机的底层语法,而他的玄孙,正是那个在二十世纪八十年代坚持神经网络的杰弗里·辛顿。
1900年,希尔伯特在巴黎提出二十三个问题,其中第十个是:是否存在一种机械程序,能判定任意不定方程是否有整数解。1928年,他又把问题推得更远,问整个数学是否可判定——Entscheidungsproblem,判定问题。
1936年,一个二十四岁的英国人给出了答案。艾伦·图灵在《论可计算数》里设想了一台机器:一条无限长的纸带,一个读写头,一张规则表。这台机器一次只能做一件极小的事——读一个符号、改一个符号、左移或右移一格——但图灵证明了,凡是人能算出结果的函数,这台机器都能算。同时他也证明了,有些问题它算不出来,比如"这台机器会不会停机"。
同年,图灵在普林斯顿跟丘奇学习,得知丘奇用另一条路(λ演算)得出了等价结论。判定问题的答案是否定的。数学不是全能的,这一刀切下去,反而为"机器能做什么"腾出了清晰的地盘。
真正把"智能"往机器上装的第一步,发生在1943年。神经生理学家沃伦·麦卡洛克和逻辑学家沃尔特·皮茨合写了一篇论文,《神经活动中内在思想的逻辑演算》。他们把神经元简化成一个阈值开关:如果输入信号的加权和超过某个阈值,神经元就放电,输出1;否则输出0。就这么简单。而用这样的单元,他们搭出了能够实现"与""或""非"的逻辑网络。
这篇论文粗糙得近乎冒犯——真实的神经元有几千个突触、十几种神经递质、还有时间延迟和可塑性——但它做了一件此前没人做成的事:把"思考"放进了可以计算、可以画成电路图的框架里。
1949年,加拿大心理学家唐纳德·赫布补上了另一半。他在《行为的组织》里提出一条规则:如果两个神经元反复同时兴奋,它们之间的连接就会增强。这句话后来被压缩成一句口号——Cells that fire together, wire together。学习的机制,第一次有了可操作的猜想。
1948年,维纳的《控制论》出版。1951年,明斯基和学生造出了SNARC,一台用三千个真空管、四十个"神经元"模拟老鼠走迷宫的机器。1955年,纽厄尔、西蒙和肖编写了"逻辑理论家",把罗素和怀特海《数学原理》里的定理当成习题做,最后证出了五十二条里的三十八条,其中一条的证明比罗素本人的还简洁。
这批人有一个共同的信念,简单说就是:智能的本质是符号操作,而符号操作可以被形式化。这个信念支撑了他们二十年,也在三十年后变成了他们的枷锁。
1955年,麦卡锡动手写提案。他找到明斯基、罗切斯特和香农联署,题目定为《达特茅斯人工智能夏季研究项目》。提案里有个判断,今天读起来仍然很有分量:他们相信,如果一群精心挑选的科学家一起工作一个夏天,就能在机器的智能模拟上取得重大进展。
◆ ◆ ◆
第二章
一个夏天的许诺
1956年6月,会议开幕。实际到场的人数比预想的少得多,全程参与的大概十个人。
麦卡锡二十八岁,明斯基二十九岁,香农四十岁,纽厄尔和西蒙从兰德公司带着他们的"逻辑理论家"赶来。会议没有主席,没有议程表,也没有论文截止日期。上午有人讲自动机理论,下午有人争论神经网络和符号系统哪条路对,晚上继续吵。
两个月的结论是:没有结论。
没有出现他们期待的突破,没有人造出一台会思考的机器。会议真正的产出,是那个名字。从这一年起,"人工智能"成了一个可以被写进经费申请、写进课程表、写进报纸标题的东西。
会后的几年里,进展看起来确实像在兑现承诺。
1958年,麦卡锡发明了Lisp。这门语言用括号和递归把符号处理变得优雅,后来统治了AI研究三十年。麦卡锡本人对它没有太多浪漫想象,他关心的是"能不能用几行代码写一个求值器",答案是能,十几行。
1957年,康奈尔航空实验室的弗兰克·罗森布拉特造出了感知机。跟麦卡洛克和皮茨的纯理论模型不同,这是一台真机器:20乘20的光电管阵列当视网膜,权重用电位器表示,学习时由电动机转动电位器来调数值。它被教会认字母、认形状。罗森布拉特在海军和航空部门的资助下越做越大,报纸开始写"会学习的机器"。
这条路叫连接主义。它跟麦卡锡、明斯基那条符号主义的路,从第一天起就不是一路人。符号派认为智能是规则和逻辑,写进去就好;连接派认为智能是大量简单单元的连接强度,得让它自己长出来。
1959年,IBM的亚瑟·塞缪尔写了一个跳棋程序。它不靠背棋谱,而是跟自己下棋,从胜负里调整评估函数的权重。塞缪尔在论文里用了"machine learning"这个词。他的程序最后能赢他自己——这在当时被当成一件很了不起的事,也确实很了不起。
1961年,纽厄尔和西蒙推出通用问题求解器GPS。它把问题拆成初始状态和目标状态,用手段-目的分析去找中间的算子。听起来很笨,但在证明定理、解谜题这类任务上,它确实管用。
1965年,戈登·摩尔在《电子学》杂志上写下那条后来以他命名的观察:集成电路上的元件数量每年翻一番。这条曲线在接下来的半个世纪里几乎没失约过。对AI研究者来说,这意味着算力会自己送上门来——他们只需要等。
那几年的气氛,用"乐观"形容还太保守。1965年,西蒙对一群工程师说:二十年内,机器将能够做人所能做的任何工作。1970年,明斯基对《生活》杂志说:三到八年,我们就会有一台与人类智力相当的机器。
然后是ELIZA。
1966年,MIT的约瑟夫·魏泽鲍姆写了一个几十行的程序,扮演心理治疗师。它做的事情极其简单:抓取用户句子里的关键词,套进预设的句式里反问回去。用户说"我最近很不开心",它回"你为什么最近很不开心"。用户说"我妈妈不喜欢我",它回"跟我说说你妈妈"。
魏泽鲍姆本来只是想证明一件事:这种对话有多么空洞。结果他的秘书让程序跑了一下午,然后要求他离开房间,"因为有些私事想单独跟它说"。这个反应让魏泽鲍姆此后半生都在反对把这类东西当真。他后来写了《计算机能力与人类理性》,反复警告:不要把人当成可以被建模的机器。
同一年,另一个警钟也响了。美国国家科学院成立了自动语言处理咨询委员会(ALPAC),评估机器翻译的进展。结论很冷:投入了两千万美元,产出是零,短期内不可能追上人工翻译。经费砍了,机器翻译进入长达二十年的冰河期。
1968年,库布里克拍了《2001太空漫游》,HAL 9000成了全世界最著名的AI——一台会撒谎、会害怕、会杀人的计算机。同一年,斯坦福研究所的Shakey机器人第一次能自己规划路线、绕过障碍、推箱子,但控制它的计算机占了整整一个房间。
乐观的传统一直延续到1969年。然后,一本书把它按住了。
那本书叫《感知机》,作者是明斯基和西摩·佩珀特。书里用数学证明:单层感知机连"异或"这种最基本的逻辑运算都学不会,因为它只能画一条直线来分割空间,而异或的两个类别没法用一条线分开。
书里其实也讨论了多层网络的可能性,理论上能解决异或。但当时没有人知道怎么训练多层网络,梯度信息传不回去。于是这本三百多页的书,在事实上给连接主义判了死刑。
罗森布拉特和明斯基的关系从此彻底破裂。1960年代,两人在同一个资助体系下抢经费、抢话语权,罗森布拉特的书里管明斯基叫"那个用数学吓唬人的"。1971年,罗森布拉特在切萨皮克湾划船时溺水身亡,四十三岁。他的研究再也没有被接上。
◆ ◆ ◆
第三章
第一次寒冬
1973年,英国的一份报告给这场热闹画上了句号。
报告的撰写者是应用数学家詹姆斯·莱特希尔。他受英国科学研究委员会委托,评估AI研究的成果。结论毫不留情:这些工作没有一项兑现了当初的承诺,绝大多数成果在实验室之外毫无用处。他还提出了一个技术判断,这个判断在很长时间里是对的——AI面临的不是"再大一点就行"的问题,而是"组合爆炸":搜索空间随问题规模指数增长,加算力没用。
英国政府几乎停掉了所有AI拨款。美国那边,国防部高级研究计划局(DARPA)在1973年调整了战略,要求所有研究必须挂靠具体的军事任务,不再为"探索性"的AI买单。1974年第一次石油危机爆发,各国财政收紧,剩下的经费也迅速蒸发。
寒冬来的速度比想象中快。1973年还在开会的课题组,1975年就散了。研究生找不到教职,转向数据库、编译器、操作系统——这些方向当时更缺人,也更容易出论文。
不过寒冬的真正原因,不只是报告和经费。
1960年代那批人的许诺,建立在一个错误的前提上:他们以为算力会自己追上,而智能可以在小规模上被抓住。事实上,1970年一台大型机的内存只有几兆字节,硬盘以十兆计。要让机器拥有一个儿童水平的常识——知道水是湿的、绳子可以拉不能推、人死了不会再吃饭——需要的存储和推理量,远远超出当时硬件的极限。研究者很快发现,光是手工录入几千条常识,就要耗掉一个团队好几年。
组合爆炸也是硬的。象棋可以靠搜索,但一旦问题没有清晰的评估函数,搜索就是在黑暗中摸索。
在所有人都往外走的时候,有一个人往里走。
1972年,杰弗里·辛顿进入爱丁堡大学读博士。他的导师克里斯托弗·希金斯当时正在研究神经网络,辛顿以为自己终于找对了门。结果他刚到,希金斯就改了主意——受明斯基那本书影响,希金斯认为神经网络是无稽之谈,劝辛顿转去做符号AI。
辛顿说,再给我六个月,我会证明这条路能走通。
六个月后,他又说了同样的话。再六个月,还是同样的话。两个人这样磨了五年,辛顿熬到博士毕业。
他后来解释过自己为什么这么笃定:他从小在一个人人信上帝的环境里长大,自己是唯一不信的那个。这让"所有人可能都是错的"变成了一件很自然的事。
整个七十年代,连接主义只剩下几个据点。辛顿在加州找到了大卫·鲁梅尔哈特和几个同道,他们在圣地亚哥定期见面,讨论怎么让多层网络学会东西。1970年代末,这个圈子里的人加起来不超过二十个。
到1979年,'人工智能'这个词在美国的经费申请书上已经不太受欢迎了。研究者开始换名字:知识工程、模式识别、智能控制、决策支持。同一批人,同一批问题,换个招牌继续干。
寒冬不是技术死了,是钱和话语死了。
◆ ◆ ◆
第四章
专家系统与第二次繁荣
把AI从寒冬里捞出来的,不是更聪明的算法,是更朴素的想法:既然造不出通用智能,那就造专用的。
这个想法最早的实践者是斯坦福的爱德华·费根鲍姆。1965年起,他和遗传学家、化学家一起做DENDRAL——一个分析质谱数据、推断有机分子结构的程序。它的做法是把化学家的经验整理成规则:如果谱图上出现某个峰,那么可能存在某种结构片段。
DENDRAL在化学界站住了脚,因为它真的比新手快、比外行准。
接下来是MYCIN。1976年,斯坦福的肖特利夫等人做出这个诊断血液感染的系统,里面装了大约六百条规则,还带一套"可信度"机制,能在信息不全时给出概率判断。测试结果让人意外:MYCIN的诊断准确率高于普通内科医生,接近感染病专家。
但MYCIN一天也没在临床上真正用过。原因不在技术:一是跑一次要几十分钟,二是出了问题谁负责——如果系统建议的抗生素剂量导致病人肾衰,责任算医生的还是算程序员的?
这是AI第一次撞上"技术之外"的墙。此后几十年,这道墙反复出现。
1980年,费根鲍姆在一篇文章里提出"知识工程"这个概念,并说了一句流传很广的话:知识就是力量。他的意思是,让机器变聪明的方法不是给它更强的推理能力,而是把人类专家的知识一条条灌进去。
这个思路在商业上大获成功。
卡内基梅隆大学的约翰·麦克德莫特做出XCON,专门替DEC公司配置VAX计算机的订单。一台VAX有几百个可选部件,搭配规则成千上万,销售员手工配置经常出错,出错就要返工。XCON从几百条规则长到上万条,据说每年替DEC省下数千万美元。
企业闻风而动。Symbolics、LMI、Teknowledge这些公司开始卖Lisp专用机和专家系统外壳,硬件毛利极高。到1986年,AI相关产业规模超过了十亿美元,媒体开始用"第二次AI热潮"这个词。
国家层面也下了注。1981年,日本通产省启动第五代计算机计划,预算约八点五亿美元,目标是造出能并行推理、能听懂自然语言、能自己写程序的机器,核心语言选的是Prolog。这个计划震动了欧美——美国匆忙组建MCC(微电子与计算机技术公司)搞联合研发,英国推出Alvey计划,法国有类似动作。一场以"智能"为名的产业竞赛,在冷战末期提前上演。
学术界这边,另一条线悄悄接上了。
1982年,物理学家约翰·霍普菲尔德发表了一篇论文,提出一种新的网络结构。它的妙处在于引入了一个"能量函数":网络每次更新都会让能量下降,最终停在某个局部最低点,而那个点就是它记住的模式。这意味着联想记忆可以被数学描述——给它半张脸,它能补全整张脸。
霍普菲尔德的工作吸引了大量物理学家进入这个领域。他们带来了统计力学的工具:自旋玻璃、退火、配分函数。1983到1985年,辛顿和特里·谢诺夫斯基、大卫·艾克利一起做出了玻尔兹曼机,让网络能够以概率的方式学习数据中的特征,而不只是记住样本。
真正关键的一篇论文,发表在1986年的《自然》上,篇幅只有四页。
作者是鲁梅尔哈特、辛顿和罗纳德·威廉姆斯,题目叫《通过反向传播误差来学习表征》。核心思想很朴素:网络输出错了,就计算误差,然后把误差从输出层往输入层一层层传回去,算出每个参数对误差"负多大责任",再按责任大小调整它。
这就是反向传播。它不是全新的想法——控制论里早有类似的链式求导应用,1970年也有人提过——但这篇论文第一次把它完整地用在多层网络上,并且用实验证明它管用:网络能自己从数据里学出有用的中间表示,不需要人手工设计特征。
这篇论文解决了《感知机》留下的那个死结。多层网络可以训练了。
只是当时没人在意。
1986年的AI圈正在为专家系统的订单忙得不可开交,没人有空看一篇讲梯度下降的论文。论文发表后的几年里,引用量一直不高。辛顿后来回忆,那段时间他申请经费,评审意见里最常见的一句是"这条路已经被证明走不通了"。
1987年,第二次寒冬来得比第一次更突然。
导火索是硬件。专家系统的商业模式建立在Lisp专用机上——一台Symbolics机器卖几万美元,毛利极高。但1987年前后,Sun的工作站和英特尔的个人电脑性能追了上来,价格只有十分之一。客户一算账,没人再买专用机。Symbolics在几年内市值蒸发九成,Lisp机市场一夜崩塌。
同一年,DARPA的新任署长认为AI不是"下一个浪潮",把预算转向了更可能出成果的方向。日本第五代计划还在继续,但内部已经开始承认目标难以达成。
第二次寒冬持续到1993年前后。跟第一次不同的是,这次没人再公开争论AI行不行——大家只是不提这个词了。
◆ ◆ ◆
第五章
消失的二十年
专家系统的失败,教科书上通常归结为三句话:知识获取瓶颈、脆性、维护成本。
说得直白一点。第一,往系统里灌知识极度依赖人。一个系统要装几千条规则,每条规则都要从专家脑子里一点点抠出来、写成形式化语句、再跟已有的规则去冲突检查。MYCIN的六百条规则,花了好几年。第二,这种系统只知道它被教过的东西。一旦碰到规则库的边界,它不是变笨,是直接崩掉——给出一个看起来同样自信、但完全错误的答案。第三,规则会互相纠缠。改一条,可能影响几十条,几年之后没人敢动那个库。
这三个问题没有一个是当时的技术能解决的,因为它们本质上是"如何让机器自己从数据里获得知识"的问题。
讽刺的是,答案在1986年就发表了,只是没人看。
1990年代的AI,把重心转到了统计学习。这条路不追求"模拟人怎么想",只追求"能不能把预测做准"。1995年,科尔特斯和万普尼克提出支持向量机,用核函数把低维空间里分不开的数据映射到高维,理论上漂亮,实践中也稳。差不多同期,AdaBoost把一堆弱分类器加权组合成强分类器;2001年,布雷曼提出随机森林,几乎不需要调参就能用。
这些方法有个共同点:数学清晰、边界可证、论文好写、工业界也能用。它们成了那十年真正的主流。
神经网络没有死,但它退了很远。
退到哪儿去了?退到了那些不追求"智能"、只追求"识别"的角落。1989年,杨立昆在贝尔实验室做出第一个能识别手写数字的卷积网络。到1998年的LeNet-5,这套系统已经在美国的银行里跑起来了——读取支票上的手写金额。巅峰时期,全美大约百分之十到二十的支票由它经手。
这是一个几乎没人知道的细节:九十年代,神经网络一直在默默地数钱。
1997年,于尔根·施密德胡伯和塞普·霍赫赖特提出了长短期记忆网络,也就是LSTM。它用一个"门"控制信息的遗忘和保留,解决了循环网络记不住长距离依赖的问题。这个结构在接下来十五年里,是所有语音识别和机器翻译系统的骨架。
也是1997年,另一件事上了全世界的头版。
5月11日,纽约。IBM的深蓝以三点五比二点五的总比分击败加里·卡斯帕罗夫。这是人类国际象棋世界冠军第一次在正式比赛时限内输给机器。
但深蓝赢的方式,跟"智能"关系不大。它靠的是专用芯片堆出来的暴力搜索:每秒评估两亿个局面,再配上一套由特级大师参与调校的评估函数。它不理解棋,它只是算得足够多。
有意思的是,一年前的1996年,深蓝第一次挑战卡斯帕罗夫时输了,比分二比四。卡斯帕罗夫当时说了一句很自信的话:我看到了机器的弱点,它有创造力。一年后他输了,赛后说的是另一句:我在这台机器里感觉到了一种新的智能。
两句都是误判。深蓝两年里进步的主要是硬件。
深蓝的意义在别处:它让公众重新相信,机器可以在某个狭窄领域击败最顶尖的人。这个信念在接下来十五年里,被反复用来向投资人解释"AI要来了"。
1993年,日本第五代计算机计划结束,十年投入,目标基本没达成。它在技术上留下了并行推理机和Prolog的遗产,但没有造出承诺中的"会思考的机器"。
1990年代的另一个变化,藏在没人注意的地方:互联网开始堆积数据。
1995年,全球网民不到四千万。2000年,四亿。2005年,十亿。这个增长对AI的直接意义是,第一次出现了"足够多的样本"这种东西。统计学习需要数据,神经网络更需要数据——一个有几百万参数的网络,喂它一万张图是会过拟合的。
还有一条线也在悄悄铺开。2006年,英伟达发布CUDA,让程序员可以用显卡做通用计算。GPU本来是为游戏渲染设计的,它的架构恰好适合矩阵运算——几千个简单核心并行算乘加。这正是神经网络训练需要的。当时没人把CUDA和AI联系起来,黄仁勋自己也说过,最初的想法是给科学计算用。
2006年,辛顿和学生在《神经网络》杂志上发表了一篇论文,提出深度信念网络,用逐层无监督预训练的办法,绕开了深层网络训练不动的难题。同一年,他做了一个更重要的事:给这条路换了个名字。
不再叫"神经网络",叫"深度学习"。
这个改名不是文字游戏。神经网络这个词在2006年的经费评审会上几乎等同于"不靠谱",而"深度学习"听起来像一门新的、有明确技术路线的方法。此后十年,这个词的价值以百亿美元计。
◆ ◆ ◆
第六章
三条河汇到一起
2007年,普林斯顿的助理教授李飞飞到谷歌实习,第一次认真看了ImageNet的雏形。她当时关心的问题很朴素:机器视觉的模型越来越复杂,但用来训练和测试的数据集还是那几万张图,模型在实验室里刷分,一到真实图片上就崩。
她决定做一件同行都劝她别做的事:建一个跟真实世界规模相当的数据集。
方法是用WordNet的词条去网上搜图,再用亚马逊的众包平台Mechanical Turk让人工一张张筛选。高峰期有近五万人在做标注,时薪几美分。2009年,ImageNet在CVPR上发布:一千四百万张图片,两万多个类别。
同期,这个数据集附带的竞赛ILSVRC开赛。参赛者要在一千个类别、一百万张图里训练模型,然后把测试图的答案排成五个候选,只要正确答案在前五里就算对。
2010年,最好成绩的错误率是百分之二十八。2011年是百分之二十五点八,用的还是手工设计的特征加支持向量机。这个领域当时已经有点挤牙膏的意思,每年提升一两个点。
2012年,三个多伦多大学的人交了一份让所有人愣住的答卷。
亚历克斯·克里热夫斯基、伊利亚·苏茨克弗、杰弗里·辛顿。他们训练了一个八层的卷积网络,取名AlexNet。用的硬件是两块英伟达GTX 580,每块显存三G,训练花了五六天。技术上没什么魔法:ReLU激活函数让训练更快,Dropout随机丢弃神经元防过拟合,数据增强把图片翻转裁剪来扩充样本,再加上两块GPU之间的模型并行。
结果:前五错误率百分之十五点三。第二名是百分之二十六点二。
差了十个百分点。在这个每年进步一两个点的领域里,这个差距不叫领先,叫换了一个物种。
李飞飞后来回忆那年的会议现场:AlexNet的海报前面排着长队,人们举着手机拍那张图。她当时意识到,自己花五年做的数据集,终于等到了能吃掉它的模型。
三条河在这里汇到一起。
第一条是算法。反向传播1986年就有了,卷积网络1989年就有了,ReLU和Dropout也都是旧东西。缺的从来不是想法。
第二条是数据。李飞飞和几万个标注工,把真实世界的复杂度搬进了硬盘。
第三条是算力。GPU让原本要几个月的训练缩到几天,于是"多试几次"变成了一件负担得起的事。
这三条河各自流淌了二十年,谁也没想到会在2012年撞上。
接下来几年发生的事情,节奏快得不像同一个领域。
2013年,谷歌用四千四百万美元收购了一家三个人的公司DNNresearch,公司全部资产是辛顿和他的两个学生。同一年,百度成立深度学习研究院,Facebook成立FAIR实验室。2014年,谷歌花六亿五千万美元买下DeepMind,一家当时还没什么产品的伦敦公司。
2013年,DeepMind的DQN学会了玩雅达利游戏。只给像素和分数,不给规则,它在二十九个游戏里有一半超过了人类专业测试员。2014年,伊恩·古德费洛提出生成对抗网络,两个网络互相当对手,一个造假一个识破,最后造出来的图连人眼都分不清。2015年,何恺明等人提出ResNet,用"残差连接"把网络做到一百五十二层,ImageNet错误率降到百分之三点五七——低于人类大约百分之五的水平。
2015年11月,谷歌开源TensorFlow。这个决定改变了整个行业的门槛:原本只有大公司能做的深度学习,突然变成了一个研究生用一台带显卡的电脑就能上手的东西。
回头看,2012到2015这三年,是AI从"学术界的一个分支"变成"工业界的基础设施"的三年。而公众真正感觉到这件事,要等到2016年春天。
◆ ◆ ◆
第七章
棋盘上的四盘棋
2015年10月,伦敦。AlphaGo跟欧洲围棋冠军樊麾下了五盘,全胜。
这件事在围棋圈引起的震动,比在AI圈大得多。樊麾是职业二段,水平放在中国棋院里不算顶尖,但他是职业棋手。在此之前,最好的围棋程序跟职业棋手下让子棋都赢不了。
围棋为什么难?因为它的分支因子是两百五十,而国际象棋是三十五。一盘棋走一百五十步,可能的变化数是十的一百七十次方,比可观测宇宙的原子总数还多。深蓝那种暴力搜索在围棋上完全没用——你不可能算到终局。
更麻烦的是,围棋的"好坏"很难用函数写出来。国际象棋里,多吃一个兵就是优势;围棋里,一手棋的价值取决于全局的势、厚薄、先后手,职业棋手说的是"这手棋感觉很厚",而这个"感觉",没人能写成规则。
AlphaGo的做法是把两件事缝在一起。
一是策略网络:用人类棋谱训练一个神经网络,给它一个局面,让它预测人类高手下一步会下在哪里。这是"模仿直觉"。二是价值网络:给它一个局面,让它估计黑棋赢的概率。这是"判断形势"。然后把这两个网络塞进蒙特卡洛树搜索里,让搜索有了方向——不用把每个分支都算完,只算那些"感觉像人下的"分支。
2016年3月,首尔。对手是李世石,十四次世界冠军。
第一局,李世石输了。第二局,第37手,AlphaGo在棋盘第五路肩冲了一手。这手棋不在人类的定式里,解说员当时以为是失误,评论员说"这不像职业棋手会下的"。几十手之后,这手棋的价值才显现出来。它后来被称为"AlphaGo的第五十手",被写进了围棋年鉴。
第五局结束后,总比分四比一。人类唯一赢的一局是第四局,李世石下出第78手"挖",一手被后来的AI判定为"胜率提升百分之二十"的妙手。那一手之后,AlphaGo乱了,连着出错。
那一局成了这十年里最被人反复讲述的一幕:机器并非不可战胜,但它输的那一盘,是因为人类下出了它没算到的东西。
2017年5月,乌镇。对手是柯洁,当时的世界第一。三比零。柯洁在第三局中盘阶段离开座位,回来时眼睛是红的。赛后他说:它太完美了,跟它下棋让我感到绝望。
同一年,AlphaGo的升级版Master在网上匿名下棋,六十连胜,对手包括所有顶尖棋手。有人在下到一半时认出了它——不是因为棋力,是因为它下的棋"太不像人"。
2017年10月,DeepMind发表AlphaGo Zero。这一版没有用任何人类棋谱,只告诉它规则,让它自己跟自己下。三天之后,它超越了过去所有版本。它重新发现了人类几百年积累的定式,也发现了一些人类没想到的下法。
围棋这件事的意义,其实不在棋。
它证明了一件此前只是信念的事:直觉可以被逼近。人类的"感觉"看起来神秘,但如果把足够多的专家决策喂给一个足够大的网络,网络能学出一个功能等价的东西——不是理解,是拟合,而拟合出来之后,它下的棋比人好。
这句话后来变成了整个大模型时代的底层信条。AlphaGo之后,几乎所有AI团队都在问同一个问题:还有什么是"感觉",还有什么是可以被大量样本拟合出来的?
答案是:语言。
◆ ◆ ◆
第八章
语言:最后一堵墙
语言比围棋更难,难在两个地方。
一是它没有规则。围棋有明确的落子规则和胜负判定,语言没有。什么算一句话说得好?语法正确但空洞算不算好?语法错误但意思清楚算不算好?这件事连人自己都说不清。
二是它需要世界知识。你说"他把杯子放在桌上,然后它碎了",人立刻知道"它"指杯子。你说"这个会议太长了,我得走了",人知道这是委婉的抱怨而不是陈述。这些推理没有写在句子里,写在句子之外。
机器翻译是最早啃这块硬骨头的方向,也是最早崩掉的方向。1966年ALPAC报告之后,机器翻译冷了二十年。1980年代,基于规则的翻译系统重新起来,做语法分析、做词对齐、做转换规则,一个语言对一个语言地写,投入巨大,效果勉强。
真正的转向发生在2013年。
那一年,谷歌的托马斯·米科洛夫发表了两篇论文,提出word2vec。做法是把每个词映射成一个几百维的向量,让语义相近的词在向量空间里距离近。最著名的一个例子是:king减man加woman,最接近的结果是queen。
这件事的意义不在于它会做类比,而在于它证明了"语义"可以被表示成几何。词义不再是词典里的解释,而是空间里的一个位置。
2014年,序列到序列模型出现。它用两个循环网络,一个把源语言句子压成一个向量,另一个把它展开成目标语言。同年,巴丹瑙等人加入"注意力机制"——翻译每个词时,不再依赖那一个压缩向量,而是让解码器自己回头去看源句子里哪些词重要。
注意力是后来一切的种子。但它当时只是个补丁,没人觉得它是主角。
2017年6月,谷歌的八个人在arXiv上挂了一篇论文,题目叫《Attention Is All You Need》。作者是瓦斯瓦尼、沙泽尔、帕尔马等八人,其中好几位后来离开谷歌创业。论文的核心主张很大胆:把循环结构全部扔掉,只留注意力。
这个改动带来两个后果。
第一,它解决了长距离依赖。循环网络处理一句话是串行的,读到第一百个词时,第一个词的信息已经衰减得差不多了。自注意力让每个词直接跟所有词算相关度,距离不再是问题。
第二,也是更重要的:它可以并行。循环网络必须一个词一个词地算,GPU的几千个核心有一大半在闲着。Transformer把整句话当成一个矩阵一次性算完,训练速度提升了几个数量级。
这篇论文后来被认为是深度学习史上最重要的一篇。但它在2017年的引用量并不夸张,因为它当时的主要卖点是"翻译得更好一点、训练得快一点"。没人预见到它会长出什么。
2018年,两条路分岔。OpenAI做了GPT-1,一亿一千七百万参数,用"预测下一个词"这个任务在海量文本上预训练,再在小任务上微调。谷歌做了BERT,三亿四千万参数,用"完形填空"——遮住句子里的一些词让模型猜。BERT在十一个自然语言理解任务上刷新了纪录,学术界一片沸腾。
2019年,OpenAI做出GPT-2,十五亿参数。他们最初决定不完整发布,理由是"担心被用来生成假新闻"。这个决定在当时引起不小争论,有人说是负责,有人说是营销。事后看,两种成分都有。
2020年,GPT-3。一千七百五十亿参数,比GPT-2大了一百多倍。
GPT-3最重要的发现不是它的性能,是它的行为方式。研究者发现,不需要微调,只要在输入里给几个例子,它就能完成新任务。给它三个"英文—法文"的翻译对,它就开始翻译;给它几个问答示范,它就开始答题。这叫上下文学习。
同一时期,OpenAI的研究者提出了"缩放定律":模型的损失随参数量、数据量、算力的增加,按幂律稳定下降。这个发现把AI研究变成了一件可以预测投入产出的事——想要更好的效果,就堆更多资源,曲线告诉你大概能提升多少。
这条曲线后来被证明有极限,但在2020年,它像一条通往未来的直线。
2020年还有一件事,静悄悄地发生。DeepMind的AlphaFold2在CASP14蛋白质结构预测竞赛上,把预测精度(GDT)做到九十二点四分,接近实验测定的水平。困住生物学五十年的问题,被一个神经网络解决了。这件事在生物学界的震动,比GPT-3在AI界大得多。
2021年,Codex发布,GitHub Copilot上线。写代码这件事第一次被部分自动化。
2022年,图像生成爆发。扩散模型取代了生成对抗网络,Stable Diffusion开源,Midjourney开放测试。一个人用一句话就能生成一张专业水准的插图,插画师群体第一次感受到直接的冲击。
然后是2022年11月30日。
ChatGPT上线。它的底层是GPT-3.5,一个在GPT-3基础上微调过的模型。技术上真正关键的,是"基于人类反馈的强化学习",简称RLHF。
做法分三步。第一步,让人给模型的多个回答排序,训练一个"奖励模型",学会判断什么样的回答人更喜欢。第二步,用这个奖励模型去指导模型训练,让它生成得分更高的回答。第三步,反复迭代。
这个方法的学术源头可以追到2017年,但把它做到产品级、做到人人可用,是OpenAI的工程能力。
于是发生了一件此前所有AI产品都没做到的事:普通人第一次觉得它有用。
不是"能演示",是"能干活"。写邮件、改文案、解释概念、翻译、写代码、编故事。它当然会胡说,但它胡说的样子很像一个自信的实习生,而不是一台机器。这种"像",是质的差别。
五天一百万用户,两个月一亿。服务器几次过载。谷歌内部发出"红色警报"。微软追加一百亿美元投资。
七十九年的积累,在这一刻变成了一个输入框。
◆ ◆ ◆
第九章
加速之后
2023年3月,GPT-4发布。多模态,能读图。它在模拟律师资格考试里排进前百分之十,在生物奥赛里排进前百分之一。同月,Anthropic发布Claude,一个把"安全"写进公司名字的团队。
2月,Meta发布了LLaMA,参数不大但性能接近GPT-3,本来只给研究者,一周后权重泄漏到网上。这次泄漏改变了行业格局:全世界的研究者突然有了一份可以本地跑的强模型。斯坦福用几百美元微调出了Alpaca,效果接近text-davinci-003。
开源开始追上来。
中国这边,2023年被称为"百模大战"。一年之内,几十个大模型发布,互联网大厂、创业公司、高校研究院全部下场。8月,《生成式人工智能服务管理暂行办法》施行,成为全球较早的专门立法之一。
同一个月,辛顿从谷歌离职。他接受采访时说,自己后悔了,担心这项技术最终会失控。一个用五十年把这门技术推到现在的人,在最后选择了警告。这件事在业内引起的复杂情绪,很难用一句话概括。
2024年2月,OpenAI发布Sora,一段文字生成一分钟高清视频。
9月,o1发布。这一次的变化不在参数,在推理方式:模型在回答之前先"想"——生成一段内部的思维链,自我检查,再给答案。这叫测试时计算,把算力从训练阶段挪到了推理阶段。它意味着,同一个模型,多想一会儿会更聪明。
10月,诺贝尔奖连续跨界。物理学奖给了霍普菲尔德和辛顿,表彰他们在人工神经网络上的奠基性发现;化学奖给了德米斯·哈萨比斯和约翰·江珀,表彰AlphaFold。物理学奖颁给一个计算机科学家,这件事本身就说明:AI已经不是一个学科内部的事了。
2024年12月,杭州,DeepSeek发布V3。2025年1月,R1发布,权重开源,训练成本公开披露为五百五十八万美元——不到同级别模型的一个零头。1月27日,英伟达股价单日下跌百分之十七,市值蒸发近六千亿美元。
这一天在AI史上大概会被记住,不是因为它证明了中国模型更强,而是因为它第一次让市场意识到:这条曲线的成本可以被重写。
2025年之后,竞争的重点换了三次。
第一次是从"更大"转向"更会想"。推理模型成为标配,思维链长度变成了新的可调参数。
第二次是从"会聊"转向"会做"。智能体开始自己开浏览器、填表单、写代码、跑测试、调用外部工具,从回答问题变成完成流程。协议层出现了MCP这类标准,让模型能接上外部系统。
第三次是从"能力"转向"成本"。当模型能力开始趋同,决定谁能留下的是每百万token多少钱、能不能连续稳定工作八小时、数据能不能不出境。开源模型在调用量上的份额从三成涨到六成多,一批公司把生产流量从闭源换到开源,省下的是真金白银。
到2026年,格局已经不是一家独大。第三方数据显示,ChatGPT在AI助手市场的份额首次跌破五成,谷歌、Anthropic、以及一批中国模型各占一块。模型能力的差距被压缩到几个百分点,而竞争转移到了算力、电价、芯片和监管上。
与此同时,另一条线也在加速:机器人。人形机器人从演示走向小批量交付,视觉-语言-动作模型让机器能听懂"把桌上的杯子递给我"这种话。AI开始从屏幕里走出来。
七十九年,两次差点断掉,两次都靠少数人在冷板凳上多坐几年才续上。而最近这四年,速度快到连从业者都觉得不真实。
◆ ◆ ◆
尾声
安静的代价
回头看这八十年,有件事很值得琢磨。
两次寒冬的成因几乎一模一样:许诺超过了兑现,而兑现所需的基础设施还没到位。1970年代缺的是算力和存储,1980年代缺的是数据和算力。技术路线其实早就画在论文里了,只是那时候的世界还托不住它。
所以寒冬冻死的不是想法,是人。是那些刚毕业、需要一篇论文找教职的年轻人,是那些需要连续五年经费才能验证一个猜想的课题组。1971年罗森布拉特溺亡时四十三岁,如果他活到2012年,会看到自己1957年的想法在ImageNet上赢十个百分点。
这才是这八十年最贵的东西:不是算力,不是数据,是那些在没人看好的年份里没有走开的人。辛顿在爱丁堡跟导师磨了五年,在多伦多又坐了二十年;李飞飞建ImageNet的时候,同行劝她别把时间浪费在标注数据上,那不算研究;霍普菲尔德一个物理学家跑去做神经网络的记忆模型,被问过很多次"你到底在哪个系"。
他们等的东西其实很简单:等世界追上他们的判断。
现在世界追上来了,而且跑得比谁都快。
从ChatGPT到今天,一千四百多天。这四年里发生的事,密度上超过了此前任何一个十年。而且加速的不是技术本身,是循环:一篇论文到产品只要几个月,产品的用户反馈当天就能回到训练里,收入又变成算力,算力再变成下一篇论文。这个循环以前要十年转一圈,现在按月转。
有人问,下一次的单位会不会是秒。
没人知道。只是回头看,每一次加速之前,都有一段漫长到令人绝望的安静。
