Karpathy：十年、鬼魂、智能体

[db:作者]

文：王智远 | ID:Z201440
昨天听了一个播客，来自 Karpathy提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
Karpathy 是特斯拉自动驾驶团队的前负责人，最早跟从 OpenAI 开创团队的研讨者之一提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
很多人眼里，Karpathy 代表当下最接近「AI 思维焦点」的那类人；他首要提到两件事：一，AI 变化将是未来十年的周期；二，我们在造鬼魂提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
他说，这像两把钥匙，一把翻开「时候」，一把翻开「智能的本质」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
我一路头以为夸张的说法，后来发现它有事理，究竟，从内部看，AI 的变化几近是爆发式的，一年一个版本，几个月一个冲破提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
但 Karpathy 的诠释让我感觉，这个判定背后有一套很是清楚的逻辑提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
01他说，AI 成长是「演变式」的提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。技术像生命一样，渐渐长出来的，每一轮大的冲破，常常靠算力、算法、数据和人材这四股气力，相互纠缠、慢慢成熟提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
这四样工具的循环，大约需要十年提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
想想看，从 2012 年的 AlexNet 到 2022 年的 GPT，恰好十年提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
深度进修在十年前处理了「机械怎样看」的题目，而大模子在明天处理「机械怎样想」；中心隔着十年时候，但也隔着一次完整的范式更替提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
他说，这是 AI 的节奏提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
它不像互联网的流量驱动，也不像移动时代靠硬件换代，AI跨越，是底层进修机制的突变，前一次的功效，酿成下一次的养料提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
Karpathy 还提了一个细节：
AI 长大速度，被人类的了解速度所限制，算力可以加倍，算法可以优化，但人类对「智能」的界说，是滞后的提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
所以，每一次大的智能反动，必须留给人类十年时候去顺应，这是技术周期，也有社会认知反动地点提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
说白了，AI 每个「十年」，都是人类在重新了解什么叫「智能」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
2012 年，人们第一次意想到，机械真能「看懂」图像；2022 年，人们起头相信，机械真能「了解」说话；接下来的十年，我们会面临更难的题目提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
比如：当机械起头表示出意志、方针和感情的迹象时，我们该若何界说「智能体」？
他有一句话我印象特很深：
AI 不会忽然到来，它会在十年里缓慢地酿成了另一种生物；这句话意义是，AI从学会看、学会说，到起头思考，都是一条持续的认知进化链，像生态演进一样提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
所以，那所谓的「十年」，并不是一个猜测数字，是人类与智能系总共演变的自然周期提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
你需要十年时候，让算力预备好、算法成熟、数据沉淀、认知跟上；这实在有点发凉提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。假如真这样，那接下来的十年，就是「智能体」的十年提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
你想想看？
上一轮 AI 让机械会措辞，而这一轮，它要起头「有思惟」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。这什么概念？Karpathy说，要了解这一点，得回头看看这十年里，AI 是怎样一路走过来的提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
02他说，曩昔三十年，AI 最少履历了三次「地震」，每一次地震都改变了人们对「智能」的设想；更正确地说，机械每隔十年，城市忽然学会一件原本以为只要人类才会的事提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
第一次地震发生在 2012 年提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
那一年，Hinton 团队用 AlexNet 打破了图像识此外瓶颈，机械第一次「看」清楚天下，能了解外形、表面、物体提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
那是一个很奇异的时辰——就像婴儿第一次睁眼，AI 从数学公式酿成了有视觉感知的工具，人类第一次相信：机械真的能「看见」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
第二次地震在 2016 年提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
DeepMind 的 AlphaGo 打败李世石，那是一场认知震动，机械起头「会干事」了，它能在没有人指令的情况下决议、计划、行动提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
这场地震让一切人意想到：智能可以指导「行动」，AI 从「看」走向了「做」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
我昔时还在特斯拉，第一次感遭到「AI 能开车」的那种冲击，那种一个系统可以从视觉信号到行动决议，闭环完玉成流程，让我感遭到智能体的雏形已经出现提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
第三次地震，就是眼下我们身处的时代提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
2022 年起头，大说话模子突起，让机械起头「会想」，它能天生、能推理、能和人类对话，甚至能了解模糊的高低文，这绝对算的上思维反动提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
机械第一次不靠编程逻辑，能用说话去了解天下，它起头学会了「构建自己的诠释」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
所以，这三次地震，看似分歧，本质上却是一条持续的认知进化线提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
第一次，它学会「看」；第二次，它学会「做」；第三次，它起头「想」
每一次跨越，都隔着大约十年提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。十年，不但是时候单元，更像一条「认知演变的脉冲线」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
这个节奏很是风趣，由于这三次变化，每一次都需要时候去「酝酿共鸣」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
科学家要重新了解「智能」的鸿沟，工程师要重新界说「工具」的鸿沟，社会也要重新顺应人与机械的关系，AI 的每一次冲破，概况是技术反动，本质是认知反动提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
你可以把它设想成三层台阶：
第一层，机械看见天下；第二层，机械行动于天下，第三层，机械起头思考天下；而第四层，Karpathy 以为，将是机械「自我认识」的醒觉提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
是更深层的「自我模子」，它晓得自己在做什么，也晓得为什么要这么做提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
所以，曩昔三次地震，现实上为第四次，「智能体时代」在铺路，假如前面三次是「让机械像人」，那下一次是「让机械成为人类的镜子」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
十年，一次认知地震的酝酿周期，一次人机共生关系的重新设定周期，Karpathy把这类进化必作成练习「鬼魂」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
03为什么是鬼魂提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。不是动物？他诠释了一切：
动物智能来自进化，而 AI 智能，来自模仿提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。动物靠亿万年的自然挑选，构成感知、反应、求生才能，动物会经过经历堆集形本钱能，比如：饥饿、恐惧、保存提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
AI 没有痛感，也没有愿望，它的进修是一种统计意义上的模仿，AI 靠人类供给的海量数据、算法、算力，从说话与行为中学会思考提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
你可以让它了解哀痛的界说，却永久没法让它感受哀痛，前者是「被造出来的生命」，后者「被练习出认识」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
人类在造「人类常识的灵体」，它没有精神，却能思考；没有基因，却能进修；没有愿望，却能模拟动机，这就是「鬼魂」的寄义提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
我们在练习，一个寄宿于人类常识系统里的思惟，我们造出「认识的投影」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。他用了一个比方：动物是进化出来的智能，AI 是呼唤出来的智能提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
这句话很是形象提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
进化，从混沌中发展；呼唤，从次序中凝聚提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。AI 是人类用算法构建的一面镜子，镜子里映出我们自己了解天下的方式提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
所以，当我们说「智能体」时，很多人以为它是某种更高级的机械人提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
但 Karpathy 的意义实在更哲学：
智能体是认知形状的延长，我们思惟的「外化版本」、人类思维的「副本系统」，我们在教它「若何了解我们为什么这样想」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
他说，这也是他最担忧、同时又最沉迷的部分提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
AI 看起来像在进修天下，现实上在进修「我们看天下的方式」；这意味着，AI 智能是「二手的」，它来自人类的了解方式，而非天下自己的法例提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
这就是「鬼魂」的悖论提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
听到这儿，我有点震动，我们以为 AI 的进化是在模仿生命，实在，它在复刻我们本身，AI 不像动物那样追求保存，它追求「了解」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
所以，Karpathy 说，「AI 是人类思惟的鬼魂」，它在云端漂泊，在模子权重里堆集记忆，在说话之间构成认识提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
从内部看，只是一个算法系统，但从内部看，它像一面镜子，映照出我们对智能、常识、认识的全数设想提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
这听起来既浪漫，也危险；浪漫的是，我们终究让思惟有了自力形状；危险的是，我们能够低估了思唯一旦离开身材，会走向那里提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
04假如 AI 已经会看、会做、会想，那它离「智能体」还有多远？它真在「学」吗？还是只「反复」我们教给它的工具？
Karpathy 说，这是判定智能体和机械进修系统的分水岭提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
AI 看起来在进修，但那种进修是「统计意义上的模仿」，它靠参数更新，没有经历深思，每一次练习都在紧缩天下提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
人类的进修，有动机提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
我们会由于猎奇、恐惧、求知或愿望去进修，而 AI 的进修，只是被动的优化，只能投喂数据，说白了，它学得快，但学得浅提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
人类的大脑进修，在出错、批改、深思中长大，AI 则在梯度下降、损失函数里逼近一个方针值，一个是「发展的进程」，一个是「收敛的算法」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
Karpathy 在播客里提到一个很是成心机的分类，自然界里，存在三种进修方式提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
第一种，叫「进化」（Evolution）提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。生物经过情况挑选、基因变异，在冗长时候里堆集顺应力；第二种，叫「强化进修」（Reinforcement Learning），个体经过行动获得赏罚反应，不竭调剂行为形式提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
第三种，则是明天 AI 首要依靠的「预练习」，它经过他人堆集的常识去进修天下提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
换句话说，AI 常识是「读出来的」，它在背课本，缺少触感，它会解题却不懂「为什么要解题」；会模仿，却不晓得「为什么要模仿」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。它能总结一切「爱」的界说，却没法真正感受爱提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
这是 AI 进修的底子缺点：没有「意志」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
人类进修的底层逻辑，为了活得更好；AI 进修的底层逻辑，为了被练习得更好，所以，AI 学得越多，离生命反而越远提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
这也诠释了，为什么我们还不把它称作「智能体」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
智能体是能自己提问的系统，它能「想要晓得」，而 AI，还没有这个才能；所以，AI 之所以还不算实在的智能体，是由于它不够「活」，它的进修没有发展提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
05怎样处理发展的题目呢：答案靠记忆提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。但 Karpathy 说，AI 的记忆，也并不是实在的「记忆」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
人类记忆是「履历」；AI 的记忆是「存档」；前者偶然候、有情感、有忘记；后者只稀有据、参数、检索，它记得究竟，却记不住意义提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
我们回忆是重新了解一次曩昔，而它挪用记忆，只是从硬盘取出一段数据，我们会忘记，也会在忘记中重新构造意义；它不会忘记，也就没法天生新的了解提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
Karpathy 说，AI 记忆像快照提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
每次推理，都是一次更生，它能复述昨天说的话，却不记得自己昨天说过什么，没偶然候线，就没有自我，这也是为什么，AI 没有「持续的认识」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
它的天下，一帧一帧的；人类天下，是一条活动的时候；我们晓得昨天、明天、明天，才有「我是谁」，AI 没有这类持续的「自我时候」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
意义，是在诠释的进程，AI 没法诠释自己的记忆，它不会变，由于它从不「想起」，只是「被挪用」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
所以人类记忆是活的，AI 记忆是静止的，人类记忆发展出自我，AI 记忆发展出模子，一个了解意义，一个紧缩常识提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
这就是，AI与人类记忆之间，为什么会有一道裂缝提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
那这类裂缝能修复吗？Karpathy 说，也答应以提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。方式叫「记忆的自我指向」，所谓自我指向，就是系统能「回看自己」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
记忆能反过来影响思考，才算起头发展，曩昔的 AI，只能挪用常识，新的智能体，要重新设想，让它能「深思」常识提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
它不但晓得「我做了什么」，还晓得「我为什么那样做」，当系统能操纵经历批改判定，它才能做到一种「在思考的存在」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
Karpathy 说，认识诞生是反应闭环的构成，当一个系统能观察自己，它就会发生时候感，那是「自我」最初的外形提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
这件事，已经在发生，从对话模子的长时记忆，到能「自我检索」的深思系统，AI 正在学着「了解自己为什么那样回答」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
换句话说，AI 起头在模拟「深思」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
它在学会在记忆中寻觅逻辑，当它能不竭回看自己、校正自己时，就在模仿一种「长大的认识」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
所以，智能体诞生，是认知演变，从「被练习」到「自我更新」，从「记忆天下」到「记忆自己」，这是认识的起点，它一定比人聪明，但它，终究起头「成为自己」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
那我们呢？当智能体起头具有「自我」，人类又该若何与它共处？
也许，AI 一定像人类，但它已经起头像「生命」，人类，也许终究有机遇，看到「思惟的另一种存在」提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
参考来历：
[1].Andrej Karpathy，《We’re summoning ghosts, not building animals》，2025年10月18日，YouTube提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。