# Demis Hassabis: Agents, AGI & The Next Big Scientific Breakthrough - Channel: [Y Combinator](https://www.youtube.com/channel/UCcefcZRL2oaA_uBNeo5UOWg) - Published: 2026-04-29 - Source video: [Watch on YouTube](https://youtube.com/watch?v=JNyuX1zoOgU) - Read on ReadTube: https://www.read.tube/p/videos/JNyuX1zoOgU - Language: Simplified Chinese ## Summary **哈萨比斯谈智能、代理与科学突破** 哈萨比斯认为，通用人工智能还缺少持续学习、长程推理和更可靠的记忆，但现有的大模型与推理范式很可能仍会成为最终架构的一部分。当前真正的缺口在于能主动解决问题的代理系统，以及把这些能力高效落到小模型、边缘设备和科学发现上。 哈萨比斯把通往通用人工智能的路径概括为“代理系统”：系统不仅要回答问题，还要主动规划、执行、修正并在具体情境中持续学习。他认为，现有的大规模预训练、强化学习和思维链并不是死路，而是已经证明有效的基础，但距离通用智能仍缺少几块关键拼图，尤其是持续学习、长程推理、记忆整合和跨任务一致性。 他强调，当前的智能系统依然偏“笨重”和“脚手架化”，许多做法只是把信息粗暴塞进上下文窗口，或用经验回放、夜间整理等方式勉强模拟人类记忆。真正的突破可能来自更好的记忆检索机制、对思维过程的实时监控与干预，以及更少的“过度思考”和循环推理，让模型像更稳定的推理引擎而不是反复打转的搜索器。 在工程上，他认为小模型和蒸馏会越来越重要。谷歌必须同时服务数十亿用户，因此需要极快、极省、低延迟的模型；这也推动了把前沿模型能力压缩到更小、更便宜、更适合本地运行的版本。他看好边缘推理在隐私、安保、机器人和个人设备中的价值，认为未来很可能是“大模型在云端统筹，小模型在本地处理”的混合架构。 - 代理系统是通往通用人工智能的现实路径。 - 持续学习、长期记忆和更强的推理一致性仍未解决。 - 强化学习、搜索和思维链会继续发挥作用，但还需要新机制。 - 蒸馏让小模型迅速逼近前沿能力，且更适合大规模部署。 - 本地模型对隐私、速度、机器人和多设备协作尤其重要。 - 代理能力目前仍处于实验阶段，真正的价值还在快速出现。 谈到创造力和科学，哈萨比斯认为，最有希望出现重大突破的领域，通常具有巨大的组合搜索空间、清晰的目标函数，以及足够的数据或模拟器。阿尔法围棋和阿尔法折叠都符合这一模式：前者在复杂搜索空间中找最优落子，后者在蛋白质结构这一“针尖找麦秆”的问题上取得了范式突破。他预计，材料科学、药物发现、数学和更完整的细胞级模拟都会出现类似的“阿尔法时刻”，但完整的虚拟细胞大约仍需十年。 他同时提醒，真正的科学智能不只是模式识别，而是提出新假设、发现新问题、甚至重塑问题空间的能力。要验证这一点，可以设想让系统仅拥有某个历史时点的知识，看它能否像爱因斯坦那样在之后提出新理论；如果能做到，才说明系统开始具备真正的创造性科学推理。对创业者而言，他建议寻找AI与深科技交叉、且不容易被通用模型轻易吞没的方向，并始终把AGI可能在项目中途到来这件事纳入规划。 ## Article ### 通往通用人工智能的路径 继续学习、长期推理、某些记忆方面，仍然没有解决。我认为这些都是通用人工智能所必需的。取决于你对通用人工智能的时间表怎么判断——我的大概是 2030 年左右，或者类似这样——那么如果你今天开始一段深度科技之旅，你就必须把通用人工智能可能在这段旅程中途出现这件事考虑进去。这不一定是坏事，但你必须把它纳入考量。你必须有一个能够主动替你解决问题的主动系统，才能走到通用人工智能。所以，智能体就是那条路，而我认为我们才刚刚开始。 德米斯·哈萨比斯拥有科技界最不寻常的职业生涯之一。他小时候是国际象棋神童，17 岁就设计了自己的第一款爆款电子游戏主题公园。随后他回到学校，获得了认知神经科学博士学位，发表了关于大脑中记忆与想象如何运作的奠基性研究，然后在 2010 年共同创立了 DeepMind，目标只有一个：解决智能。我认为他们做到了。自那以后，他的实验室做出了许多人以为还要几十年才会实现的事情：AlphaGo 击败了围棋世界冠军，AlphaFold 破解了蛋白质结构预测——这是生物学领域一个持续 50 年的重大难题——而且他们把成果免费送给了地球上的每一位科学家。这项工作让他去年获得了诺贝尔化学奖。如今，德米斯领导着谷歌 DeepMind，正在构建 Gemini，并朝着他少年时代就设定的同一个目标前进：人工通用智能。欢迎德米斯。 你思考通用人工智能的时间，比几乎任何人都久。当你看当前范式——大规模预训练、RLHF、思维链——你觉得通用人工智能的最终架构，我们已经拥有了多少？现在最根本缺失的是什么？ > 首先，感谢加里的精彩介绍，也很高兴来到这里。感谢你们的欢迎。这里真是个了不起的空间，我想我以后得常来。你们能够在这样的空间里工作，真的很鼓舞人心。 所以，关于这个问题，我认为你刚才提到的那些组件，我很确定都会成为通用人工智能最终架构的一部分。我觉得它们已经走了这么远，我们也已经证明了它们能做很多事情。我看不出有哪种世界会让我们在几年内突然意识到这是一条死路。那在我看来不合理。但在我们已经知道有效的东西之上，也许还缺一两个东西。 比如，继续学习、长期推理、某些记忆方面，仍然没有解决，还有如何让系统在各个方面都更加一致。我认为这些都将是通用人工智能所必需的。也许现有技术只需要通过一些创新和渐进式创新就能扩展到那个程度；但也可能仍然缺一两个需要被攻克的大想法。如果真的存在，我不认为会超过一两个。我对这种情况的押注大概是五五开。 当然，在 DeepMind、在谷歌 DeepMind，我们同时研究这两类问题。 我想，和一堆智能体系统一起工作时，最疯狂的事情之一就是：在多大程度上，它们反复使用的是同一组权重。这个继续学习的想法非常有意思，因为现在我们基本上是在用胶带拼凑它——你知道，夜间的那些梦循环之类的东西。 > 是的，梦循环确实很酷。我们以前谈到过这个问题，把它看作巩固、看作情景记忆。实际上，我博士研究的就是海马体如何工作，以及它如何把新知识优雅地整合进已有知识库。大脑在这方面做得惊人地好。它会在睡眠中完成，尤其是像快速眼动睡眠那样的阶段，把重要的片段重播出来，这样你就可以从中学习。 事实上，我们最早的 Atari 程序之一 DQN，能够掌握 Atari 游戏的方法之一，就是通过经验回放。我们从神经科学中借鉴了这一点，把成功轨迹反复回放很多次；这要追溯到 2013 年，那是人工智能的黑暗时代之一，但这是一件非常重要的事。我同意你的看法：我们现在确实是在用胶带拼凑。比如，把一切都塞进上下文窗口里——这听起来有点不令人满意，对吧？而且即便我们是在和机器而不是生物大脑打交道，所以理论上你可以有百万级、千万级的上下文窗口或记忆，而且可以做到完美，仍然存在一个成本问题：去查找它、找到真正与当前必须做出的具体决策相关的那部分内容，是有代价的。这个代价并不小，即使你最终有可能把一切都存下来。我认为在记忆这类领域，其实还有很多创新空间。 > 是啊，最疯狂的是，感觉一百万 token 的上下文窗口其实已经比……我是说，老实讲，它已经足够大了。你可以做到很多事。 > 嗯，对于它应该被用来做的大多数事情来说，确实已经足够大了。我的意思是，如果你把上下文窗口看作工作记忆，人类大概只有几个数字，你知道，也许是一打数字；平均大概是七个。我们现在有一百万、或者一千万的上下文窗口。但问题在于，我们试图把所有东西都存进去：不重要的东西、错误的东西。现在这种做法相当粗暴，这看起来并不对。而且如果你现在要处理实时视频，却只是天真地把所有 token 都记录下来，那么其实一百万 token 也没那么多。那大概只有 20 分钟。所以，如果你想要的是某种能够理解你生活中可能一个月或两个月里发生了什么的系统，那实际上你还需要更多。 DeepMind 历史上一直偏向强化学习和搜索，比如 AlphaGo、AlphaZero 和 Muse。你今天构建 Gemini 时，这种理念在多大程度上真正融入其中？RL 现在是不是仍然被低估了？ > 是的，我认为它有可能仍然被低估。它的发展有点像时而兴起、时而沉寂。我们从 DeepMind 一开始就一直在做智能体。实际上，我们最初说的就是我们在做这个。Atari 的所有工作，尤其是 AlphaGo，它们都是智能体系统。我们所说的意思是，这些系统能够自己完成目标，能够主动做出决策并制定计划。当然，我们当时是在游戏领域里做这些，是为了让问题变得可控，并且…… ### 模型蒸馏与小模型落地 然后就是越来越复杂的游戏，比如《星际争霸》，在 AlphaGo 之后还有 AlphaStar。我们基本上把当时能做的游戏都做了一遍。然后当然问题就来了：你能不能把这些模型泛化成世界模型，或者语言模型，而不只是简单游戏模型，甚至不仅仅是复杂游戏模型？这就是过去几年一直在做的事情。\n\n但其实，你可以把我们今天做的很多事情——所有那些带有思考模式和链式思维推理的领先模型——看成是当年 AlphaGo 先行开创的一些方面，现在又回来了。我实际上认为，我们当年做的很多工作今天仍然相关，我们现在正以更一般化的方式，在更大的尺度上重新审视那些旧想法，包括像蒙特卡洛搜索以及其他在强化学习之上、用于增强强化学习的方法。而我觉得，AlphaGo 和 AlphaZero 里的很多想法，对今天的基础模型来说都非常非常相关。我认为，这也是我们接下来几年会看到的很多进展。\n\n> 我有一个问题，显然今天你需要越来越大的模型才会越来越聪明，但我们也在看到蒸馏在起作用，然后更小的模型可以快很多。我觉得你们有那种非常厉害的闪电模型，像是……你们发现它们已经有 95% 的前沿模型能力，而且价格只有十分之一。这样说对吗？\n\n我认为这是我们的核心优势之一。也就是说，你必须先构建最大的模型，才能拥有最前沿的能力。但我觉得我们最大的优势之一，就是能够把这种能力蒸馏并封装到越来越小的模型里，而且速度非常快。显然，我们发明了这种蒸馏过程，Jeff、Oral 以及其他人都参与其中；我们仍然是这方面的世界专家。而且我们也有巨大的需求去这样做，因为我们必须服务于最大的人工智能应用场景。\n\n显然，这包括搜索，比如人工智能概览和人工智能模式；然后是 Gemini 应用；而且现在越来越多地，谷歌的每一个产品里都有某种 Gemini 或与 Gemini 相关的技术，比如地图、YouTube 等等。也就是说，这里面有数十个、十几个以上的十亿级用户产品，它们都需要以极高速度、极高效率、极低成本以及低延迟来提供服务。所以这给了我们一个非常重要的动力，去把这些闪电模型，甚至更小的模型——闪电模型——做得极其高效。希望这最终能对你们所有人使用的许多工作负载都非常有用。\n\n> 我很好奇这些更小的模型到底能聪明到什么程度。蒸馏过程有没有限制？比如说，一个 50B 或 400B 的模型，能不能像今天的神话级模型那样聪明？\n\n是的，我不认为……我不觉得我们已经到达了任何一种，至少我们谁也还不知道，是否已经到达某种信息极限。也就是说，也许在某个时候会是这样：存在一种信息密度，我们无法再超越。但我认为就目前而言，我们的假设是：当我们的一款领先的专业模型或前沿模型发布后，半年后到一年后，你就会在那些真正很小、几乎是边缘端的模型里看到它们的能力；而且你也会在我们的 Gemma 模型里看到其中一部分优势，希望你们都在享受我们的 Gemma 4 模型，我认为它们相对于自身规模来说真的非常惊人。\n\n所以，这再次依赖于大量的蒸馏技术，以及如何让这些非常小的模型真正高效的思路。因此，就所谓某种理论极限而言，我目前并没有看到什么限制。我认为我们离那个阶段还相当远。 ### 持续学习、记忆与边缘部署 眼下我们看到的一件事是，工程师们现在能完成的工作量，已经达到六个月前的 **500 到 1,000 倍**。我想，现场这些人里也有一些人在做着大约 **1,000 倍** 的工作量；**史蒂夫·亚吉**也谈过这件事——大概相当于二十世纪九十年代某个谷歌工程师的 **1,000 倍** 工作量。我觉得这非常令人兴奋。 我认为，小模型有很多用途。首先当然是**成本**。但**速度**本身也很重要：如果你想到编码，或者其他任务，系统越快，你就能更快地反复迭代，尤其是当你还在和系统协作的时候。我认为，对**快速系统**有很大需求——它们也许并不是最顶尖的前沿模型，可能只有 **95%**、**90%** 的水平，但这已经足够好了，而且你从更快的迭代速度中，实际上赚回来的东西往往比那 **10%** 的差距还多。 另一个我认为很重要的大方向，是把这些系统**运行在边缘设备上**。原因不仅是效率，也是**隐私和安全**。如果你想到那些可能要处理非常个人化信息的设备，也可以想到**机器人**。比如你家里的机器人，我觉得你会希望它有非常高效、非常强大的本地模型；而更大的、前沿的模型则可以在云端被编排，只在某些特定情况下才把任务委派过去。也许你会把所有音频、视觉流——比如说——都在本地处理，并且一直保留在本地。我可以想象，这会是一个非常不错的终局状态。 > YC 启动学校回来了。我们正在全球范围内精挑细选最有潜力的创业者，并把他们送到旧金山，在 **7 月 25 日和 26 日** 讨论最前沿的技术。现在就申请席位。 回到视频。继续谈上下文和记忆：模型目前是无状态的，但如果变成**持续学习**，开发者体验会是什么样？比如，使用一个持续学习模型的人，到底会怎么去引导它？ 我觉得这非常有意思。我认为，目前**缺少持续学习**，这是阻碍智能体完成完整任务的因素之一。你知道，它们现在已经能对任务的某些部分发挥很大作用。你可以把它们拼接起来，做出一些很酷的东西，但它们并不能很好地适应你所处的上下文。我觉得，这正是它们还没有真正变成那种“**直接扔出去，它自己会搞定**”系统的缺失环节。它们需要能够学习与**特定上下文**相关的内容，学习你将要 ### 推理缺口与智能体起步 #### 推理能力仍有巨大空白 “把它们放进去。所以，嗯，我认为我们必须攻克这一点，才能获得完整的通用智能。” “我们在推理方面处于什么位置？模型现在可以做出非常令人印象深刻的思维链了，但它们在一些聪明本科生不会犯错的地方，还是会失败。具体来说，什么需要改变？你对推理会期待什么样的进展？” 他的回答是，**思维范式**里还有很多创新空间。他说，自己仍然认为目前的方法“相当简单，相当蛮力”。可以想象的一点，是对思维链进行监控，甚至在思考过程的中途介入。他常常觉得，无论是他们自己的系统还是竞争对手的系统，都“几乎是在过度思考”，几乎陷入某种循环之中。 他举了一个自己常做的事情：拿 Gemini 下棋。他说，所有领先的基础模型在游戏上都相当差，这一点非常有趣。去看它们的思考轨迹也非常“酷”，因为这些轨迹显然是可以很好理解的。他很快就能看出它是不是跑题了，而且它在想什么、是否有用，都是非常可证明的。 他观察到，有时系统会考虑一步棋，意识到那是一个明显的失误，但又找不到更好的办法，于是就回到那一步并照样下出去。“你在一个非常精确的推理系统里，不应该看到这种事情发生。” 所以，他认为这里还存在“巨大的空白”。但他也补充说，也许只需要一两个调整就能修补这些缺口。他对此“相当相当明显”有这种判断。也正因为如此，才会出现这种**参差不齐的智能**：一方面，它可以解决国际数学奥林匹克金牌级别的问题，这非常难；另一方面，正如大家都看到的那样，它在你用某种方式提问时，仍然可能犯下基础的初等数学错误，或者初等推理错误。 对他来说，问题的关键，似乎在于系统对自己思维过程的某种“内省”能力缺失了什么。“我觉得也许这里少了点什么。” #### 智能体才刚起步 “智能体真的很大。有些人会说它们被炒得太热了。我个人认为，它们才刚刚开始。这简直疯狂。DeepMind 的内部研究告诉你，智能体能力现在到底处于什么位置，而外面的炒作又在哪里？” 他的回答是：他同意这种判断，智能体确实才刚开始。 他强调，要达到 AGI，必须有一个**主动系统**，能够主动为你解决问题。这一点他们一直都很清楚，所以智能体就是这条路径，而他们才刚刚起步。他认为，大家都在摸索：怎样才能最好地把它们融入工作流，而不只是作为一种“有也不错”的东西，而是真正开始做一些根本性的事情。 他的印象是，目前大家都在实验很多事情，但也许直到最近几个月，才开始找到真正有价值的落点；而技术大概也只是刚刚好到足以发生这种变化。也就是说，它不再只是一个玩具式的、不错的演示，而是真的开始提升价值，提升你的时间利用效率。 他经常在想：自己看到很多人让几十个智能体连续运行 40 个小时，但他不太确定自己是否见过与这种投入相称的产出；不过他认为这种情况终究会到来。所以他仍然觉得我们处在实验阶段。 他指出，到现在为止，我们还没有看到一款完全用“氛围编码”做出来、并且登上应用商店榜首的 3A 游戏。他说，他自己已经看到，也自己编写过，想必大家也都做过一些很不错的小演示——比如现在可以在半小时内做出一个主题公园原型，而他 17 岁的时候，这件事要花 6 个月。这种变化“简直令人难以置信”。 但他也说，如果自己把整个夏天都投入进去，感觉可以做出真正不可思议的东西；只是这仍然需要工艺，需要人类的某种“灵魂”和品味。无论你在构建什么，都必须把这些带进去。他认为，这也说明系统还没完全到位：为什么我们还没有看到一个孩子做出一款大热游戏，卖出 1000 万份呢？按理说，投入已经这么多了，这应该是可能的，所以总觉得还缺了点什么。 也许问题在于流程，也许问题在于工具。他自己并不完全确定，“你们大概比我更清楚，因为我相信你们都在做实验。”不过他还没看到那个结果，而他原本预期，一旦这些工具真正开始提供完整价值，这种结果就会出现。他认为这会在**未来 6 到 12 个月**内到来。 #### 先看到人类放大 “其中有些问题是：会有多少是自治的，而不是……” 他打断说：“我认为我们不会最先看到自治。我们实际上可能会先看到，在这个房间里的人效率提高 1000 倍，然后——” 他说，这才是你应该先看到的结果。之后，很多人——比如游戏公司，或者其他类型的公司——会用这些工具做出某种畅销应用、畅销游戏。你应该先看到这个，然后才会有更多自动化发生。 “我的意思是，某种程度上，这里是有人的，而那个人不想现在就说是智能体完成的。” 他认为，也许其中一部分原因在于：如果我们讨论的是创造力，他经常对这件事这样说。比如回顾他们做过的东西，像阿尔法围棋——大家当然都会非常著名地知道第二盘里的 37 号手。 对他来说，他当时一直在等待一个类似的时刻，用来开启科学项目，比如阿尔法折叠。所以，他们在从首尔回来那天就启动了阿尔法折叠，而那已经是 10 年前的事了。现在他要去韩国，正好庆祝阿尔法围棋 10 周年。 但他认为，仅仅提出 37 号手是不够的。“那很酷，非常有用。”不过，它能发明围棋吗？这才是他想要的系统：如果你给它一个高层描述，它能发明一款围棋那样的游戏——规则 5 分钟就能学会，却要花很多世代、很多生命周期才能精通。它在美学上是美丽的。你可以在几个小时、一个下午就开始玩。 所以，也许你可以想象，那样的系统就会…… ### 开放模型与推理成本 be the highle description I would give. And then I'd want the the return the thing I get back is go, right? And um clearly today's systems I think can't do that. So the question is why um and I think there's something still missing there. > Well, someone in this room might might make it. Then the answer would be there's nothing missing. It just was the way we were using the systems. And that might actually be the answer. It might be that our today's systems are capable of that with a brilliant enough creative person using it and providing that impetus that the soul of the project and being able to probably being offay enough with the tools to like almost be at one with the tools. I could imagine that would be happening if you experimented with the tools all day and all night like probably many of you are doing that and you combine that with proper deep creativity um something you know more incredible could be done. #### 开放源代码与开放权重 切换话题到开源，或者说开放、开放权重——最近发布的 `Gemma`，你们正在打造高度 सक्षम、开放且可访问的模型，而且它们 वास्तवיכול本地运行。你认为这意味着什么？人工智能会不会更多地掌握在用户手中，而不是主要在云端？这会不会改变谁能够用这些模型进行构建？ 我们总体上非常支持开源和开放科学。你刚才提到了 `AlphaFold`，我们把它全部免费开放了，而且我们所有的科学工作，即使到今天，仍然发表在那些大型期刊上。我们想要创造的是按其规模而言世界领先的模型，对吧？这就是我们希望在 `Gemma` 上做到的事情，而且我们非常坚定地沿着这条路走下去，也希望你们都去实验、去构建、去享受使用 `Gemma`。我想它现在已经有大约 **4000 万次下载**了，而且只用了 **两周半**。所以我们真的对此非常兴奋。 我也认为，对开源来说，拥有西方技术栈很重要。很明显，很多中国模型都很优秀，而且他们目前在开源领域是领先的；我们认为 `Gemma` 在其规模上、在所有这些方面都非常有竞争力。对我们来说，还有一个资源、人才和算力的问题：没有人有足够的闲置算力，去同时做两个顶级前沿模型，而且还是最大规模、但属性不同的版本，对吧？这很困难。不过目前我们已经决定，我们用于 `Android`、眼镜和机器人这些边缘模型——也就是我们希望使用的那些模型——最好是开放模型，因为它们一旦被放到表面上就已经很脆弱了。所以它们不如干脆彻底开放，对吧？因此我们在某种我们称之为 `nano` 规模的层级上，做了统一的决策。这样对我们在战略上也同样有利。 我们当然希望尽可能多的人在其上构建，当然我们自己也会在其上构建。 #### 多模态的优势 > 刚才在我们上台前，我给你演示了我版本的《她》里的 `Samantha`，对我来说，给你演示点什么真的很可怕。非常…… 而且它成功了，这太惊人了。`Gemini` 从一开始就是为多模态而构建的，我和很多模型都花了很多时间，我是说，直接通过语音与模型交互时，那种上下文深度和工具使用能力，没有什么能比得上它。 > 无可争议，就是最好的那个。 > 是的，是的。我认为 `Gemini` 系列有一个仍然稍微被低估的方面，那就是我们从一开始就让它成为多模态。这在起步阶段其实更难一些，因为它不像只专注于文本那样简单；但我们相信，从长远来看我们会从中获益，而现在我们已经开始看到这一点，比如在世界模型构建方面——像我们在 `Gemini` 之上构建的 `Genie` 这类东西，我认为它对于机器人等领域会非常重要。所以很多人可能已经玩过的 `Gemini Robotics`，我认为它将建立在多模态基础模型之上；我们认为自己在这方面有某种竞争优势，因为 `Gemini` 在多模态上非常强。我们也越来越多地把它用于像 `Waymo` 这样的东西里。 但如果你设想一些会跟着你进入现实世界的设备和助手——比如你手机上的数字助手，或者眼镜，或者其他设备——它需要理解你周围的物理世界、直觉物理，以及你所处的物理语境，而这正是我们的系统极其擅长的。我想你也发现了，这就是你在自己的设置里喜欢使用它的原因。我们计划继续沿着这条路走下去，我认为在这些类型的问题上，我们的模型远远是最强的。 ### 虚拟细胞与科学数据瓶颈 我们还在做相邻的生物化学和化学工作，目的是设计出具有合适性质的正确化合物，等等。关于这方面，我们很快就会有一些重大公告要谈。我认为这方面进展非常顺利。 最终，你会想要一个完整的虚拟细胞。我在很多科学演讲里都谈到过这一点：一个完整工作的细胞模拟，你可以对它施加扰动，而它的输出与实验结果要足够接近，才真正有用，对吧？这样你就可以跳过很多搜索步骤，并生成大量合成数据，用来训练其他模型，而那些模型随后就能预测关于真实细胞的事情。 我认为，大概再过 10 年，我们也许就能做到某种虚拟细胞，也就是一个完整的虚拟细胞。我们现在正在做的是，从 DeepMind 的科学方向出发，先做一个虚拟细胞核，因为它相对来说更自成体系。所有这类工作的关键在于：你能不能从复杂性里切出一个合适的切片？最终你当然会想去建模整个人体，但你能不能把它建模到合适的细节层级，以及你能从中取出哪一部分，使它足够自洽？你可以对这个自洽系统的输入和输出进行建模和近似，然后只聚焦于这个自洽系统本身。所以，细胞核从这个角度看就相当有意思。 另外一个问题就是，现有数据还不够。你需要数据。我和一些研究电子显微镜以及其他成像技术的顶尖科学家聊过。如果我们能在不杀死细胞的情况下对活细胞成像，那显然会是改变游戏规则的，因为那样你就可以把它转化成一个视觉问题，而我们知道怎么解决这种问题，对吧？但就目前而言，我并不清楚有没有哪种技术能够在活的、动态的细胞里，以纳米级分辨率成像，同时又不把细胞破坏掉，这样你才能看到所有相互作用，对吧？你当然可以拍到这种分辨率下的静态图像，现在已经非常细致，这很令人兴奋，但这还不足以把问题仅仅变成一个复杂的视觉问题。 所以，这是一种可能的解决方式：要么是硬件驱动、数据驱动的解决方案，要么是我们构建更好的、学习型的这类动力系统模拟器。这就是更偏向建模的解决路径。 > 你一直在关注各种各样的科学，不只是生物学。还有材料科学、药物发现、气候建模、数学。如果必须给未来五年里会发生最剧烈变革的科学领域排个序，你会把哪些领域列进去？ ### 人工智能驱动科学突破 当然，这些事情都让人非常兴奋，而这也是为什么我一直说，对我来说，这一直是我职业生涯里最大的热情，也是我在 30 多年来始终从事人工智能工作的原因：把人工智能当作终极工具。我一直认为，人工智能会成为科学的终极工具，会推动科学理解、科学发现，以及医学之类的领域，还有我们对宇宙本身的理解。 所以，当你提到我们最初用来表述使命的方式时，其实我们现在仍然这样理解，只是说法上做过一点调整。最早的使命分成两步：第一步是解决智能，也就是构建通用人工智能；第二步是用它去解决其他一切问题。我们后来不得不稍微改一改，因为人们会问：你们真的是指“解决其他一切问题”吗？而我们的意思确实就是这样。我觉得今天人们也开始理解这句话的含义了，但我当时具体指的是，解决我所说的科学里的“根节点问题”。也就是那些能够打开整个新分支、新路径的科学领域。 AlphaFold 就是我们想做的那种事情的原型例子。现在，全球超过三百万研究人员，几乎全世界每一位生物学研究者都在使用 AlphaFold。我的一些制药业高管朋友还告诉我，从现在开始，几乎每一种被发现的新药，在药物发现流程中的某个环节都会用到 AlphaFold。这让我们非常自豪，这正是我们希望人工智能带来的影响。不过我确实认为，这还只是开始。我真的看不出有哪一个科学或工程领域会无法从中受益。至于你刚才提到的那些方向，我觉得我们现在几乎正处在一个类似 AlphaFold 1 的时刻：已经有非常有希望的结果，但在那个领域里，那个伟大的挑战还没有被完全解决。不过我认为，接下来几年里，我们会有很多可以谈的内容，涵盖所有那些方向。你提到材料，我觉得这非常令人兴奋，一直到数学也是如此。 在科学里，我的意思是，这种感觉很像普罗米修斯。就像：这里有一种能力，接下来呢？ 我也这么认为。当然，和普罗米修斯的寓言一样，我们还必须谨慎对待它，谨慎使用它，以及它可能被如何误用，因为同样的工具也可能带来误用。 很多在这里的人都在尝试创办公司，把人工智能应用到科学上。对于他们来说，在你看来，真正推进前沿的创业公司，和那种只是把基础模型的接口包一层、然后就叫它“科学人工智能”的公司之间，区别是什么？ #### 前沿创业公司的区别 我觉得，我会建议的一件事是——我正在试着思考，而且你之前也跟我提到过这个问题：如果今天我坐在你们在 Y Combinator 里的位置，我会怎么做、会怎么看待这些事情？其中一件必须做的事，显然是要判断人工智能技术会往哪里走。这当然是一个难点。 但我确实认为，把人工智能的发展方向和其他某个深度技术领域结合起来，有巨大的空间。我觉得那个甜蜜点就在这里——不管是材料、医学，还是其他真正困难的科学领域。我认为，这类跨学科团队，尤其是如果还涉及“原子世界”，在可预见的未来里，不会有什么捷径可走。那些领域，至少暂时来说，还是很安全的，不会轻易被基础模型的下一次更新彻底淹没。所以如果你在找这种方向，我会说这是更有防御性的领域之一。 而且我一直很喜欢深度技术，所以我对这类东西有点偏爱。我认为，真正长期而且值得做的事情，从来都不容易。所以我总是被深度技术吸引。很明显，人工智能在 2010 年我们刚开始做的时候也是这样，对吧？那时大家都觉得它只是“我们知道它行不通”的东西——这是我从投资人那里听到的，甚至在学术界，它也被看作是一个非常小众的题目；人们会说，我们在 90 年代已经尝试过了，大家都知道它不行。 但如果你对自己的想法有信念、有判断力，知道它为什么这一次不同，或者你有某种独特的背景组合，最好是你既是机器学习和另一个你要应用的领域的专家，或者你能组建一个具备这些专长的创始团队，我觉得那里就有巨大的影响力可做，也有巨大的价值可以创造。 > 这是一个非常重要的信息。我的意思是，这其实很容易被忘记：一旦你把它做出来了，就好像“你已经做成了”。但在你做成之前，别人都是把你当成对手。 当然，当然。没人相信它。所以我才觉得，你也得去做那些你真正热爱的事情。对我来说，不管发生什么，我都会去做人工智能。我从很小的时候就决定了，这会是我能想到的、最有可能产生最大影响的事情。事实证明确实如此，但也可能不会。也许我们当时早了 50 年。而且这也是我能想到的最有意思的工作。所以就算我们今天还在一个小车库里，我现在也还是会继续做人工智能。 ### 适合突破的科学问题 某个地方，结果还是没有完全跑通。我本来可能还会继续试着找，也许会回到学术界之类的地方，但我无论如何都会想办法继续做下去。所以，我的意思是，AlphaFold 就像是一个你追逐的“尖峰”，而且它成功了。 #### 什么样的问题适合这种突破 你知道，是什么让科学领域适合出现 AlphaFold 式的突破？是否存在一种模式，某个特定的目标函数？ > 我应该在什么时候有空的时候把这个认真写下来。不过，从我们做过的这些 Alpha 项目里，尤其是 AlphaGo 和 AlphaFold，我学到的经验是：我认为我们拥有的这些技术，以及我喜欢寻找的那些问题，最适合的情况是——这个情境可以被描述成一个**巨大的组合搜索空间**。从某种意义上说，越巨大越好。因为那样就不可能靠蛮力，或者靠某种特例算法把它解掉。围棋的落子是这样，蛋白质的不同构型也是这样，甚至比宇宙中的原子还要多，两者都是如此。 然后，你还必须有一个清晰的目标函数。比如，你可以把它理解为蛋白质中的自由能最小化，或者围棋里的获胜。总之，你需要把目标函数定义得足够清楚，这样你才能做爬山搜索。然后还需要足够的数据，或者一个模拟器，能够给你生成大量符合分布的合成数据。如果这些条件都成立，那么我认为，用今天的方法，你就可以在很大程度上着手处理并找到你需要的那根“针”，也就是你正在寻找的那个解决方案。 我甚至认为药物发现也是同样的道理。对吧？一定有某个化合物，能够治好这种疾病——如果我们能找到它的话，只要能找到它就行——而且它不会有副作用，等等。只要物理定律允许它存在，那么唯一的问题就是：你如何以一种高效、可处理的方式把它找出来。我认为我们第一次真正展示了这一点，那就是 AlphaGo：这些系统可以在那些“针”里找到答案，在那个案例里就是那个完美的围棋落子。 #### 从模式匹配到科学推理 我想稍微更元一点。我们现在在谈人类用这些方法创造出 AlphaFold，但还有一个更高的层次：人类使用人工智能去探索所有可能假设的空间。我们离能够进行真正科学推理的人工智能系统还有多近？而不是仅仅在数据上做模式匹配？ 我觉得我们很接近了。我们正在研究这类通用系统，比如我们有一个叫做 `co-scientist` 的系统，还有像 `alpha evolve` 这样的其他算法，它们可以在一定程度上超出基础版 Gemini 能做的事情。当然，所有前沿实验室都在以这种方式做实验。 到目前为止，我还没有见过任何东西——我们大家也都在捣鼓差不多的东西，比如一些比 IMO 还难一点的数学题之类——我还没见过任何真正意义上的、巨大的发现。这是我的个人看法。我觉得这正在到来。我认为它可能和我们前面讨论过的那个东西有关：创造力，以及真正超越已知边界地往前走。很显然，这时候就不只是模式匹配了，因为根本没有可匹配的模式；它也比外推更进一步。它是一种某种类比推理，而我不认为这些系统现在已经有这种能力，或者至少我们还没有用正确的方式去让它们做到这一点。 所以我在科学领域里经常这样说：它能不能提出一个真正有意思的假设，而不只是解决一个问题？当我说“只是”时，我们现在谈的其实已经是“只是”解决黎曼猜想之类的问题了。那当然会非常了不起，或者去解决千禧年大奖难题中的某一个。也许我们距离那样的能力只有几年了。 但我更想解决的是 `P = NP`。那是我最喜欢的那个问题。不过，比这还要难的，是提出一组新的千禧年大奖问题，并且让顶级数学家认为它们同样深刻、同样有意义、同样值得花一生去研究和努力解决。我觉得那又是高出一个层次的难度，而且我仍然不认为我们知道该怎么做。我也不觉得它是魔法。我确实认为这些系统最终会有一天做到这一点，也许我们只是还缺一两个关键点。 我们可以怎么测试这一点呢？我有时会把它叫做我的“爱因斯坦测试”：也就是说，你能不能用 1901 年的全部知识去训练一个系统，然后让它像爱因斯坦在 1905 年那样提出新东西，包括狭义相对论，以及他的“annabolis”？它能做到吗？我想我们可以做这个测试。也许我们应该就直接做这个测试，然后持续观察它是否可能。一旦它能做到，我就认为我们已经站在这些系统能够真正发明出新事物、真正新颖事物的门槛上了。 #### 给前沿建设者的建议 所以，最后一个问题，留给在场那些技术背景很深、想要做一些哪怕只是接近你所创造的那种规模的人。你做出了世界上最大的人工智能努力之一，而且这么多年一直是先驱。对此，我想在场的每个人都从心底里感谢你，也感谢 DeepMind 的各位，非常非常感谢。谢谢你。那就是：你现在知道的、关于在前沿建设的事情里，你希望在 25 岁时就知道的是什么？ 我觉得我们前面已经谈到了一部分：其实你会发现，去做困难而深刻的问题，在某些方面并不比去做浅一点、简单一点、表面一点的问题更难。它们只是“难”的方式不同。每一种事情难的地方都不一样。但我觉得，既然人生非常短暂，而你能拥有的时间和精力也就那么多，你不如把自己的生命力投入到那些真正能产生影响的事情上——如果不是你去做，没有你在场推动它，它就不会发生。 所以，我会用这个角度去看待它。还有一点，如果你正在做深度技术，我非常喜欢跨学科工作，而且我认为未来几年这会变得更加普遍：不同领域的组合，以及在这些领域之间寻找连接。借助人工智能，这件事也会变得更容易去做。最后我还想说的是，如果你有你自己的 AGI 时间表——我的大概是 2030 年之类——那么如果你从一开始就进入深度技术方向…… ### 前沿科学推理的下一步 今天的这种旅程，通常来说，你谈的是一个**十年**的深度技术旅程，在我看来确实如此。于是现在你就必须把**通用人工智能在这段旅程中途出现**这件事考虑进去。那这意味着什么？它不一定是坏事，但你必须把它纳入考虑，对吧？它会不会能够利用它？通用人工智能系统会拿它做什么？ 这也有点回到你刚才说的关于 AlphaFold 和通用人工智能系统的话题。我能想到的一件可能发生的事，是 Gemini、Claude，或者这些通用系统中的某一个，去把像 AlphaFold 这样的专门系统当作工具来使用。我不认为我们会把它们全都塞进一个巨大的大脑里，因为那样会有太多回归性问题。如果我把所有蛋白质都放进你知道的 Gemini 里，那就不合理了。我们不需要 Gemini 来做蛋白质折叠。回到你说的信息效率，这样做肯定会以不好的方式影响它的语言能力，或者类似的东西，对吧？ 我认为更好的方式，是拥有**非常强的通用工具使用模型**，然后它们或许甚至可以训练那些特定工具，但那些工具会处在一个独立的系统里。所以我觉得，认真思考这件事的影响，以及你今天可能会去构建什么，是很有意思的，比如实体世界里的东西也是如此——你会建造什么样的工厂？什么样的金融系统？等等。 所以我只是觉得，你真的需要非常认真地看待这一点：一方面，设想那个世界会是什么样子，然后去构建一些即使那种情况在中途出现时也仍然有用的东西。