蒋炎岩：绿导师眼中的 AI 极乐末世——人物对话整理

你好。

我还没有退休，我只是想退休。我看你在小红书上面 3 月 21 号发了一篇文章，叫做《我决定在人生巅峰退休了》。这篇文章是什么意思？我看到了一种有点像末日的景象，大概我们现在做的所有的事情都会成为徒劳。那在这个徒劳之下，可能我们要停下来去思考未来应该做什么，大概是这样的意思。

我觉得我们大学老师从学生进校开始就要培养他们，然后从一步一步的本科生到研究生，再到博士，这个过程可能都会变成徒劳。然后我们产出的论文，也许在 AI 的眼里都是没有意义的垃圾。那么在这样的一个世界上，我们还怎么样看待人类积累了这几百年的研究成果？可能这是我们需要停下来仔细想一想的。

我一个感觉，其实人类就是一个复读机。那为什么这么说呢？我们大部分时候在产出一个科研成果的时候，是根据一些原始的动机和想法，然后做一个类似于[听不清]的推理，然后从这个推理当中，有时候我们会调用工具去写一个代码、做一个实验。但是，所有这些看起来曾经是非常高级的智力活动，对于今天的大语言模型来说，已经不是那么困难了。所以，从一个高级的想法到最终执行、实施，得到一个研究结论，这个过程在某种程度上很快就会被机器所取代。那么在这个时候，作为一个大学老师，我首先想的问题就是：那我们存在的意义还是什么？

我觉得这是一种恩赐的解脱。你想，我们有这么多的博士生在痛苦地挣扎，无论是他喜欢他的 research topic，还是不喜欢，整个读博的过程都是非常痛苦的。等到末日景象来临的时候，我们也不需要大学了，甚至不知道人类还在不在了。所有的人类，都某种程度上获得了一种真正的解脱；而可能机器会替代我们去发现那些新的知识，拓展人类的边界，也可以去到我们无法生存的星球。那也许是一个更好的景象，而不是一个末日的景象。

首先，我看到的一个景象是，我们人类理论上说可以存在一个比较复杂的目标；然后这个目标一旦设定，并且我可以强制写一个程序让机器来执行它，那么它就可能有无限的智能，或者接近无限的潜力。至于在这个过程中机器会不会自己产生意识，可能我没有办法下这个定论。但是我可以看到的是 scaling law，或者说，我觉得现在大家说的这个 test-time scaling，会是一个非常非常有前景的方向。可能我觉得，相当多的人对 test-time scaling 的能力低估了。

你可以这样想。如果你拿出一本字典，你们都背过单词，对吧？第一个词是 A，第二个词是 AA。然后你就可以写一个机械的过程，写一小段 Python 代码。这个代码可以枚举，比如说所有由这个字典里面的词组成的句子，长度可以是从最短的开始枚举。然后，我对于这个句子从短到长枚举以后，就可以把这个句子交给研究生。研究生可以去做一个 research。所有世界上的研究也好、测试一个软件也好，都存在一段简短的解释。那在这个简短的解释的基础上，一个好的导师或者一个好的人，就可以把这个空间里面没有意义的、重复的或者不 interesting 的东西，更好地排除掉。很多复杂的问题，其中的核心思想其实很简单，就是一段话。

你说得太对了。因为在 pre-large language model 的时代，如果我们要做这个 small explanation hypothesis，我需要一个机械的枚举过程，然后有一个机械的生成过程，再去做测试。但是在 large language model 的时代，我们发现，语言这个东西可以在一定程度上被驾驭。那么，驾驭就意味着我们的枚举过程可以变得更柔性，不是一个很硬的枚举过程。而枚举完了以后，它就变成了一个有点像导师形成的想法，然后把这个想法交给一个研究生。大家都觉得，像今天的 Agent Codex，它的能力已经达到了研究生，甚至博士毕业生的水准了。那就意味着，当我有一个想法以后，我完全可以把这个想法以自然语言的形式交给这个 Codex。然后 Codex 往后去做验证，去 verify 这件事情到底是对还是不对，最终给导师一个结论性的 report。那它就形成了人类世界里面的一个新的知识，对吧？这件事情是：我提出了这样的一个问题，这个问题的结论是 positive 还是 negative？为什么？证据是什么？对吧？这样的一个解释。这样人类就可以在这样的一个循环里——我只要写这样的一个、可能要运行几万年、几百万年，不知道的循环——但是可以在这个基础上不断地产生新的知识，而不需要人类的参与；一个人类也不需要。

在 AI 的时代，我觉得任何一个机制上的改进，可能都是带来数量级的提升。就像之前我们在 agent 还跑不起来的时候，我们觉得一个长程的任务是几乎不可能的。可能就一年以前的时候，大家还会觉得一个几天、一个星期的长程任务是不可能的，但今天就可能了。在这样的长程任务上面，其实你得到的智能加成，我觉得就是一个非常大的数量级的提升。

所以很多时候我们都不好说未来会发生什么，对吧？如果我们允许，比如说在 agent 里面可以有一个非常好的上下文压缩方式，然后我们可以得到一个近乎无限的上下文，那可能整个故事又变了，对吧？我们也许不需要一个这样的路牌，只需要一个线性的结果就可以了。但是这至少可以给我们的启发是：这件事情是可能的。

我觉得我可能是看到了一个大的方向，但是我又有一种抑制不住自己的兴奋，想要去在这里面弄清楚，到底什么样的途径可以通往我们看到的那个极乐世界。然后所以我就想试一试，不管是想要杀死教师的一个尝试，还是想要讲清楚怎么样导出世界上所有的研究的这样的想法，可能我都会去想一想。虽然我可能不会做所有的事情，但我觉得想一想很有趣。

我有一个观点，就是人类，因为我们是从物种进化来的，所以我们有一个与生俱来的本能，就是竞争。然后竞争催生了各种各样的好的东西和坏的东西，比如说战争。但是战争同时又推动了科技的进步，最后人类还是生活得更好了。那么我们假想，如果有一个非常非常非常强大的 AI，你做任何事情，在它面前都是没有意义的，你就失去了一种本源、进化给你的动力。

这些机器和 chemicals-driven 的，但这个东西没有了以后，我们人就进入了一种完全的虚无状态。我不知道会发生什么，但是我觉得它很有可能会有一天到来。我们就像生活在水缸里面一样，也知道自己生活在水缸里面，但是对此无法抵抗；我们做的所有东西，机器都已经预判了。

可能不完全是。退出软工圈的一个很大的原因，也是可能我和这个领域里面一些相对比较资深的研究者达成的共识：好的论文的数量变少了，然后你需要被迫读大量的没有意义的文章。不知道这是如何发生的，但是它确实发生了。所以某种程度上，我退出软工圈了。

对，我几乎不投稿软件工程的文章了。除非可能我的同学毕业实在是有困难的话，我们还会试一试。

我觉得审稿人可能更专业的是 PL 和 systems，所以我最近投的文章都在 PL 和 systems。但是我今年的文章都被拒了，所以——

我退出了软工圈，但我还是一个软工人。我觉得在不在软工圈和是不是一个软工人，是两件事。软件工程是一个非常成熟的学科，它告诉我们怎么样构造好的软件；但我觉得，因为软工圈开始不再做软件工程的问题，那么某种程度上，我不再和这样的一个不做软件工程问题的圈子保持联系，割裂开来以后，我就退出了软工圈。

比如说我现在做一些像 agent 这样的工作，它是需要很多的软件工程知识的，我仍然觉得我是一个软工人。

实话实说，这些都是我自己的想法，但我也是个软件工的人。

我觉得可以这样理解。

主要还是来自 AI 对我们研究的影响。因为我们的科研体系、学术体系，或者说现在这个有组织科研的体系，很大程度上没有办法适应现在 AI 技术的快速发展。

而在一个团队当中，你需要尽到一个团队的职责，比如说你会需要去代表团队去参与一些项目；在这些项目中，可能你在打磨申请的时候，甚至是在被拒掉的时候，第二年再申请的时候，这个申请书其实已经变得毫无价值了，但是你又必须要在团队里面做这件事情。

然后我觉得自己的感受是，可能在这些年里面，因为这样的事情花掉了我很多很多的时间，然后终于我觉得，应该鼓起勇气，有一天说：“也许不要做这样的事情了。”反正死和活对我来说都不重要。我相信有一天，我应该是活在那个极乐世界里面，泡在这个 AI 做的缸子里面的。

所以，也许应该去做那个更 exciting 的事情。

我感觉可能不会有特别明显的区别。因为对我来说就是带学生和上课；我觉得其他的所有事情，以及想 research problems 之外，所有的事情都是不应该做的事情，都是必须承担的 overhead。我只是在减少那部分 overhead，但是 overhead 对我来说就是不想做的事情，所以在我看来其实没有什么区别。

这是一个很好的问题。我的时间都到哪去了呢？OK，我们要写申请书，然后我们要争取比较大型的、高规格的项目；而这些本身就是——而且项目做完以后还要有一个非常严格的执行。比如说你在项目要验收的时候，会需要第三方的测试报告，有非常长的文档，你需要花很多的精力来做这件事情。因为可能你的 junior PhD student 做不好，做不好的时候你就必须接管很多这样的事务。所以区别就是：你不用做项目了。

对，有一定的风险吧，应该说。

对，有一定的风险吧，应该说。

我觉得对这件事情想得越来越开了，因为这就涉及学术圈评价体系的问题。对于每一个同学来说，我都想发很多的 paper，然后可能就能找到一个教职，可以稳定下来。这可能是十年以前的一个标准答案，但是这个答案在今天其实已经不一样了。

然后我们又有过去的惯性，因为我总是能够收到同学发给我的简历，说我发了多少多少篇论文；然后当我点开那个论文的时候，发现那个论文没有办法看。我们在一个旧时代和新时代过渡的中间，在这个过渡的时间，很多机制没有缓过来。这就意味着我们要带着旧时代的负担，还要把新时代的事做好。

那很多时候，对于一个老师来说，就成为了不可完成的任务了。而当你的评价指标又是旧时代的时候，为了活下来，你又必须要管那些指标。所以其实我选择：“我不要活了。”但是我觉得应该做一点有意义的事情。

比如说，我说我今天 paper 都被拒掉了，是因为很大程度上，我的这两篇 paper 都没有 baseline 可以比。就是你找遍世界上已经发表的论文，然后你找不到一篇合适的论文，可以作为它的 baseline 来比；就是说，这是一个全新的东西，很难 evaluate。所以我很难说服审稿人说，这个东西就一定是在定量上比别人好，这非常困难。但可能审稿人也会隐约觉得：OK，这个东西还挺好的。

我们被 PLDI 拒掉的分数是 1、3、3、3、4，是 strongly reject，然后就被那个一分给干掉。我觉得可能我们应该做一些真正的、到了做真正的东西的时候，而不要管那些评价体系了。

你说得太对了。当你真正需要钱的时候，没有 research funding 可以 cover 你的钱，所以你总是要找其他的方法。比如说，也许 DeepSeek 愿意赞助我很多很多、我用不完的 token。我现在每天 Codex 带着 DeepSeek，可能能烧个两三亿的 token。这个数字其实不小了，但这个开销目前我还是可以承受得了的；但再多的话，我可能就——对对啊，如果再翻十倍，或者我要用更好的模型，可能我就承受不了了。

那可能没有任何一个科研经费可以 cover 这样的 token 消耗，也许只能、只能有别的办法。所以我觉得，在新体系下和旧体系下，其实是一样的。

应该这么说，现在的评价体系是希望你能够带一个大团队，尤其是在学校里面带一个大团队，做一件非常大的事情。然后这样你分到每一个人头上的钱，就还算是比较充足。

但是这件事情在学校里面本身，我认为是一个伪命题。因为你在学校里面是不可能——可能清华、北大除外——在其他任何一个学校，都很难凑成一个真正有战斗力的、由老师和学生组成的团队，能够做一件真正大的事情，比如说做一个制谱这样的事情。

如果当你做的东西，或者说我认为你可以做的、在学校里面可以做的事情，有两种：一种就是，你做那种“我的 idea 非常牛，我只要证明它是可以的”，那么当我把它 publish，甚至往 arXiv 上挂的时候，大家就知道我们可以往这个方向去做了。我觉得这个可能不用花费特别多的钱，所以我们可以在学校里面做这件事。

另外，就是我可能需要一个很大的算力去验证的东西，无论是 token 还是算力，那么我相信 Inertia 会愿意支持做这件事。所以可能学术界的科研经费就显得不那么重要了，而大家那么执着于经费的根本原因，其实是科研经费是学校考核老师的标准。

你的经费越多，你就牛；你经费不够，你就要面临被赶走的困境。那我已经选择不活了，这对我来说也就无所谓了。我只要能够 cover 学生的工资，不让他们饿死，然后还有点 token 能用，我觉得已经 OK 了。

这是一个非常复杂的问题。因为从国家的角度，它要运转，就必须要有一个自上而下的机制，能够实现对所有科研人员的管控。这当然是非常不容易的，对吧？所以它必须要有一个评价的指挥棒。它说，你能够得到——当然最终来说，你是能得到比如说国家奖、院士，代表你是国家对你的最终认可。然后在这个认可下，它会形成一个学术权力的金字塔。一旦有权力、权力可以分配，那么这个体系就可以转起来。我觉得某种程度上，这是必不可少的。

但是从另外一个角度来看，因为我们说学术创新产生的是一个新的想法，这个想法又不一定是由这个、尤其是颠覆性的创新，不一定是由这个自上而下的组织产生的，所以这里面天然就有一个张力。

从最理想的情况来看，应该是我们的学生都不要去发任何的论文，或者说发表只需要一个非常底线的发表，然后最终以一个很好的同行评议机制，来找到那些做出了最有价值贡献的人。

但与此同时，你又没有办法去阻止：如果真正启动了这样的一个体系，你又没有办法阻止一些怀揣恶意的人在里面套到利益。所以它依然需要用 peer review 这个机制，尤其是比如说顶会、顶刊这样的机制，来筛选掉那些绝对的恶人。

比如说，他没有一个正常的学位，也没有发表过任何论文，但是他做了一个假的简历，然后就被以一个非常高的规格引进去。它还需要杜绝这样的事情。所以这个世界其实比大家想的要复杂一些：你首先要让这个体系能够转起来，又需要让它转好。怎么样？我可能不知道；或者说，也许有越来越多像我这样“不想活了”的人，并且又有学校，比如说南大，可能还愿意收留我，那可能就会往好的方向发展。

我觉得更看重的是他 reward hacking 的能力。我觉得你对任何一个评价体系，都可以说这样的话，对吧？

也许有人可以平衡得很好，因为他的实力很强，所以他也许可以不需要那么世俗。但是可能更多的人，尤其是有很多人也许自己没有受过非常好的训练，本质上是一个不自信的人，那他会坚定地选择 reward hacking 的路线。

某种程度上是，就是遵循我内心想做的事情。

我绝对不够强。我的例子是，我说我有一位启蒙老师，他做得非常好，一直是我的偶像。我经常会去他办公室，让他骂骂我，把我骂醒一点。这位老师，我觉得他的实力远在我之上，但是他应该是结亲可能有四次上会，就没有评上。所以我不知道那些其他评上的人是怎么评上的，但是事实就是：你有实力也是没有用的。

大家都知道我是一个很喜欢整活的人，然后我就整了一个大活。我先播放一下。补充一下，因为我也是[听不清]，我已经给小学生出了十年的题了。大家还挺喜欢我的出题风格的，因为我一般来说出题，就是让这些培训机构永远猜不到我会出什么样的题，但是这个题小学生又能够做出来。

于是我就做了这样的一个实验：我把有一年出给小学生的编程题，出给了我们应该是考研来复试的学生。完全一样的题面；当然我们复试是英文的题面，然后我用 ChatBD 直接把它一模一样地翻译成了英文，完全一样的参数。结果就是，过来考试的同学们惨不忍睹。所以事实就是，不如小学生。

这个题目是这样的。我们都知道，我们有一个身份证号。身份证号前面六位是你出生的那个地区，接下来是你的出生日期，然后最后有一位校验码。这个校验码是冗余的，也就是说你把它[听不清]，也可以把它算出来；你就可以知道身份证号是不是合法，防止你手滑以后把身份证号填错。你们在填网页的时候，经常都会不小心填错，之后它会告诉你：这不是一个合法的身份证号。

然后你的任务就是：我已经告诉你了身份证号校验的规则，写得非常清楚；你需要写一个程序，来校验身份证号是不是合法，以及出生日期是不是在 1900 年 1 月 1 号到 2025 年 5 月 10 号之间的某一个合法日期。就这样的一个简单题目，我觉得是大一程序设计期末考试的题目。

很好的问题。应该是评价体系的问题，使得他们成为了 reward hacker。因为他们考研最重要的就是 408 的那门专业课，然后我有一年去改过那个 408 专业课，我还是有点受不了那个题目。我不知道出题人脑子怎么样，才能出出这样没有任何意义的一个服从性考试的题目。

有什么感觉呢？这个考试就像是给你一本书，然后这本书是一个 random string、random bit string；它的问题就是从这个 random bit string 里面掏出某一个位置，说：“请你写出第 38 页第 6 行的那个 bit string 是什么？”这个东西因为它是不可压缩的嘛，你不可能建立一个更好的知识模型来理解这个知识，所以你只能把它记住。考研的人就花了时间去记这个，然后他其实什么也没有学会。

You are absolutely right.

主导这样的一个考试，而是他一旦确定了一个范围以后，就可以觉得很安稳地做几十年。因为他只要不出错，对他来说就是好的；那他也可以做一个 reward hacker，就是每年就出一样的类似题目。这个题目你也不管它在现实世界、今天的意义下，和计算机专业已经有多么脱节；他只要有一个服从性的考试，能够把大家的成绩按照从高到低排序，并且 somehow 他还可以对外辩解说：“我说的这些东西还是和计算机有相关性的。”那当然是有相关性的。那么他就在一个不败之地上。

那么这个体系不摧毁，reward hacking 就是一个必然的现象；但是这个体系要摧毁，又需要大量有能力的人愿意在这个体系的底下一点一点向上走。但这样的向上通道几乎就不存在，所以这是一个系统性的问题。

这我不确定。但是我作为一个不喜欢 reward hacking 的人，显然我拒绝一切和教学相关的、评价体系上的东西，包括奖励、荣誉这些。我觉得我获得一个南京大学学生评选出来的“我最喜爱的老师”，当时很惊喜，因为我不知道是学生用脚投票投出来的；这是我唯一获得的、某一种好像有一定官方认可的荣誉。

但是这个荣誉没有任何用。这个荣誉在你看来，才是最没有 reward hacking、最真实地反映了你的教学对于学生的影响的？我觉得是，这是学生对我的认可，但是它不能帮助我在任何意义上向上爬，走一小步。

曾经是。现在信息学竞赛已经发生了巨大的变化。我曾经有过一个视频，说信息学奥赛发生了什么，然后劝退各种各样试图学信息学奥赛的人。

因为现在信息学奥赛，首先它的难度已经——它成熟了，和我那个时候不成熟的时候不太一样。它成熟了以后，就可以像数学竞赛一样，在一个空间里面，某种程度上成为一种服从性的测试。但是它可以很好地反映你的逻辑推理水平；那么这个时候老师就显得很重要。

但是信息学竞赛老师又非常非常稀缺，所以这最后就变成了一个有一点点——尤其是在可能要到 NY 竞赛的时候——

所以我在今天看，可能我不是特别推荐大家再去参加信息学竞赛了。

竞赛还不太一样。竞赛还是一个可靠的选拔机制，因为它足够难；它不是一个完全服从性的考试，所以保送上清北这个事情还是没有问题的。但是在这条路上牺牲了太多可能不适合走这条路的学生，这是我比较担心的事情。

对这部分人来说，都是不可接受的。

技术委员会主要是评审和制定规则，但是可能我不能透露太多，因为好像有一个保密协议，并且不能对外透露太多关于这个竞赛的事项。但我想也没有太多的约束。

当时大家主要的问题是在最终决赛的时候，应该是有一个 12 个小时的、比较长的编程时间，那么应不应该允许大家用大语言模型？我们几个可能比较年轻的老师，包括我们的技术委员会主席，都认为还是应该在一个受控的情况下提供一些大模型的 API。

因为从我这边来讲，现在尤其是这一代、这两年的学生，他处理细节问题的方式已经和我那个时候完全不一样了。比如说我读书的时候，会花很多时间读手册，然后把手册一遍一遍地读，要记住里面相当多的内容，像古法编程的巅峰了。比如说你要做一个 Git 命令，那我都是肌肉记忆。

但是今天的学生们不一样了。今天的学生只要有对 Git 的、比如说模型有一个很好的理解——那个数学模型，它是一个 persistent data structure，它可以做什么样的操作——至于什么样的命令来完成这件事情，他不需要知道。他只要跟模型说：“好，我现在要干这件事，达成这个目标。”然后他就能做到，然后他就能做到，然后他就能做到，然后他就能做到，然后他就能做到，然后他就能做到：“请你帮我做。”

所以这可能是一个学数学的人，他有一个非常好的数学概念，但他对[听不清]一无所知，他依然可以完成这件事。然后在操作系统竞赛的时候，同学们也是这样的：他们在解决这些细节问题的时候，通常都不需要再花很多的时间去肌肉记忆一个非常底层的东西；他只要知道原理就可以。

那如果你允许他在初赛的时候用，我相信他大部分的、或者百分之百的这样的细节，都不是由他手工完成的。那到决赛的时候，就变成了你砍了他的手和脚，让他来展示一下他的才能；那对操作系统竞赛来说，我觉得不 make sense。道理是一个道理，然后我不知道为什么老登们总是觉得——可能他们没有用过大模型吧？对，所以最终大家还是投票，然后决定禁止使用大模型，就是这样的一点。

当然是他们解决问题的方式变了。现在人很难在没有 LM 的方式下再工作了，所以当你把我丢到一个完全封闭起来的古法编程现场的时候，我觉得我和我自己的学生，能力其实也极度退化。

但是这不代表我没有办法设计一个好的 system，或者能够做一些比较 fancy 的事情。

好问题。因为我们有了 LM，所以在有限的时间里面，我们可以学更多的东西了，而不是你必须要花很多的时间去掌握一项技能性的东西；而是你能够通过某一个方式把它的原理理解了以后，就可以去创造一些以前你想都不敢想的事情。

也就是说，我们在大学里面能力的边界其实被极大地扩大了，而这才是我们真正应该要拥抱的东西；而不是说：“哎呀，操作系统，大家还是把你们都捆起来去做题吧。”这样。

这些爱好者一起的游戏，那你们只要把游戏规则定好了，像掼蛋，你都能说：“我有一个好的状态空间搜索，我能把它全部搜索完的时候，我就可以做一个最优的决策。”那掼蛋就没有任何意义了，对吧？但是你依然还是会看大家打掼蛋；同样的，你依然会有一批人会喜欢参加竞赛，这是我的理解。

信息学竞赛还承担了另外一个职责，就是为国家筛选那些真正具有逻辑推理能力天赋的人。如果这个职责不消失，我觉得信息学竞赛依然还是有价值的。

因为你反过来这样想：如果我们最终评价还是能不能在战场上面获胜，那么倒过来推，你就需要一个非常强大的工业和科研体系；这个工业和科研体系必须能够造出比你的对手更强的武器、更强的导弹、更强的无人机。

而你建设这样强大的工业和科研体系，又需要不同类型的人才，对吧？比如说，如果你要建工业体系，你首先就需要有很多的人口，要解决人口的问题；然后如果你要科研体系，至少从目前的版本答案来看，我们依然是需要这个逻辑能力极强的人。

那当我们需要这个极强人的时候，我们就需要一个人才。然后，如果你要建工业体系，你首先就需要有很多的人口，要解决人口的问题；然后，如果你要科研……所以有的时候，这个社会的运转是比较复杂的。每一个体系存在都有一些问题，也有一些它存在的道理，但最终它们会形成一个整体，是我们的、在发展当中的国家。

对于那些学生、他学过的课程，我们有一个要求和想象。所以在这个意义上，我觉得他们是被迫来考试的；那我们也被迫要用一个方式把他们拉平，所以我们需要出这样的题目。

那至于怎么样考察他们——比如说使用 LM 的时候人的能力——可能是交给导师来判断的。这样我们有时候也是无奈要设置一个选拔性的考试，我们必须要出一个卷子；而且可能比如说，考试这件事情本身就已经是预定好了的，它必须要有一套题目。那我的职责就是出一个我认为他们应该能够完成的题目，来完成一个筛选。

只是这个效果远远不及预期，而且这个不及预期可能不是因为这些学生用了 LM。因为他们在入学的时候，其实那个时候他们能用到的模型可能还没有那么好的编程能力，他们几乎不能用它来解决编程任务；那个时候也没有很好的 agent。

所以这个题目从考试的角度来看是成立的，但从时代的角度来看，也许这个考试不应该存在。

非常好的问题。我可以回答：Everything is a state machine。每个人也是一个 state machine。我为什么会说 same machine 呢？因为这是我思考所有问题的方式。比如说我要做一个 system 的时候，我的 first principle——然后你把这个人想象成 state machine 以后，其实每一个人都有一个成长经历的轨迹。

如果比如说你有这个人在所有时候、和所有人的沟通交流中表现出来的样子，他解决的问题、他解决问题的过程，那么你把它做一个压缩，把一些可能不重要的信息筛除掉；可能有些实在是隐私上面不应该暴露的东西，他也可以选择不暴露。然后你 digest 它的这个 state machine execution trace，你就知道你要不要录用这个人了。

所以其实在有了 AI 的时代，我们不管是评价也好，还是筛选也好，我觉得都变容易了，而不是变困难了。只是你愿不愿意以某种形式，像一个比如说 blockchain 一样，把你的经历去 persist 到这个 blockchain 上，使得别人可以审查它。

可以说我没得选，因为我总是需要一些学生。如果有学生来、我有名额的话，我可能会选择把这个名额给他，只要我觉得他还是有一定的 self-motivation，我觉得就可以。

然后至于培养的话，我觉得可能我不是一个特别擅长培养学生的导师。我觉得我还是尽责的，就是我所有跟学生的开会都是一对一的，然后我可能也会给他分享我的观点；但是细节的东西，我可能确实会知道得少一点。尤其是现在，AI 学生大部分时候可以问 AI 来获得技术上的这些细节。

但我一直不觉得我是一个非常好的导师，因为我觉得我的学生要么就是能够按时毕业，要么就是很长时间不毕业，有点糟糕。

如果给我足够多的样本可以挑的话，我想找的是那些没有做 reward hacking 的人。因为我确实收到过很多简历，就觉得他就是 reward hacker。

或者说现在有一个风气：我收到的每一个简历都是一样的，都是“我参加了这些这些这些项目，然后我发表了这些这些论文”，也可能有论文，也可能没有论文，参与了各种各样的东西，拿了各种各样的奖。

然后如果我会问他：“你觉得你做的一件最了不起的事情是什么？”他说不出来。他会说：“哎呀，我在这个项目里面做了一个 A 加 B 的排列组合。”然后我就觉得，这个是你的动机吗？对吧？你的动机应该是：“是啊，我就要做一个特别酷的 high game、[听不清]游戏，大家玩了以后就觉得很厉害。可能真的不是那么的完美，做的也不是那么的好，但是他有一个对自己东西的、说自己东西的时候眼睛里有光。”那我觉得就是一个很好的同学。

就说到了我前面那个 small explanation 的时候，我们说我们要能够有一个过程、有一个程序，可以枚举所有的解释，然后可以找到这个世界上所有的 research topic，派博士生去研究它。

然后你的 taste，就是你对那个拿着字典、然后枚举句子的那个空间训练出来的那个 manifold。你把它压缩到一个低维的结构上，每个人都是一个压缩，就是智能吧。你把它压缩到一个低维[听不清]结构上，然后你排除掉的那些东西，和你留下的那些东西，对吧？如果你的 taste 不好的话，那些有意思的东西就永远不会出现在你的 manipulator 里；你训练得不好。然后如果你 taste 好的话，你就可以找到一些别人意料之外、但是情理之中、很有价值的东西。这是我的一个比较 technical 的理解，但是人类还没有完全把怎么样，比如说培养一个有 taste 的人，这个方法得到一个确定性的途径。

不要思考，不要思考。我觉得还是我看清了 AGI 的路线。

可以，可以，可以，当然可以。我觉得都不需要五分钟，就是一个非常宏观的想法。

因为刚才我们在讲到的时候，其实我从中间的某一个位置开始讲起来，所以这个逻辑前后就有点不断、有点断开。我们发现，我们那些成功了的、塑造了我们生命、塑造了我们的品性、塑造了我们的品位的东西，都是由一个、一个很小的东西，通过组合和复用实现的。

也就是说，不管是我们的——可以想象是 DNA 也好、蛋白质也好，还是我们的神经元也好——它们的本质都是一个一个的小东西，每个都有点不一样，但是它们组合起来以后，经历一个计算的过程，就可以得到一个非常有趣的结果。然后这个结果又可以用来评判好和坏，比如说我的种群是不是在竞争上面获胜了，然后我的生命是不是存续了，然后我是不是更好地预测了，对吧？神经网络。

那么这个过程会带来一个非常自然的结果，结论就是 scaling 了。你想，我们从最简单的、只有几个 DNA、几个 basis 的生物开始。

然后成功了，DNA 再长一点，蛋白质再多一个，再多一个。神经网络最早的那个[听不清]线虫就是 302 个神经元。302 个神经元，如果我没有记错的话。302 个神经元，但是它可以找到这个食物，可以找到最佳温度的区域，可以避开不利的地形，甚至去学习，有记忆，学习环境的特征。通过复制同样的结构，它就可以实现能力的 scaling。然后我们就看到了越来越大的生物。虽然在一百多年以前就问人类为什么这么大，然后我们又有了更好的大脑，就是一个更好的 predictor。

然后这个 scaling law，其实在 pre-AI 的时代就不断地在被人类给利用，而其中最有趣的就是语言。所谓的语言，它同样是一个可以组合和复用的 basis，就是一个一个的汉字或者一个一个的 token。然后语言的目标是实现群体的对齐，实现可以迁移的后天记忆，让不同的人看到或者听到同一个字，可以产生一段相同的联想。我就举一个俗一点的例子，我经常举这个例子：说我今天上班来的时候看到了一个美女。然后当我们谈“美女”的时候，这件事情大家就一下子对齐到了同一个[听不清]上。但是其实每一个人，他在这一生中看到所有的人都是不一样的，他对美的感受也是感性的，对吧？可能你喜欢的那个、你觉得美的那个，你的初恋就是胖胖的，然后你的初恋又是长头发的或者短头发的，你会认为那个叫美，对吧？然后他们是做了一个抽象，然后对齐到同样的[听不清]空间上。然后语言也是有 scaling law 的，它可以组合和复用。

对吧，就是我们现在的 next token prediction，可以，对吧，auto-regressive 可以实现解决数学问题的一个基座，然后在这个数学语言的基础上我们造出计算机，有了[听不清]的 agent。然后，但这一次不一样，这一次我们的组合和复用、我们这个原集的机制是可编程的，我们的、甚至这个原集的机制可编程，是可以由这个计算机自动去修改它的，对吧，auto-regressive 可以实现解决数学问题的一个基座，然后在这个数学语言的基础上我们造出计算机，有了[听不清]的 agent。然后，但这一次不一样，这一次我们的组合和复用、我们这个原集的机制是可编程的，我们的、甚至这个原……

我们可以自动去优化我们的 ML pipeline，去提升神经网络的能力。而这带来一个我们不需要人、不需要物理世界的驱动，而只要一个循环，就我说那个 small explanation 的循环，我就可以实现无限的算力换无限的质量，这就是我理解的 AGI。压缩就是智能，scaling 就是 AGI。

我觉得很大程度上是不够的。我觉得有一个最近我听到，那个 3Blue1Brown 的创始人，就是那个非常著名的数学科普博主 Grant Sanderson 的访谈，然后我觉得我和他的观点会有点像。他的观点是教学的核心就是去演，最好的办法。他认为最好，比如说教数学的方法，比如说高中生的数学方法，就是去雇一些演员。虽然有些人很 nasty，但是你就可以雇这些演员去挑起学生的学习动机，让他觉得学这个东西是有意义的、有意思的，并且用适当的方法——这两个都是很重要的，适当的方法，以他可以接受的方式去理解数学。那么我其实非常认同。我小红书刚注册账号的时候，我职业填的就是演员，但是感觉可能小红书大数据不认可，然后就把我这个给删了。我就觉得其实应该是能够存在一个人可以接受的方式，让他产生兴趣，然后逐渐地了解这个知识体系。而可能我们绝大部分的学校、绝大部分的课程都做不到这样的比较高的标准。就比如说像数学的科普，大家都是看了 3Blue1Brown 的时候，大家想起来，哇，这个东西可以这么教。但其实很多时候他在放那个视频的时候，其实我会发现，我的想法就是他的讲法，但我可能从来没有跟人表达过。

就是共情学生，让学生感觉到自己有参与感，然后感觉到自己能学会，然后感觉到自己想要这个东西。但其实这是有一定的欺骗性的。比如说我在操作系统课上面，我会比如说我有一天我会说：“进程的地址空间是这样的。”那我就问一个问题：“我能不能去修改进程的地址空间？”然后完了我就直接掏出一个游戏修改器，我就在这个课上开始打《红警》了。那同学们就觉得很有这个参与感，还会觉得，哦，原来你学这个操作系统，就是还有这些用处。

但其实某种程度上这是不合理的，因为我在这门课上给他引入了一个偏见，他会觉得可能操作系统是不是更好一点，实际上不完全是的。你在每一个领域里面都有那个最精彩的东西，只是可能他没有碰到这个合适的老师，使得他错过了那个本该属于他、他可能最适合的领域，我可能是这样想的。

我觉得是。因为我有一次还和别的老师会聊起这件事，就是我其实我分不清我是在演，还是我真的是对这个东西有某种的热情。因为更多的时候，我已经可以一定程度上解构学生，可以知道，比如说学生在听到这个东西的时候，他可能会不太明白；他在这个时候可能会需要再回去再看一下。当我能够掌控这个节奏的时候，我觉得我就是一个演员。

我还是在吸引学生和讲授知识之间达到一个平衡吧。因为当我上这门课的时候，我的最终目的是把这门课的知识点和一些可能的引申，比如说他学会这个知识以后可以做什么，去教给学生。所以这是我设计课程的目的。那我每一节课都会围绕这样的一个，比如说从一个问题开始引入，然后会有一些有趣的例子，这样，但同时也会有很多技术的内容。

去教小学生。然后通常我觉得这可以通过把一个孩子从小带到大，大概来了解这个知识的结果。因为我觉得我想过一件事，挺有趣的。我之前上计算机系统基础，面对可能刚学过编程，但是他第一次要做一个比较严肃的 systems project 的时候，我们都会说：read the friendly manual，对吧？当然这个 friendly 是一个 colorful word 的替代。然后接下来下一个问题是：为什么 friendly manual 是 friendly 的？大家可能没有想过这个问题，对吧？反过来抛一个问题给大家，那为什么呢？就是因为我们的 manual 是一个非常密集的知识的集合体，它就是一个网络，然后它的每一句话都是对的，而它不愿意写任何一句多的废话。这就使得你在这个知识的 dependency network 上，只要有一个地方脱节了，你的理解就可能是错的，可能是错的。你读手册，你最后就可能得不到你那个预期的结果。所以为什么学生喜欢 tutorial？学生喜欢 tutorial 是因为 tutorial 里面的知识是非常冗余的，它会把你知道不知道的都写进去，然后甚至同一个知识点它也会在里面重复两次，确认一下说，哦，这个是这样的，我运行一下看到这个结果，我再运行一下是这个结果，它们是互相印证的。这个时候，学生在一个掌握的不是 100% 的时候，就能更好地跟随 tutorial 建立一个正确的概念。所以其实本质上，我们当时就想、想过要做这样的一个工作，就做这件事，就把 manual，当今天大语言模型可以这样做了，把 manual 变成一个滑杆。然后这个滑杆可以往专家的位置拖，也可以往小白的位置拖，它可以为你定制一个手册。当然现在有大语言模型，这件事情已经变得非常非常容易了。所以我也是、我觉得我对比如说教学、教师感到有一定的悲观的这样的原因，因为我们很有可能会在一个 scaling law 上有一个更好的机制。

并且在讲台上对着一个平均学生来讲这样的方式。

我从 2018 年开始建设的这门课程。新在哪里呢？我觉得我有一个习惯，我每年都要上这门课的时候，我都会先假设，我们所有人、地球上的所有人，包括我自己，对这件事情理解都是错的，先把自己否定了，然后再从头想一遍：如果我现在是一个操作系统的设计者，然后我现在可能要讲授这方面的内容，因为我还是不能脱离大纲，那么我应该怎么讲？所以我每年都能整出一点新花样。然后因为每一年我在上课的时候，我都会想，我今年的时候我们手边的工具变成什么，对吧？比如说去年是有 LM，所以我的课件里面有好多 AI 生成的解释，然后我就告诉同学们说，你们可以在搞不明白的时候，可以让 AI 帮你解释一下，你可以做一个命令行工具。然后到今年的时候，我就全部都是 agent 来解决问题，我们有大量 agent 生成的 demonstration。如果应该没有明年了，但是我现在还在做一个框架，可以更好地去定制生成课堂上面的这种小的组件。

我非常喜欢。我还从他的这个 GitHub 里面受到了一些启发，但是不太一样，我的野心比他大。

我确实不教操作系统了。然后我应该是在课上最后一节课的时候关心完过这个事，因为我下学期会开一门叫“生成式软件工程”的课，Generative Software Engineering。然后我会把精力放到这门课上，而且我会在做这门课的时候，会把我刚才说的那个有小组件的框架给实现出来，因为我现在有一个学生可以做这件事。然后我希望的是，让我的操作系统课以一个数字人的方式永生。然后我可以大概说一下这个想法，其实也挺简单的。

比如说我上了一个课，所有的上课就是授课型的，它的讲稿都是最主要的主线，所有的课程都是围绕它的讲授、知识点的讲授，一个线性的讲授来的。那么实际上我们是把像幻灯片、代码演示、视频、可视化、交互这些相对来说比较多模态的东西去对齐到讲授的时间轴上的。所以理论上说我只要有一个足够好的 system，加上很多、我刷很多的 token，我就可以把我去年的讲稿拿过来，然后我可以 patch 上今年它发生的变化，然后甚至是网友可以随便做出修改，然后我只要 build 一遍，然后这个课程就重生了。所以我也是因为看到了这样的、也许是未来的教学的方式，因为这个方式很容易，我可以为每一个人 personalize 他的课程。打个比方，你就特别喜欢哪个动漫角色，然后我就可以让这个动漫角色来给你讲这个课，而且课程里面会融入和动漫角色相关的内容，因为 content as code，所有东西都可以用 code 来表示，大模型可以生成 code，所以它可以生成任何东西。

我觉得 LM 很难传授 passion、test 这种东西。

因为所有的操作系统的教材，当然我觉得我选的那个 Ramsey 的那个教材不完全是，都在讲操作系统内核。我从我自己学操作系统开始，然后我就发现这个学习路径可能是有一些问题的，因为 99.5% 的学生可能不需要在本科毕业以后去碰操作系统内核，所以我们为什么一定要教他呢？我反复问这个问题，是不是里面有一些很重要的思想，一定要教给学生？然后我反复想过以后，发现其实并不是这样的。我完全可以把里面那些重要的东西搬到用户态，让学生去理解问题是什么、解决这个问题。那他能在用户态解决这个问题，下一次他实现自己操作系统内核的时候，也可以让 agent 在操作系统内核里面解决这个问题。所以我只需要把我要讲的东西挪出来，那我自然而然就可以不需要讲很多细碎的。因为他开始理解内核的时候，他首先要知道硬件是怎么工作的，然后一些、就是当我调代码的时候，我很难在一个很好的抽象层上，让他既能明白 OK，我们其实是在真正的硬件上，然后又能够屏蔽掉那些复杂的底层细节，而这些细节可能对学生来说又确实不是必要的。然后当我想通这点以后，我又找 iPad 他们那个教操作系统非常资深的老师去讨论这件事，然后我们讨论的结论就是可以试一试，那我就说我要试试。

我觉得不太违背祖宗。它有点出格，但是从时代的角度来讲可能是比较重要的。因为为什么要减学分呢？是因为上课大家都知道上课耽误学习嘛，所以当减了学分以后，学生才有可能有更多的课余时间来学习。初衷是好的，但是最终能不能收敛到一个更好的结果我不知道，但这是我唯一能做的事情。

完全是一样的，我可以理解成是一个高配版的 Modern Software Developer。我大概会设想这样，我会从让他们实现一个 personal assistant 开始，就有点像一个小的 agent，然后能够处理邮件。比如说我 evaluate 他的方式，就是我有一个 agent，然后我可以给他发邮件，然后我可以评估他是不是有一个足够大的 memory，可以记住我给他的一个很大的数据库，然后以及多轮对话，他会不会崩掉。一个一开始比较小的系统，他可能还比较容易[听不清]，然后我会以一个非常坑的方式不断地在这个系统上面加入新的内容。比如说我第二个 lab 可能会让他能够处理一个几百篇论文的 proceedings。那他一个 sequential 的流程，他可能就马上就不响应这邮件了，然后这系统就崩掉了。他必须要改变这个系统的架构。

然后再等到后面的时候，我会不断地在这个系统上，它从一个最小的 personal assistant 开始，去加很多很多很多的功能，直到每一次的时候都是在软件工程意义上它会 fail。就是它如果直接让 AI 去写的话，AI——你知道这个 Codex 和 Claude 都很喜欢过度设计，然后最终陷入一个无意义的泥潭当中，尤其是当需求增加、他未曾想过还要做这个的时候。我接入一个硬件的时候，然后他接口设计得不够好，然后在这个过程中同学们会体会怎么样把这个软件给拆开，然后怎么样做这个 CI/CD，然后怎么做好软件的测试。测试算是我老本行了，就这样的这些软件工程里面的概念就这样放进来，在一个比较大的 project 里面，对，一个跟一个学期，可能是我现在的设想，但是没有完全定下来。

会的。而且我现在的计划是，我可能不直播，但是我会把课程的录音转写下来，然后这样我就得到了一个讲稿。然后我会把这个讲稿修缮，修缮完了以后，以一个更完整和更高标准的形态给释放出来。因为我觉得，比如说我像一个星期要上两次操作系统课，我备课的压力是非常大的，非常非常大，所以其实课程的质量在有些地方是失控的。比如说如果我前一天出差了，然后出差回来，我第二天要上课的时候，我可能会东拼西凑一些内容，失控。但是我下学期因为我一周只有一次课，而且我有这样的一个 infrastructure，所以应该能够试一试看是不是可以得到[听不清]。

我觉得是软工为主，但是大家会知道 AI 可以做什么，因为本质上我也会，因为他一开始就会做一个 assistant，他就是一个有点像 agent 的东西，所以他也会体会到。就我不会讲模型是怎么 serve 的，但我可能最后一个实验，我会说你需要在你的本地去 serve 你的 agent，然后这同学马上就傻了。这个 lab 难度可能比较大，但是它依然可以用大模型去实现代码，所以在这个过程当中他会知道很多和大模型相关的概念，但我还是想说这是一门软件工程课，让他体会驾驭软件复杂性的过程。

正确。

这是一个非常非常好的问题。可以说没有人能够真正地拥抱这样的变化。那我只能说的是，我们所有的东西都是有原因和道理的。那么我希望的是，我能够展现的是为什么 fail 了。如果它是以这种方式 fail，我们应该怎么样把它补救，或者我们可以做怎样的设计，使得这个 failure 在一开始就不会发生。那么可能比如说前提没有了，AI agent 不会发生这样的 failure 了，那这个 module 就显得不是那么有意义了，但是它依然会理解一个 first principle，就是我的模型是有能力的，然后我们要用好这个能力，然后围绕这个能力去设计各种各样的工具，设计各种各样的准则，最终把一个软件给做出来。

因为我觉得关于软件的知识，比如说我会说，上课时会说什么是软件？软件是物理世界过程在信息世界的投影，这是一个有损的投影。你永远不可能用一句话来造出一个满足你心意的软件，因为你就是没有把事情给说清楚。然后这样的重要的基本原理，可能是我们觉得需要教给同学们的。然后至于 agent 长进了，可能有些 hack 就不需要了，那也挺好的。

Claude Code 重写[听不清]有一个非常重要的……前提就是他们花了很多的时间写了 Rust 的 best practice，你在迁移以后 Rust 要长什么样。但这其实是需要非常多对 Rust 本身的经验的。那么这件事情我觉得在地球上能做好的人也不多，甚至我觉得现在的迁移我们还等着看笑话。会不会有笑话也不知道。

如果一定要说一个的话，我觉得会有。我觉得质量是失控的，以我对 Claude 的智力的估计，还是会有很多很多麻烦的事情要收回的。

好问题。我觉得我才是一个真正的 reward hacker。我这样解释它，我为什么会觉得愿意做教学这件事，是因为我每当在教课的时候，我说我每年都会去否定一下地球上的所有的人。当我否定的是一个非常成熟的领域的时候，我往往得到的是最重要的问题和最有新意的东西。所以当你谈 research 的时候，如果你是想说我有一个 set of art，然后我希望去把这个 set of art 往前做一点，那你很有可能比如说你要做一个 RMS，那你就是 system 里面那几班[听不清]，你先去 profile，然后你做各种维度的 trace analysis，它会遵循一个比较标准的范式。但是当你去思考这个比如说操作系统领域的时候，你去问我能不能做一个违背祖宗的决定的时候，我能不能把这个 Linux kernel，一个可能几十 MB 的状态，就给可视化到一个极小的程度的时候，其实你在那个时候会从 first principle 思考，去得到可能更有价值的研究问题。

所以本质上我觉得我才是一个真正的 reward hacker。我可以看到更远的 reward，然后我在这个里面我可以做一个更好的工作，然后大家会认可我。因为我做一个更好的工作，它可能现在 publish 比较困难，但是有一天可能能证明它的价值，那我不就得到更大的 reward 了？我可能是因为我对自己的能力有自信，所以我选择可以追求一个更有长久的 reward。

我觉得可以是这样的。然后我自己的一个理解是，对人类来说，利他就是终极的利己。就每一个人都是利己主义者，然后只是你选——你取决于你能够看到你有多少时间内的 reward。如果你总是要一个利己能够得到 reward，那你可能只能去做一些短线的事情，但是如果你能放到人类历史的进程上，那也许你就可以做出，当然这需要很大的运气，至少概率会大一点，你可以做出一个更有 impact 的东西。

我们短期内 arXiv 见吧。这个讲起来就比较长了，但有一个是和……我还是可以透露一下，主要是讲起来比较长。有一个是你们没有想过的，我可以去 reverse engineer 一个 Excel 这样的软件，然后去得到你这辈子都没有想过它会把你的数据做这样。我们几乎得到了所有已知的规则，但没有人做过这件事。我们发现了非常多很有意思的事情，比如说有的时候你不小心有一个 type，你就会在 Excel 里面有 100 年的时间差。这 100 年的时间差就会导致你可能，如果是一个算利息或者算什么的财务的报表的话，你的整个结果就全部 collapse 了，就因为你的一个 type，或者是你从别的地方粘贴了一个数据这样的。然后还有一个就是自然语言编程，就是我们怎么样做自然语言和编程语言的混合编程。这是一个很大的题目，但是这个不好[听不清]，因为我们说我们就、我们做任何事情都没有一个 baseline 可以比。你可以确定就是你投稿是因为你东西太新了、没有 baseline，然后而不是因为审稿人可能是 AI，或者是审稿人几乎都没有精力去读你的文章。我觉得沈老师还是好好读文章的。

PL 和操作系统。

这似乎不是一个审稿机制的问题，因为我们没有办法拒绝任何投稿。你有一个高中生可能完全不知道的情况下，他写了一篇可能完全 out of scope 的文章，也不在这个水准上，但我们依然要 review 他，依然要给他一个 comment。似乎不是审稿的问题，更多可能是因为这很明显是一个来自高校的工作，所以可能我只是觉得我作为一个审稿人，他可以不要投，对吧？

我觉得可能不行。因为大家很容易去攻击这个 AI 审稿人的。我觉得应该这么说：这个投稿人毫无疑问是有写软件工程录用论文的经验的，所以 somehow 应该是，他一定是把这个东西包装成一个看起来贡献达标的东西的。那如果让 AI 来看的话，它确实可以把那些比如说高中生写了一个完全不对的论文给 reject，但可能也许我们也可以用 AI 来 reject 他，因为我看一眼我就知道这个 paper 是不应该出现在 proceeding 里面，我可以礼貌地告诉他这个事情不合适。

但是对于这种 borderline 上面的、他可能要刻意地藏一些东西来夸大自己 contribution 的东西，其实我觉得这样的 paper 是无处不在的，可以说多到了一定的程度，使得有些会议、所谓的顶会的 proceeding 都不想去看，你只想去看那些在 Twitter 上被人转发的文件。这个是有害的，我觉得。就是你明知你的这个东西会被 scaling law 的车轮给压掉，你依然要选择去声称自己的 contribution，并且一遍一遍一遍地投稿，直到它有一次不小心，可能几个香港人就把它放过来去 accept 为止。我觉得这是现在可能大家为了生存，就是为了学生要毕业，老师要有论文，为了论文去拿论文以后去撬动更多的 funding，他被迫做的必然为常的这样的事情。所以我一直在跟学院说，毕业不要发表的论文，毕业不要发表的论文，但是这件事情好像对我来说是不可能成功的。

这个打击面就大了，我不知道，软工，就它很难界定。我其实接受一个相对来说比较 incremental，但是比较完整的 paper，作为学生来练手。因为学生总有、你总有第一篇文章，你总是，对吧，本科毕业以后你可能代码写得不错，你做的第一篇文章可能不是那么的好、那么厉害，但是它符合一个标准的规范，有一个合理的动机，有一个合理的解决方案，并且有一些 positive 的结果。我其实是接受这样的 incremental 的 paper 的。然后我觉得我很难接受的就是，他通过写作的技巧去把各种东西给藏起来，使得不明白的 reviewer 看起来还可以，然后把它放过去。然后这样的论文可能比较难界定，就是一篇文章到底是因为这样的，还是因为它可能本身就是一个学生的工作，所以我不确定这个比例能有多少。

我评论的这个现象在 AI 出现前就有了，大概从 CCF 列表，就是那个 ABC 类的列表发布以后就有了。然后所以这是指挥棒带来的一个效应，因为一旦大家知道了，你发 CCF A 类就是好的，B 类就是不那么好的，C 类就是更不好一点的，那么所有的人他只要有一点机会，哪怕他认为没有机会的东西，他也一定会从 CCF A 类开始投起。所以这就感觉到，我就觉得我经常会审到一些这个我觉得比较尴尬的论文。有些可能就我觉得学生可能他学生本身做出一个 low quality 的东西，学生是没有错的，但是导师有责任：你这个东西该不该投这里，对吧？然后因为我听到很多很多老师都会说：“哎呀，我知道这个文章一定会被拒的，我也就是去审考人拿来意见。”这合理合法，对吧？这个没有人阻止做这样的事，但老师都知道这个一定会被 reject 的，你为什么你不先把它改进到一个你觉得还是不错的东西呢？

正确。我觉得是严重的，应该是更严重的。

就是我觉得 AI 的研究本质上是在讲一个 story。可能是我对软件工程的研究没有那么的了解，所以我会觉得你在做 AI 研究的时候，你只要会讲这个 story，你就有很多种可以去拼凑这个 story 的不同 pieces、的方法。

软工也有很多这样比较标准的流程，就是 A 加 B 可以是 C。然后它可以选一些，因为你总有一些比较特别的一类软件，对吧？这类软件可能大家没有很多人 care about，然后我可以把一个东西 apply 到这里来，然后就可以让这里面的某一个任务变得更好。然后我当然觉得这个可能不是那么糟糕了，它可能是一个合格的工作，但是它有很大的被 reject 的风险。因为比如说你会问这个问题是不是没有人 care about，然后各种各样的质疑。但是我们为了生存，使得大量的人都开始生产这样的论文。可能这个现象跟 AI 是一样的，因为本科生一定要想办法发一篇 AI 顶会，然后去申请一个下一层的学位；然后研究生需要一篇这样的文章来毕业，因为他老师是这个领域的。所以最后就逼得大家就在疯狂地，尤其是我们的研究生的数量不断地在扩大，这也是一个很重要的因素。研究生的数量在扩大，每个研究生都要发更多的论文才能[听不清]，那最后就导致这个必然的结果了。

因为 AI 的研究有一点有趣的地方是，我们对机制、可解释性这些都完全不了解。我记得当时我看到 Neonata 说，我去进一个单层 transformer，我可以学到一个 forerun basis，然后就很 fancy，然后就[听不清]这都没有见过。你们面对的是一个完全不可控的，但它 scale 了，然后它就有用了，然后你都不知道你把那个 activation 换成什么，就瞬间它就厉害了，然后这时候会有这种黑天鹅事件。

但因为像 software systems 基本都是完全人造的系统，在完全人造系统里面是人已经主导了一切了。那这个时候它和我什么样的东西能运输出更好的模型不太一样，它里面有很深的系统的智慧。就是你完全可以看到一篇文章，它做这个 A 加 B 加 C，一个真正有经验的人，甚至是一个 GPT-5.6，他马上就能知道这个东西的上限在哪里、缺点在哪里、能做到什么、不能做到什么。你不写这篇 paper，我也知道。

好问题，这个就是给你用人单位的难度增加了。

嗯，就也许我们到另外一个方式上，系统是运转不起来的，至少我们现在这个系统还能运转，所以我也不能说什么。但好消息是，反正我现在也没被开除，这位老师也没被开除，所以至少我们还在做正常的事情，这个系统还不错。也许这种增量式的小改变就能达到一个完美的平衡，也是有可能的。

所以我没有办法评论，但是我觉得如果我攻击攻击老登，然后确实可以使我们的整体科研水平能够好一点的话，或者是有更多的老师或者学生能够打打脸，他就觉醒了，我觉得应该是好事，而且没有明显的伤害。

好问题，我一直在警惕这件事。然后我觉得如果有一天我觉得我学东西学不动了的时候，我就会把我所有的权力交出来。然后我没有权力的时候，我也不发表我的观点啊，那我就可以透明了，透明我就不是老登了。对啊，我就是透明人，我不存在了，我就不是老登了。

他们根本就不学。

我能打醒几个人就是几个人。虽然如果我不打的话，他们一定是不会醒的，但如果我打了以后，他们可能还会有一些人，或者有些其他人他醒了，那我觉得就对社会做出一些正向的贡献。

我完全不在乎了，我这些命都不要。

对，代表了这个世界上有一些必须要做的 trade-off，就是你只有舍弃掉一些，你才能做一些应该是更重要的事。所以我觉得以退为进是正确的。

AGI 要来了，我们不知道应该做什么，但是应该做点什么。

我应该是 consistent 的，但我额外会对学生好一点，我觉得。因为毕竟是自己的学生，所以我还有一个是对抗审稿人的职责，所以我还是会 package 他们的 paper，这还是不一样的。每个导师都会做这些，或者说这是导师的职责。然后在现实中其实我非常的 consistent。比如说还有更多事情，就你们在网上没有看到过的，比如说去年在宝岩，他们有一轮简历筛选的时候，我发现他们的机制问题很大。然后回头我骂完副院长，然后我就把他拉黑了，基本上微信最后发了一个很长的帖子，然后回头我骂完那个副院长，然后我就把他拉黑了。就是 basically，微信最后发了一个很长的帖子，然后发完以后就把他删除好友，然后他肯定会回我，然后回我以后他发现这个已经不是联系人，然后到现在好友还没有加回来。对，就我觉得有些事情，我如果不说的话就没有人说了，那我还是说吧，反正大家也都知道我，我就是这样了。

开了就开了呗。

不知道，也许天天钓钓鱼也挺好。

那我还是可以指导他们，让他们毕业的。这个好像还是可以的。

我一直觉得很多事情是注定的。就比如说在爱因斯坦要发现相对论，然后 AlphaGo 要打败李世石，再往前，或者 Google 要能存下互联网，所以这些一切都是某种程度上由 scaling law 命中注定的。就是在你的、当我们的世界的积累到一定程度的时候，我很喜欢上课讲这个故事。有一个 plot 就说，随着你的时间，你的存储设备的增长的速度、那个速率的曲线和互联网上面所有的内容增长的速率，如果画在一张图上，你会发现它们是有个交点的。也就是说存储的摩尔定律是比互联网人类产生 content 的速率要快的，所以有一天你的机器、一个集群也好，能够存下整个互联网，就是一定会发生的事情。所以如果它不是 Google 的话，一定有一天会有另外一个人会做同样的事情，然后某种程度上是你的土壤有了以后，那件事情发生就是必然的。

我看到了很多东西，但是绝大部分是我没有那个能力也没有那个资源去做的，所以我就会很开心地看它们发生。因为我最早意识到 AGI，就是这 intelligence 可以自动化，是 2015 年的时候，就是在看 AlphaGo 和李世石熬夜。我那时候人在美国熬夜看那个直播，他们俩的直播，然后当时我就想通了一件事情，就是 intelligence 本质上就是一个 tree search，可以通过 tree search 来实现。当然这是 D-Miner 的 road map，然后用 tree search，然后有 archive proof 这些线，然后还有就是 OpenAI 的这个 test-time scaling，全部用 auto-regressive 来实现的一条路线。现在看是这条路赢了。在那个时候我就隐约看到这件事情要发生了，然后我一直跟别人宣扬说，数学你们这些做数学的人不要把自己看得太牛逼，马上这个 RMO 就要被攻破了。没有一个人相信我，然后现在这个事情就应验了。

没有，因为我没有美股账号。

我就注销了我的所有的美国的账号，我现在至今都非常后悔，我至少应该把银行卡和电话留着。笑话先不谈。

Just for fun。对我来说我是一个好奇心驱动的人，我做所有的事情都还是有一个原始的好奇心的动机，而这个好奇心的动机和人类物种能够存续下去是有关联的。所以我就这样解释，我就安心了。

我不知道，我觉得我会选择那个让我快乐的按钮，然后一直按、一直按、一直按的那个人，卸下一切的包袱在虚空当中。

这倒也不是，因为我们的时间是有限的，我们不知道那一刻什么时候来，而且我们很有可能等不到那一天会到来。所以这个社会依然会按照社会的方式运转，那我们就在社会上好好活着。我们有的吃有的穿。现在社会，如果你生在一千年以前，那你无论怎么样你都会活得很糟糕，但你生在现在你就觉得你活得不错，所以可以享受现在的生活。

我想关注真正的 auto research 能不能实现，就是那个在 1900 年的 knowledge cutoff 的时候能不能发现 group theory，对吧？再往前倒。我是乐观的，但是我不知道里面具体会以什么样的方式来实现，我很想看到它发生。

在这条路上，但我觉得 GPT 的品位至少，比如说在软件设计上还是有一些、其实它自己的偏执的。我不能说就是不对，但至少我可以看到的是，就前两天的时候陈立杰也发了一篇推特，就说有一个很重要的定理，应该是那个 Fertilis repair 之类的一个 quadratic 的 bound，然后那个 bound 大概就是用一个 A 加 B apply 到 C 上的一个短的 prompt，就是一个，就是 GPT，就是现在模型 auto-regressive 的模型很有意思。它是一个很小的计算机，就是一个长量大的计算机，它每次只能根据 context 往后吐一个 token，但它可以[听不清]吐。然后这个计算机训练完了，它就停在那了。但我可以通过给它这个 A 加 B 等于 C 这样的初始的提示词，把它的潜力再发挥出来。然后这其实很接近我说的那个 small explanation 的框架，只是你现在还需要人来去找这个它的影子。所以我觉得离 auto research 其实很近了。

我不知道，因为你也许是一个非常的 reward hacker，但是你的智力极高，那我觉得你依然应该在这个学校里面去创造那个最顶尖的东西，可能不是那么的重要吧，因为更重要的是，可能最顶尖的人要站在最顶尖的高度上设计这个机制，他能够把它看清楚。最好不要是非常平庸的人去设计这个机制，然后让这个机制变得更加糟糕。

我记得我听过 Alan Kay 给我一个 talk，他就说，这个 institute 的使命是去寻找那些 5 Sigma 的人。就 3 Sigma 就是那个很厉害的人，5 Sigma 就是在那个尖尖、那个正态分布最尖尖上面的那个人。如果你能找到 5 Sigma 的人并且把他送到正确的、他适合的位置上，无论他是一个 reward hacker 还是一个别的什么东西，他总是有 reward 的，所以他会把这件事情做好，然后这世界就进步了。我是一个论结果的人。

我不确定这个建议合不合适，但我推荐每个同学去看一下 CMU 的 Randy Pausch。他得了癌症以后，他最后做了一个 last lecture，然后你会在那边得到一些灵感，会找到一些原始的动机。然后在这个动机之下，你可以选择给 AI 多一点信任。我觉得那是一个非常非常有启发性的视频，我还会再拿出来再看一遍。

谢谢大家。