全国一等奖!破解AI算力问题的北大教授

算力，是数字时代的重要资源。AI大模型的发展，对算力管理效率和质量提出了更高的要求。北京大学计算机学院刘譞哲教授的研究团队，为解决算力资源管理问题提供了一种行之有效的答案。团队的研究成果不仅催生了多篇高质量学术论文，还在包括字节跳动、阿里云、微软、亚马逊云科技、Meta（原Facebook母公司）等头部互联网企业的智算中心生产环境实际上线应用，大幅度提升了资源利用率和服务质量。

过往的算力管理，“像一口巨大的、混沌的火锅”，刘譞哲团队这样比喻。计算任务被投入同一个滚烫的“云”锅中，但是珍贵的“食材”（算力资源）却可能在相互等待中大量浪费，火候难调，“食客”（计算任务）的服务质量和体验却无法得到保障。

这种低效的“一锅炖”管理方式，正是AI浪潮下的算力焦虑症结之一。刘譞哲团队决心打造一套全新的高效模式。这项名为“智算中心分离式资源管理关键技术与应用”的成果，获得2025年中国电子学会科学技术奖——技术发明奖一等奖。

在奖杯背后，是一个个有笑有泪的故事。

2026年4月，刘譞哲（左三）领取中国电子学会科学技术奖

刘譞哲团队与美国工程院院士、加州大学伯克利分校教授艾恩·斯托伊卡（Ion Stoica）合影

故事的另一头，始于1999年。

来自甘肃兰州的少年刘譞哲踏入燕园，成为北京大学计算机科学技术系的大一新生。在此之前，他几乎是个“电脑小白”，第一堂上机课，面对电脑的电源按钮，他不敢乱按乱碰。让他记忆犹新的是，自己鼓起勇气向主讲《计算概论》的汪琼教授请教的第一件事，是学习如何正确地开关机。“不夸张地说，在上世纪90年代末，一台电脑可是顶得上普通家庭一年收入的‘奢侈品’，而我上大学之前几乎没接触过。上机操作很兴奋，但更多的是紧张，生怕不小心按错键给弄坏了。”刘譞哲笑着回忆。

从寻找电源按钮开始，在不断调试程序的挫折与成功中，刘譞哲找到“升级打怪”般的纯粹乐趣，也和北大结下了不解情缘，留在燕园二十多年未曾离开。

从老师和学长那里听到的杨芙清院士领导北大“青鸟系统”研发往事，到亲身参与导师梅宏院士领导的“网构软件”研究经历，刘譞哲将“国之所需，我之所愿”的种子，悄然埋进心里。他相信，代码不是冰冷的指令，是理解你我、连接虚实的桥梁。这份求知的渴望与情怀的担当，驱使他向系统软件研究的纵深处迈入。

2003年本科毕业时的刘譞哲

2024年刘譞哲在中关村论坛上发言

智算中心（AI Datacenter）是人工智能时代数据中心的新形态，也是人工智能基础设施（AI Infra）的核心组成部分。智算中心的资源管理是人工智能领域目前最为前沿的方向，也是公认的重大技术挑战。

传统云计算数据中心的资源管理主要遵循“基于一体式资源池的应用装箱”的技术路线，也就是“一锅炖”。随着资源类型和规模持续增长，人工智能新型应用多样多变的需求增加了资源管理复杂度，“一锅炖”方法管理粒度粗、碎片程度高、配置难度大的问题日益严重，人工智能发展面临重大挑战。

而刘譞哲团队的“九宫格”智慧，是一套“分离式”的资源管理系统。当任务到来，这套系统像一位拥有全局视野的“智慧主厨”，根据“菜品”特性——是需要慢煮的“土豆”（比如计算量大的预填充任务），还是快涮的“毛肚”（比如内存需求高的解码任务）——从不同“格子”里瞬时、精准、按需组合资源，让每种任务都得到恰到好处的“火候”。

2019年开始，在梅宏院士的支持下，刘譞哲和金鑫、马郓、徐梦炜、李浩源一起开展研究攻关，从软件体系结构原理层面突破了基于一体式资源池的应用装箱技术途径的局限，发明了基于分离式资源池服务组装的创新技术途径并研制了相应系统。他们用软件定义的方式将计算、存储、网络等资源解耦，形成独立调配的“资源池”。在此基础上，团队通过面向服务的分离式资源池软件体系结构模型、基于层次图代理的云函数服务组装方法、服务质量感知的多目标弹性化任务调度技术等多项技术模块，实现了智算中心资源的细粒度按需分配，高效率、高质量地服务于大规模生产环境下模型训练、推理和训推混合等典型智算任务，多项关键质量指标优化提升1-2个数量级。

主要技术创新示意图

项目成果不仅包括多篇高质量的学术论文，还在包括字节跳动、阿里云、微软（Microsoft）、亚马逊云科技（AWS）、Meta（原Facebook母公司）等头部互联网企业的智算中心生产环境实际上线应用，大幅度提升了资源利用率和服务质量。特别是团队提出的预填充-解码分离架构（Prefill-Decode Disaggregation），已经成为大模型推理系统的基本设计原理范式，并被广泛采用，产生了巨大影响。例如，2025年3月，英伟达（NVIDIA）发布其大模型推理框架Dynamo时，官方致谢了团队开发的开源软件项目（DistServe）的贡献；DeepSeek也在公开其技术架构的论文中，指出在生产环境中采纳了团队的分离式推理技术。这项成果已成为AI Infra（AI Infrastructure，人工智能基础设施）的一项重要的通用系统软件技术，为我国人工智能高质量发展贡献了“北大力量”。

在北大，你会偶遇他，他是青年科学家。在北大之外，你可能也会找到他：他是吟诗诵词，站上第四季《中国诗词大会》舞台的“百人团”成员。

2018年领取CCF-IEEE CS青年科学家奖

在刘譞哲身上，科学的缜密与人文的浪漫交织共生。他推崇“无用知识的有用性”，因为突破性的创新往往需要学科之外的养分，“文学让人看到世界，哲学让人定位世界，而历史让人连接世界”一直是他的口头禅。他喜欢古诗词。灵感枯竭时，他读李太白，借“一夜飞度镜湖月”的奇崛开阔思路；研究遇挫时，他品苏东坡，以“也无风雨也无晴”的豁达消弭烦忧。“科研既是我的工作，也是我的爱好。不过，科研绝不能是生活的全部，我很同意网上的一个说法——科研工作者也应该有点吃喝玩乐的爱好。”他开玩笑说。他爱好美食，从“一锅炖”到“九宫格”，就是他涮火锅时迸发的灵感。

而对待学生，刘譞哲也坚持以严谨的治学态度与温暖的人文关怀，坚守育人本心。在北大学生的匿名论坛上，“lxz”（刘譞哲）的缩写代号随处可见，学生们以各自的形式大声表白：“教课非常nice”、“太好了太喜欢他了”、“干货多段子也多”、“又暖又厉害超可爱”。

“又暖又厉害”的老师，有着独特的为师之道。曾有学生在技术细节上理解得比他更深，兴奋地向他讲解，刘譞哲事后开心地分享此事，全然为学生的超越感到喜悦。“《师说》里说，‘弟子不必不如师，师不必贤于弟子，闻道有先后，术业有专攻，如是而已’，师生互相学习，共同进步，这应该是学术研究中的常态。”而每每学生投稿受挫，他总能敏锐察觉到那份沮丧，在他们的失落情绪到来前，给予温暖的安慰和有力的支持，提供高质量的情绪价值。“他共情能力特别强，让我们觉得，大家是在共同战斗。”刘譞哲的博士生如是说。

不做高高在上的裁判者，他是更喜欢和学生一起展望的同行者：勾勒一个激动人心的研究愿景，然后并肩探索。无数个学生在这里坚定了职业道路：毕业后进入高校或科研院所，继续走学术科研道路，其中不乏已崭露头角的学术新星；或进入字节跳动、华为、阿里巴巴等领军企业充分施展自己所学，深度耦合学界与业界。

在组会上，他是提问最多的人。他不断地追问着：“这个研究好在哪？”“为什么是他做出来了？”“是因为有了更好的数据或工具，还是因为可以存在更新颖的思路？”……引导性的思考发问，还有很多，绵延着薪火相传、弦歌不辍。

刘譞哲和团队的视野从未局限于当下：地面的智算中心面临能源、散热和基建选址的种种瓶颈，他们将目光投向了深邃的星海苍穹——有无可能将AI Infra从现在的地面智算中心搬到卫星等太空飞行器上，实现Space AI Infra？“最近学术界和产业界都在关心太空算力，这当然有很大的想象空间，但在太空建设AI Infra绝不只是把算力硬件发射上天，系统管理相对地面要复杂得多，需要系统软件、人工智能、航天等多个方向的交叉。”比如，很多环境变化无法预知也无法预先定义应对策略，硬件出了问题难以人工维修，这种情况下能否让AI去自动生成系统管理维护的程序并自我验证，然后指挥机器人去维修，最后发展出一套新的智能化系统软件设计原理和技术体系？这是非常有趣也富有挑战的问题。然而，这并非是他的一时心血来潮。事实上，作为一直行走于AI Infra前沿的先行者，他在几年前就开始这方面的思考，并和相关领域的学者开展了合作探索。2024年，他指导的博士后李晴在卫星计算场景下开展了能耗管理系统的工作，获得了顶级期刊IEEE Transactions on Services Computing当年唯一的最佳论文奖，已在Space AI Infra的系统软件方向迈出了坚实的一小步。

2024年刘譞哲的博士后李晴关于卫星计算能耗的工作获“最佳论文奖”

从优化地面的“算力火锅”，到构想太空的“未来熔炉”，刘譞哲与团队的征程，始终沿着“突破学术高度、夯实系统厚度、拓宽应用广度”的轨迹扎实前行。

他深信，当前AI应用的百花齐放，离不开系统软件这座“隐形地基”的坚实支撑。“这次获奖是对我们过去工作的肯定和激励，但我们更希望通过这样‘重器级’的成果，吸引更多优秀的年轻人投身系统软件这片广阔而关键的领域中来，这里有无穷的挑战，也蕴藏着定义未来的力量。”

回望来路，成果的取得，离不开背后的坚实支撑：在国家对前沿基础研究长期支持下，团队得到了国家自然科学基金、国家重点研发计划等项目的持续资助，让一个个研究设想生根发芽；在鼓励校企合作协同创新的政策支持下，团队建设了北京大学-字节跳动豆包大模型系统软件联合实验室等平台，研究真问题，让一个个研究成果应用落地。最为重要的是，北大深厚的学术积淀、交叉融合的科研氛围与“常为新”的探索精神，为这棵树木提供了拔节生长的沃土。

刘譞哲始终相信，技术的灵魂在于其服务人的温度与拓展想象的广度。他对“卓越”的定义始终清晰：“大家总说程序员是‘码农’，但我觉得，即使是做‘码农’，也要努力做编程界的贝聿铭，让每一行代码都有灵魂。”

在这个被0和1重塑的智能时代，刘譞哲和他的团队一起，正在以科学家的洞察力、工程师的执行力和诗人的想象力，尝试绘制一幅更高效、更开放、也更温暖的未来图景。而这幅图景的起点，就是让庞大无序的“算力火锅”，变成可按需取用、智慧高效的“九宫格”，最终让智慧的“炉火”点亮更浩瀚的星空。

有人追逐光，有人成为光，而他把自己变成火种，埋进科研、论文、课堂和产业，然后不断长出新的火焰，生生不息。

来源 | 北京大学融媒体中心、北京大学科研部、北京大学计算机学院

文字 | 王镜毅、马诗尧

编辑 | 吴卓颖

图片 | 受访者提供

排版 | 刘芮佳

责编 | 乐乐雅

北大科研

科研成果|前沿动态|科研沙龙

长按扫码关注我们