ARTICLE · 1024667
微软开源录屏转技能工具:操作一遍,AI学会
微软开源录屏转技能工具:操作一遍,AI学会
每次给新同事讲一遍操作流程,你都盼着能录下来直接用。微软把这个想法往前推了一步:你录一遍自己的屏幕操作,AI 把它重构成一份 AI Agent 能执行的技能文档。
这就是 Skill Recorder,微软官方出品,MIT 协议开源,项目地址:github.com/microsoft/skill-recorder(GitHub 搜索同名即可找到)。
它解决什么问题
重复性操作是办公场景里最常见的摩擦:每周填一次的报表、每个新项目都要走的建库流程、每个版本都要跑的发布检查单。这类事你已经做过几十遍,闭着眼都能点对位置,但它们还是每周吃掉你的时间。
市面上的自动化方案都要你「先学会工具」:RPA 要你拖流程图,脚本要你写代码。而 Skill Recorder 的思路反过来——你什么都不用学,就像平常一样把事情做一遍,它负责把你的操作翻译成机器能复用的东西。
工作原理:录一遍,AI 重构
流程分四步,官方 README 写得很直白。
第一步录制。按快捷键(macOS 上 Cmd+Shift+R)或者点录制按钮,然后正常干活。它在后台捕获你的屏幕、应用和窗口切换、你访问的网页,还可以(可选)同步录你的口述解说。解说转写用的是 Whisper,在本机完成,支持 99 种语言。
第二步控制。录制时有个置顶小条显示采集和麦克风状态,可以随时静音、换麦克风,录砸了能丢弃重来。
第三步分析。点 Analyze,GitHub Copilot 的 CLI 会把你这一通操作重构成「一个意图 + 一份有序步骤清单」。你可以review、可以改,改到读起来顺为止。
第四步生成。从确认过的分析里,一键生成可复用的 Skill 或者定时触发的 Automation。
这里有个关键的设计选择:生成的技能优先用 Agent 的原生工具(比如 gh 命令行、网页抓取),而不是回放你的鼠标点击。官方 README 里举的例子很说明问题——你录了一遍提交某个表单,Agent 学到的是「提交这类表单」的方法,下次遇到同类表单它都会填。从一个个例泛化到了一类问题。
生成物长什么样
生成的 Skill 本质上是一份 SKILL.md 程序性文档——Agent 按需调用、照着执行的那种。Automation 则是同一份流程加上时间或触发条件,到点自动跑。
两种生成物都能接入微软自家的三个 Agent 平台:Microsoft Scout、Copilot Cowork、Copilot Studio。如果你已经在用这套生态,录制的技能直接进你的 Agent 库。
必须知道的三件事
第一,它不是传统开源分发。官方叫「source release」:安装脚本下载固定版本的 Node.js 运行时,在你机器上从源码构建出应用,不装全局依赖。好处是你能审计实际运行的代码,代价是没有 App Store 式的一键安装,而且你得有带 Copilot 访问权限的 GitHub 账号(Copilot CLI 随应用附带)。
第二,隐私边界要清楚。录制、存储、画面抽帧、口述转写全部发生在你电脑上,录制阶段什么都不上传。但点 Analyze 那一刻,事件时间线(窗口标题、URL、剪贴板预览)、屏幕截图和解说文字会发送到 GitHub 云端让 Copilot 处理。官方 README 用了加粗警告:别在录制时输入、粘贴或念出密码、token、API key。每次录制前应用也会提醒你。
第三,平台支持。macOS 是主要目标平台,Windows 11(x64 和 ARM64)也支持。Linux 用户只有 Ubuntu 有官方路径。
我怎么看
这个项目最有意思的不是录屏本身,而是「从示范中泛化」这个思路。它赌的是:演示一次的成本,远低于写文档、写脚本、配 RPA 的成本,而 AI 恰好补上了「从演示到可执行规程」这段翻译工作。
局限也明显。它生成的技能质量取决于 Copilot 对你操作的理解——复杂多分支的操作流程、依赖大量上下文判断的场景,重构出来的步骤大概率要你手工修。另外它绑定 GitHub Copilot 生态,如果你不用微软系 Agent 平台,生成物的复用价值会打折。
适合最先拿来试的三类活:每周固定格式的报表填报、新项目初始化的固定流程、软件发布前的检查单。都是「步骤明确、分支少、你做过很多遍」的事——正是这个工具的主场。
项目 7 月底创建,9 月初还在持续提交,迭代很勤。安装方式去官方仓库看 README:github.com/microsoft/skill-recorder。
你的工作里有哪些「做过几十遍、闭眼都能做」的流程?有想法可以随时留言沟通。
喜欢就先收藏,万一找不到了呢!⭐