夜雨聆风学习资料网

ARTICLE · 994116

OpenMontage:把 AI 编码助手变成完整视频制作工作室

OpenMontage:把 AI 编码助手变成完整视频制作工作室

你让 AI 帮你做一个 60 秒的科普视频。它给你写了一段文案,然后呢?你需要自己去找素材、自己去配旁白、自己去剪片子、自己加字幕、自己调音乐。AI帮你完成了"写"这一步,但"制作"这一整段流程,它完全接不上。

这就是当前 AI 视频工具的普遍状态:能生成片段,但不能完成制作。你拿到的是一堆离散的素材——一段文案、几张图、几个视频片段、一段语音——而不是一条可以直接发布的成片。把这些素材组装成一条完整视频的工作,仍然需要你自己来做,或者交给一个又一个互不连通的SaaS 工具。

OpenMontage 要解决的就是这个问题。它是全球首个开源的智能体(Agentic)视频制作系统,包含 12 条制作管线、100 多种工具、700 多个智能体技能与制作知识文件。它的目标很直接:把你的 AI 编程助手——Claude Code、Cursor、Copilot、Codex、Windsurf——升级为一个完整的视频制作工作室。

注意,它不是又一个视频生成 SaaS。它不运行在云端,不收取订阅费,不锁定你的素材。它运行在你自己的电脑上,由你自己的 AI 编码助手驱动,所有创意决策都需要你的批准。这是一种和现有AI 视频工具完全不同的范式。

01 问题:AI 视频制作的三重断裂

在理解 OpenMontage 为什么这样设计之前,需要先看清楚当前 AI 视频制作的结构性问题。这些问题不是某个工具的缺陷,而是整个范式的断裂。

第一重断裂:生成与制作之间的断裂。当前的 AI 视频工具几乎都聚焦在"生成"这个环节——文生图、图生视频、文生语音、文生音乐。每个工具都能生成一个高质量的片段,但没有一个工具能把这些片段组装成一条完整的视频。你需要在Midjourney 生成图片、在Runway 生成视频片段、在ElevenLabs 生成语音、在Suno 生成音乐,然后手动导入Premiere 或剪映里剪辑。生成和制作之间,隔着一条需要人工填补的鸿沟。

第二重断裂:创意与工程之间的断裂。视频制作不只是把素材拼在一起,它是一个有严格工程规范的流程:脚本需要分镜、素材需要匹配画幅、音频需要对齐时间线、字幕需要词级时间戳、输出需要匹配平台规格。这些工程细节,AI生成工具完全不关心。它们给你一个1080p 的视频片段,但不会告诉你这个片段在9:16 的TikTok 画幅里该怎么裁剪、背景音乐的高潮点该和哪个画面对齐、字幕的字号在手机上是否可读。创意和工程之间,缺乏一个能把二者统一起来的编排层。

第三重断裂:工具与治理之间的断裂。专业视频制作有严格的质量控制流程:审片、修改、终审、交付。而AI 生成工具的输出是"一次性"的——你点一下按钮,它给你一个结果,好就用,不好就重来。没有中间检查点,没有修改记录,没有质量门禁,没有审计日志。你无法回溯"为什么选了这段音乐""为什么用了这个转场""这个画面是否符合脚本要求"。对于需要可复现、可审计、可修改的专业制作流程来说,这种"黑盒生成"模式是不可接受的。

三重断裂叠加的结果是:AI能帮你生成视频的零件,但不能帮你制造视频这个产品。OpenMontage 的设计,正是针对这三重断裂提出的系统性解决方案。

02 OpenMontage 是什么:把编码助手变成视频工作室

OpenMontage 由独立开发者 calesthio 创建,于 2026 年 3 月 29 日首次发布,采用 GNU AGPLv3 开源许可证。项目的官方吉祥物是"Monty the Clapper"(拍板器蒙蒂),官网为openmontage.video。

从技术栈来看,OpenMontage 主要用 Python 编写,同时依赖 Node.js 运行两个视频合成引擎。它不是一个你需要学习的新软件,而是一套你可以"装进"现有 AI 编码助手的生产系统。你只需要克隆仓库、运行make setup,然后在Claude Code 或Cursor 里打开项目,用自然语言告诉它你想做什么视频——剩下的由 Agent 驱动 OpenMontage 的管线、工具和技能来完成。

它的核心资产可以用三组数字概括:

资产

数量

说明

制作管线(Pipelines)

12 条

从动画讲解到纪录片蒙太奇,每条管线是一套完整的从想法到成片的生产流程

生产工具(Tools)

100+

视频生成、语音合成、音乐制作、图像生成、后期处理、分析、虚拟人、字幕等全链路工具

技能与知识文件(Skills)

700+

Markdown 格式的导演技能、创意技能、核心工具技能、元技能(审查/检查点),教会 Agent 如何执行每个制作阶段

但这三组数字只是表象。OpenMontage 真正的创新,在于它的架构设计——一种被称为"Agent-First"的全新视频生产范式。

03 核心机制:Agent-First 架构——AI 编码助手本身就是编排器

OpenMontage 最反直觉的设计决策是:它没有用 Python 写一个中央编排器。

在传统的视频制作系统或 AI Agent 框架中,通常会有一个用代码写的"大脑"——一个 orchestrator 类或一个状态机,负责决定下一步做什么、调用哪个工具、如何处理返回结果。但 OpenMontage 完全抛弃了这种模式。它的编排逻辑不写在代码里,而是写在人类可读的指令文件中,由AI 编码助手自己来阅读、理解和执行。

Agent-First 架构:AI 编码助手是编排器,代码只提供工具和持久化

具体来说,OpenMontage 的一次视频制作遵循这样的流程:

1.Agent读取管线清单(YAML)——了解这条管线有哪些阶段、每个阶段需要什么工具、审查标准是什么、成功通过的条件是什么。

2.Agent读取阶段导演技能(Markdown)——学习"如何"执行当前阶段,包括创意方向、技术规范、常见陷阱、质量标准。

3.Agent调用 Python 工具——通过工具注册表发现可用工具,每个工具的选择都经过 7 个维度的评分,并记录可审计的决策日志。

4.Agent自审(元技能)——使用审查者技能对当前阶段的输出进行模式验证、流程合规检查和质量评估。

5.Agent写入检查点(JSON)——保存当前状态、决策日志和成本快照,使整个制作过程可恢复、可回溯。

6.Agent提交人工审批——在提案、脚本、场景计划、生成素材、发布等关键节点暂停,等待你的签字确认。

7.预合成验证门——在渲染前检查交付承诺是否被违反、幻灯片风险是否过高、渲染器是否缺失。

8.渲染(Remotion / HyperFrames / FFmpeg)——根据视觉语法选择匹配的合成引擎。

9.渲染后自审——ffprobe 验证、帧采样检查黑帧/破损叠加、音频电平分析、交付承诺验证、字幕检查。

10.最终输出——只有自审通过的视频才会被呈现给你。

这个架构的核心洞察是:Python只负责工具和持久化,所有创意决策、编排逻辑、审查标准和质量规范都存在可读的指令文件(YAML 清单 + Markdown 技能)中,你可以随时检查和自定义。每一个决策都被记录下来,包括考虑过的替代方案、置信度评分和选择理由。

三层知识架构

Layer   1:tools/ + pipeline_defs/——"有什么":可执行的能力 + 编排定义。

Layer   2:skills/——"怎么用":OpenMontage 的约定和质量标准。

Layer   3:.agents/skills/——"原理是什么":外部技术知识包。

每个工具声明它依赖哪些 Layer 3 技能。Agent 读 Layer 1 知道有什么可用,读 Layer 2 知道 OpenMontage 希望怎么用,需要时读 Layer 3 获取深度技术知识。

这种设计带来了三个传统架构无法实现的优势。第一是可解释性——你可以随时阅读 Agent 正在遵循的指令文件,理解它为什么这样做,而不是面对一个黑盒。第二是可定制性——你不需要写代码就能修改制作流程,只需要编辑 YAML 或 Markdown 文件。第三是可移植性——因为编排逻辑不绑定特定的 Agent 实现,OpenMontage 可以在 Claude Code、Cursor、Copilot、Codex、Windsurf 等任何能读文件和执行 Python 的 AI 编码助手上运行。

04 能力全景:12 条管线、100+ 工具、700+ 技能

理解了架构之后,来看 OpenMontage 具体提供了哪些能力。

12 条制作管线

每条管线是一套完整的生产流程预设,包含从想法到成片的全部阶段定义、工具配置和质量标准。你不需要自己设计流程,只需要选择适合你需求的管线。

12 条制作管线覆盖从动画讲解到本地化配音的全场景

管线

产出

最佳场景

Animated Explainer(动画讲解)

AI 生成的讲解视频,含研究、旁白、视觉、配乐

教育科普、教程、主题拆解

Animation(动效设计)

动态图形、动能排版、动画序列

社交媒体、产品演示、抽象概念

Avatar Spokesperson(虚拟主播)

虚拟人驱动的演讲视频

企业沟通、培训、公告

Cinematic(电影级)

预告片、先导片、情绪驱动的剪辑

品牌影片、 teasers、宣传内容

Clip Factory(批量切片)

从一个长素材批量生成排序后的短视频

长内容再分发到社交媒体

Documentary Montage(纪录片蒙太奇)

从 CLIP 索引的免费素材库(Pexels、Archive.org、NASA、Wikimedia、Unsplash)中剪辑主题蒙太奇

视频论文、情绪短片、真实素材视频、零 API 成本制作

Hybrid(混合制作)

原始素材 + AI 生成的辅助视觉

用图形增强现有素材

Localization & Dub(本地化配音)

字幕、配音、翻译现有视频

多语言分发

Podcast Repurpose(播客转视频)

播客高光片段转视频

播客营销、音频图视频

Screen Demo(屏幕演示)

精修的软件屏幕录制和操作演示

产品演示、教程、文档

Talking Head(真人出镜)

素材驱动的演讲者视频

演讲、vlog、访谈

实验性管线

持续新增的实验性生产流程

探索新的视频制作形态

每条管线都遵循相同的七阶段结构化流程:research → proposal → script → scene_plan → assets → edit → compose(研究 → 提案 → 脚本 → 场景计划 → 素材 → 剪辑 → 合成)。每个阶段都有专门的导演技能文件,教会 Agent 如何执行该阶段。

100+ 生产工具

工具是 Agent 的"手"。OpenMontage 的工具注册表自动发现所有继承自BaseTool的 Python 工具,无需手动注册。工具按功能分为七大类:

类别

数量

代表性工具

视频生成与处理

20+

多供应商视频生成、合成、拼接、裁剪

音频

10+

多供应商语音合成(含离线 Piper)、音乐生成(Suno、ElevenLabs)、混音、增强

图形

15+

多供应商图像生成、图表、代码片段、数学公式

增强

4+

Real-ESRGAN 超分、rembg/U2Net  去背景、人脸增强、CodeFormer/GFPGAN 人脸修复

分析

4+

WhisperX 词级字幕转录、场景检测、智能帧提取、CLIP/BLIP-2  视频理解

虚拟人与唇形同步

4+

SadTalker/MuseTalk 虚拟人、Wav2Lip 唇形同步、Kling 虚拟人/唇形同步

字幕

1+

SRT/VTT 字幕生成

后期制作工具(FFmpeg 合成、视频拼接、精确裁剪、多轨混音、音频增强、LUT 调色、字幕生成)始终可用且完全免费。每个工具的选择都经过 7 个维度的评分,并记录可审计的决策日志——你可以回溯 Agent 为什么选了这个工具而不是另一个。

三个渲染引擎

OpenMontage 不是只靠一个渲染器,而是根据视觉语法选择匹配的合成引擎:

引擎

技术

擅长

Remotion

React/Node.js

弹簧动画图像场景、数据揭示、章节标题、英雄卡片、TikTok 逐词字幕、场景转场(淡入/滑动/擦除/翻转)、Google   Fonts、音频淡入淡出曲线、虚拟人合成。没有配置视频生成供应商时,Agent 生成静态图片,Remotion 将其变成完整动画视频。

HyperFrames

HTML/CSS/GSAP/Node.js ≥22

动能排版、产品宣传片、发布预告片、自定义动态图形、数据图表、颗粒叠加、着色器转场、网站转视频、SVG 角色动画

FFmpeg

本地

核心视频组装、编码、字幕烧录、音频混流、调色

渲染引擎在提案阶段选定(render_runtime),并在整个编辑决策中锁定。静默切换渲染引擎被视为治理违规。

05 实战流程:一条视频从想法到成片的七个阶段

理论说再多,不如看一条实际的视频是怎么被生产出来的。以 Animated Explainer 管线为例,当你告诉 Agent"做一个 60 秒关于神经网络如何学习的动画讲解视频"时,接下来会发生什么。

七阶段生产流程:每个阶段都有导演技能、工具调用、自审和人工审批

阶段

Agent 做什么

使用的工具/技能

人工审批点

1. 研究(Research)

用实时网页搜索研究"神经网络如何学习"这个主题,收集关键概念、常见误解、教学要点和参考资料

网页搜索工具、研究导演技能

—

2. 提案(Proposal)

基于研究结果提出视频创意方案:叙事角度、视觉风格、音乐基调、目标时长、目标平台、预估成本。选择渲染引擎(Remotion/HyperFrames/FFmpeg)和输出规格

提案导演技能、样式手册、平台输出配置

需要批准

3. 脚本(Script)

撰写完整旁白脚本,包含语气指导、停顿标记、重点强调。同时规划字幕的词级时间戳

脚本导演技能、科学写作技能

需要批准

4. 场景计划(Scene Plan)

将脚本分解为逐个场景,每个场景定义:画面内容、视觉风格、转场方式、时长、对应旁白段落、需要的素材类型

场景计划导演技能、分镜技能

需要批准

5. 素材(Assets)

生成或获取所有需要的素材:AI 图像/视频片段、语音旁白(离线 Piper 或云端 TTS)、背景音乐(Suno 或免版税音乐库)、图表、字幕文件

图像生成、视频生成、TTS、音乐生成、WhisperX 转录、字幕生成

需要批准

6. 剪辑(Edit)

按照场景计划组装素材:对齐音画、添加转场、混音(旁白+音乐+音效)、烧录字幕、调色

FFmpeg、视频拼接、音频混音、调色、字幕烧录

—

7. 合成(Compose)

通过预合成验证门后,用选定的渲染引擎渲染最终视频。渲染后执行自审:ffprobe 验证、4 个位置帧采样检查黑帧/破损、音频电平分析、交付承诺验证、字幕检查

Remotion/HyperFrames/FFmpeg、ffprobe、帧采样、音频分析

发布前批准

这个流程有几个值得注意的设计细节。第一,人工审批不是建议,是强制执行的。检查点写入器会拒绝一个"已完成"的受控阶段,如果没有记录到人工批准。每一个被取代的检查点都会被归档,所以审计轨迹(包括门禁转换)在修改后仍然保留。第二,预合成验证门会在渲染前拦截有问题的方案——比如一个承诺"动态画面为主"的视频却有 80% 的静态图像,或者幻灯片风险评分达到临界值,或者缺少渲染器配置。这些问题在浪费GPU 时间之前就被捕获。第三,渲染后自审是自动执行的,不通过的视频不会被呈现给你——Agent会根据自审结果自动修复后重新渲染。

06 质量治理:把视频制作当成真正的工程

OpenMontage 和其他 AI 视频工具最根本的区别,在于它把视频制作当成了一门工程学科,而不是一个创意玩具。这体现在一整套严格的质量治理体系中。

质量门禁(Quality Gates)。五个关键节点——提案、脚本、场景计划、生成素材、发布——都会暂停等待你的签字确认。这不是可选的"建议你看一下",而是强制执行的门禁。没有你的批准,Agent 不能进入下一个阶段。这确保了你在整个制作过程中保持创意控制权,而不是在最后拿到一个完全不符合预期的成片。

预合成验证(Pre-compose Validation)。在渲染之前,系统会检查三个维度:交付承诺是否被违反(比如你要的是"动态视频"但方案里 80% 是静态图片)、幻灯片风险评分是否达到临界值、渲染器系列是否缺失。任何一项不通过,渲染都会被阻止。这避免了"花了 20 分钟渲染出来一看是个 PPT"的尴尬。

渲染后自审(Post-render Self-review)。每次渲染完成后,系统自动执行五项检查:ffprobe 验证文件完整性、在 4 个时间位置提取帧检查黑帧和破损叠加、分析音频电平检查静音和削波、验证交付承诺是否被遵守、检查字幕是否存在。如果任何一项失败,视频不会被呈现给你——Agent会自动诊断问题、修复方案、重新渲染。

可审计的决策日志(Auditable Decision Log)。每一个工具选择都经过 7 个维度的评分,每一个创意决策都记录了考虑过的替代方案、置信度评分和选择理由。每一个检查点都保存为 JSON 文件,包含状态快照、决策日志和成本快照。这意味着你可以在任何时候回溯:"为什么选了这个 TTS 引擎而不是那个?""这个场景的画面为什么是这样的?""这个视频花了多少钱?"——所有答案都在日志里。

Backlot可视化审片板。OpenMontage 提供了一个名为 Backlot 的实时审片板。你可以用python -m backlot open <project-id>打开一次制作的实时看板,视觉化地审查每个阶段的输出。制作完成后,还可以用"▶ REPLAY RUN"功能从头到尾回放整个制作过程,可拖拽scrub。这让整个制作过程变得透明、可审查、可学习。

样式系统与平台适配

OpenMontage  内置三套样式手册:Clean   Professional(企业/教育/SaaS)、Flat Motion Graphics(社交媒体/TikTok/创业公司)、Minimalist Diagram(技术深度解析/架构图)。样式手册控制字体、调色板、动效风格、音频配置和质量规则,Agent 会在所有生成素材中一致应用。

同时内置 8 种平台输出配置:YouTube 横版 1080p/4K、YouTube Shorts、Instagram Reels/Feed、TikTok、LinkedIn、电影级 21:9。Agent 会根据目标平台自动选择分辨率和画幅。

07 怎么用:安装、零 API Key 模式与成本

OpenMontage 的安装出乎意料地简单。你不需要注册账号、不需要获取 API Key、不需要订阅服务。只需要三个前提:Python 3.10+、FFmpeg、Node.js 18+,以及一个 AI 编码助手(Claude Code、Cursor、Copilot、Codex 或 Windsurf)。

步骤

命令/操作

1. 克隆仓库

git clone   https://github.com/calesthio/OpenMontage.git

2. 进入目录

cd OpenMontage

3. 安装依赖

make setup(自动创建虚拟环境、安装 Python 依赖、安装 Remotion 依赖、安装 Piper TTS、复制 .env 模板)

4. 打开项目

在你的 AI 编码助手中打开 OpenMontage 项目目录

5. 开始制作

用自然语言告诉 Agent 你想做什么视频,例如"做一个 60 秒关于神经网络如何学习的动画讲解视频"

没有make的系统(Windows 或精简 Linux)可以手动执行等效命令。Windows 用户如果npm install报ERR_INVALID_ARG_TYPE,改用npx --yes npm install。

零 API Key 模式

OpenMontage 最令人意外的设计是:你可以在没有任何付费 API Key 的情况下制作完整的视频。

当没有配置任何视频/图像/语音生成供应商的 API Key 时,系统会自动回退到全本地、全免费的工具链:

•语音旁白:使用离线 Piper TTS(本地运行,完全免费,支持多种语言和声音)

•视频素材:从 Pexels、Archive.org、NASA、Wikimedia、Unsplash 等免费素材库检索和下载免版税视频和图片(Documentary Montage 管线专门为此设计)

•视觉动效:Agent 生成静态图片(或使用免费素材),然后由 Remotion 引擎将其转化为完整的动画视频——弹簧动画、转场、逐词字幕、数据揭示等全部在本地渲染

•音乐:从免版税音乐库获取,或使用本地生成工具

•字幕:WhisperX 本地转录,生成词级时间戳的 SRT/VTT 字幕

•后期:FFmpeg 本地完成合成、编码、调色、字幕烧录

这意味着,只要你有一台能运行 Python 和 Node.js 的电脑,加上一个 AI 编码助手,你就可以零成本制作完整的视频。当然,如果你配置了付费 API Key(ElevenLabs、Suno、Kling、Veo 等),视频的质量和多样性会显著提升——但这不是必需的。

成本

根据项目文档和用户反馈,使用付费 API 的情况下,一条视频的成本大约在$0.15 到 $2.50之间,取决于视频长度、使用的供应商和生成的素材数量。零 API Key 模式下,除了 AI 编码助手本身的费用,视频制作的边际成本为零。

每次制作的检查点文件中都包含成本快照,你可以精确地知道每一条视频花了多少钱、花在哪个工具上。

支持的 AI 编码助手

平台

配置文件

状态

Claude Code

CLAUDE.md

完整支持

Cursor

CURSOR.md + .cursor/rules/

完整支持

GitHub Copilot

COPILOT.md +   .github/copilot-instructions.md

完整支持

Codex

CODEX.md

完整支持

Windsurf

.windsurfrules

完整支持

Ollama / LM Studio

—

即将推出(本地大模型支持)

所有平台的配置文件都指向共享的AGENT_GUIDE.md(操作指南和 Agent 契约)和PROJECT_CONTEXT.md(架构参考)。项目内置合约测试(make test-contracts)不需要任何API Key 即可运行,用于验证工具注册表和管线定义的完整性。

08 判断框架:适用场景与局限

场景

推荐程度

原因

教育科普视频

强烈推荐

Animated Explainer 管线最成熟,含研究→脚本→视觉→配乐全流程

社交媒体短视频

强烈推荐

Animation + Clip Factory 管线,支持 9:16 输出,Remotion 逐词字幕

纪录片/视频论文

强烈推荐

Documentary Montage 管线,CLIP 索引免费素材库,零 API Key 可用

产品演示/SaaS 教程

推荐

Screen Demo 管线,精修屏幕录制 + 旁白 + 字幕

播客/长视频再分发

推荐

Podcast Repurpose + Clip   Factory,批量生成高光短视频

多语言本地化

推荐

Localization & Dub 管线,字幕+配音+翻译

企业培训/公告

推荐

Avatar Spokesperson + Clean   Professional 样式

电影级叙事短片

一般

Cinematic 管线可用,但 AI 视频生成质量仍有限,复杂叙事需要大量人工干预

实时直播/互动视频

不推荐

OpenMontage 是离线制作系统,不支持实时流

完全无人工干预的自动化批量生产

需评估

人工审批门禁是强制执行的,完全自动化需要自定义修改门禁逻辑

使用时需要注意几个局限。第一,OpenMontage依赖 AI 编码助手的推理能力。Agent的创意决策质量、工具选择准确性和问题排查能力,取决于你使用的底层模型。更强的模型(如Claude Opus)通常能产出更好的结果。第二,AGPLv3 许可证意味着如果你在网络服务中使用 OpenMontage(或修改后提供服务),需要开源你的修改。对于个人本地使用和内部工具,这通常不是问题。第三,项目由独立开发者在业余时间维护("built nights and weekends"),更新频率和问题响应速度可能不如商业产品。第四,零 API Key 模式的素材多样性有限——免费素材库的覆盖范围不如付费生成工具,复杂的视觉需求可能需要配置API Key。

OpenMontage 最值得关注的地方,不是它有 12 条管线或 100 个工具,而是它代表了一种关于 AI 创作的全新哲学:AI 不应该是一个你按下按钮就吐出结果的黑盒,而应该是一个你可以指导、审查、修改和信任的协作伙伴。

在当前的 AI 视频工具市场上,绝大多数产品都在追求"一键生成"——输入一段文字,等待几十秒,拿到一条视频。这种模式的问题在于,你放弃了对创作过程的所有控制权。你无法中途修改方向,无法理解为什么生成了这个画面,无法在不满意时精确地调整某个环节。你得到的是一个"结果",而不是一个"过程"。

OpenMontage 走了一条完全相反的路。它把整个制作过程拆解成七个透明的阶段,每个阶段都有可读的指令文件、可审计的决策日志、可回溯的检查点和强制执行的人工审批。AI负责执行繁重的工作——研究、生成、剪辑、渲染——但所有创意决策都需要你的批准。你不是在"使用"一个工具,而是在"导演"一个 AI 制作团队。

这种范式的意义可能远超视频制作。如果任何复杂的创意工作——写作、设计、编程、音乐——都能被拆解成透明的、可审计的、人机协作的生产流程,那么 AI 在创意领域的角色就会从"替代品"变成"增强器"。OpenMontage 用视频制作这个具体场景,证明了这种范式是可行的。

相关学习资料