夜雨聆风学习资料网

ARTICLE · 1333896

Pika视频模型可下载了,本地能做什么?

Pika视频模型可下载了,本地能做什么?

想做一段视频,手头有角色图、场景图,还想给一段动作或声音参考,这次Pika开放的H3 Flex提供了一个值得关注的入口。

按官方说明,它支持把不同类型的参考交给模型,生成带声音的视频;相关任务适配器和推理代码已经可以下载。

官方案例《Record-shop dance》的3秒静帧。图源:Pika-Labs。

但如果你期待下载之后,就能在自己的电脑上直接生成宣传里的4K成片,需要先分清本地生成与托管服务的范围。

01

—

能下载的部分,怎样组成一个模型

Pika在10月29日发布H3 Flex。

它建立在MiniMax H3底座之上,经过进一步训练,开放了用于不同生成任务的适配器,以及运行生成所需的代码。

两类任务适配器在官方仓库的位置。图源:Pika-Labs/Hugging Face。

适配器可以理解为一组配合底座使用的追加参数。只拿到它,并不能脱离底座独立生成视频,仍要准备相应的基础模型组件。

对创作者来说,本地部分有几种明确的用法。可以用文字描述生成视频,给定首帧或尾帧约束画面,也可以进入多参考模式,把图像、视频和音频组合起来使用。

例如,你可以分别提供人物外观与场景的参考,再用一段视频提示动作。

这是官方支持的输入方式,最终能否稳定保持人物、动作是否合意,仍要看具体生成结果,不能只凭“支持参考”就下结论。

同一案例的角色、场景、动作参考及结果;角色外观存在差异。图源:Pika-Labs。

02

—

多参考、4K和分轨,分别在哪里

多参考模式最多接收12个文件,是所有参考文件的总数。图像最多9张,视频与音频各最多3个,三个子类的上限不能直接相加。

视频和音频还各有时长限制,准备复杂参考前,需要继续核对模型卡。

本地原生生成的分辨率是480p或768p,并带混合立体声音频。

混合音频里,声音已经合在一起;如果后期要分别调整对白、音乐与音效,就需要关注音轨分离能力。

官方介绍里的高分辨率和音轨分离,属于另外一层服务。

想得到什么
官方说明的提供范围
原生480p或768p视频,带混合音频
可下载部分支持
放大到1080p、2K或4K
Pika托管服务提供的增强
将音频拆开用于后期调整
Pika托管服务提供的增强

这里的4K是放大后的输出,不能当作本地模型的原生分辨率。托管服务由Pika的服务器运行,调用它的接口,也不等于在自己的电脑上运行下载包。

03

—

自己部署,先看机器和文件

开放下载给了创作者自行部署的选择,但它离普通软件的下载即用还有距离。

官方模型卡给出的代表测试使用H100 80GB显卡,并支持把部分模型参数转移到CPU一侧,以减轻显存压力。

这个测试配置不能直接当作绝对最低配置,也不能反过来保证自己的显卡一定能跑。

基础模型组件的文件总量约210GB,还要准备所需适配器和运行环境。210GB说的是文件体积,不能读成显卡需要210GB显存。

磁盘空间和显存是两项不同的准备条件。

我这次核对的是官方公告、模型卡与仓库说明,没有安装模型,也没有在自己的电脑上生成视频。

宣传中的“7秒”指特定测试里生成模型的一段计算用时,没有把拿到成片前的所有环节算进去,例如排队和加载,以及参考处理与放大,不能据此估计自己从提交到拿到成片要等多久。

使用条件也要分别看。推理代码采用Apache-2.0许可,模型适配器受MiniMax H3社区许可约束。

代码许可不能代替模型许可,更不能据此推断示例素材都可任意使用。

准备尝试之前,先确定自己的下一条视频需要什么。要用哪些参考,480p或768p是否够做测试,后期是否需要更高分辨率或分轨?

这些问题会把下载包与托管服务的用途分开。至于值不值得自己部署,要等核过机器条件和实际结果再判断。

本文依据《Introducing Pika H3 Flex》(Pika)和《Pika-H3-Flex》模型卡(Pika-Labs),运行与许可说明另见《Pika H3 Flex》代码仓库(Pika-Labs)。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料