乐于分享
好东西不私藏

用AI给视频配音效!免费开源AI音效模型Woosh如何部署使用?

用AI给视频配音效!免费开源AI音效模型Woosh如何部署使用?
上和弦

上和弦匠心设计全新校区

Audio Matrix

本文作者:辰谙

最近,SONY正式开源了一款专为音效领域设计的基础模型Woosh,为声音创作者、游戏开发者和影视后期工作者提供了一个全新的创作工具。

01

Woosh的介绍和部署

Woosh是SONY AI于近期开源的专门针对音效生成优化的基础大模型,不仅支持文本生成音频,还能根据视频画面自动生成同步音效,适用于影视后期、游戏开发、视频创作等场景。

Woosh的部署方法有多种,首先是官方源代码部署,这是最直接的部署方式,适合有一定Python开发经验的用户。

我们可以直接进到Woosh在GitHub上的发布界面,然后下载对应文件到本地,在对应的环境中部署即可。

第二种是ComfyUI插件部署。ComfyUI是目前最流行的AI生成工具可视化平台,Woosh有专门的社区插件支持,有着直观的图形化界面。

第三种是一键整合包部署。对于不想进行复杂环境配置的用户,社区已经提供了一键整合包,解压即可使用,目前比较推荐这种方式。

需要注意的是,Woosh对硬件有明确的要求,主要依赖NVIDIA GPU进行加速计算,推荐配置为NVIDIA RTX 3060/4060,8GB显存以上。

02

Woosh的使用

以B站大神生活作弊码发布的一键整合包的部署为例,下载后我们会得到几个压缩包,解压后就会得到三个不同的bat启动程序,分别是“一键启动视频转音效.bat”“一键启动文本转音效_极速模式.bat”和“一键启动文本转音效_质量模式.bat”。

这三个启动程序分别对应了不同的音效生成方式,其中前一种对应视频生音效,后两种对应文本生音效,后两种的区别则在于极速模式是蒸馏模型,生成速度极快,而质量模式生成较慢,但质量比极速模式高。

首先我们看文本转音效的极速模式,启动之后,我们会看到模型的WebUI:

页面中最重要的就是左上方的“中文描述”的输入框,我们可以在这里输入任意想要的音效的中文提示词:

提示词的结构可以是:[物体]+[动作]+[环境]+[质感],比如”雨水落在铁皮屋顶上,轻柔而清脆“。

由于这个整合包已经内嵌了翻译工具,所以我们可以直接点击右上方的“翻译成英文”:

这时“提示词”框内就会出现对应的英文翻译。当然,直接在“提示词”框内输入英文提示词也是可以的。

除此之外,下方还有三个参数可供我们调整,其中”生成数量“就是一次性生成几条音效,”提示词引导系数“建议3~7,值越高越贴合提示词,但可能会降低自然度,“随机种子”建议保持-1,不做更改。

之后,我们直接点击“立即生成”即可,生成的音效可以在UI内预览,也可以下载。

然后我们看视频转音效,我们点击“一键启动视频转音效.bat”启动WebUI:

可以看到,视频转音效的可调参数和文本转音效的没有太大差别,主要就是左边多了一个上传视频的框

在这个视频框里上传视频后,我们像文本转音效那样在右边的参数栏输入想要的参数,然后点击“立即生成”即可。

当然,由于这个是视频转音效,所以右边的提示词我们也可以选择不填,这款工具会根据视频内容智能地生成匹配的音效。

03

资源获取

目前,Woosh已经在GitHub上开源,地址如下:

https://github.com/SonyResearch/Woosh

B站大神生活作弊码发布的Woosh的一键整合包的下载链接如下:

https://pan.quark.cn/s/2b783e2e99c9

此外,就算我们本地没有NVIDIA GPU,也有一些线上的AI服务可以使用,比如RunningHub等:

SONY AI团队表示未来将继续优化Woosh模型,计划未来会支持立体声和多声道音频生成,并延长视频生成的最大时长。

- END -

作者往期文章(向上滑动阅览)

音乐文化音乐审美音乐教育音乐学习五线谱民族记谱法和声卡农古典音乐交响乐爵士乐摇滚乐队噪音音乐夜曲指弹民乐|强力集团钞票上的音乐家(上)钞票上的音乐家(下)中国摇滚不插电电子音乐Lo-Fi音乐 | 8bit音乐|音乐评论ASMR阿卡贝拉|City Pop蒸汽波R&BFunk灵魂乐Future Bass雷鬼黑胶唱片

音乐理论国际标准音十二平均律五度相生律/纯律中国古代律制二十四大小调中古调式大小调转调固定唱名法/首调唱名法和弦标记转位和弦中国民族调式日本民族调式三分损益法/五度相生律通奏低音平行五度/平行八度三全音谱号|五度圈人声音域|王道进行Leading Bass和声进行 | 三种小调 | 旋律大调/和声大调 | 复合和弦 | 负面和声 | Alt音阶Swing“So What”增六和弦那不勒斯六和弦六声音阶 | 终止式 | 超级玛丽终止式调式互换调式音乐切分节奏单对双的节奏延伸音 | “Back Door”和声进行 | Slash Chord |刹车和弦|“Lady Bird”和声进行 | 半音趋近变化Rhythm Changes多利亚调式利底亚调式

乐器及演奏管弦乐团配器乐器音域管风琴钢琴键盘类古琴木吉他电吉他电吉他效果器指弹吉他CAGED System3NPS贝斯贝斯Slap技巧手风琴特雷门中提琴低音提琴单簧管/双簧管三角铁架子鼓定音鼓唢呐移调乐器|钢琴伴奏织体|提琴揉弦T1213121大横按钢琴踏板Ⅰ钢琴踏板Ⅱ萨克斯风打击乐器

现代音乐混音/母带母带百万调音师MIDI|音频格式DJ声音设计作曲/写歌旋律创作流行音乐的曲式结构作曲/编曲传统和声/流行和声人声和声虚拟歌手杜比音效记录旋律听力翻唱/改编相位抵消相位问题的解决方案模拟信号/数字信号人耳的声源定位 |立体声录音|虚拟低频谢帕德音调Hi-Res削波不同颜色的噪声混叠等响曲线掩蔽效应硬削波/软削波AI作曲谐波失真|过载/失真/法兹|吉他类乐器的录音 |钢琴类乐器的录音|架子鼓的录音|录音的响度电平控制|多普勒效应家庭录音室的工作台方位设置低频陷阱/驻波问题抖动MIDI 2.0立体声兼容单声道dBFS和LKFS/LUFS自动化处理家庭录音室的噪声响度提升减法合成/加法合成粒子合成波表合成MIDI钢琴人性化设置噪音在音乐制作中的应用编曲时要不要加效果器音乐app对音乐文件的处理编曲师需不需要懂混音现代音乐制作VS传统和声规则免费制作AI歌手半开麦/假唱

音乐设备声卡动圈麦克风/电容麦克风麦克风的指向性|动圈耳机/动铁耳机监听耳机808鼓监听音箱倒相孔啸叫家庭录音室MIDI设备电子键盘二分频/三分频大三芯/卡侬头/大二芯/莲花头调音台的接口调音台的旋钮和按钮调音台的类型监听扬声器的类型音量推子|话筒放大器通道条磁带模拟不同阻抗的耳机耳放声卡和调音台的取舍无源音箱/有源音箱平衡/非平衡数字麦克风/模拟麦克风数字音频时钟低音炮推子前/推子后

音乐软件建模钢琴Pianoteq 9L系列限制器DAWprojectPro Tool更新Suno传统DAW和AIFabfilter Pro-MB的向上压缩解决立体声声相问题的工具Cubase 15解决CSS弦乐的延迟Ozone 12的母带实时拆分技术Valhalla FutureVerbGemini 3iZotope Insight 2UAD插件RipX DAW 8VoviousWaves Curves ResolveFabFilter Pro-C3OTTPolarity-MDFuture MBDynAssistStacks Audio插件AI音频分离工具ACE-Step 1.5SoulX-SingerOpenTuneALLCOMPiZotope RX 12VoiceAssistSoothe 3

音乐制作音频分析耳机混音导出分轨混响混响效果器卷积混响/IR混响效果器的类型弹簧混响抽吸效果滤波器EQ/动态EQ/多段压缩EQ效果器的Q值EQ效果器的扩展功能压缩器的参数压缩效果器的类型|多段压缩器压缩器的Attack和Release压缩效果器的扩展功能饱和效果器限幅器噪声门降噪声像调整调制类效果器扩展器效果器的连接方式|M/S处理dBSPL/dBm/dBu/dBV/dBFS基本波形采样精度采样率延迟效果器延迟效果器的延迟时间摇滚混音人声和声的混音压缩效果器处理人声低频处理电脑性能节省测算和修改BPM失真电吉他的混音卧室制作人的母带制作Tips声场扩大混音融合度混音增强鼓的打击感侧链压缩的应用

欢迎加入UPCHORD音频人养成计划

⬆️上和弦地理位置

详情咨询请戳👇