Meta 发布开源 文本自动生成音乐 工具 AudioCraft

Facebook 母公司 Meta 宣布开源文本生成音乐工具 Audiocraft，该工具可以帮助用户根据文本提示创作音乐和音频。

Meta 表示，这款人工智能工具将 AudioGen、EnCodec 和 MusicGen 三种模型或技术融为一炉，可用文本内容生成高质量、逼真的音频和音乐。比如用文本就能生成鸟叫、汽车喇叭声、脚步等背景音频，或更复杂的音乐，适用于游戏开发、社交、视频配音等业务场景。

根据官网的介绍，MusicGen 接受过 Meta 拥有的和特别授权的音乐训练，可以从文本提示生成音乐，而 AudioGen 接受过公共音效训练，可从文本提示生成音频，比如模拟狗叫或脚步声；再加上 EnCodec 编解码器的改进版本，用户可以更高效率地生成更高质量的音乐。

总结就是，Audiocraft 由 MusicGen、AudioGen 和 EnCodec 三个模型组合而成：

• MusicGen 是一个文本生成音乐的自回归语言模型，大约使用了 40 万份文本描述和元数据的录音，总计 2 万小时的授权音乐进行训练。可通过文本自动生成摇滚、流行、重金属、RPA 等类型音乐。

• AudioGen 是一个文本生成音频的自回归语言模型，具备分离音频功能，例如，可识别背景声、说话声和物体发出的声音等。这有助于仅使用文本生成音频时，更准确贴近用户的目标音乐。

• EnCodec 是一个高保真音频、音乐的压缩和解压器，可以用最小的体积尽可能还原原始音乐，这对于打造高质量音频模型来说至关重要。EnCodec 由编码器、量化器和解码器三大块组成。

• 编码器，通过获取未压缩的数据，并将其转换为更高维度和更低帧速率的表示。

• 量化器，将编码器生成的 “表示” 压缩到目标大小，同时保留最重要的信息来重建原始信号。

• 解码器，将压缩信号转换回，与原始信号尽可能相似的波形。因为在低比特率下不可能进行完美的重建，所以，使用了鉴别器来提高音频生成样本的质量。

标签：