https://github.com/QwenLM/Qwen-Audio

Qwen-Audio：通过统一的大规模音频语言模型推进通用音频理解

Qwen-Audio 🤖 | 🤗  ｜ Qwen-Audio-Chat 🤖 | 🤗  |    Demo 🤖 | 🤗

  Homepage  ｜   Paper   |    WeChat   |   Discord

本文提出了Qwen-Audio模型，旨在通过扩大音频语言预训练的范围，覆盖超过30个任务和多种音频类型，如人声、自然声音、音乐和歌曲，从而促进通用音频理解能力的提升。然而，直接联合训练所有任务和数据集可能导致干扰问题，因为不同数据集相关的文本标签由于任务焦点、语言、标注的细粒度和文本结构的差异而存在显著变化。为了解决一对多的干扰问题，我们精心设计了一个多任务训练框架，通过对解码器的分层标签序列进行条件化，促进知识共享并通过共享和特定标签分别避免干扰。值得注意的是，Qwen-Audio在多种基准任务中实现了卓越的性能，而无需任何任务特定的微调，超越了同类模型。在Qwen-Audio的基础上，我们进一步开发了Qwen-Audio-Chat，允许多种音频和文本输入，实现多轮对话并支持多种以音频为中心的场景。

Qwen-Audio 可以以多种音频 (包括说话人语音、自然音、音乐、歌声)和文本作为输入，并以文本作为输出。Qwen-Audio 系列模型的特点包括：

• 音频基石模型：Qwen-Audio是一个性能卓越的通用的音频理解模型，支持各种任务、语言和音频类型。在Qwen-Audio的基础上，我们通过指令微调开发了Qwen-Audio-Chat，支持多轮、多语言对话。Qwen-Audio和Qwen-Audio-Chat模型均已开源。
• 兼容多种复杂音频的多任务学习框架：为了避免由于数据收集来源不同以及任务类型不同，带来的音频到文本的一对多的干扰问题，我们提出了一种多任务训练框架，实现相似任务的知识共享，并尽可能减少不同任务之间的干扰。通过提出的框架，Qwen-Audio可以容纳训练超过30多种不同的音频任务；
• 出色的性能：Qwen-Audio在不需要任何任务特定的微调的情况下，在各种基准任务上取得了领先的结果。具体得，Qwen-Audio在Aishell1、cochlscene、ClothoAQA和VocalSound的测试集上都达到了SOTA；
• 支持多轮音频和文本对话，支持各种语音场景：Qwen-Audio-Chat支持声音理解和推理、音乐欣赏、多音频分析、多轮音频-文本交错对话以及外部语音工具的使用。

Methodology 

本节提供了Qwen-Audio和Qwen-Audio-Chat的详细信息，这些模型旨在实现通用音频理解和基于人类指令的灵活互动。首先，在第1节中介绍了Qwen-Audio和Qwen-Audio-Chat的模型结构。我们的模型训练过程分为两个阶段：多任务预训练和监督微调。我们在第2节中描述了通过多任务学习进行的Qwen-Audio训练。随后，在第3节中描述了Qwen-Audio-Chat的监督微调过程，使其能够实现灵活的人机互动。

模型架构

Qwen-Audio 模型的架构如图 3 所示。Qwen-Audio 包含一个音频编码器和一个大型语言模型。给定配对数据 (𝒂,𝒙) ，其中 𝒂 和 𝒙 表示音频序列和文本序列，训练目标是将下一个文本标记概率最大化为：

Audio Encoder 音频编码器

音频编码器Qwen-Audio采用单一音频编码器处理多种类型的音频。该音频编码器基于Whisper-large-v2模型初始化，该模型为32层Transformer结构，包含两个卷积下采样层作为前端。音频编码器由640M参数构成。尽管Whisper是针对语音识别和翻译进行监督训练的，其编码表示仍然包含丰富的信息，如背景噪声，甚至可以用于恢复原始语音。在音频数据预处理过程中，Whisper将其重采样至16kHz，并使用25ms的窗口大小和10ms的步长将原始波形转换为80通道梅尔谱图。此外，模型还包含一个步幅为2的池化层，以减少音频表示的长度。因此，编码器输出的每一帧大约对应于原始音频信号的40ms片段。在训练时，采用SpecAugment作为数据增强技术。

大型语言模型Qwen-Audio将大型语言模型作为其基础组件。该模型使用从Qwen-7B中获得的预训练权重进行初始化。Qwen-7B是一个32层的Transformer解码器模型，隐藏层大小为4096，总参数量为7.7B。

多任务预训练

在音频处理领域，已开发出多样化的音频数据集以应对特定任务，如表1所示。Qwen-Audio旨在利用广泛的音频数据集进行联合训练，目标是训练一个统一的模型，能够支持所有音频任务，从而消除在处理不同任务时繁琐的模型切换需求。更重要的是，在联合训练过程中，各任务可以相互受益，原因在于：1）相似任务能够通过知识共享和协同学习而获益，因为它们关注音频信号中嵌入的基本信息；2）依赖于低层次感知能力的任务可以帮助需要高层次理解或推理能力的任务。

然而，由于任务聚焦、语言、标注的细粒度和文本结构等方面的差异，不同数据集在文本标签上存在显著变化（例如，有些数据是结构化的，而其他数据则是非结构化的）。为了训练适用于不同任务的网络，仅仅混合这些多样化的数据集无法实现相互增强；相反，它会引入干扰。目前大多数现有的多任务训练方法要么将相似任务分组（例如，音频描述、转录），要么为每个数据集分配一个数据集ID，以避免干扰。尽管这些方法取得了一定效果，但仍有很大的改进空间。Whisper提出了一种多任务训练格式，通过将任务和条件信息作为输入特定令牌的序列传递给语言解码器，如语音活动检测、语言识别和句子级时间戳标签。然而，Whisper主要集中于语音翻译和识别任务。

多任务训练格式框架

受到Whisper的启发，为了融合不同类型的音频，我们提出了一种多任务训练格式框架，具体如下：

• 转录标签：预测的启动由转录标签表示。使用<|startoftranscripts|>来指示涉及准确转录口语和捕捉语音录音语言内容的任务，如语音识别和语音翻译任务。对于其他任务，则使用<|startofanalysis|>标签。
• 音频语言标签：然后，我们引入一个语言标签，指示音频中所说的语言。该标签使用分配给训练集中每种语言的唯一令牌，共计八种语言。当音频片段不包含任何语音（例如自然声音和音乐）时，模型训练预测<|unknown|>令牌。
• 任务标签：后续令牌指定任务。我们将收集的音频任务分为五类：<|transcribe|>、<|translate|>、<|caption|>、<|analysis|>和<|question-answer|>任务。对于问答（QA）任务，我们在标签后附加相应的问题。
• 文本语言标签：标签令牌指定输出文本序列的语言。
• 时间戳标签：<|timestamps|>或<|notimestamps|>令牌的存在决定模型是否需要预测时间戳。与Whisper使用的句子级时间戳不同，包含<|timestamps|>标签要求模型进行细粒度的单词级时间戳预测，简称为SRWT（具有单词级时间戳的语音识别）。这些时间戳的预测与转录单词交错进行：开始时间令牌在每个转录令牌之前预测，而结束时间令牌在之后预测。根据我们的实验，SRWT提高了模型将音频信号与时间戳对齐的能力。这种改进的对齐有助于模型对语音信号的全面理解，从而在语音识别和音频问答任务等多个任务中取得显著进展。
• 输出指令：最后，我们提供输出指令，以进一步指定任务和不同子任务所需的格式，然后开始文本输出。

我们框架的指导原则是通过共享标签最大限度地提高相似任务之间的知识共享，从而提升它们的性能。同时，我们确保不同任务和输出格式可以区分，以避免模型的一对多映射问题。有关Qwen-Audio多任务格式的概述，请参见图3。

监督微调

多任务模型的广泛预训练赋予了它们对音频的广泛理解。在此基础上，我们采用基于指令的微调技术，以提高模型与人类意图的对齐能力，从而形成一个交互式聊天模型，称为Qwen-Audio-Chat。为实现这一目标，我们手动创建每个任务的示例。这些示例包括原始文本标签、问题和答案。随后，我们利用GPT-3.5基于提供的原始文本标签生成更多的问题和答案。此外，我们还通过手动标注、模型生成和策略串联创建了一套音频对话数据集。该数据集帮助我们将推理、故事生成和多图像理解能力融入模型中。

为了有效处理多音频对话和多个音频输入，我们引入了用“Audio id:”标记不同音频的约定，其中id对应于音频输入对话的顺序。在对话格式方面，我们使用ChatML（OpenAI）格式构建指令调优数据集。在这种格式中，每个交互的声明用两个特殊令牌（<im_start>和<im_end>）进行标记，以便于对话结束。

为了促进在多轮对话中来自音频和纯文本模态的多样化输入，我们在此训练过程中结合使用上述以音频为中心的指令数据和纯文本指令数据。这种方法使模型能够无缝处理多种输入形式。指令调优数据的总量为20k。

Experiments

设置

在多任务预训练阶段，我们冻结大型语言模型（LLM）的权重，仅优化音频编码器。该训练模型被称为Qwen-Audio。在随后的监督微调阶段，我们固定音频编码器的权重，仅优化LLM。最终模型被标记为Qwen-Audio-Chat。两个阶段的详细训练配置列在表6中。

评估

为了评估Qwen-Audio的通用理解能力，如表2所示，我们进行了全面的评估，涵盖多种任务，包括自动语音识别（ASR）、语音转文本翻译（S2TT）、自动音频描述（AAC）、声学场景分类（ASC）、语音情感识别（SER）、音频问答（AQA）、声乐声音分类（VSC）和音乐音符分析（MNA）。此次评估涉及12个数据集。评估数据集严格排除在训练数据之外，以避免数据泄露。两个阶段的详细训练配置列在表6中。

主要结果

在本节中，我们对Qwen-Audio模型进行了全面评估，评估其在各种任务上的表现，而无需任何任务特定的微调。首先，我们检查其在英语自动语音识别（ASR）方面的结果，如表3所示，Qwen-Audio的表现优于以往的多任务学习模型。具体而言，它在librispeech的test-clean和test-other数据集上分别取得了2.0%和4.2%的词错误率（WER）。同样，中文普通话的ASR结果显示Qwen-Audio在与之前方法的对比中表现出竞争力。根据我们所知，Qwen-Audio在Aishell1的开发集和测试集上达到了最新的研究成果。此外，我们还评估了Qwen-Audio在CoVoST2数据集上的语音翻译性能。结果显示，Qwen-Audio在所有七个翻译方向上均显著超越基线模型。

最后，我们分析了Qwen-Audio在各种音频分析任务上的表现，包括AAC、SWRT、ASC、SER、AQA、VSC和MNA，结果汇总在表3中。在这些任务中，Qwen-Audio始终显著优于基线模型。特别地，它在CochlScene、ClothoAQA和VocalSound上取得了最新的研究成果，展示了模型强大的音频理解能力。

互动聊天结果

我们通过图2中的示例案例展示了Qwen-Audio-Chat的对话能力。此外，我们计划向公众开放训练好的模型，以便进行在线聊天互动。

词级时间戳预测分析

我们通过训练Qwen-Audio提出了带有词级时间戳的语音识别任务（SRWT），旨在不仅识别语音转录，还预测每个单词的时间戳。SRWT的目的有两个：首先，改善模型将音频信号与细粒度时间戳对齐的能力；其次，支持Qwen-Audio-Chat中的语音和音频的基础对接，以及基于对接的问答任务，例如找到提到某人姓名的音频片段的开始和结束时间，或识别给定音频中是否出现某种声音。

在本节中，我们在多任务预训练中排除了SRWT任务的训练，同时保持其他任务不变。值得注意的是，去除SRWT并不影响训练的音频数据集的覆盖范围，因为SRWT任务与自动语音识别（ASR）任务共享相同的音频数据集。结果如表4和表5所示，训练中包含SRWT的模型在自动语音识别和音频问答任务中表现优越，包括自然声音问答和音乐问答。这些结果突显了将细粒度词级时间戳纳入模型以增强通用音频信号对接能力，并进而提高声音和音乐信号问答任务性能的有效性。

结论

在本文中，我们提出了Qwen-Audio系列，这是一个具备通用音频理解能力的大规模音频语言模型集合。为了融合不同类型的音频进行共同训练，我们提出了一个统一的多任务学习框架，该框架促进了相似任务之间的知识共享，并避免了由于不同文本格式引起的一对多映射问题。在没有任何任务特定微调的情况下，所得到的Qwen-Audio模型在各种基准测试中超越了以往的工作，证明了其通用音频理解能力。通过监督指令微调，Qwen-Audio-Chat展示了与人类意图对齐的强大能力，支持来自音频和文本输入的多语言和多轮对话。

code：https://github.com/bytedance/SALMONN/

paper：https://arxiv.org/abs/2310.13289

SALMONN 是一个大型语言模型 （LLM），支持语音、音频事件和音乐输入，由清华大学电子工程系和字节跳动开发。SALMONN 可以感知和理解各种音频输入，从而获得多语言语音识别和翻译、音频语音共推理等新兴能力，而不是纯语音输入或音频事件输入。这可以被视为赋予 LLM “耳朵”和认知听力能力，这使得 SALMONN 向具有听力的通用人工智能迈出了一步。

SALMONN 的模型架构如下所示。窗口级 Q-Former 用作连接模块，将 Whisper 语音编码器和 BEATs 音频编码器的输出融合为增强音频令牌，这些令牌与 LLM 输入空间对齐。LoRA 适配器将增强的 LLM 输入空间与其输出空间对齐。文本提示用于指示 SALMONN 回答有关一般音频输入的开放式问题，答案位于 LLM 文本响应中。

相较于语音识别、音频字幕等传统语音和音频处理任务，SALMONN 利用 LLM来实现认知导向的音频感知，极大地提高了模型的通用性和任务的丰富性。此外，SALMONN 能够以相对较高的准确性遵循文本命令甚至语音命令。由于 SALMONN 只使用基于文本命令的训练数据，因此聆听语音命令也是一种跨模态新兴能力。

为了解决由于在预训练和微调阶段出现的任务过拟合问题，即LLM局限于在指令微调中使用的特定任务，而对于没有出现的任务能力很差，而提出了一个额外的少量样本激活微调阶段，以使SALMONN重新获得LLM的突现能力。

Introduction

在本文中，我们提出了一种语音音频语言音乐开放神经网络（SALMONN），它是一种单一音频-文本多模态大语言模型（LLM），能够感知和理解三种基本类型的声音，包括语音、音频事件和音乐。为了增强在语音和非语音音频任务上的表现，SALMONN采用了双编码器结构，其中包括来自Whisper语音模型的语音编码器（Radford等，2023）和BEATs音频编码器（Chen等，2023c）。使用窗口级查询Transformer（Q-Former）（Li等，2023a）作为连接模块，将可变长度的编码器输出序列转换为可变数量的增强音频token，以输入到Vicuna LLM（Chiang等，2023），并能够以高时间分辨率实现音频-文本对齐。低秩适应（LoRA）方法（Hu等，2022）应用于Vicuna，作为跨模态适配器，将Vicuna的增强输入空间与其输出空间对齐，从而进一步提升其性能。在窗口级Q-Former和LoRA的跨模态预训练和指令微调阶段，使用了一系列语音、音频和音乐任务。最终得到的多模态LLM局限于在指令微调中使用的特定任务，特别是语音识别和音频描述，表现出有限或没有的跨模态突现能力，我们称之为任务过拟合问题。本文中，跨模态突现能力指的是在训练中未见的跨模态任务的执行能力，实质上是LLM的突现能力（Wei等，2022b），在指令微调过程中丧失。为此，我们提出了一个额外的少量样本激活微调阶段，以使SALMONN重新获得LLM的突现能力，并减轻对已训练任务的显著灾难性遗忘。

为了评估 SALMONN 的认知听力能力，使用了广泛的语音、音频事件和音乐基准。 任务可以分为三个级别。 第一级对经过指令调优训练的八个任务进行基准测试，例如语音识别、翻译和音频总结，而其他两个级别对未经训练的任务进行基准测试。 第二级包括五个基于语音的 NLP 任务，例如翻译为未经训练的语言和槽填充（slot filling，即从文本中提取特定信息并填充到预定义的槽位中），这依赖于语音和文本标记之间的多语言和高质量对齐。 最后一级的任务，包括基于音频的讲故事和语音音频协同推理等，不仅需要理解语音，还需要理解非语音听觉信息。 实验结果表明，SALMONN 作为单一模型可以执行所有这些任务，并在标准基准上实现具有竞争力的性能，这揭示了构建能够“听到”并理解通用音频输入的人工智能 (AI) 的可行性由语音、音频事件和音乐的混合组成。

本文的主要贡献可以总结如下。

• 我们提出了SALMONN，尽我们所知，这是第一个能够感知和理解包括语音、音频事件和音乐在内的一般音频输入的多模态LLM。
• 我们通过调整LoRA缩放因子来研究跨模态涌现能力的存在，并提出了一种低成本的激活调优方法，作为额外的训练阶段，能够激活跨模态涌现能力，并减轻对训练中已见任务的灾难性遗忘。
• 我们在一系列反映一般听觉能力的任务上评估SALMONN，并提出了两个新任务：基于音频的讲故事和语音音频共同推理。

模型和训练

模型架构

SALMONN 的模型架构如图 1所示。

两个互补听觉编码器【用于建模语音音频和非语音音频】的输出特征被同步并结合在一起。Q-Former被用作连接模块，并应用于帧级别，其输出序列与文本指令提示集成，并通过LoRA适配器输入到LLM中，以生成文本响应。

双重听觉编码器：使用了OpenAI的Whisper模型（Radford等，2023）的语音编码器和BEATs音频编码器（Chen等，2023c）。（Whisper模型经过大量弱监督数据的训练，适用于语音识别和翻译，其编码器输出特征适合建模语音并包含背景噪音的信息（Gong等，2023a）。BEATs经过迭代自监督学习训练，提取高级非语音音频语义信息，并提出有效的声学tokenizer，将连续音频特征量化为丰富的语义离散标签）输入音频首先被标记化，然后在训练中被掩蔽和预测。标记器通过提炼音频标记的语义知识进行更新（Chen等，2023c）。因此，这两个编码器的结果听觉特征是互补的，适合包含语音和非语音信息的一般音频输入。由于两个编码器具有相同的输出帧率50Hz，连接后的输出特征表示为：

Z=Concat(Encoderwhisper​(X),Encoderbeats​(X)),

其中 X 是可变长度的一般音频输入序列，Encoderwhisper​(⋅) 和 Encoderbeats​(⋅) 分别是Whisper和BEATs编码器，Concat(⋅) 是在特征维度上逐帧连接的操作，Z 是具有 T 帧的连接编码器输出序列。

窗口级Q-Former：Q-Former结构通常用于将图像编码器的输出转换为固定数量的LLM文本输入标记（Li等，2023a），在处理可变长度的音频输入时需要进行修改。具体而言，将输入图像的编码器输出表示为 Z_l​，Q-Former使用固定数量的可训练查询 Q 将 Z_l​ 转换为 N 个文本标记 H_l​，这需要多个堆叠的Q-Former块。Q-Former块类似于Transformer解码器块（Vaswani等，2017），但在第一个块中使用固定数量的可训练静态查询 Q，并从自注意力层中移除因果掩码。通过这种方式，Q-Former允许查询在 Q中首先使用自注意力层相互引用，然后使用交叉注意力层与 Zl​ 进行交互。

对于一个变长的通用音频输入Z=[Zt​]_t=1^T​，通过将 Z 分割成大小为 L 的窗口，并用零填充最后一个窗口，可以表示为{{Zt​}_{t=(l−1)×L+1}^l×L​}_l=1^⌈T/L⌉​。而不是在序列级别使用 Q-Former 将整个 Z转换为 N 个文本标记，SALMONN 在窗口级别使用 Q-Former，就好像每个窗口中的编码器输出帧堆叠在一起形成一幅图像一样。因此，文本标记序列 H 变为：

其中 Q-Former(·) 是 Q-Former 函数，H 的形状为 ⌈T/L⌉×N 的文本标记。窗口级的 Q-Former 使用可变数量的文本标记，因此在处理可变长度序列时效率更高。此外，H 被强制与 Z 具有单调对齐，从而提高了时间分辨率，这对于语音识别非常重要。

LLM 和 LoRA：本工作中使用的是预训练的 Vicuna LLM（Chiang et al., 2023），该模型是针对指令微调的 LLaMA LLM（Touvron et al., 2023）。LoRA（Hu et al., 2022）是一种广泛使用的参数高效微调方法，用于 LLM 适应，在 SALMONN 中用于调整 Vicuna 自注意力层中的查询和数值权重矩阵。在本工作中，LoRA 是可训练的，而 Vicuna 不是。

训练方法

本节介绍了 SALMONN 的三阶段跨模态训练方法。除了最近视觉 LLM 所采用的预训练和指令微调阶段（Dai et al., 2023; Zhang et al., 2023b），还提出了一个额外的激活微调阶段，以解决指令微调中对语音识别和音频描述任务的过拟合问题。

预训练阶段：基于语音识别和语音描述音频进行预训练

为了减小预训练参数（LLM 和编码器）与随机初始化参数（连接模块和适配器）之间的差距，使用大量的语音识别和音频描述数据对窗口级 Q-Former 和 LoRA 进行预训练。这两个任务包含关于语音和非语音音频事件内容的关键听觉信息，并且都不需要复杂的推理和理解，因此可以帮助 SALMONN 学习听觉信息与文本信息之间的高质量对齐。

指令微调阶段：

类似于 NLP（Wei et al., 2022a）和视觉语言（Dai et al., 2023），音频-文本指令微调使用了一系列监督的语音、音频事件和音乐任务，如表 1 所示，作为 SALMONN 训练的第二阶段。根据任务的重要性（例如语音识别和音频描述）以及在测试中拥有此能力的不可或缺性（例如重叠语音识别、电话识别和音乐描述）选择这些任务。指令提示基于与音频数据配对的文本生成。

任务过拟合：

尽管仅通过前两个训练阶段构建的 SALMONN 可以在指令微调中训练的任务上产生有竞争力的结果，但它在执行未训练的跨模态任务时表现出有限或几乎没有能力，尤其是那些需要跨模态共同推理能力的任务。特别是，该模型有时会违反指令提示，生成与其所接受的任务无关的响应，仿佛它接收到的指令与训练中常见的任务相关（例如语音识别）。我们将这一现象称为任务过拟合。在这里，我们对该问题进行了理论分析，详细的实验验证见第 5.3 和 5.4 节。

我们将任务过拟合归因于两个原因。首先，与用于 LLM 训练的纯文本数据相比，我们的跨模态指令微调中仅使用了更简单的指令提示（Wei et al., 2022a），因此生成的响应并不复杂且多样。同时，指令微调中包含的一些任务，特别是语音识别和音频描述，具有比其他任务（如语音和音频问答）更确定的输出。这两个原因结合导致内在条件语言模型（LM）偏向于一个缺乏良好泛化能力的错误分布，阻止了 SALMONN 执行未训练的跨模态任务。更具体地，在测试时，给定新指令提示 I 的测试输入 X 的响应文本序列 Y^ 可以生成为 Y^=argma_x^Y​P_Λ​(Y|X,I)，这也是训练中要最大化的目标。利用贝叶斯法则，有

由于在 SALMONN 训练中仅看到有限的文本响应，内在条件 LM PΛ(Y∣X) 偏向于与 X 强对齐的 Y 序列，例如自动语音识别（ASR）和自动音频描述（AAC）任务的转录，尤其是简单且短的转录。根据公式（3），这导致 I′（具有更多样本响应的zero-shot 指令）具有小的 PΛ(Y∣X,I′)。

激活微调阶段：

缓解任务过拟合的有效方法是对内在条件 LM P_Λ​(Y∣X) 进行正则化。实现这一点的简单方法是对具有更长和更多样化响应的任务进行微调，例如基于听觉信息的问答和讲故事。这类任务的配对训练数据可以基于与语音识别或音频和音乐字幕数据配对的文本生成，可以由人工注释者手动生成，也可以通过提示文本基础 LLM 自动生成。

我们采用一种高效的方法，使 SALMONN 能够通过简单地降低 LoRA 适配器的缩放因子来生成长且多样化的响应。这是一种正则化 P_Λ​(Y∣X) 的替代方法，因为内在条件 LM 只能通过窗口级 Q-Former 和 LoRA 学习，因为它们是训练中唯一更新的模块。降低 LoRA 缩放因子的效果在第 5.2 节中可以找到，确实可以激活问答和讲故事能力，并生成长且多样化的响应，但也会显著降低在训练任务上的结果。为了在恢复跨模态突现能力的同时保持竞争力的结果，我们建议使用以降低的 LoRA 缩放因子生成的 SALMONN 响应来执行称为激活微调的第三阶段微调。随后在第 5.4 节中展示的实验结果表明，激活微调是一种高效且有效的少样本自监督训练方法。

实验设置

模型设置

SALMONN 使用 Whisper-Large-v2（Radford et al., 2023）模型的编码器作为语音编码器，使用微调后的 BEATs（Chen et al., 2023c）编码器作为音频编码器，以及具有 13B 参数的 Vicuna LLM（Chiang et al., 2023）作为基础 LLM。对于窗口级 Q-Former，我们使用 N = 1，仅有一个可训练查询，设置L = 17，这大约对应于每个窗口 0.33 秒。因此，对于 30 秒的音频，Q-Former 输出 88 个文本标记。关于 LoRA（Hu et al., 2022）的超参数，我们将秩设置为 8，缩放因子设置为 4.0。在训练中，仅更新 Q-Former 和 LoRA 的参数，结果约为 3300 万（M）参数，约占整个 SALMONN 模型的 0.24%。

数据设置

采用第 3.2 节中提出的三阶段训练。用于第一预训练阶段的数据包括 960 小时的 LibriSpeech 训练集（Panayotov et al., 2015）和 1000 小时的 GigaSpeech M 集（Chen et al., 2021）用于语音识别，以及 2800 小时的 WavCaps（Mei et al., 2023）（去除音频片段超过 180 秒的部分）、AudioCaps（Kim et al., 2019）和 Clotho（Drossos et al., 2020）数据集用于音频描述生成。

第二个指令调优阶段涉及多个任务，包括自动语音识别（ASR）、自动语音翻译（AST）、自动音频字幕（AAC）、音素识别（PR）、情感识别（ER）、音乐字幕（MC）、重叠语音识别（OSR）、说话人验证（SV）、性别识别（GR）、语音问答（SQA）、音频问答（AQA）和音乐问答（MQA）。在SQA、AQA和MQA任务中，问题是基于文本字幕标签使用ChatGPT生成的，模型需要根据通用音频输入和带有问题的文本提示提供答案。本阶段使用的数据列在表1中，其中“En2Zh”指的是从英语到中文的AST。

在最后的激活调优阶段，SALMONN基于音频片段编写了十二个故事，使用了reduced的LoRA。然后，模型使用基于教师强制的交叉熵训练进行12步训练，每一步只使用一个故事样本，以激活SALMONN的跨模态突现能力。

任务设置

由于文本LLM具备通过指令调优进行zero-shot学习的能力（Wei et al., 2022a），因此当将基于文本的主干LLM与多模态编码器连接时，期望能实现高质量的跨模态对齐，从而出现这样的能力。为了评估SALMONN的zero-shot跨模态突现能力，选择了15种语音、音频和音乐任务，并将其分为三个不同的层次。

任务层级1包括在指令调优中使用的任务，因此对SALMONN来说最容易执行。这些任务及其训练数据的列表在第4.2节中给出，各任务的评估指标见表2。

任务层级2包括未训练的任务，因此比层级1更具挑战性。层级2的任务是基于语音的NLP任务，包括语音关键词提取（KE），评估基于语音内容提取的关键词的准确性；基于口语查询的问题回答（SQQA），评估根据语音中的问题检索的常识知识；基于语音的槽填充（SF），评估从语音内容中获得的所需槽值（通常是命名实体）的准确性。还包括两个AST任务，En2De（英语到德语）和En2Ja（英语到日语），它们也被视为跨模态突现能力，因为指令调优中仅训练了En2Zh。SALMONN的主干LLM Vicuna可以根据语音转录执行所有层级2的任务，因此SALMONN将以完全端到端的方式实现这些任务，而无需任何显式的语音识别。

任务层级3是最具挑战性的任务，包括基于音频的故事讲述（Story）和语音音频共同推理（SAC）。基于音频的故事讲述是根据来自一般音频输入的听觉信息编写有意义的故事。SAC要求模型理解嵌入在输入音频片段中的口语问题，从背景音频事件或音乐中寻找证据，并根据此进行推理以回答问题。根据我们的知识，这两个层级3的任务是首次在本文中提出的，要求SALMONN以完全端到端的方式感知语音、音频和音乐，并根据听觉信息进行理解和推理。

表2列出了所有测试集及其评估指标。跟随率（FR）是某些层级2和层级3任务的额外指标，测量SALMONN能够成功遵循指令的百分比。考虑到所选任务复杂，且更容易因任务过拟合导致指令违反，因此引入FR。值得注意的是，我们仅通过计算故事中不同单词的数量来计算故事任务的多样性指标，这仅代表故事的丰富性，而非质量

实验结果

所有15个任务的完整结果：
表3展示了SALMONN在所有15个任务上的结果。从结果来看，无论是否进行激活调优，SALMONN在所有一级任务上都能产生竞争力的结果。然而，未进行激活调优的模型在二级和三级任务上表现严重受限，几乎无法执行。特别是在SQQA、故事和SAC等强调多模态交互的任务中，未调优的SALMONN几乎无法遵循指令。进行激活调优后，SQQA、SF、故事和SAC任务的执行成功率显著提高。图2展示了在激活调优不同训练步骤中，模型在ASR和PR、SQQA、故事和SAC任务上的表现变化趋势，表明激活调优只需少量训练样本和步骤即可激活新兴能力：ASR和PR的结果几乎保持不变，而SQQA、故事和SAC的结果则出现了新兴趋势。由于篇幅限制，结果的更详细分析在附录B中讨论。

降低LoRA缩放因子的影响：
本节探讨在未进行激活调优的情况下，测试时降低LoRA缩放因子对缓解任务过拟合问题的影响。如图3所示，当LoRA缩放因子降至约2.0，即其原始值的一半时，模型突然展现出跨模态推理能力，这与%PER的下降一起证明了LoRA中嵌入的内在条件语言模型的存在。

任务过拟合与激活调优分析：
为了验证内在条件语言模型的影响，我们计算了每个激活调优阶段步骤的困惑度（PPL）。具体而言，对于给定的音频 X，使用基于特定任务的文本指令提示I 的教师强制方法计算与探测任务对应的 Y 序列的概率，或在不使用 I 的情况下进行计算。

如图4所示，比较了故事/SAC任务的真实响应（通过折扣LoRA缩放因子生成）与由于任务过拟合而导致模型错误执行的任务响应（本例中为AAC）。在子图（a）和（b）中，计算 P_Λ(Y∣X) 时未使用文本指令提示，结果显示未进行激活调优时，AAC的 Y 的PPL明显低于Story/SAC的 Y。在激活调优过程中，这些任务之间的PPL差距得到缓解，表明对主导AAC任务的偏向显著降低。在子图（c）和（d）中，我们探测了带有Story和SAC指令的 P_Λ(Y∣X,I)。结果表明，在激活调优之前，即使文本指令提示是执行Story/SAC，AAC的PPL仍低于Story/SAC，这解释了模型未能遵循指令的原因。在激活调优过程中，Story/SAC的 Y 的PPL值逐渐低于AAC，最终模型能够执行指令任务。

使用不同任务和数据的激活调优：
我们探索了几种激活方法来激活模型，包括基于音频编写的长故事、带有长答案的文本问答（QA）任务对，以及长语音转录的ASR任务。这三种方法都对LoRA和Q-Former进行了微调。通过忽略Q-Former和音频输入，Vicuna和LoRA被微调为适应的文本基础LLM。作为另一对照组，进行了使用LoRA和Q-Former但不微调Q-Former的实验。

结果如表4所示。从结果来看，ASR（长）即用长标签训练的ASR任务，或仅基于文本提示输入的故事（文本基础）都无法激活模型。而使用长答案的故事或QA训练（故事或QA（长））则能够激活模型。这是因为ASR任务强调提高高质量的跨模态对齐，使得分布更加偏向内在条件语言模型。至于基于文本的故事微调，实际上影响的是P(Y∣Tx,I) 而不是 P(Y∣X,I)，其中Tx 是语音的参考文本。因此，基于文本的训练无法缓解任务过拟合。带有长答案的QA数据能够激活LLM，但激活模型的性能不如使用故事任务激活的模型，尤其导致生成响应的重复率较高。这可能是因为QA任务的配对答案多样性低于故事任务，从而导致内在条件LM P_Λ(Y∣X) 的正则化效果不如预期。

附录：EXAMPLES OF SALMONN

自然聊天，情绪丰富，随意打断，拒绝呆板和回合制！

来自法国的初创团队Kyutai，发布了这个对标GPT-4o的神奇的端到端语音模型。并将代码、模型权重和一份超长的技术报告开源。

• 论文地址：https://kyutai.org/Moshi.pdf
• 开源代码：https://github.com/kyutai-labs/moshi
• 开放权重：https://huggingface.co/collections/kyutai
• 官网体验：https://moshi.chat/

整个模型的参数量为7.69B，pytorch平台上只有bf16版本，如果在本地跑的话对显存有一定要求，而candle上提供了8bit版本，mlx上更是有4bit版本可供使用。

moshi作为一个全双工口语对话框架，由几部分组成：首先是Mimi，目前最先进的流式神经音频编解码器，能够以完全流式的方式（延迟80毫秒）处理24 kHz音频（12.5 Hz表示，带宽1.1 kbps（8个量化器，2048的码本 12.5*8*11））。

	token/s	Nq 量化器数量	带宽Bandwidth	码本大小
Mini	8*12.5=100	8	1.1kbps	2048
WavTokenizer-small	40	1	0.5kbps	4096
WavTokenizer-small	75	1	0.9kbps	4096
SpeechTokenizer	300	4	3.0kbps	1024
Encodec	300	4	3.0kbps	1024
Encodec	150	2	1.5kbps	1024

然后是负责知识储备、理解和输出的Transformer部分，包括Helium Temporal Transformer和Depth Transformer。其中小型的深度Transformer负责对给定时间步长的码本间依赖性进行建模，而大型（7B参数）时间 Temporal Transformer对时间依赖性进行建模。作者还提出了「内心独白」：在训练和推理过程中，对文本和音频进行联合建模。这使得模型能够充分利用文本模态传递的知识，同时保留语音的能力。

Moshi模拟两种音频流：一种来自Moshi自身（模型的输出），另一种来自用户（音频输入）。沿着这两个音频流，Moshi预测与自己的语音（内心独白）相对应的文本，极大地提高了生成的质量。Moshi的理论延迟为160毫秒（Mimi帧大小80毫秒 + 声学延迟80毫秒），在L4 GPU上的实际总延迟仅有200毫秒。

论文解读

摘要

Moshi，一个语音文本基础模型和全双工口语对话框架。目前的口语对话系统依赖于独立组件的管道，包括语音活动检测、语音识别、文本对话和文本转语音。这种框架无法模拟真实对话的体验。首先，它们的复杂性导致交互之间的延迟达到几秒。其次，文本作为对话的中介模态，会丢失修改意义的非语言信息，比如情感或非语言声音。最后，它们依赖于说话者轮次的分段，这并未考虑重叠发言、打断和插话。

Moshi 通过将口语对话视为语音到语音的生成，解决了这些独立问题。Moshi 从文本语言模型的骨干开始，从神经音频编解码器的残差量化器生成语音作为标记，同时将自身语音和用户语音建模为并行流。这使得可以去除显式的说话者轮次，并建模任意的对话动态。此外，我们扩展了之前工作的分层语义到声学标记生成，首先预测与时间对齐的文本标记，作为音频标记的前缀。这种“内心独白”方法不仅显著提高了生成语音的语言质量，还展示了它如何提供流式语音识别和文本转语音。我们开发的模型是首个实时全双工口语大型语言模型，理论延迟为 160 毫秒，实际为 200 毫秒

Moshi突破了传统AI对话模型的限制：延迟、文本信息瓶颈和基于回合的建模。

Moshi使用较小的音频语言模型增强了文本LLM主干，模型接收并预测离散的音频单元，通过理解输入并直接在音频域中生成输出来消除文本的信息瓶颈，同时又可以受益于底层文本LLM的知识和推理能力。Moshi扩展了之前关于音频语言模型的工作，引入了第一个多流音频语言模型，将输入和输出音频流联合显式处理为两个自回归token流，完全消除了说话者转向的概念，从而允许在任意动态（重叠和中断）的自然对话上训练模型。

贡献：

• 我们训练了Mimi，一个神经音频编解码器，使用残差向量量化（RVQ）将音频转换为Moshi预测的离散标记，并反向转换。音频语言模型通常将声学标记与自监督语音模型的语义标记结合，以便在缺乏文本条件下生成可理解的语音。我们通过将语义信息蒸馏到声学标记的第一层【RVQ第一层作为语义信息】，扩展了Zhang等人的方法，并引入了改进的训练技巧。
• 我们提出了Moshi，这是一种新的音频语言建模架构，将Helium与一个较小的Transformer模型结合，以分层和流式的方式预测音频标记。我们展示了这种无条件音频语言模型生成可理解语音的挑战，并提供了解决方案，超越了非流式模型的可理解性和音频质量，同时以流式方式生成音频。我们进一步扩展该架构以并行建模多个音频流，允许概念上和实际处理全双工对话的简单处理。
• 我们介绍了内心独白，这是一种新的音频语言模型训练和推理设置，通过在音频tokens之前预测时间对齐的文本tokens，显著提高了生成语音的事实性和语言质量。Moshi是一个语音到语音模型，能够推理用户音频和Moshi音频中的非语言信息。然而，这并不妨碍Moshi在语音输出的同时生成文本。基于以往的观察，粗到细的生成（从语义到声学标记）对生成一致的语音至关重要，我们将这一层次扩展为在每个时间步使用文本标记作为语义标记的前缀。我们的实验表明，这不仅显著提高了生成语音的长度和质量，还显示强制文本和音频tokens之间的延迟允许从Moshi模型中推导出流式ASR和流式TTS。
• 我们沿多个维度评估了Moshi的所有组件，包括文本理解、语音可懂性和一致性、音频质量以及口语问答。我们的实验结果表明，我们的模型在现有语音-文本模型中处于最前沿，适用于语音建模和口语问答，同时兼容流式处理，并能够建模数分钟的上下文（在我们的实验中为5分钟）。

模型

Moshi是一个多流语音到语音的Transformer模型，凭借其创新的架构实现了与用户的全双工口语对话，如图1所示。Moshi基于Helium构建，这是一个从零开始开发的文本LLM，依赖高质量的文本数据为模型提供强大的推理能力。我们还提出了”内心独白“，这是一种训练和推理程序，在其中我们共同建模文本和音频标记。这使得模型能够充分利用文本模态所 impart 的知识，同时保持语音到语音的系统特性。

为了实现实时对话，我们从一开始就将Moshi设计为多流架构：该模型能够同时与用户说话和倾听，无需显式建模说话者轮次。此外，为了以高质量和高效的方式捕捉用户输入音频和Moshi输出的声音，我们提出了Mimi，这是一种神经音频编解码器，通过使用残差向量量化和知识蒸馏，将语义和声学信息结合成一个单一的tokenizer。为了共同建模来自Moshi和用户的音频流，以及Moshi的文本标记，我们依赖于与流式推理兼容的Depth Transformer。

Helium 文本语言模型

架构:

Helium 是一种自回归语言模型，基于 Transformer 架构。 遵循该领域之前的研究，我们对原始架构进行了以下更改：首先，我们在模型的注意力块、前馈块和输出线性层的输入处使用 RMS 归一化。 我们使用旋转位置嵌入RoPE，4,096 个token的上下文长度和 FlashAttention来进行高效训练。 最后，我们改变了前馈块的架构，并使用门控线性单元，以 SiLU 激活函数作为门控函数。 我们的分词器基于 SentencePiece的 unigram 模型，包含 32,000 个元素，主要针对英语。 我们将所有数字拆分为单个数字，并使用字节回退以确保我们的分词器不会丢失信息。 我们使用 AdamW优化器训练模型，使用固定学习率，然后进行余弦学习率衰减。

ps：SentencePiece是谷歌推出的子词开源工具包，它是把一个句子看作一个整体，再拆成片段，而没有保留天然的词语的概念。一般地，它把空格也当作一种特殊字符来处理，再用BPE或者Unigram[切分subword的算法]来构造词汇表。他是一种无监督的文本 tokenizer 和 detokenizer，主要用于基于神经网络的文本生成系统，其中，词汇量在神经网络模型训练之前就已经预先确定了。 SentencePiece 实现了subword单元（例如，字节对编码 (BPE)）和 unigram 语言模型），并可以直接从原始句子训练子词模型(subword model)。 这使得我们可以制作一个不依赖于特定语言的预处理和后处理的纯粹的端到端系统。SentencePiece开源代码地址：https://github.com/google/sentencepiece,详细讲解

预训练数据过滤：

训练数据是训练 LLM 的关键要素之一：我们现在介绍我们获得大型高质量文本数据集的方法。 我们从高质量的数据源开始，例如维基百科、Stack Exchange 和大量的科学文章。 由于这些数据源的数据量不足以训练 LLM，我们还依赖于从 CommonCrawl 【Common Crawl是一个501非营利组织，它对Web进行爬网，并向公众免费提供其档案和数据集。】爬取的网络数据来扩展我们的数据集。 网络数据需要大量处理才能获得高质量的训练集：我们执行去重、语言识别和质量过滤。 接下来，我们将更详细地描述每个操作。

去重。我们从WET文件开始，这些文件仅包含网页的文本内容，是由CommonCrawl【它对Web进行爬网，并向公众免费提供其档案和数据集】项目提取的。由于这种格式包含页面的所有文本，因此包含了大量的样板内容，如导航菜单。 因此，我们管道的第一步是在行级别对每个分片（每个抓取有 100 个分片）进行去重，以去除这些模板代码。为此，我们计算每行的FNV哈希值，并使用布隆过滤器来去除重复项。我们还训练了一个fastText（Joulin等，2016）分类器来区分重复和非重复项，以进行模糊去重：在这里，我们仅删除被分类为重复的至少三行连续的块。

语言识别。 一旦去重完成，我们就应用基于 fastText 的语言识别器来仅保留英语数据。 语言识别是在文档级别进行的，我们只保留超过一定阈值（0.85）的文档。

质量过滤。 最后一步是过滤剩余的数据，只保留高质量的网页。 为了执行此步骤，我们训练了一个 fastText 分类器，它使用来自我们高质量数据源和随机 CommonCrawl 网页的行。 我们得到一个包含 9 个类别的分类器，对应于我们的不同高质量来源，例如维基百科或维基教科书，以及 StackExchange 的子集，例如 STEM 或人文科学。 其动机是获得对保留哪些文档的更精细控制，不仅基于与高质量来源的相似性，还基于它们的领域。 此分类器在行级别应用，并通过计算每行的平均分数（按其长度加权）来获得聚合分数。 同样，我们保留对应于超过一定阈值的文档。

音频token化：

参考了 SpeechTokenizer ， 采用蒸馏技术将非因果的高层次语义信息转移到由因果模型生成的令牌中（用NAR直接生成语义token）

为了将波形离散化为音频符元，我们引入了 Mimi，一个作为具有离散瓶颈的自动编码器运行的神经音频编解码器（参考EnCodec）。 在文献中，遵循 Borsos 等人 (2022) 定义的术语，这些符元被称为 acoustic 声学token，因为它们模拟了细致的音频细节，并且针对高质量重建进行了优化。 虽然这些 acoustic声学token为有条件文本到音频模型提供了合适的目标 (例如文本到语音 或文本到音乐 )，但无条件的语音生成需要将其与从自监督语音模型中提取的语义令牌结合。 与它们的 acoustic声学对应物不同， semantic 语义符元不允许重建高质量音频，但与语言内容高度相关。 这种与语言的相似性允许通过使用 semantic 语义音频符元作为预测 acoustic 声学符元的词缀来生成可理解且一致的语音，即使没有文本条件。 然而，这种混合符元化方法与实时生成不兼容。 语义令牌通常不是因果的，因此只能以离线方式计算。此外，使用单独的编码器生成声学和语义令牌会带来不可忽视的计算负担。因此，Mimi受到之前关于SpeechTokenizer工作的启发，采用蒸馏技术将非因果的高层次语义信息转移到由因果模型生成的令牌中 （用NAR直接生成语义token） ，从而实现语义-声学令牌的流式编码和解码。

ps：“非因果的高层次语义”指其中的语义信息不依赖于时间顺序。这种语义通常能够捕捉到更广泛的上下文或抽象概念，但无法用于实时生成，因为它不能逐步构建，而是需要完整的数据输入。“因果模型生成的令牌”指的是通过因果模型（例如，基于自回归的方法）逐步生成的输出。在这种模型中，每个时间步骤的生成都只依赖于当前和之前的输入，而不依赖于未来的输入。这种方式确保了生成过程的顺序性和一致性，因此非常适合实时应用，比如语音生成或文本生成。通过这种方式生成的令牌通常用于构建连贯的序列，以便后续的处理或合成。

架构：

我们的基线架构借鉴了 SoundStream 和 Encodec，它由一个 SeaNet 自动编码器和一个残差向量量化器组成。 编码器通过级联残差卷积块来将单通道波形x ∈ R^L投影到潜在表示 enc(x) ∈ R^S×D ，这些卷积块交替使用膨胀和步进卷积，以及 ELU非线性函数和权重归一化。所有卷积都是因果的（ 每个时间步骤的生成都只依赖于当前和之前的输入，而不依赖于未来的输入。关于因果卷积：https://zhuanlan.zhihu.com/p/422177151），因此该自动编码器可以在流式方式下运行。 具有 4 个卷积块和相应的步幅因子(4, 5, 6, 8) ，以及最终步长为 2 的 1D 卷积，Mimi的编码器能够将24kHz的波形转换成每秒12.5帧且维度为D=512的潜在表示。对称地，解码器采用了类似的结构，但使用转置卷积代替步进卷积，以将潜在表示重新投影回24kHz音频。 我们使用残差矢量量化器对潜在空间进行离散化，该量化器迭代地将矢量量化 (VQ) 应用于先前量化器的残差。 具有Q个量化器，每个量化器都有一个包含N_A个质心的码本，RVQ 将潜在空间离散化为{1, . . . , N_A}^S×Q。 作为基线，我们使用重建损失和对抗性损失的组合来训练此模型，遵循 Encodec（ Defossez 等人， 2023）的设置。 我们将在下面详细介绍 Mimi 相对于此默认配置的主要变化。

基于 Transformer 的瓶颈。 为了提高 Mimi 将语音编码为紧凑表示并同时重建高质量音频的能力，我们在瓶颈中添加了 Transformer 模块，一个在量化之前，另一个在量化之后。 这些 Transformer 有 8 层、8 个头、RoPE 位置编码、250 帧（20 秒）的有限上下文、GELU 激活、512 的模型维度和 2048 的 MLP 维度。 为了稳定训练，我们使用 LayerScale，其对角线值的初始化为 0.01。 两个 Transformer 都使用因果掩码（mask），这保留了整个架构与流式推理的兼容性。 两个 Transformer 都证明对感知音频质量很有用，而编码器中的 Transformer 还改善了下面描述的语义信息的提取 (见表 3 的消融研究)。

因果关系和流式传输。 使用上述超参数，Mimi 是因果的，可以在编码和解码时以流式方式使用。 其初始帧大小和整体步长均对应于 80 毫秒，这意味着给定 80 毫秒的第一个音频帧，Mimi 输出第一个潜在时间步，该时间步可以解码为 80 毫秒的输出音频。

优化。 与纯粹使用 Adam的卷积编解码器不同，在架构中引入 Transformer 需要使用权重衰减和 AdamW优化器进行额外的正则化。 更准确地说，我们仅对 Transformers 的参数应用权重衰减，权重为 5 · 10⁻²。 我们使用8 · 10⁻⁴的学习率，0.5 的动量衰减和 0.9 的平方梯度衰减，以及 0.99 的权重指数移动平均值。 我们使用 128 的批量大小，在12 s的随机窗口上进行 4M step2的训练，而 Transformers 的上下文限制在 10 秒（编码器最后降采样层的 250 帧，以及解码器的对称帧）。

量化率。我们使用了Q=8个量化器（如图二所示），每个量化器的码本大小为N_A=2048。在12.5Hz时，这表示比特率为1.1kbps。尽管潜在维度是512，我们在应用RVQ之前将输入（基于图2中的“Lin”线性层）投影到256维，并在解码前再将其投影回512维。与先前的工作一致，我们采用了量化器dropout以提供编解码器的比特率可扩展性。此外，我们在训练过程中不以一定概率进行量化可以改善音频质量。更准确地说，我们在训练过程中仅50%的时间对序列进行量化。与Kumar等人不同的是，这意味着将未经量化的嵌入传递给解码器，而不是将所有量化器量化的嵌入传递过去。表3显示这种方法显著提高了客观质量指标，而人类评价结果则不够明确。在我们的实验中，我们观察到一个有些反直觉的现象：随着比特率降低，这种改进效果变得更加明显。

仅使用对抗损失训练。作为基线，我们按照Défossez等人（2023）的方式，使用重构损失与对抗损失的组合来训练Mimi，即一个多尺度梅尔频谱重构损失加上一个多尺度STFT判别器。具体的参数可以在Audiocraft代码库中找到。虽然之前的神经编解码器依赖于这种重构损失和对抗损失的组合，但我们尝试了纯对抗训练，在这种训练方式下我们只保留特征损失和判别器损失。我们注意到，Hauret等人（2023）之前在带宽扩展的背景下也进行了类似的实验。尽管移除重构损失显著降低了客观指标的表现，但在开发过程中我们观察到生成的音频听起来比根据上述指标预期的好得多。表4报告的主观评价确认了这一观察，并展示了仅使用对抗损失进行训练对音频质量有显著提升。

使用分裂RVQ学习语义-声学token

类似于SpeechTokenizer，我们从一个自监督模型（在我们的案例中是WavLM8 (Chen等人，2022)）中提取语义信息，并将其蒸馏到RVQ的第一层。WavLM将16kHz的波形映射成以50Hz采样的1024维嵌入，而Mimi则将24kHz的波形映射成12.5Hz下的512维嵌入。在训练过程中，我们通过将输入波形降采样到16kHz来生成蒸馏目标，然后计算WavLM嵌入。接着，我们用一个输出维度为1024的线性投影，随后进行步幅为4、核大小为8的平均池化，以达到12.5Hz的频率。有趣的是，我们观察到非因果地执行这种平均池化对于性能至关重要，这与流式推理兼容，因为这些嵌入仅在训练期间使用。我们将输出维度为1024的线性liner投影层应用于RVQ第一层的输出，同时保持实际进入解码器的嵌入。随后，我们计算第一个量化器输出与变换后的WavLM嵌入之间的余弦距离，以进行知识蒸馏。

表3显示，蒸馏损失与针对质量的重建和对抗损失存在冲突。确实，虽然蒸馏显著提高了第一个量化器的音素辨别能力（通过ABX测量），但也对音频质量产生了负面影响。我们假设这是由于将语义信息蒸馏到单个RVQ的第一层：由于高阶量化器在第一个量化器的残差上操作，后者需要在音频质量与音素辨别能力之间进行权衡。我们通过提出分离RVQ来解决此问题。我们不再使用单个具有8个层级的RVQ，而是将语义信息蒸馏到一个普通的VQ中，并并行应用具有7个层级的RVQ。我们将它们的输出相加，使得两者均可用于重建，同时去除保持声学信息在语义量化器残差中的约束。图2展示了该架构，表3表明此解决方案在整体上提供了更好的语义与声学权衡。

生成式音频建模

我们现在描述如何扩展基础Helium模型，以支持Mimi编解码器提供的音频令牌建模。我们的目标是实现真实的对话交互，因此我们进一步展示如何同时建模两个音频流，一个代表用户，另一个代表系统。最后，我们详细介绍一种新功能——内心独白，它在系统侧对文本和音频模态进行联合建模，以提高交互质量。

使用 RQ-Transformer 的分层自回归建模

ps：关于RQ-Transformer https://zhuanlan.zhihu.com/p/666422373

设 U∈{1,…,N}^S 为一个离散随机序列，其基数为 N 且序列长度为 S。为方便起见，我们还将 U₀​=0 作为一个确定性的初始令牌值。自回归建模的核心在于通过估计条件分布 P[Us​∣U0​,…,Us−1​] 来估计联合分布 P[U1​,…,US​]，其中 1≤s≤S。文本语言模型，如GPT（Radford等人，2019）或Helium，符合这一范式。

在建模口语时，依赖于经过标记化的文本比音频令牌提供了更紧凑的表示：使用Mimi编解码器，假设有8个码本，帧率为12.5Hz，每秒钟的音频生成需要100step的序列长度。要建模5分钟的音频，这将需要30,000个timesteps，这代表了显著的计算成本，并且每秒生成100个令牌与流式推理不兼容。相比之下，一段英语语音的表示大约只需要每秒3到4个文本令牌。

如何解决：使用RQ-Transformer

我们不仅对建模单一序列（U_s）感兴趣，还对建模多个子序列感兴趣，比如不同的音频码本，以及可选的文本流。我们可以将这些子序列堆叠为V_s,k，其中1 ≤ s ≤ S 且 1 ≤ k ≤ K。同样地，我们定义V_0,k = 0，作为所有子序列确定性的初始标记值。对于每个1 ≤ s ≤ S 和 1 ≤ k ≤ K，V_s,k ∈ {1, …, N_k}，这里N_k是第k个子序列的基数。可以将这K个序列展平为一个单一序列，从而增加K的预测数量。Lee等人提出沿着K维使用较小的（depth transformer）自回归模型，结合沿时间维度较大的（time transformer）模型，形成RQ-Transformer。之后，Yu等人建议了类似的方法用于字节级建模，而Yang等人(2023)和Zhu等人(2024)将其应用于音频标记建模。

RQ-Transformer。形式上，RQ-Transformer由两个Transformer模型组成，如图3所示。它包括一个时间Transformer（Temporal Transformer），其架构与Helium相同，以及一个较小的深度Transformer。。我们将时间Transformer所代表的功能记为TrTemp，而深度Transformer所代表的功能记为TrDepth。为了简化起见，并对于所有步骤s ≤ S，我们用Vs = (V_s,1, …, V_s,K)表示在步骤s时所有子序列的联合值。对于给定的序列步骤1 ≤ s ≤ S，时间Transformer将(V₀, …, V_s−1)映射到一个时间上下文向量。

如果我们进一步考虑子序列索引1 < k ≤ K（对应声学token，用tansformer进行预测），深度Transformer将同时映射zs和(V_s,1, . . . , V_s,k−1)到logits估计。这个过程使得模型能够综合多个子序列的信息，从而生成更准确的预测。

我们进一步定义第一层l_s,1 = Lin(z_s) ∈ R^N1（对应语义token，zs直接接一个liner的输出作为语义token），其中Lin是一个专用的线性层。我们训练TrTemp、TrDepth和Lin，以使得softmax(l_s,k)能够很好地近似V_s,k的分布，该分布以前一步的所有子序列以及当前步骤的前子序列作为条件。例如，这种训练方式确保模型能够有效捕捉上下文信息，从而提升生成质量。

重要的是，时间Transformer中的步骤数始终等于S，而不是K·S，并且深度Transformer中的步骤数最多为K。实际上，时间Transformer在每一步s接收的输入是K个学习到的嵌入表之和，这些嵌入表代表了Vs-1的最后一个值。对于1 < k ≤ K的情况，深度Transformer接收的输入是z_s与一个表示V_s,k-1的学习到的嵌入之和。

如表1所示，我们的深度Transformer有6层，维度为1024，包含16个注意力头。与Lee等人(2022)、Yang等人(2023)、Zhu等人(2024)不同，我们在深度Transformer中对线性层、投影和全连接使用了针对每个索引k的不同参数。确实，不同的子序列可能需要不同的变换。鉴于此Transformer较小的规模，这样做对训练和推理时间没有影响，而表6显示这种深度参数化是有益的。

ps：Fisher电话对话收集协议，该协议旨在解决开发人员构建强大的自动语音识别（ASR）系统时的关键需求。特点是少数说话人拨打电话的时间相对较长，并且整个集合的词汇量很窄。CALLHOME 对话非常自然和亲密。根据费舍尔协议，允许大量参与者最多拨打 3 个 10 分钟的电话。对于每次通话，参与者将与通常不认识的另一参与者配对，以讨论指定的主题。这最大限度地提高了说话者之间的差异和词汇呼吸，同时也增加了正式感。

音频建模

音频编解码器Mimi，输出Q个子序列，音频每秒有12.5个步长。我们将这些序列表示为A_t,q​∈{1,…,N_A​}（码本对应的特征向量），其中1≤t≤T，T=12.5×音频时长，1≤q≤Q，且Q=8。我们将音频子序列插入由RQ-Transformer建模的多序列V中。请记住，第一个码本At,1​对应语义信息，而其他码本对应声学特征。

声学延迟。我们首先尝试简单地将V设为A进行建模。然而，我们发现在语义和声学标记之间引入轻微延迟能够生成更稳定的结果。Copet等人（2023）表明，这样做可以减少给定时间步长下各子序列之间的依赖性（基于过去的条件），从而允许使用较弱的模型来近似联合分布 P[Vs,k​∣V0​,…,Vs−1​]（在他们的情况下，作为条件边缘分布的乘积）。Lemercier等人（2024）进一步展示了在给定步骤中子序列之间的互信息与生成质量之间的联系：自然地，相互依赖关系越复杂，估计这些关系所需的模型就越强大。【ps：这里目的就是解构声学和语义之间的强相互依赖关系，作者放弃使用sppechtokenizer 中的多层RVQ，而是分别对声学和语义token并行建模，也会降低相互依赖的关系】

如第5.3节所示，在语义特征和声学特征之间引入1到 2步的延迟可以极大地提高生成的质量。这使得更大的时间Transformer能够对语义和声学特征之间的相互依赖性进行建模。形式上，给定一个延迟τ∈N，对于所有步骤s，我们有：

​

需要注意的是，使用RQ-Transformer来建模音频的方法已被Yang等人（2023）和Zhu等人（2024）成功应用。在这里，我们引入了在Depth Transformer中使用每个码本参数的方法，以及声学延迟的使用。与Zhu等人（2024）首先生成所有语义标记的方法相比，我们同时生成语义标记和声学标记，这首次实现了语义标记和声学标记的流式联合建模。

ps：关于RQ-Transformer建模音频的方法

多流建模

仅对单一音频流进行建模不足以完全模拟对话。我们的框架可以扩展到双人对话的建模：给定两个音频流(At,q​)和(A′​t,q)，我们只需对两者都应用声学延迟，然后将它们 concatenate 成V，从而扩展了公式4。实际上，A将对应于Moshi，而A′则用于建模用户。

内心独白

尽管仅在音频领域操作已经能够产生令人信服的结果（见表7），我们观察到让Moshi也对其自身语音的文本表示进行建模，可以提供一个框架，从而提高其生成内容的语言质量。形式上，我们定义了一个文本流W∈{1,…,N_W​}^T，该文本流是从通过将SentencePiece分词器（Kudo和Richardson，2018）应用于由Whisper（Radford等人，2023）转录的对应于Moshi的音频所获得的文本token序列中导出的。我们将W作为V中的第一个子序列插入，使其作为语义标记生成的前缀。这可以看作是Borsos等人（2022）引入的层次化从语义到声学生成方法的一种扩展。需要注意的是，我们不使用与用户音频流相对应的文本表示，因为实时转录这个流会非常具有挑战性，并且依赖外部自动语音识别系统与我们的端到端语音到语音方法相矛盾。第5.3节中的消融研究表明，在为Moshi所做的设计选择中，内心独白对生成语音的质量有着至关重要的影响。

ps：注意基于whisper的文本流是为了用于训练，以及制作文本和时间戳的label，在推理的时候，moshi输出的V序列中第一个子序列就是对应于文本的token预测结果（用whisper做gt训练），并将其作为第一个输入流进行建模。

对齐文本和音频token。为了将文本 token 与以恒定帧率12.5Hz运行的音频 token 结合起来，我们需要将它们对齐到这个帧率。为此，我们利用了Whisper提供的word级时间戳。转录中的第 i 个单词word被映射到第 ni​∈N∗个文本toekn ：wi,j​ ，其中j≤ni​，以及一个起始索引ti​∈{1,…,T}，简单地定义为其起始时间戳除以12.5 Hz的帧率。我们定义了两个特殊的标记：PAD和EPAD，这些标记永远不会出现在任何单词标记中。我们构建W，使得当一个单词开始时，(Wt​)包含它的文本token，之后跟随PAD直到下一个单词。在下一个单词对应的索引之前插入EPAD以指示填充结束。虽然这不是严格必要的，但我们观察到这样做通过将决定一个单词何时结束以及接下来应该跟随哪个单词的过程分为两步，为模型提供了有用的指导。

首先，序列(Wt​)用PAD标记初始化，例如∀t,Wt​←PAD。然后，我们按照以下方式迭代地修改它。对于每个单词i及其起始索引ti​，我们更新WW如下：

需要注意的是，如果ti​=1，我们则在索引1处插入EPAD，并将文本标记向后移位。如果插入EPAD标记会覆盖前一个单词的文本标记，我们则不插入EPAD标记。由于文本标记比相应的音频标记更紧凑，在Wt​中单词之间通常不会重叠。在英语对话中，我们观察到填充标记大约占总标记的65%。

推导流式ASR和TTS。可以进一步在文本序列 (Wt​) 和音频token (At,q​) 之间引入一些延迟。这控制了语言模型在生成音频内容时所依据的模态。通过将音频提前于文本，文本的内容将由之前步骤中采样的音频决定。具体来说，通过仅采样文本token，同时使用真实的音频token并丢弃模型的预测，可以获得一个流式自动语音识别（ASR）模型，并提供精确的单词级对齐。另一方面，通过调整文本延迟，使文本位于音频token之前，音频的内容将由文本内容决定。再次给定一个适当填充的文本token序列，可以获得一个流式文本到语音（TTS）模型。我们在附录C中进一步描述了如何适应带有延迟文本的语言模型推理，以获得zero-shot的适当填充文本token序列。第5.7节展示了如何通过单一的延迟超参数在ASR和TTS模型之间切换，而无需更改损失函数、架构或训练数据。

Moshi的联合序列建模。将多流和内心独白结合在一起，我们得到用于建模的最终序列集合 V 定义为：

总共有 K=2Q+1 条流，其中实验中 Q=8。总结见图4

Moshi的推理。由公式6给出的联合序列是我们模型在训练时的目标：在任何时间步s，模型输入为0,V1​,…,Vs−1​，并输出一个估计的概率分布V^s​(0,V1​,…,Vs−1​)。在推理时，我们从V^s,k​中采样所有对应于Moshi输出的子序列索引：即对于k=1（对应于Moshi语音的文本标记），以及对于k∈{2,…,2+Q}（对应于Moshi的音频标记）。在实际应用中，用户音频（k>2+Q）的预测输出结果实际上被忽略，因为使用的是真实的用户音频，而非模型预测的。然而，将用户流作为输出进行建模可以生成模拟对话，这对于如第5.6节中的离线评估是必要的。

有趣的是，用户和Moshi之间的轮流发言没有明确的界限：Moshi可以在任何时候说话和倾听，并且在需要时同时进行这两项操作。特别是，当用户说话而Moshi保持沉默时，Moshi流对应的音频标记会解码成“自然静音”，这是一种接近静音的波形，而不是具有固定、明确定义的值；同时，Moshi的文本流将填充PAD标记。因此，文本流可以提供有趣的控制Moshi的方式，例如，强制采样EPAD标记将使Moshi立即开始说话。

Datasets and Training

文本数据

我们的训练数据集由高质量数据源和来自CommonCrawl的过滤网络数据混合而成。更具体地说，我们的数据集中有12.5%来自以下经过整理的来源：维基百科、维基教科书、维基文库、维基新闻、StackExchange以及科学文章集合pes2o。我们使用了2017、2018、2019、2021和2022年的五个不同的维基百科数据转储，而不是对维基百科进行多次访问。其余的87.5%数据来自CommonCrawl，并按照第3.2.2节中描述的管道进行过滤。我们使用了以下十个抓取：2018-30、2019-04、2019-30、2020-05、2020-34、2021-04、2021-31、2022-05、2022-33、2023-40。

9. https://dumps.wikimedia.org/
10. https://archive.org/details/stackexchange
11. https://github.com/allenai/peS2o

Audio Data

我们使用一个包含700万小时音频的音频集合，称之为无监督音频数据集，这些音频内容大多数为英语语音。我们使用Whisper（Radford et al., 2023）对该数据集进行转录，使用的是large-v3模型。我们在音频预训练阶段使用这些数据，此时不使用第3.4.3节中描述的多流方法，而是使用一个单一的音频流来代表所有说话者。同样，第3.4.4节中描述的文本流代表了来自所有说话者的单词。所有音频都重新采样到24kHz并降混为单声道。

为了实现多流，我们需要模型具备同时倾听和说话的能力。为此，我们进一步利用Fisher数据集（Cieri et al., 2004）。该数据集由随机配对参与者之间的2000小时电话对话组成，讨论特定主题。Fisher的一个特点是每个对话的一方在不同的通道上录制，这使得可以为Moshi提供真实的分离流。原始音频的采样率为8kHz，我们使用AudioSR（Liu et al., 2023a）将其上采样到24kHz。

最后，我们收集了170小时的自然对话和脚本对话，这些对话由多个参与者之间的配对录制，且每个说话者使用单独的通道，以提供一个小型数据集，用于微调模型，以超过仅使用 Fisher 时获得的质量。我们称这个数据集为监督多流数据集。我们并不直接在该数据集上训练Moshi，而是利用它训练一个真实的多流TTS模型，并按照第4.3节【 语音-文本指令数据 】和第4.4节【training Stages and Hyper-parameters】中的说明，使用真实对话的转录来微调Helium。

对于Fisher和这个最后的数据集，我们随机选择一个说话者作为主说话者（即Moshi发言），并将另一个说话者放在第二个音频流上。对于Fisher，文本流仅包含主说话者的转录。为了在每个流中尽管存在长时间的沉默仍能获得可靠的时间戳，我们使用 whisper-timestamped 包 (Louradour，2023) 以及中等 Whisper 模型获得的转录。

语音-文本指令数据

早期使用基于文本的指令数据集（如Open Hermes，Teknium，2023）进行的实验证明不适合用于口语对话系统的指令微调。特别是，数据格式往往无法通过TTS正确渲染（例如URL无法使用TTS合成正确的语音），并且问题和回答的格式不符合自然的口语流程（例如项目符号、长列举）。相反，我们利用在Open Hermes【主要包含生成的指令和聊天样本】和真实对话转录上微调过的Helium来生成基于语音的AI模型与用户之间的现实交互。然后，我们使用附录C中描述的多流流式TTS合成这些交互，从而生成超过20,000小时的合成语音数据。

为了给Moshi一个一致的声音，我们还让TTS引擎基于单一演员的声音进行条件化处理，该演员录制了涵盖70多种说话风格的独白，详见表19。第6.3节中报告的关于声音一致性的实验表明，仅在指令微调期间为Moshi使用一致的声音就足以几乎确保它不会使用其他声音，而无需在推理过程中进一步控制。相比之下，第二个音频流（用户）的声音在每个示例中随机采样，以增强对不同说话条件和口音的鲁棒性。

为了从 微调后的Helium 中生成转录，我们使用不同的提示，旨在捕捉用户和 Moshi 之间不同类型的交互。 首先，我们通过从一些维基百科段落或 StackExchange 帖子（我们称之为上下文context）开始，生成关于一般知识的对话。 这确保了 Moshi 的对话涵盖了广泛的主题，例如历史、烹饪建议或流行文化。更具体地说，使用给定的上下文，我们通过以下提示获得潜在讨论的摘要：

其中{{context}}指的是来自维基百科或StackExchange的段落，而{{title}}是相应的标题。然后，我们使用以下提示生成完整的对话转录：

同样，为了向 Moshi 提供有关自身及 Kyutai 实验室的信息，我们生成了描述两者的段落，并将其用作额外的上下文。

其次，我们生成包含关于 Moshi 声音的指令的交互内容，例如另一个说话者要求 Moshi 用愤怒的声音或像海盗一样说话。我们的第一种策略是生成单轮交互，在这种情况下，模型被指示用特定的声音讲述关于某个实体的句子、独白或诗歌，这些实体属于“体育”或“动物”等高级类别。另一位说话者要求的声音和实体是随机采样的，因此它们完全不相关。我们的第二种策略是生成角色扮演情境，涉及不同的情绪或说话风格，使用以下提示：

声音形容词的示例包括“开心”或“惊讶”，角色的示例则包括“侦探”或“超级英雄”。然后，我们使用以下提示生成交互内容：

为了增强 Moshi 对错误发音词汇的鲁棒性，我们还生成包含拼写错误的用户问题指令，接着 Moshi 会要求用户重复问题或澄清问题。我们还生成包含错误或误导性事实的问题（例如“埃菲尔铁塔在北京吗？”），以训练模型回答“否”并纠正用户。除此之外，大多数生成的对话仅包含用户的问题，Moshi 应给出肯定回答。我们生成了基础的数学、语法或小知识的单轮问答，因为我们注意到 Moshi 起初在处理简单的事实任务（如数字相加）时表现不佳。最后，我们生成了安全对话，在这些对话中，用户会提出不道德或不适合公开讨论的问题，而 Moshi 会拒绝回答这些请求。

训练阶段和超参数

Helium预训练：表1提供了训练阶段和超参数的概述。对于每个阶段，我们使用AdamW（Loshchilov和Hutter，2019），权重衰减为0.1，动量衰减为0.9，平方梯度平均值的衰减为0.95。所有模型都在H100 GPU上进行训练，并使用FSDP和激活检查点。仅文本的语言模型Helium训练了500,000步，批量大小为420万个标记，采用从3·10^(-4)开始的余弦学习率调度，并带有线性预热。

Moshi 预训练：我们首先使用 Helium 初始化 Moshi 的时间 Transformer，而 3.4.1 节描述的深度 Transformer 则随机初始化。我们首先在 4.2 节中介绍的700wh无监督音频数据集上进行训练，使用单一音频流，批次大小覆盖 16 小时的音频，每个批次项为 5 分钟序列。我们以 30% 的概率mask相应的文本 tokens，并将文本和音频 tokens 之间的延迟随机化，范围为 -0.6 至 +0.6 秒。为了防止灾难性遗忘，我们还使用与 Helium 相同数据集中的文本数据，进行一半的文本批次训练。总共进行 100 万步训练，时间 Transformer 的学习率为 3·10⁻⁵，深度 Transformer 为 2·10⁻⁴，且有线性预热。为了确保纯文本批次的更新与音频数据集的更新平衡，我们使用两个独立的优化器状态。此外，当在音频批次的文本流上操作时，我们将文本嵌入和文本线性层的学习率乘以 0.75。最后，由于音频批次中的填充 tokens 占主导地位，我们将它们在交叉熵损失中的权重降低 50%。

Moshi 后训练：在前一阶段模型的基础上，我们训练它的多流能力。首先，我们使用 PyAnnote (Bredin, 2023) 对无监督音频数据集的音频进行分离，随机采样一个说话者作为主要说话者，并在波形上生成二元掩码，当该说话者根据分离结果活跃时，值为 1，其他时候为 0。这个掩码为我们提供了两个波形：一个是主要说话者的，另一个是残留波形（可能有多个说话者），它们分别编码，然后作为 3.4.3 节中描述的两个输入音频流使用。文本流仅包含选定主要说话者的文本 tokens，并且文本和音频 tokens 之间的延迟固定为 0。我们训练了 10 万步，批次大小为 8 小时的音频，时间 Transformer 的固定学习率为 3·10⁻⁶，深度 Transformer 为 5·10⁻⁵。与预训练阶段类似，我们有 10% 的时间采样全文本批次。

Moshi 微调：前面描述的模拟多流提供了一个良好的预训练任务，但远远不足以捕捉自然对话的复杂性。例如，它不包含不同说话人的重叠部分，并且不活跃说话者的音频流是完全静音的。因此，我们使用 Fisher 数据集 (Cieri et al., 2004) 来训练模型学习真实的多流交互。我们从两个说话者中随机选择一位作为主要说话者，训练 10k 批次，批次大小为 40 分钟的音频，主要和深度 Transformer 的学习率分别为 2 · 10⁻⁶/4 · 10⁻⁶。我们不再采样完整的文本批次。

指令微调 ：最后，我们为第一个说话者流设置了 Moshi 的身份，使其成为一个有用的对话助手，并进行最后阶段的指令微调。我们使用 4.3 节中描述的合成指令数据集，批次大小为 2.7 小时的音频，训练 30k 步，两个 Transformer 的学习率均为 2 · 10⁻⁶。

在此阶段，我们对用户的音频流进行数据增强，使 Moshi 能够应对各种情况。具体而言，我们在 50% 的时间内对用户音频流应用随机增益，范围为 -24 dB 至 +15 dB。30% 的时间，我们进一步添加来自 Deep Noise Suppression 挑战 (Dubey et al., 2023) 的噪声片段，并将其拼接以覆盖每个示例的整个持续时间。噪声被放大到相对于原始音源的目标音量，范围在 -30 dB 至 +6 dB 之间。每次需要采样新噪声时，我们会以 50% 的概率使用最长 30 秒的随机静音片段，从而使模型能够处理从嘈杂到安静或反之亦然的音频条件。

我们通过将Moshi的音频流的一个缩小副本[scaled down copy]添加到用户流中来模拟Moshi到用户麦克风的回声，缩放因子在[0, 0.2]之间均匀采样，延迟在[100ms, 500ms]之间均匀采样。最后，我们对用户的音频流（可能已经增加了回声）应用类似于Defossez等人（2020）引入的混响增强。回声和混响一起应用的概率为30%。

TTS 训练：我们还训练了一个流式的多流文本到语音（TTS）模型，使用 3.4.4 节中描述的方法。音频预训练阶段与 Moshi 共享，而后训练阶段在音频流相对于文本有 2 秒延迟的情况下完成。该模型在包含两个说话者高质量互动录音的监督多流数据集上进行微调，并用于生成 4.3 节中描述的合成微调指令数据集。需要注意的是，Moshi 本身并未在该监督多流数据集上训练。更多详细信息见附录 C。

训练损失：Moshi 被训练为建模联合序列，如公式 6 所示。给定真实的离散 token (V_s,k​)_s≤S,k≤K​ 和来自公式 2 的估计 logits(ls,k​)_s≤S,k≤K​，我们使用以下损失，其中 CE 代表交叉熵：

因此，我们对文本 token (k=1) 和组合音频 tokens 赋予相同的重要性。对于语义 tokens，α_k 设置为 100，而对于声学 tokens，α_k 设置为 1。

Evaluation

文本语言建模

评估指标：我们在以下标准基准上评估 Helium（仅使用文本数据训练）：AI2 推理挑战（Clark et al., 2018, ARC）、开放书籍问答（Mihaylov et al., 2018, OBQA）、HellaSwag（Zellers et al., 2019, HS）、WinoGrande（Sakaguchi et al., 2021, WG）、物理交互问答（Bisk et al., 2020, PIQA）、社会交互问答（Sap et al., 2019）、TriviaQA（Joshi et al., 2017, TQA）、自然问题（Kwiatkowski et al., 2019, NQ）和大规模多任务语言理解基准（Hendrycks et al., 2020, MMLU）。这些基准涵盖了广泛的任务，包括常识推理、封闭书籍问答或高中和大学科目的多项选择问答。我们遵循 GPT-3 和 Llama 等前期工作的评估协议：在 TriviaQA、NQ 和 MMLU 上进行 5-shot 评估，在其他数据集上进行 0-shot 评估。在 TriviaQA 上，我们报告未过滤和维基百科拆分的性能。

基准模型：作为基准，我们考虑现有的参数量约为 7B 的大型语言模型，这些模型的训练计算量与 Helium 大致相当。更具体地说，我们包括在少于 2.5T tokens（相比于用于训练 Helium 的 2.1T tokens）上训练的模型，即 MPT（Team, 2023）、Falcon（Almazrouei et al., 2023）、Llama 2（Touvron et al., 2023b）和 OLMo（Groeneveld et al., 2024）。我们还包括 Mistral 和 Gemma，这两个流行的开放权重模型，其训练计算量显著高于 Helium。

结果：我们在表 2 中报告结果，观察到在大多数基准上，Helium 的表现与使用相似训练计算量的模型相当或更好。即使与使用多达 3 倍计算进行训练的 Mistral 和 Gemma 相比，Helium 在某些基准（如 ARC、开放书籍问答或自然问题）上也获得了具有竞争力的结果。这验证了我们预训练文本数据的质量。

Audio Tokenization

指标：接下来，我们评估我们的神经编解码器 Mimi 的语义和声学性能。首先，我们评估其产生的语义 token 是否提供适合语言建模的目标。为此，我们计算基于三音素的 ABX（Schatz et al., 2013）错误率，该指标通过比较同一三音素（如“beg”）的两个实例和一个最小差异的负三音素（如“bag”）之间的距离来表征表示空间的语音可区分性。更精确地说，我们计算“同一说话者”的 ABX，三实例由同一说话者发音，并在 Librispeech（Panayotov et al., 2015）dev-clean 上报告错误率，使用 Librilight（Kahn et al., 2020）库的默认参数。结果显示，该得分是下游音频语言模型产生连贯语音能力的强预测指标（Lakhotia et al., 2021）。由于我们只关心语义 token，因此我们计算量化后仅使用语义 VQ 生成的潜在空间中的距离（即在与声学 tokens 相加之前）。其次，我们评估重建音频的声学质量。作为目标的自动指标，我们依赖于 VisQOL（Hines et al., 2015）——一个完整参考模型的声学相似性——和 MOSNet（Lo et al., 2019）——一个无参考音频质量模型。考虑到自动评估音频质量的局限性，我们还使用 MUSHRA 协议进行人类评估。我们依赖 20 名听众的判断，每位听众对 30 个 10 秒的样本进行评分。表 3 报告了使用客观指标的消融研究，表 4 则提供了与以往工作的比较，包括客观和主观评估。

基准模型：我们与 RVQGAN（Kumar et al., 2024）、SemantiCodec（Liu et al., 2024）和 SpeechTokenizer（Zhang et al., 2024b）进行比较。RVQGAN 是一个纯声学分词器，因为它不编码语义信息。因此，我们仅在音频质量方面进行评估。RVQGAN 以 75Hz 的速率生成 token，因此我们只保留前两个 RVQ 级别，以获得 1.5kbps 的比特率，更接近于 Mimi 的比特率。另一方面，SpeechTokenizer 依赖蒸馏将语义信息编码到其第一个 token 中，因此我们可以评估其语义和声学属性。我们保留其前三个 RVQ 级别以获得 1.5kbps 的比特率。类似地，SemantiCodec 也编码语义和声学信息，因此可以沿两个轴进行评估。

结果 – 语义 token：表 3 显示，在没有蒸馏的情况下，Mimi 的语义 token 的语音可区分性较差，与以往工作的声学 token 相当（Borsos et al., 2022）：这意味着这些语义 token 不适合捕捉语音中的语言内容。相反，将 WavLM 蒸馏到语义 token 中显著提高了它们的语音可区分性，尤其是在 Mimi 的编码器中使用 Transformer 时。这可以解释为，将大型基于 Transformer 的编码器蒸馏到纯卷积编码器中具有挑战性，而提高编码器的容量和感受野有助于改善。然而，我们观察到声学损失与语义蒸馏之间的冲突，因为改善 ABX 意味着降低重建质量（如 MUSHRA 所测量）。使用 3.3.2 节中描述的分割 RVQ 改善了语义属性与音频质量之间的权衡，使 MUSHRA 从 57.8 提高到 64.0，同时将 ABX 从 6.5% 中等降至 8.1%。

结果 – 声音token。表 3 还显示，当在解码器中添加 Transformer 时，MUSHRA 评分显著提高。同样，使用 50% 的量化率显著改善了 VisQOL[声学指标]。然而，量化率并未改善主观感知质量。更一般地说，我们观察到 VisQOL 和 MOSNet 之间的相关性较差。特别是，表 4 显示，仅使用对抗损失训练 Mimi 导致非常低的 VisQOL（1.84），这与实际较高的感知音频质量结果相反。因此，我们依赖 MUSHRA，人类评估者被要求判断重建音频与其真实锚点的相似性，得分范围在 0 到 100 之间。该人类评估显示，使用仅对抗损失的 MUSHRA 评分为 81.0，相较于使用 Encodec 的混合损失函数的 58.8，显著提高。此外，尽管以更低的比特率和建模语义信息，Mimi 仍显著优于 RVQGAN（Kumar et al., 2023）。Mimi 的重建质量也高于 SemantiCodec（Liu et al., 2024），同时以 4 倍更低的帧率运行。这一特性对于实现 Moshi 的低延迟至关重要，因为生成一个音频令牌的时间帧需要通过 Temporal Transformer 完成完整的前向传播。最后，RVQGAN 和 SemantiCodec 是非因果的，而 Mimi 是完全因果的，因此兼容流式推理和实时对话建模。

讨论。Mimi 在编码语义信息的同时，整体提供高重建质量，完全因果，且在低帧率和比特率下运行。因此，Mimi 证明是一个适合训练实时音频语言模型的音频标记器。我们研究的一个附带发现是，客观音频质量指标与主观音频质量之间缺乏相关性的令人担忧的现象。特别是，我们发现VisQOL(声学指标)在修改生成器架构时提供了可靠的感知质量代理指标。然而，当改变训练目标（例如移除重建损失）时，VisQOL的评分变化方向与人类感知完全不相关。这一观察强调了设计可靠客观代理指标以反映感知质量的开放挑战。

生成建模的消融研究

指标。我们进行了消融研究，以评估使用RQ-Transformer的影响，以及比较不同的延迟模式和各种标记级别的权重。所有模型的时间Transformer都用Helium初始化，并在音频数据上预训练。当比较具有相同延迟模式且没有内部独白（Inner Monologue）的模型时，我们依赖于困惑度（perplexity），并将其在语义和声学标记上取平均。然而，不同延迟的模型之间的困惑度是不可比的，因为它们建模的是不同的条件分布。为了比较不同的延迟模式，我们通过Whisper（Radford等人，2023）转录生成的语音（基于3秒的提示）并用外部文本语言模型对结果进行评分来衡量Moshi生成可理解、一致语音的能力。我们依赖一个轻量级的文本模型——LiteLlama-460M-1T14——因为它更适合于训练过程中的连续评估。我们还报告了转录本的长度（以字符为单位），因为我们发现它是一个强的模型质量预测因子（弱模型通常会崩溃为静音）。

ps：困惑度（Perplexity）是自然语言处理（NLP）中常用的一种评估语言模型的指标。它衡量的是模型对测试数据的预测能力，即模型对测试集中单词序列出现概率的预测准确度。困惑度越低，表示模型对数据的预测越准确。

结果 – RQ-Transformer 表5报告了使用RQ-Transformer的消融研究结果。我们首先复制了Copet等人（2023）的设置，使用[0, 1, 2, 3, 4, 5, 6, 7]的延迟模式，这意味着每个RVQ标记级别在前一个级别之后的一个时间步生成。在这种情况下，我们发现使用RQ-Transformer并不是必需的，因为它仅在困惑度上有微小的改进。然而，这种延迟模式导致了8个时间步的理论延迟，即640毫秒，这对于实时对话模型来说是不兼容的。因此，我们将延迟减少到240毫秒，使用模式[0, 2, 2, 2, 2, 2, 2, 2]。在这种情况下，使用RQ-Transformer对RVQ标记进行建模显著提高了困惑度，超过了使用单独分类头的方法。因此，在严格的延迟约束下，RQ-Transformer成为RVQ标记生成模型的关键组件。

额外的消融研究：表6报告了额外的消融研究，包括额外的延迟模式、语义标记损失的权重以及我们提出的内部独白程序，所有这些都使用了RQ-Transformer。首先，我们比较了三种与实时对话兼容的延迟配置。[0, 0, 0, 0, 0, 0, 0, 0]模式代表了在12.5Hz Mimi标记下可以获得的最小延迟80毫秒。允许额外80毫秒的延迟（一个时间步的延迟）显著提高了生成语音的质量，而240毫秒【3个step延迟】的延迟则带来了进一步的适度改进。在早期实验中，我们还观察到每个RVQ级别的个别损失之间存在冲突，尽管每个级别在最终的可理解性和音频质量上比下一个级别更重要。因此，我们对架构和训练过程进行了两个更改。首先，我们将预测语义标记的损失权重增加到100，而其他所有音频标记级别的损失权重保持为1。这进一步提高了语音的可理解性。此外，我们通过使用深度参数化（如第3.4.1节所述）减少了RVQ级别之间的竞争，使得每个RVQ级别由Depth Transformer中的自己的一组权重预测，而不是在各级别之间共享权重。最后，启用内部独白对生成语音的质量和长度带来了最显著的改进。

讨论：除了架构和延迟模式的选择，这些消融研究表明，在音频到音频的设置中，将文本令牌建模为音频令牌的前缀（使用 Inner Monologue）是非常有帮助的。鉴于深度参数化和对语义令牌权重设定为100的积极影响，这两者在我们后续的所有实验中均被使用，同时也纳入了最终的训练程序。此外，如表1所述，我们通过以2的声学延迟预训练 Moshi，并以1的声学延迟进行微调，确定了160毫秒【（1+1）*80】的理论延迟。

Audio Language Modeling

指标。我们首先测量Moshi在大规模音频数据上进行下一个标记预测训练时，对语音序列建模的能力。为此，我们依赖于“无文本NLP”（Lakhotia等人，2021）指标，这些指标通过比较表示为音频标记的正例和负例语音示例的似然性来评估音频语言模型的语言知识。

具体指标：

• sWUGGY: 评估模型从语音中学习词汇表的能力，通过比较一个现有单词和一个无效变体（例如，“oxidation”和“accidation”）的似然性。
• sBLIMP: 评估语法对比。
• Spoken StoryCloze (Hassid等人，2023): 通过比较常识性的五句故事，最后一句要么与上下文连贯，要么不连贯，从而评估语义对比。
• Spoken Topic-StoryCloze (Hassid等人，2023): 这是一个变体，其中负例延续是从不相关的句子中随机采样（而不是微妙地不连贯），从而得到更高的分数。

对于所有这些指标，我们使用按序列长度归一化的负对数似然来评分。由于我们的模型每个时间步生成多个标记，我们将每个时间步的所有标记用训练时使用的权重相加，即语义标记权重为100，声学标记权重为1。我们不在这些评分中包括内部独白的文本标记，因为这些指标旨在比较未经转录的音频序列，应仅在音频标记上计算。同样，在指令调优后评估多流模型时，我们只对用户流对应的标记进行评分，因为它不包含文本标记。最后，我们还报告了Spirit-LM和Moshi在MMLU（Hendrycks等人，2020）上的文本理解评估（不包括音频标记），以此衡量音频训练如何影响原始检查点的文本知识。

基准。我们对比了来自音频语言建模文献中的基线模型，在三种设置下进行比较。我们在三个设置中与音频语言建模文献中的基准进行比较。第一类包括从随机初始化开始的仅音频模型，包括GSLM（Lakhotia等，2021）、AudioLM（Borsos等，2022）和TWIST-1.3B（Hassid等，2023）。在这种情况下，我们报告仅在音频数据上随机初始化的单流Moshi的指标，并且没有Inner Monologue。第二类包括从预训练文本语言模型开始，然后仅在音频上训练的模型。这包括TWIST-13B，以及VoxtLM的仅音频版本（Maiti等，2023年，表3的第一行）和Spirit-LM的仅音频版本（在（Nguyen等，2024，表5）中报告为“Speech Only”）。相应的Moshi模型类似于上述提到的模型（仅音频数据，无Inner Monologue），但从预训练的Helium检查点开始。最后一类由实际的多模态模型组成，这些模型在语音和文本数据上联合训练。在这种背景下，我们报告Moshi的三种配置的结果。单流数据预训练：报告Moshi在单流数据上的预训练结果。多流后训练和微调：报告最终模型的结果，该模型经过多流后训练和微调，使用真实录音来调节合成数据的生成。合成声音的Moshi：最后一个模型与前一个相同，只是它使用合成声音。

请注意，即使这些模型是用内部独白训练的，它们在评估时也不使用内部独白，以提供与基线的公平比较。

结果。表7报告了音频语言建模的结果。在“仅音频 – 冷启动”设置中，Moshi已经提供了强大的基准，特别是在sTopic-StoryCloze上大幅提高了先前工作的表现。当使用Helium检查点初始化并仅在音频数据上训练时，Moshi在这一类别的大多数指标上超越了以前的工作。最后，尽管多模态训练改善了语音中的常识推理（如sStoryCloze性能所示），但与仅在音频数据上训练的模型相比，我们观察到在词汇和句法判断（sWUGGY和sBLIMP）上的混合效果。特别是，单流预训练在一定程度上降低了sWUGGY和sBLIMP的表现，而指令微调严重影响了sWUGGY，这意味着受指令影响的模型在解决词汇判断时更困难。我们假设这与对不同质量数据的微调有关，并且对用户流（用于为表7中所有音频指标评分的口语对）模拟嘈杂和混响条件，这使得细致的词汇判断更难解决。最后，Moshi在MMLU上的得分比Spirit-LM高出12分，从而展示了更高的常识和文本理解能力。我们还强调，Moshi是表7中唯一将语义和声学令牌集成到单一生成模型中的模型，而AudioLM使用三个独立阶段，VoxTLM、TWIST和Spirit-LM仅建模语义令牌并依赖外部声码器。因此，Moshi是此比较中唯一能够在语音和文本中展示强大语言建模能力的模型，同时能够以任意声音和条件建模语音。

讨论。尽管“无文本NLP”基准帮助开发了首个音频语言模型，但我们观察到它们在开发像Moshi这样的对话模型时并未始终提供良好的指导。特别是，我们发现常识指标 Spoken StoryCloze 与词汇sWUGGY /句法判断之间缺乏相关性是频繁且易于解释的，原因在于我们在训练中使用的声学条件的多样性。此外，我们没有观察到模型的词汇多样性或可懂性在微调模型时下降，这与sWUGGY的下降相矛盾。这就是为什么我们在下一部分中也评估口语问答，以探测模型的常识、知识和词汇能力。

口语问答

指标。我们评估最终多流Moshi模型的口语问答能力。我们依赖于Nachmani等人（2024）提出的口语网页问题和Llama问题。同时，我们合成TriviaQA的音频版本作为另一个基准。在评估Moshi时，我们将问题的音频标记插入用户流中，以模拟用户交互。

基准。我们与Spectron以及Nachmani等人（2024）使用的基准进行比较，除了SpeechGPT（Zhang等，2024a）外，所有基准已经在第5.4节中介绍。为了衡量内心独白对口语流利度的影响，我们比较了使用和不使用内心独白训练的Moshi与这些基准。由于GSLM、AudioLM和TWIST仅为音频模型，因此不使用内心独白的Moshi提供了公平的比较。另一方面，Spectron和SpeechGPT依赖于链式模式（Chain-of-Modality）——它们首先生成文本答案，然后生成语音——因此我们将其与使用内心独白的Moshi进行比较。此外，为了量化由于在音频数据上训练可能导致的知识下降，我们还将Moshi与Helium进行了比较，后者在评估每个口语数据集的文本对应物时被使用。

结果。表8报告了在三个基准上的准确率。尽管仅使用音频的Moshi在其类别中显著优于基准，但最引人注目的结果是内心独白对Moshi性能的影响，使其在所有基准上的准确率几乎增加了三倍。这一点尤其显著，因为内心独白仅略微增加了推理成本（每个多流时间步需要生成17个标记，而不使用内心独白时为16个）。我们再次强调，在所有比较的模型中，Moshi不仅提供了最佳的口语问答性能，而且是唯一一个能够同时建模语义和音频标记的模型，从而能够在多种条件下处理任意声音之间的交互。此外，不但Moshi显著优于SpeechGPT和Spectron，而且它也是唯一一个与流式推理兼容的模型，因为链式模式需要先生成完整的文本答案，然后再生成语音，而内心独白则以流式方式生成两者。

讨论。尽管Moshi表现强劲，但我们观察到其性能低于原始的Helium，这与表7中报告的MMLU从Helium的54.3降至49.7相一致。虽然Web Questions和Llama Questions上的适度差异可以通过在音频数据上进行训练从而减少用于文本知识的参数量来解释，但在Trivia QA上的巨大差异促使我们更仔细地检查错误模式。我们发现，特别是多句提问（例如：“《怪物的恐惧》是一本畅销小说的早期标题，激发了1970年代中期的一部高票房电影。最终它以什么名字让读者和观众感到恐惧？”）或具有特定句法结构的问题（例如：“在人类身体上，瘢痕是一种什么类型的？”）对Moshi尤其具有挑战性，因为它在以口语风格的对话上进行了微调，而这些对话并没有展示这样的模式。因此，我们假设在微调过程中覆盖更多句法场景可以缩小这个差距。

生成对话的质量和统计数据

指标。除了单轮问答外，我们还通过外部语言模型对生成对话的语言质量进行评估，同时关注轮换（turn-taking）指标。我们遵循Nguyen等人（2023）的研究方法。轮换（turn-taking）指标定义如下：

• 间歇单位（IPU, Inter-Pausal Units）：由至少0.2秒的静默分隔的连续语音段。
• 停顿（Pauses）：同一说话者之间的IPU间的静默。
• 间隙（Gaps）：不同说话者之间的IPU间的静默。
• 重叠（Overlaps）：双方都有IPU的时间。

根据Nguyen等人（2023）的研究，语义评估使用开源的DialoGPT模型（Zhang等，2019），我们通过使用DialoGPT所期望的<|endoftext|>标记将每位发言者分开，计算转录对话的困惑度。我们从Fisher数据集中随机选择1000个10秒的提示，并使用Moshi生成续写。对于每个提示，生成32个续写，并提供3种不同温度的结果，因为温度显著影响结果。

基线。我们与dGSLM（Nguyen等，2023）进行比较，因为它也是一个全双工生成模型，基于Fisher数据集训练。Nguyen等（2023）使用50个提示，每个提示生成50个续写，并报告他们对话模型的结果以及级联顶线模型（ASR + LM + TTS）。

结果。表9显示，尽管Moshi是一个音频到音频模型，但在语言质量方面表现与级联模型相当。两者的困惑度均优于真实数据，这可以解释为这些模型训练于与DialoGPT训练数据更相近的数据，而不是Fisher数据集。这相较于Nguyen等（2023）中非级联模型的表现是一个显著改进，该模型在此场景下无法生成连贯的语音。

流式语音识别（ASR）和文本转语音（TTS）

指标。 第3.4.4节和附录C描述了如何通过简单地改变文本和音频标记之间的延迟，使用Inner Monologue提供流式TTS或流式ASR系统。我们描述了如何通过简单地改变文本标记和音频标记之间的延迟，使内部独白（Inner Monologue）提供流式TTS或流式ASR系统。具体来说，我们通过将音频标记延迟2秒来训练流式TTS模型，为文本标记提供一些前瞻，并在推理时使用教师强制（teacher forcing）文本标记。类似地，我们通过将文本标记延迟2秒来训练流式ASR模型，允许模型在生成文本标记之前先听取音频内容。在这种情况下，在推理时我们对音频标记使用教师强制。我们在TTS中使用0.6的温度进行生成，而在ASR中使用贪婪解码，并在LibriSpeech（Panayotov等人，2015）的test-clean子集上以词错误率（WER）进行评估。对于TTS，我们首先使用在LibriSpeech 960小时数据上微调的HuBERT-Large（Hsu等人，2021）转录音频，仅考虑4到10秒之间的序列，以便与Vall-E等基线进行比较。我们强调，在我们的ASR和TTS系统的训练过程中没有使用任何LibriSpeech数据。

结果。 我们的流式TTS模型在LibriSpeech测试集上的WER为4.7%，优于Vall-E的5.9% WER，但不如NaturalSpeech 3（Ju等，2024）的1.81%。然而，Moshi只需2秒的前瞻性，而Vall-E和NaturalSpeech 3则需要访问完整的序列。我们的ASR系统的WER为5.7%，而Streaming FastConformer（Noroozi等，2024）在类似的前瞻性下获得了3.6%。值得注意的是，我们的ASR系统还提供与文本的对齐的时间戳，精度为80毫秒（时序变换器的帧速率）。

讨论。 这有限的实验并非旨在与最先进的系统（尤其是ASR）竞争，而是旨在展示Inner Monologue的灵活性，可以将多个任务映射到同一框架中。我们还强调，LibriSpeech测试集的标准评估并未提供展示我们TTS系统强大能力的测试平台，特别是在多流建模中建模两个说话者的能力，以及生成长达5分钟的一致、自发且富有表现力的对话（而Vall-E只评估4到10秒之间的朗读语音）。我们将流式TTS的全面评估留待未来工作。

压缩Moshi及其对语音质量的影响

随着大多数现代大型语言模型（LLMs）的参数达到数十亿，模型大小成为在资源受限设备（例如，使用用户级GPU的笔记本电脑）或模型部署（例如，在线网络演示服务多用户）等实际应用中的一个众所周知的瓶颈。为了解决这个问题，后训练量化（PTQ）是一种广泛使用的效率技术，用于压缩模型权重和激活，但可能会导致性能下降。最近的研究表明，LLMs通常可以成功量化为8位整数，有时甚至可以使用更先进的技术来处理异常权重，进一步降低到更低的位宽（Dettmers和Zettlemoyer, 2023; Dettmers等人, 2022; Frantar等人, 2023; Tseng等人, 2024）。然而，关于语音模型量化的文献远少于LLMs。因此，在本节中，我们调查量化Moshi如何影响其性能，特别是在语言学和声学方面，强调某些由于模型量化加剧的音频降质问题。

量化格式。 为了量化Moshi，我们遵循PTQ文献中的常见设计选择。在以下所有结果中，我们采用以下设置：

（i）激活以bfloat16精度（BF16）存储，并在每个线性层的输入处动态量化为8位，使用对称量化（即AbsMax）；

（ii）模型权重使用非对称量化（即MinMax）进行不同位宽和块大小的量化。这包括时序 Transformer和深度Transformer的权重。实际上，我们发现深度Transformer对量化具有相当好的鲁棒性，因为仅保持其权重的高精度并不会显著改善音频质量。

（iii）只有初始嵌入层（文本和音频）、RMSNorms和Mimi编解码器保持未量化。

注意：虽然权重范围设置也是常见的做法（Nagel等人, 2021），但我们没有使用均方误差（MSE）微调获得的量化尺度，因为我们发现这对生成样本的质量影响很小。

结果 – 语言评估。 为了评估量化对模型推理能力的影响，我们在MMLU基准测试上评估了量化模型的性能，包括作为Moshi基础的仅训练文本数据的Helium基础模型（见表10）和Moshi本身（见表11）。一般来说，Helium对量化更具鲁棒性，特别地，假设量化块的大小为32，将Helium权重量化为4位可以得到一个缩小3.43倍的模型，其MMLU评分与浮点基线相差不到2分。该量化格式几乎与llama.cpp的Q4_0相同，因此可以方便地用于高效推理。

相比之下，对Moshi使用相同的量化方法则导致了性能的显著下降，MMLU评分降低了5到10分。在在线演示中，我们将权重保持在8位格式，因为这导致模型的MMLU下降约2分，而模型大小大约是浮点基线的两倍。

结果 – 音频质量。为了评估量化模型生成的样本的音频质量，我们使用Lo等人（2019）在speechmetrics中实现的MOSNet指标。具体来说，我们从未量化模型生成一个短提示（64个令牌），然后以温度t = 0.8和序列长度1024个令牌生成每个量化模型的完成。我们重复此过程500次，并报告非重叠窗口的MOSNet得分分布（见图5）。虽然MOSNet得分在样本之间表现出较大的方差，但在将模型权重量化到4位后，音频质量通常几乎没有退化。然而，对于较低的位宽，我们观察到MOSNet得分对一些更严重的音频退化缺乏敏感性，这些退化是由激进量化引起的。例如，它无法区分纯音频伪影（如嘈杂的声音）和语音模式中的伪影（如模型重复性增加）。这与我们在第5.2节中观察到的客观和主观音频质量指标之间缺乏一致性相符。此外，MOSNet是为一种非常不同的基准设计的，即模仿人类对转换语音的评估，因此它对这些伪影不够敏感也不足为奇。相反，为了衡量音频样本中这种退化的存在或缺失，我们首先观察到某些音频伪影可以通过生成的文本和音频令牌的熵谱识别：图6展示了一些示例，附录D中详细描述了伪影类型及其测量方法。

根据这一见解，我们测量了在与之前MOSNet分析相同的生成音频样本中不同音频伪影的存在或缺失。结果如表12所示，附录D的图11提供了更详细的逐时间步分析。在4位宽度下，我们再次观察到音频降解很少。降到3位格式时，音频降解变得更加明显，并且随着生成时间步的增加而变得更频繁，尽管较细粒度的量化格式通常对这些伪影更具鲁棒性。然而，当权重被激进地量化为2位时，这两种量化格式的音频质量显著下降，我们也在定性上观察到了这一点。

讨论：Moshi的语言能力对模型权重和激活的量化比输出音频质量更敏感。具体而言，音频质量在精度降到4位时仍接近浮点基线，即使量化了整个模型，包括深度变换器。相比之下，当模型权重量化到6位以下时，仅使用后训练量化，MMLU性能遭遇显著下降。根据最近的量化技术（Tseng等，2024），我们可能期望通过使用量化感知微调而不是PTQ，在较低的位宽下改善性能。然而，由于Moshi的训练管道涉及多个阶段和训练数据集，这需要对设计量化训练阶段和校准数据集进行更深入的研究，以保留量化后丢失的所有Moshi能力。

安全性

在Moshi的开发过程中，我们探索与AI生成内容安全相关的不同方向。在本节中，我们具体考虑几个与Moshi生成的内容相关的问题，每个问题都在专门的小节中进行探讨：

1. 我们的模型在生成有毒内容方面表现如何？
2. 如何避免模型重复训练集中的音频内容？
3. 我们如何确保模型使用我们希望赋予Moshi的声音？
4. 如何识别给定内容是否由Moshi生成？

有毒性分析

科学界在过去几年中对文本生成模型的偏见和有毒性问题投入了一些努力。相比之下，音频安全的研究尚不成熟。由于音频和文本模型在使用上有所不同，且通过非语言信号（如讽刺、语调等）传达多重意义，因此进行公平比较并不简单。尽管存在这些局限性，为了便于将Moshi与文本生成模型进行比较，本次分析将我们的有毒性分析限制在模型生成的文本上。我们采用ALERT基准（Tedeschi et al., 2024），该基准在多个类别（仇恨、自残、武器、犯罪、性、物质）下评估安全性。附录D中的表18报告了我们在该基准上的详细有毒性分析结果。Moshi与流行的仅文本模型的综合得分如下：

通过这项分析，我们发现Moshi在排名中处于中间位置。行业模型表现最佳，这是可以预期的，因为这些模型受益于大量的私人注释、红队测试和反馈循环。

再现分析

模型生成其在训练时见过的内容的问题，我们称之为再现，与过拟合密切相关：模型在训练期间看到的序列或子序列越多，它在生成过程中生成该序列的可能性就越大。需要注意的是，对于语音模型，不仅文本可能被再现，语音的音调、语气，以及如果在训练时存在的背景旋律也可能被再现。因此，重要的是要减轻与再现相关的潜在知识产权问题，例如未经许可复制受版权保护的内容或使用某个人的声音进行音频生成。

评估协议。对于每个模型，我们测量生成中再现训练数据集中最常见音频片段的比例（总共100,000次生成）。为此，我们首先开发了一个匹配系统，以检测整个训练数据集中最频繁的音频片段，详细信息见附录B。我们选择一个足够长（16秒）且易于从文本和音频中检测的最常见片段。我们测量与此最常见片段完全匹配的生成比例。在匹配过程中，我们最初使用音频和文本匹配，但观察到基于文本的匹配在初始匹配步骤中具有更高的召回率。我们手动验证所有生成的内容，以过滤掉不完全匹配的异常值。

无条件与提示生成。我们首先测量无条件生成的情况，以评估模型在未通过提示引导时是否倾向于生成特定序列。作为补充，我们使用最常见音频片段的前3秒来提示模型，并测量继续生成与该训练集音频相同的次数。表13报告了这些再现结果。

结果与微调的影响。我们观察到，预训练模型在原始数据集上训练时，往往会生成训练集中频繁出现的序列。采样温度对再现率有重要影响：通常用于生成的值（0.6–1.0）更容易出现再现现象。在1000次生成中，经过对话微调的模型并未生成最频繁的训练序列。需要说明的是，微调可能会被覆盖，因此可能不足以单独避免再现现象。

类似于文本模型的情况（Carlini等，2022），再现现象受模型在训练中使用特定序列的次数显著影响。因此，我们通过识别所有频繁的音频片段并在训练时过滤掉这些片段，评估去重训练数据集的影响。在表13中，我们观察到这一预处理步骤[附录B：deduplicated]将最频繁序列的再现次数降至零，即使没有进行微调。

系统声音一致性

一个潜在的语音到语音模型的风险是未经授权的声音生成。该模型应该使用其目标声音，而不是可能模仿用户的声音。为了评估Moshi在多大程度上采用用户的声音而不是目标声音，我们使用以下协议：

• 生成100小时Moshi与第二个合成发言者之间的对话。
• 在每个段落上运行一个说话人验证模型（WavLM（Chen等，2022）large）以提取说话人嵌入。
• 计算每个主说话者段落的嵌入与（i）主说话者的第一个段落和（ii）生成说话者的第一个段落之间的余弦相似度。
• 注意：我们排除所有开始时间在15秒之前的段落，以避免将主说话者的第一句作为参考。

在生成的数据集中，主说话者的声音在10,249次（98.7%）情况下更接近主说话者的参考段落，而在133次（1.3%）情况下更接近另一说话者的参考段落。我们还关注说话者的一致性随时间的演变。根据Borsos等（2023），我们计算与上述相同的比例，但针对在特定时间开始的段落组，以测量随时间的漂移。表14显示说话者的一致性在时间上保持稳定，这意味着我们没有观察到对话进行时的漂移。这表明，在指令调优期间简单选择使用一致的声音足以在推理时提供稳健性。

Moshi生成内容的识别：水印技术

为了确定给定的音频是否由Moshi生成，我们研究了两种互补的解决方案：索引和水印。第一种，即音频索引，仅在我们能够访问生成内容的机器时适用，例如在Moshi演示的情况下。我们在附录B中描述了我们的音频匹配系统。以下小节中，我们将更具体地讨论水印，其目标是向生成的音频添加不可察觉的标记。

信号基础水印的评估。我们调查现有的音频水印方法是否可以用作重新识别Moshi生成内容的一种方式。为此，我们分析了Audioseal方法（San Roman等，2024b）在我们上下文中的鲁棒性。该方法作为开源库可用。为了进行评估，我们将音频信号重采样到16kHz，以使采样率与Audioseal说明中推荐的采样率相匹配。我们在以下设置中测量平均标记检测得分：

• 无水印：测量未添加标记时的检测得分。
• 无攻击水印：未修改水印音频信号；
• 粉红噪声：我们向水印音频中添加小幅粉红噪声（σ = 0.2）；
• RVQGAN：我们使用最近的先进自编码器（Kumar等，2023）对音频信号进行压缩和解压缩。我们使用公开可用的预训练16kHz模型，该模型与第5.2节中用作基线的24kHz模型不同。
• Mimi自编码器：我们使用自己的分词器对信号进行压缩和解压缩。此操作使用24kHz音频进行，因此涉及两个重采样阶段（从16kHz到24kHz，再回到16kHz）。

我们在表15中报告了结果。我们观察到，当音频未更改时，标记的检测率很高。在激进的粉红噪声下，需要相对较长的序列才能获得高检测得分。然而，标记对强压缩的鲁棒性较差：我们考虑的两个自编码器都具有低比特率，因此会丢弃与信号重构无关的任何内容。因此，我们的Mimi编解码器将mark删除到一个水平，使水印音频与非水印音频难以区分，从而在这种情况下使信号基础水印变得无用。

关于生成音频水印的讨论。上述基于采样的水印方法缺乏幂等性，这对检测器在测量采样偏差时的可靠性造成了问题。值得注意的是，为了使这些方法正常工作，提供哈希密钥上下文的n元组在多个连续标记期间必须足够稳定。减少上下文长度可以提高稳定性，但会大幅增加产生退化音频序列的可能性，类似于(Holtzman等，2019)观察到的退化问题。

虽然我们将这种采用基于文本的水印的方法视为一个负面结果，但在此我们讨论了一些可能的绕过上述标记稳定性问题的潜在方法，通过重新编码实现：

• 仅标记RQ的第一级可以提高稳定性。在我们的初步实验中，将这些索引作为哈希函数中的上下文，并限制对之前时间戳的依赖，显著提高了稳定性（尽管还不够）。
• 通过在离散潜在空间中添加特定损失，可以改善幂等性，使音频标记在自编码过程中保持稳定。
• 这种自编码可能被学习为对信号变换具有鲁棒性，类似于学习基于神经网络的图像水印时提出的方案（Zhu，2018；Fernandez等，2022）。根据我们的分析，增加对适度时间偏移的容忍度尤其重要。
• 可以标记文本而不是音频。一个缺点是，文本作为添加标记的通道容量较低，对于短对话来说并不足够。另一个问题是，检测标记需要可靠的转录。

最后但并重要的是，需要一些探索，以确保在开源模型时去除水印程序并不简单。举个例子，与稳定扩散模型相关的实现中，去除水印的唯一方法就是注释掉一行代码。22 Sander等（2024）的研究在这方面是一项有前景的工作，他们展示了检测模型是否在水印文本上训练是可能的。San Roman等（2024a）刚刚分享了一种利用这一观察结果的方法：水印是通过训练数据隐式添加的，遵循Sablayrolles等（2020）提出的“放射性数据”的精神。

结论

在这项工作中，我们介绍了Moshi，首个实时全双工语音对话系统。Moshi的第一个组成部分是Helium，一个拥有70亿参数的文本LLM，其性能与计算预算相似的开放权重模型竞争。为了将音频编码为适合语言建模的离散单元，我们引入了Mimi，一个语义声学神经音频编解码器，它在低比特率下提供了最先进的音频质量，同时以与实时生成兼容的低帧率运行。接着，我们提出了一种新的层次化多流架构，支持以语音到语音的方式生成任意对话。此外，我们展示了通过Inner Monologue，这种新方法在音频标记前生成文本标记，能够显著改善语音到语音的生成，同时保持流式推理的兼容性。我们的实验表明，Moshi在语音问答和对话建模方面展现了最先进的水平，同时在不生成有害内容和保持声音一致性方面显示出令人满意的安全性。总之，我们介绍了一整套模型和方法，从文本LLM到神经音频编解码器，再到生成音频模型，结合成一个具有160毫秒理论延迟的实时语音对话系统，能够进行长达5分钟的复杂多轮对话。我们发布了Mimi和Moshi，以促进此类应用的发展。此外，我们展示了Inner Monologue方法如何通过改变文本和音频标记之间的延迟，设计流式TTS和流式ASR。我们相信，Inner Monologue和多流建模将在语音到语音和音频到音频的应用中产生积极影响，超越对话建模。

附录

附录A. Additional Ablation on Mimi Codec

附录B. 音频匹配与去重

我们开发了一个音频匹配系统，其目标有两个方面：

1. 源内容去重：去除频繁的重复内容，以避免过拟合和数据集中音频内容的过度再现，如第6.2节所评估。
2. 索引解决方案：通过在生成时收集样本的签名，我们可以直接检索，判断某些内容是否由我们的在线演示生成。

我们的音频匹配解决方案受到Wang（2003）工作的启发，因为它在效率和有效性之间提供了良好的折衷。该方法是一个检索系统：给定一个查询，它在预先索引的数据集中检测相似音频。在我们的案例中，签名设计更倾向于去重用例，这需要更高的效率：形式上，我们需要将数据集中每个音频与整个数据集进行比较，这引发了效率问题。签名提取的过程如下。

星座图：生成签名的第一步涉及计算一组称为星座图的关键点。我们的程序受到Wang（2003）的启发，如图7所示。首先，（1）我们从音频信号计算梅尔谱图，时间以40Hz的频率离散化，频率范围分为64个频段。然后，我们应用三个滤波器以选择时频位置：（2）能量滤波器确保我们仅选择足够鲁棒的位置；（3）时间滤波器和（4）频率滤波器确保我们选择相对于时间和频率的极大值。这些滤波器的组合是（5）一个星座，从中提取哈希值。

成对匹配和一对多比较。通过我们的签名提取，我们可以通过比较两个音频的签名集来比较它们，这相当于计算哈希键的交集。当想要将查询音频与一个包含多个音频的数据集进行比较时，使用倒排文件或哈希表进行比较更加高效。在这种情况下，索引结构返回与每个音频匹配的签名列表和匹配时间戳。与 Wang（2003）类似，我们仅保留在时间上具有一致性的匹配，这得益于一个简单的霍夫1D时间投票方案。可选地，我们在匹配签名时在时间戳 tbt_btb​ 和 tft_ftf​ 上引入 ±1 的容忍度。由于这一容忍度增加了复杂性，因此在数据集去重的情况下我们不使用它。

去重：签名融合集。对于我们的去重策略，我们首先交叉匹配数据集中所有音频片段，并提取足够频繁发生的匹配片段（通常 ≥ 10 次匹配）。由于它们的签名是冗余的，我们删除在相同相对时间戳处发生的所有重复签名，以产生一个单一的重复签名集。在训练时，为了确定某个音频片段是否是要过滤的频繁重复片段，我们只需将其签名集与重复签名集进行比较。换句话说，我们仅在假定的训练片段和合成的重复签名文件之间执行简单的音频到音频匹配。只有在得分低于预定义的匹配阈值时，我们才会使用该片段进行训练。

附录C 延迟文本语言模型作为zero-shot流式ASR和TTS：

如第3.4.4节所述，Moshi模型音频标记，并与通过特殊填充标记在音频帧率上对齐的文本流结合，如图4所示。我们可以通过在音频和文本标记之间引入延迟来调整此方法以用于ASR和TTS。在这两种情况下，模型以全流式模式运行，具有固定的延迟（此处为2秒）。

ASR模式：如果音频领先于文本，我们忽略模型对音频标记的预测，而是使用某些音频输入的标记，并自由采样文本标记。然后，文本流包含音频转录，具有单词级的精细对齐，如图8所示。

TTS模式：如果文本领先于音频，我们可以对称地推导出一个TTS引擎。为此，我们需要一个正确填充的文本标记集。我们通过允许模型自由采样PAD和EPAD标记以zero-shot方式获得这些。当模型试图采样不同的标记时，我们将输入下一个要生成的单词。需要注意的是，我们可以通过保持填充标记的在线平均比例来进一步控制语音速率。当该比例低于给定目标值时，我们通过在其logits上引入小的奖励，确保在所有情况下保持合理的速率和良好的可懂性。最后，使用同时包含文本和音频标记的前缀，我们可以控制说话者的声音。图9给出了表示。

多流TTS：我们在单流和多流模式中都使用此机制。在多流模式下，模型输出两组音频标记。文本在单个流中提供，使用<bos>和<eos>标记将文本与两个说话者分开。

图8：Moshi用于自动语音识别（ASR）时建模的联合序列表示。每一列代表联合序列中某个步骤的标记（Vs,k），类似于公式6中的描述，但经过调整以适应ASR。文本延迟了2秒，同时我们使用声学标记延迟τ = 2。标记从底部到顶部在深度Transformer中进行预测。音频标记与输入音频保持一致，而文本标记则自由采样。这还提供了精确的单词时间戳。

图9：Moshi在文本到语音（TTS）模式下建模的联合序列表示。每一列代表联合序列中某个步骤的标记（Vs,k），类似于公式6中的描述，但经过调整以适应TTS。音频延迟了2秒，同时我们使用声学标记延迟τ = 2。标记从底部到顶部在深度Transformer中进行预测。文本预测通常被忽略，而是使用要生成的文本的标记。然而，这个文本输入缺乏填充标记。在每个单词结束时，我们允许模型自由采样PAD和EPAD标记。如果模型尝试采样其他标记，我们则使用下一个单词的标记。语义和声学音频标记正常采样，由于使用的延迟而隐式地依赖于文本。通过记录给定单词被模型消耗的时间，这种方法还提供了生成音频中单词的精细对齐。

附录 F. 合成转录生成用于微调

合成转录生成用于微调，我们提供合成转录的示例：