语音-LLM 融合再思考:通过交错预训练实现高效的语音-文本联合学习

Rethinking Speech-LLM Integration for ASR: Effective Joint Speech-Text Training by Interleaving

核心亮点: 本文重新审视了语音-LLM融合在自动语音识别(ASR)中的局限,指出在充足的有监督数据下,LLM的先验知识未被充分利用;为此提出了一种面向ASR的联合语音-文本交错预训练策略(JSTIP),通过在词和片段级别交错构建语音-文本序列,有效保留了LLM的生成先验并缩小了模态差距,在38k小时的ASR数据上实体准确率显著提升,且仅用转录文本即可在医疗等领域实现与合成语音对相当的领域自适应效果。

实验发现:纯文本数据可以明显改善 Text-to-Text 表现,却很难同步改善 Speech-to-Text 表现。这说明知识已经写入 LLM,但语音输入仍无法有效访问这些知识,根源在于语音和文本两种输入模式之间存在模态差距。 不再把 ASR 数据和纯文本数据作为彼此独立的 batch 混合训练,而是在一条已经对齐的语音-文本样本内部交替排列语音片段和文本片段,让同一个 Decoder-only LLM 反复学习“在语音上下文后预测文本”和“在文本上下文后预测文本”。

论文链接: https://arxiv.org/pdf/2607.01733v1

把预训练大语言模型接到语音编码器之后,ASR 是否真的利用了 LLM 在海量文本中学到的知识?这篇论文给出的答案并不乐观:当监督语音数据足够多时,模型很容易退化成一个主要依赖语音-文本配对数据的识别器;即使额外混入大量文本,文本侧能力也不一定能够迁移到语音输入。

作者提出 Joint Speech-Text Interleaved Pretraining,简称 JSTIP。它不再把 ASR 数据和纯文本数据作为彼此独立的 batch 混合训练,而是在一条已经对齐的语音-文本样本内部交替排列语音片段和文本片段,让同一个 Decoder-only LLM 反复学习“在语音上下文后预测文本”和“在文本上下文后预测文本”。实验表明,这种结构化交错比普通联合训练更能保留 LLM 的生成先验,并改善医疗实体识别和零样本语音问答。

Fig. 1,传统 Speech-LLM 与 JSTIP 交错预训练框架对比。

一、论文发现的核心问题

典型 Speech-LLM 由语音编码器、模态适配器和 Decoder-only LLM 组成。语音被编码为连续向量并投影到 LLM 的嵌入空间,模型随后生成转写文本。

传统 ASR 训练只在目标转写 Token 上计算交叉熵:

\( \mathcal{L}_{\mathrm{ASR}}=-\sum_{i=1}^{N}\log P(t_i\mid A,t_{<i}) \)

其中 \(A\) 是语音表示,\(t_{<i}\) 是已经生成的文本。随着 ASR 数据增加,LLM 会逐渐专门化为“语音条件下的下一个 Token 预测器”,原本从文本预训练中获得的知识和开放式生成能力反而被削弱。

直接在训练中混入纯文本也不能彻底解决问题。论文发现,纯文本数据可以明显改善 Text-to-Text 表现,却很难同步改善 Speech-to-Text 表现。这说明知识已经写入 LLM,但语音输入仍无法有效访问这些知识,根源在于语音和文本两种输入模式之间存在模态差距。

二、JSTIP 的模型与训练框架

1. 基础 Speech-LLM

组件设计
语音编码器400M Conformer,时间下采样倍率为 8
输入特征80维 Log-Mel,10 ms 帧移,进入 LLM 后约为 80 ms 一个语音 Token
模态适配器约20M参数,将语音表示映射到 LLM 隐空间
语言模型内部7B Decoder-only LLM,预训练使用约5T文本 Token
上下文长度8K,使用 Packed SFT 和 FlashAttention 边界信息防止样本间泄漏

训练分为两个阶段。第一阶段只训练适配器,使用约 10% 的 ASR Token 稳定跨模态对齐,学习率为 \(1\times10^{-4}\);第二阶段联合训练语音编码器、适配器和 LLM,学习率为 \(4\times10^{-5}\)。

2. 在单条样本内部交错语音和文本

对于已经对齐的语音 \(A\) 和文本 \(T\),先将其拆分为一组对应片段:

\( (A,T)=\{(A_1,T_1),(A_2,T_2),\ldots,(A_n,T_n)\} \)

随后交替选择语音和文本片段,例如:

\( \langle s\rangle,A_1,\langle N\rangle,T_2,\langle N\rangle,A_3, \langle N\rangle,T_4,\ldots,\langle N\rangle,T_n,\langle/ s\rangle \)

论文同时构造从语音开始和从文本开始的两种交错形式,但最后一个片段始终是文本。损失只计算文本位置,语音向量和任务标记不参与损失。这样可以迫使 LLM 在两种模态上下文后保持相似的文本预测行为。

3. Word-Interleave 与 Segment-Interleave

  • 词级交错:每个单词及其对应语音区间构成最小单元,语音和文本切换最频繁,跨模态耦合更加紧密。
  • 片段级交错:按照静音或标点将连续单词合并成短语或句子级片段,更强调长距离语义一致性,也更能容忍局部对齐误差。
  • 混合交错:同时使用词级和片段级序列,兼顾实体级细粒度对齐与长距离模态一致性。

词级交错如果逐词独立运行语音编码器,会造成严重的零填充和显存浪费。作者先把所有语音小片段拼接成一条长序列,一次完成编码和适配器前向计算,再按照原始位置重新插回交错序列,使词级交错能够扩展到大规模训练。

三、训练与评测数据

数据规模用途
内部英文 ASR38,000小时,约2.3B语音Token通用ASR和交错预训练
医疗领域合成ASR9,000小时GPT生成实体丰富文本,再由内部TTS合成语音
PubMed摘要2.3B文本Token医疗领域文本知识
TTS转写文本0.1B文本Token验证纯领域文本能否替代合成语音

38,000 小时 ASR 数据通过 HMM 混合系统获得词级对齐,对齐失败的样本会被删除,但不再根据置信度进行额外过滤。片段级边界由静音或“静音加标点”共同确定,每次实验使用约 2.3B 个交错 Token,以便和 ASR 数据规模保持平衡。

通用 ASR 使用内部 conversation 和 dictation 测试集,指标为 TER,大小写和标点也计入错误。领域实体测试覆盖 8 个医疗领域和 1 个银行领域:医疗集合共 261 条、49.281 小时,银行集合共 36 条、5.567 小时。实体指标 EER 定义为:

\( \mathrm{EER}=1-\mathrm{Recall}_{\mathrm{entity}} \)

此外,论文把 MMLU 转换成语音版本,比较 Text-to-Text 与 Speech-to-Text 的 5-shot 准确率;并在 LLaMA-QA、TriviaQA 和 WebQA 上评估零样本语音问答,以观察 LLM 的开放式生成先验是否仍能被语音输入调用。

四、主要实验结果

1. 仅靠交错结构就能改善实体识别

配置Conversation TERMedical EERMMLU-S2TSQA-S2T
ASR-only23.637.9735.68%0.05%
ASR + Interleave22.657.3251.77%41.92%
ASR + PubMed23.327.4943.77%10.10%
ASR + PubMed + Interleave22.356.8758.98%41.03%
JSTIP-Best-EER22.426.6058.70%42.07%
根据 Table I 摘录,TER/EER 越低越好,准确率越高越好。

在不加入额外领域文本的情况下,交错训练将医疗 EER 从 7.97% 降至 7.32%,并把零样本 SQA-S2T 从几乎不可用的 0.05% 提升到 41.92%。这说明提升不只是来自更多文本,而是来自模型重新获得了从语音上下文进入 LLM 生成能力的通路。

2. 普通文本混训的知识迁移并不充分

加入 PubMed 后,MMLU-T2T 从 43.01% 提升到 64.10%,但 MMLU-S2T 只有 43.77%,说明文本侧已经学到知识,语音侧却访问不到。加入交错训练后,MMLU-S2T 提升到 58.98%,医疗 EER 进一步降至 6.87%。

更有价值的是,单独加入 TTS 转写文本时,医疗 EER 仅从 7.97% 降到 7.85%;结合交错训练后则降至 6.81%,已经接近直接使用 9,000 小时合成医疗语音的 6.86%。这意味着在具备交错训练的条件下,廉价领域文本有机会替代成本更高的 TTS 语音合成。

3. 与开源模型的实体识别对比

JSTIP-Best-EER 在医疗集合上取得 6.60% EER,优于 Whisper-large-v3 的 6.94%、Qwen3-ASR-1.7B 的 6.67%、Voxtral-Mini-3B 的 7.40% 和 Qwen2.5-Omni-7B 的 12.22%;但仍落后于 Qwen3-Omni-30B-A3B 的 5.84% 和 Voxtral-Small-24B 的 6.04%。

银行领域 EER 为 10.75%,明显弱于医疗领域,作者将其归因于训练中加入了 PubMed 和医疗文本,却没有提供相当规模的银行领域文本。这从侧面验证了 JSTIP 的收益仍然依赖文本知识覆盖。

五、交错粒度消融

词级交错将医疗 EER 从 7.97% 降至 7.64%,但 MMLU 的语音-文本差距仍为 -6.89 个百分点。片段级交错更善于缩小模态差距,特别是使用“静音加标点”切分时,差距缩小至 -0.77 个百分点。

效果最好的基础配置是词级与片段级混合,并使用静音加标点划分片段,医疗 EER 达到 7.32%,MMLU-S2T 甚至比 T2T 高 0.61 个百分点。标点可以避免纯静音切分产生过长片段,使监督更加均衡。

六、论文的主要创新点

  1. 把交错构造放到单个对齐样本内部。它不只是进行 ASR/Text batch 混合,而是让文本预测直接建立在交替出现的语音和文本上下文之上。
  2. 提出适用于连续语音表示的可扩展词级交错。通过拼接后统一编码、再恢复位置,解决逐词语音编码带来的显存浪费。
  3. 系统比较词级、片段级和混合粒度。实验说明片段级更擅长缩小模态差距,词级则能提供额外的实体识别收益。
  4. 证明领域文本可以更有效地迁移到 ASR。在交错训练下,只有转写文本也能达到接近合成 TTS 配对数据的医疗实体识别效果。
  5. 用 MMLU-Speech 和零样本 SQA 诊断 LLM 先验是否保留。这些指标不只是评估 ASR 准确率,还观察语音输入能否访问 LLM 原有的生成和推理行为。

七、局限性

  • 38,000小时主训练数据、领域测试集、7B LLM 和部分组件均为内部资源,难以完整复现。
  • 当前实验以英文和医疗领域为主,对中文、多语种和更多行业的适用性仍需验证。
  • 词级交错依赖 HMM 强制对齐,错误边界可能直接污染交错片段;CTC和时间戳对齐尚未比较。
  • 开源模型之间的参数、训练数据、Prompt和解码策略不同,Table II 只能作为外部参考,不是严格排行榜。
  • SQA 会受到提示词、解码和答案归一化影响,应视为 LLM 生成先验保留的辅助证据,而不是独立的语音推理结论。

八、总结

JSTIP 的核心结论是:Speech-LLM 是否能够利用文本知识,不只取决于有没有文本数据,更取决于训练序列是否让语音和文本共享相同的预测行为。普通联合训练可能只分别提升语音任务和文本任务,而样本内部的交错训练才能把二者真正连接起来。

从工程角度看,这项工作尤其适合领域 ASR。企业往往拥有大量专业文本,却缺少相应的录音和标注。若交错预训练可以让这些文本有效改善语音实体识别,就能减少领域 TTS 合成和人工采集成本。不过,在公开数据、更多语言和不同对齐算法上的可复现性,仍是 JSTIP 走向通用方法前必须补齐的部分。

Is Text All You Need? 文本作为语音大模型的通用信息瓶颈

Is Text All You Need? Text as a Universal Information Bottleneck for Speech LLMs

核心亮点: 提出 Convex Gate (C-Gate) 语音-LLM 桥接模块通过凸包约束将每帧语音表示为 LLM 词表嵌入的凸组合,确保表征严格位于预训练 LLM 的输入流形内,有效避免表征漂移与词汇锁定。该方法在 ASR 与情感识别联合任务上表现优异,LibriSpeech WER 相对降低高达 48.7%,且情感识别精度持平或超越单任务基线。研究揭示语音信息的核心载体是嵌入空间中的时序轨迹而非离散 Token 身份,证明了几何对齐而非离散化才是语音-LLM 接口设计的根本因素。

C-Gate不是把语音生硬地翻译成文字Token,而是把语音转换成LLM熟悉的连续词向量轨迹,让模型既能听清“说了什么”,也能感知“怎么说的”。

论文链接: https://arxiv.org/pdf/2606.09366v1

Speech-LLM 的一个核心问题是:语音编码器输出的连续向量,应该以什么形式进入一个已经冻结的文本大模型?如果强制语音表示接近离散文字 Token,ASR 会比较容易,但情绪、韵律等副语言信息可能丢失;如果允许适配器生成任意连续向量,表示能力虽然更强,却可能偏离 LLM 训练时熟悉的输入空间,导致自回归解码不稳定。

论文提出 Convex Gate,简称 C-Gate。它规定每一个语音帧表示都必须是若干 LLM 原始词嵌入的凸组合。模型不必把语音硬映射成某个文字 Token,但生成的向量始终位于 LLM 词嵌入表的凸包内部,从而在“离散符号约束”和“自由连续表示”之间取得平衡。

实验最值得关注的结论不是 Top-16 选中了哪些词,而是:真正承载语音信息的是这些连续混合向量在时间轴上形成的轨迹。打乱轨迹顺序或替换 LLM 的词嵌入基底,ASR 和情绪识别都会崩溃。

Figure 1,C-Gate 总体架构与词嵌入凸包示意图。C-Gate 并不是直接学习一个新的“语音 embedding 空间”,而是通过 Query/Key 打分 → 从冻结的 LLM embedding 中选择 Top-16 → 对原始 embedding 做加权求和,从而把 Whisper 的语音表示映射到 LLM 原有 embedding 空间的凸包内。这也是它不需要 Value Projection 和后置 MLP 的关键原因。

一、两种传统 Speech-LLM 接口的矛盾

  • 近离散 Token 对齐:通过 CTC 或文字对齐让语音表示接近 one-hot Token 分布,有利于转写,但容易形成 lexical lock-in,压缩情绪、韵律等信息。
  • 无约束连续表示:Q-Former 或连接器可以输出任意稠密向量,表达能力较强,但容易发生 basis drift,即语音向量偏离冻结 LLM 的输入分布。

C-Gate 的观点是:关键不是语音表示是否离散,而是它的几何位置是否与 LLM 的输入空间兼容。LLM 唯一真正训练过的连续输入空间就是自己的词嵌入表,因此语音桥接向量应该被限制在该嵌入表的凸包中。

二、C-Gate 模型设计

1. 凸包约束

设冻结 LLM 的词嵌入表为 \(E=\{E_1,\ldots,E_V\}\),其凸包定义为:

\( \operatorname{conv}(E)=\left\{\sum_{v=1}^{V}\alpha_vE_v:\alpha_v\ge 0, \sum_{v=1}^{V}\alpha_v=1\right\} \)

只要语音向量采用非负、和为 1 的词嵌入加权组合,它就不会离开 LLM 熟悉的输入几何,同时仍然可以在不同词向量之间连续移动,不必退化成某个离散 Token。

2. 全词表打分与 Top-16 混合

模型使用冻结的 Whisper-large-v3 编码器获得语音隐状态。经过步长为 4 的均值池化后,每个语音状态映射成查询向量:

\( q_t=\operatorname{LN}(W_q\tilde h_t),\qquad K=W_kE \)

其中 \(K\) 是整个词表的投影 Key。模型对完整词表计算相似度:

\( \pi_t=\operatorname{softmax}\left(\frac{q_tK^{\top}}{\sqrt{d_p}\,\tau}\right), \qquad S_t=\operatorname{TopK}_{16}(\pi_t) \)

然后只保留概率最高的 16 个词嵌入,并重新归一化:

\( \alpha_{t,v}= \begin{cases} \dfrac{\pi_{t,v}}{\sum_{u\in S_t}\pi_{t,u}}, & v\in S_t,\\ 0, & v\notin S_t, \end{cases} \qquad \tilde e_t=\sum_{v\in S_t}\alpha_{t,v}E_v\in\operatorname{conv}(E) \)

这里的一个关键设计是:投影只用于 Query 和 Key 打分,Value 始终是未经修改的原始 LLM 词嵌入。Top-16 后也没有 Value Projection 或额外 MLP,因此凸包约束由架构本身保证,而不是依赖训练损失近似实现。

3. 冻结 LLM 的统一解码接口

任务指令、语音伪嵌入和历史输出 Token 被拼接后送入 Qwen2.5-7B-Instruct:

\( p_M(y_{1:N}\mid x_{1:m},\tilde e_{1:T})= \prod_{i=1}^{N}p_M\!\left(y_i\mid[E(x_{1:m});\tilde e_{1:T};E(y_{<i})]\right) \)

所有任务都使用标准自回归交叉熵,不需要 CTC、外部分类头、前缀强制或任务专用解码器。

三、参数冻结与多任务训练

模块状态
Whisper-large-v3 Encoder冻结
Qwen2.5-7B 嵌入表、MLP、LayerNorm、LM Head冻结
C-Gate 的 Wq、Wk、LayerNorm、温度参数训练,约2.49M
Qwen第0至23层 Self-Attention 的 Q/K/V/O 投影训练,约704.75M
总可训练参数707.25M

训练使用一个多任务交叉熵目标,并通过动态重加权避免不同任务的损失尺度失衡:

\( \mathcal{L}^{(t)}=\sum_{i\in\mathcal{T}}w_i^{(t)}\mathcal{L}_i^{(t)}, \qquad w_i^{(t)}\propto\left(\frac{\mathcal{L}_{i,\mathrm{EMA}}^{(t)}} {\mathcal{L}_{i,\mathrm{init}}}\right)^{\alpha},\quad \alpha=1 \)

EMA 衰减系数为 0.9,任务权重截断在 0.2 至 5.0。C-Gate-2T 联合训练 ASR 和情绪任务;C-Gate-3T 再增加语音推理任务,用来测试共享桥接表示的能力边界。

四、训练数据与评测设置

  • ASR:960小时 LibriSpeech,使用 test-clean 报告自回归和 Teacher-Forced WER。
  • 情绪:约47小时公开情绪语音数据,RAVDESS 用作8分类的分布外闭集评测。
  • 推理:C-Gate-3T 增加语音推理任务,评测包括 VoiceBench-BBH、BBH-Heldout、SpeechMMLU、MMAU 和 MMSU。

论文没有在主体中详细列出全部 47 小时情绪训练语料和推理训练数据的逐项构成,因此数据部分的可复现信息弱于模型结构部分。作者同时强调,多项选择推理成绩可能受到文本捷径、答案先验和选项顺序影响,因此把它们视为能力边界测试,而不是完全由音频驱动的推理证明。

五、主要实验结果

模型AR-WERTF-WER情绪准确率SpMMLUMMAUMMSU
C-Gate-ASR7.76%
C-Gate-Emotion96.2%
C-Gate-Reasoning53.2%44.0%55.5%
C-Gate-2T4.78%3.60%97.1%
C-Gate-3T3.98%3.89%90.5%61.4%48.3%60.6%
根据 Table 1,WER 越低越好,其余准确率越高越好。

1. ASR 与情绪之间出现正迁移

C-Gate-2T 将自回归 WER 从单任务模型的 7.76% 降至 4.78%,相对降低 38.4%;与此同时,情绪准确率从情绪单任务模型的 96.2% 提升到 97.1%。这意味着情绪监督没有干扰 ASR,反而抑制了 ASR-only 模型中较严重的插入错误。

C-Gate-3T 加入推理任务后,WER 进一步降至 3.98%,相比 C-Gate-ASR 相对降低 48.7%,但情绪准确率下降到 90.5%。因此论文将 C-Gate-2T 视为 ASR 与副语言任务之间更干净的平衡点,而 C-Gate-3T 是用于观察多任务干扰边界的压力测试。

2. 推理任务有所提升,但不是绝对SOTA

与 Reasoning-only 模型相比,C-Gate-3T 在五项推理测试上均有提升,例如 BBH-Heldout 从 23.6% 提升到 40.0%,SpeechMMLU 从 53.2% 提升到 61.4%,MMSU 从 55.5% 提升到 60.6%。

在公开模型尺度参考中,C-Gate-3T 的 LibriSpeech WER 为 3.98%,不及 Kimi-Audio 的 1.28% 和 Qwen2-Audio 的 1.6%;MMAU 48.3% 也低于大型音频模型。它的价值主要是以相同数据和可训练参数预算验证桥接几何,而不是追求绝对排行榜第一。

六、机制分析:信息不是离散词,而是时间轨迹

1. Top-16 分布接近均匀

Top-16 归一化分布的熵约为最大熵的 96.2% 至 98.7%,说明每一帧并没有选择一个非常明确的文字 Token。Top-1 Token 也不对应真实转写词、情绪标签或可解释类别,因此 C-Gate 不是一个隐式 ASR Token 检索器。

Top-16 路由熵和 KL 统计。

2. 选中支持集合的时间变化携带信息

相邻语音帧的 16 个支持 Token 中,平均只有约 3 个会继续保留。将整段语音选择过的支持 Token 做 Bag-of-Supports 探测,在 RAVDESS 上达到 77.7% 准确率,高于 C-Gate 之前 Whisper 表示的 67.8%;但如果把所有帧的桥接向量直接平均,准确率只有 16.8%。

因此,信息并不主要存在于某一帧的概率权重,也不在整句平均向量中,而是在语音帧沿着词嵌入凸包移动形成的有序轨迹中。

3. 同一轨迹可被不同任务以不同方式读取

在情绪 Prompt 下,LLM 的文本到语音注意力趋向低秩,等价于对整段音频进行全局池化;在 ASR Prompt 下,注意力秩明显升高,不同输出位置会选择不同的局部语音位置。C-Gate-2T 在同一个模型中即可根据 Prompt 从低秩全局读取切换到位置敏感读取。

Figure 2,情绪与 ASR Prompt 下的任务条件化注意力有效秩。

4. 因果干预验证了凸包轨迹的重要性

作者在同一个 C-Gate-3T 检查点上进行干预:

  • 将真实音频换成全零或等RMS高斯噪声,情绪准确率从约91.5%降到12%或10%,WER从2.8%升到约98%。
  • 打乱桥接向量的时间顺序,情绪准确率降到22%,WER升到244.5%。
  • 用同形状高斯矩阵或随机行排列替换词嵌入表,情绪与ASR性能同时崩溃。

这些结果排除了“只要有足够大的码本或额外 Self-Attention 参数就可以”的解释,支持论文的主要判断:有用通道是位于训练过的 LLM 词嵌入空间中的有序连续轨迹。

Figure 3,音频替换、时间打乱和词嵌入基底替换的因果干预结果。

七、论文的主要创新点

  1. 以架构方式保证语音表示位于词嵌入凸包。不需要额外对齐损失,也不会产生凸包外的新 Value 方向。
  2. 同时避免离散锁定和连续表示漂移。语音仍是连续向量,但始终处于冻结 LLM 熟悉的输入几何中。
  3. 在冻结 Encoder 和大部分 LLM 的受控条件下研究多任务迁移。把性能变化更多地归因于接口设计,而不是全模型训练规模。
  4. 从路由概率转向时间轨迹解释信息传递。证明 Token 身份不是主要通道,连续伪嵌入的时间结构才是关键。
  5. 使用因果干预验证机制。通过替换音频、打乱时间和更换嵌入基底,分别验证声学内容、顺序结构和输入几何的必要性。

八、局限性

  • 只验证了 Whisper-large-v3 与 Qwen2.5-7B-Instruct 这一组 Encoder-LLM 组合。
  • 主要训练实验只有一个随机种子,尚缺少多次训练的方差统计。
  • 缺少同参数预算的普通 Q-Former 连续桥接器作为最直接对照,无法完全排除收益来自新增可训练 Self-Attention 容量。
  • 情绪评测主要依赖表演式、闭集的 RAVDESS,不代表真实开放环境下的情绪理解。
  • 语音推理测试仍可能受文字捷径和答案先验影响,不能直接宣称模型已经具备可靠的音频落地推理。
  • 论文不建议将模型用于高风险的说话人属性或情绪判断。

九、总结

C-Gate 提出的不是一种新的语音 Tokenizer,而是一条几何原则:语音表示不必变成文字,但应该位于 LLM 已经学会读取的表示空间内。Top-16 词嵌入只是构成连续向量的坐标,模型实际读取的是这些向量随时间变化的轨迹。

这项工作对 Speech-LLM 设计的启发在于,与其只追求更大的连接器或更强的离散对齐,不如同时考虑“表示位于哪里”和“信息如何随时间组织”。C-Gate 在受控数据规模下展示了 ASR 与情绪任务的正迁移,也提供了一套可解释、可干预的研究框架。不过,它距离大规模、多语言、真实业务环境中的通用语音模型仍有明显距离。