7 月 27 日消息,微软日前推出了一款名为 NaturalSpeech2 的语音模型,该模型采用“潜在扩散”式设计,在零样本语音合成层面效果出众,微软宣称该模型提供了“商业级”的语音 / 歌唱解决方案,能够给予用户高质量、多样化的语音合成体验。
微软对 NaturalSpeech2 进行了一系列演示,展示了其在零样本情况下生成具有不同说话人身份、韵律和风格(如唱歌)的语音的能力。
▲ 图源 NaturalSpeech 2 论文
据悉,与传统的语音转文字(TTS)系统不同,微软的 NaturalSpeech2 使用“连续向量”取代“离散标记”来表示语音,从而生成更完整的语音片段,不会产生“缺乏感情”的“棒读(一字一顿地讲话)”现象。
▲ 图源 NaturalSpeech 2 论文
实验结果表明,NaturalSpeech2 在零样本条件下生成的语音与语音提示和真实语音的韵律近乎一致,并且在 LibriTTS 和 VCTK 测试集上的自然度(以 CMOS 为度量)与真人语音难以区分。
该项目的论文目前已经发布于 GitHub 中,感兴趣的IT之家小伙伴们可以点此访问。