真实拟声的文本转语音朗读 模型训练教学 可预测感情文本转语音(Predictive Emotional Text-to-Speech)


可预测感情文本转语音(Predictive Emotional Text-to-Speech)是一种人工智能技术,它可以将文本转化为具有情感色彩的语音。这种技术主要依赖于机器学习和自然语言处理技术,以实现从文本到语音的转换,同时能够模拟出不同的情感表达,如快乐、悲伤、愤怒等。

可预测感情文本转语音技术的工作原理是,首先对大量的文本数据进行情感分析,以了解不同情感表达的语法和词汇使用情况。然后,利用这些信息,人工智能模型可以预测给定文本的情感倾向,并调整语音输出的音调和语速等参数,以匹配这种情感倾向。

流程包括文本预处理、声学模型处理训练和后处理三个步骤。首先,文本预处理会对标注的文本分析和处理,例如分词、词性标注和语法分析等。然后,声学模型训练会将文本转化为声学特征,这个过程通常需要大量的语音数据来训练。最后,后处理会对生成的语音波形进行优化和调整,以使其更符合直播带货的需求。

以下是可预测情感文本转语音模型训练的步骤

一、训练前的数据集与工具的准备

首先,我们需要准备所需的工具和整合包,包括各种软件和工具库。这些工具我会在下方分享出来

链接:https://pan.baidu.com/s/1iQtzpioz8MX2hF7EWeYluA?pwd=gvvy

音频切片+音频标注+模型训练

本文学习有一定难度,且如果你时间有限,也可以选择在模型工坊中下载已经训练的声音模型,这些模型已经经过精细优化,可以直接下载导入使用。

演示声音模型已放到模型工坊 -------- (非推广)------------

bert-vits2.1 懒羊羊声音模型

当然,如果你想自己训练声音模型,可以根据下面的步骤进行操作。

首先,我们需要对训练声音素材进行提纯处理,去除掉背景音和杂音。这里推荐使用UVR工具进行声音提纯。

1、首先对要对训练声音素材声音提纯处理去除掉背景音和杂音 这里推荐UVR

2、对声音素材进行切片

对音频进行切片

3、对分段音频进行文本标注

切片好的音频经过手动筛选过短的音频放入 raw_audio

点击 0.带标点符号的标注

标注完成

4、对标准的文本和处理好的音频数据集 进一步的筛选

https://github.com/cronrpc/SubFix 开源地址

本项目适配Bert-Vits2的list文件的标注格式,可以轻松添加到已有的自动标注数据处理的工作流中。
或者也可以使用本项目自带的一个音频自动标注方法,之后再进行精修。

二、模型的训练 文本预处理 bert emo 文件的生成

打开 bert vist2 整合包 启动 webui

1、创建文件夹

启动 webui 创建训练的模型 自己创建目录

2、将切好片的声音文件 放入 custom_character_voice

将标注好的文本放入 filelists

3、文本预处理

4、生成bert 文件

5、生成 emo文件

6、写入 训练参数 批大小 根据显卡设置 我这里设置16

训练中