ChatTTS:终极文本转语音工具,支持API!
ChatTTS:终极文本转语音工具,支持API!
文本转语音(TTS)系统的发展已经取得了长足的进步。从最初的机械化、平坦的声音,到如今听起来令人惊讶的人声,ChatTTS作为这一领域的新成员,旨在改变我们与计算机的互动方式,通过自然的语音交流来实现。值得一提的是,ChatTTS在署名-非商业性使用 4.0 国际许可协议下发布,允许非商业用途和分发,同时要求对创作者进行适当的署名。
你是否对此感到好奇?以下是更多细节:
-
演示效果
-
对话聚焦与技术实力
-
超越基本功能:控制与定制的探索
-
文本预处理:在文本中嵌入控制
-
推理参数:微调输出
-
解决伦理问题与潜在滥用
-
ChatTTS的实际应用:赋予文本生命
-
持续改进与社区反馈
-
结论
演示效果
- 文本输入:[‘大家好,这是一段智能语音生成的示例,文本转语音(TTS)系统的发展已经取得了长足的进步。从最初的机械化、平坦的声音,到如今听起来令人惊讶的人声,ChatTTS作为这一领域的新成员,旨在改 变我们与计算机的互动方式,通过自然的语音交流来实现。’]
- 语音输出:链接:https://pan.baidu.com/s/1rBh_y-2vjmRFsFFM2AxFCQ?pwd=nkvm 提取码:nkvm

对话聚焦与技术实力
与一些为通用用途设计的TTS系统不同,ChatTTS专门为对话而构建,非常适合用于AI助手等场景。其闭源版本经过超过10万小时的中文和英文语音训练,而开源版本则在HuggingFace上提供,受益于4万小时的庞大数据集。
ChatTTS的独特之处在于其对人类对话的理解能力。它能够生成不同的“说话者”,使对话更加真实。此外,它还融入了微妙的细节,如笑声、停顿和插入语——这些元素使对话听起来自然,而非机械。
超越基本功能:控制与定制的探索
ChatTTS不仅仅是将文本转换为语音。它为用户提供了通过两个阶段的过程来微调输出的工具:文本预处理和推理参数调整。
文本预处理:在文本中嵌入控制
在文本层面,ChatTTS使用特殊的标记作为嵌入命令。这些标记让你可以控制停顿、笑声和其他口语特征。
- 句子级控制:插入标记如
[laugh_(0–2)]来引入笑声,[break_(0–7)]用于不同长度的停顿,以及[oral_(0–9)]来控制其他口语特征。 - 单词级控制:通过在特定单词旁放置
[uv_break]和[lbreak]来实现更细致的停顿管理。
想象一下,你正在为儿童故事应用创建一个奇幻的AI角色……你可以用ChatTTS生成这样的文本:
“从前,在一个充满会说话的胡萝卜和唱歌的土豆的地方,[uv_break] 住着一只名叫闪烁的小萤火虫。[laugh] 闪烁喜欢在月光中[uv_break] 跳舞!”
通过精心放置这些标记,你可以让ChatTTS生成一个在戏剧性效果上停顿、温暖地笑,并将那个奇幻世界带入生活的声音。
推理参数:微调输出
在音频生成过程中(推理),你可以使用传递给 chat.infer() 函数的参数进一步细化输出:
- params_infer_code:这个字典控制说话者身份(
spk_emb)、语音变化(temperature)和解码策略(top_P、top_K)等方面。 - params_refine_text:这个字典主要用于句子级控制,类似于文本中使用的标记。
这两级控制的结合,使合成语音在表现力和定制性上达到了前所未有的水平。
解决伦理问题与潜在滥用
ChatTTS的创作者意识到先进技术带来的责任。他们采取了一些措施来减少滥用的风险,特别是在生成误导性内容方面:
- 高频噪声:在训练过程中添加了一层非常细微的高频噪声。这使得不法分子更难利用音频进行有害用途(这只是他们的观点……)。
- 压缩音频质量:开源音频故意使用MP3格式进行压缩,进一步降低其整体质量(这算是一种对策!)。
虽然这些选择可能会对某些用户的音频保真度产生轻微影响(找一个真的在意的人),但它们展示了对伦理AI开发的承诺。团队还在开发一个开源工具,以检测由ChatTTS生成的合成语音,增加了另一层保护。
ChatTTS的实际应用:赋予文本生命
以下是如何使用ChatTTS的示例,展示了基本和高级用法:
import ChatTTS
from IPython.display import Audio# 初始化ChatTTS
chat = ChatTTS.Chat()
chat.load_models()# 基本用法:
text = "你好,这里是ChatTTS在讲话!"
wav = chat.infer(text)
torchaudio.save("basic_output.wav", torch.from_numpy(wav[0]), 24000)# 高级用法:# 1. 随机选择一个说话者
rand_spk = chat.sample_random_speaker() # 2. 定义推理参数
params_infer_code = {'spk_emb': rand_spk, # 使用随机选择的说话者'temperature': 0.5, # 调整语音变化
}# 3. 带有嵌入控制标记的文本
text_with_tokens = "你最喜欢的颜色是什么?[uv_break][laugh]"# 4. 生成并保存音频
wav = chat.infer(text_with_tokens, params_infer_code=params_infer_code)
torchaudio.save("advanced_output.wav", torch.from_numpy(wav[0]), 24000)
这个示例展示了如何使用ChatTTS进行基本的文本转语音转换,以及如何利用其高级功能自定义说话者身份、引入停顿和添加笑声。
请记住,要使用ChatTTS,您需要一台具有良好GPU的系统,建议至少4GB的显存以生成短音频片段。
持续改进与社区反馈
与任何新技术一样,ChatTTS正在不断改进。开发者积极与用户反馈互动,努力提升性能并解决改进领域。值得一提的是,未来的路线图中计划发布一个具有多情感控制和Lora训练代码的版本。
结论
ChatTTS在GitHub上发布后,迅速获得了大量关注。它是时下的热潮,还是在对话式文本转语音领域的真正变革者?试试看,表达你的看法吧😉
Github开源网址:https://github.com/2noise/ChatTTS
相关文章:
ChatTTS:终极文本转语音工具,支持API!
ChatTTS:终极文本转语音工具,支持API! 文本转语音(TTS)系统的发展已经取得了长足的进步。从最初的机械化、平坦的声音,到如今听起来令人惊讶的人声,ChatTTS作为这一领域的新成员,旨…...
VUE和Element Plus
1.VUE 1.下载和配置环境 使用vue编程,我们需要使用到的编程软件是vs code,还需要使用node.js,这个的作用就类似于JDK,当我们都下载好之后,winR键打开命令提示符,我们在这里可以查看版本, npm…...
Python学习笔记(五)
""" 演示tuple元组的定义和操作 """# 元组一旦定义完成,就不可修改 # 定义元组 # t1 (1, "Hello", True) # t2 () # 定义空元组 # t3 tuple() #定义空元组 # print(f"t1的类型是:{type(t1)}, 内容是&…...
Linux企业级应用(一)构建企业级Linux应用平台:全面指南
文章目录 构建企业级Linux应用平台:全面指南前言1. Linux企业级应用简介2. 构建企业级网站应用平台使用LNMP架构构建Web服务器部署MySQL数据库主从复制与读写分离 3. 实施虚拟化技术部署KVM虚拟化平台使用LVS和Keepalived实现负载均衡与高可用性 4. 文件系统与分布式…...
LeetCode112 路径总和
前言 题目: 112. 路径总和 文档: 代码随想录——路径总和 编程语言: C 解题状态: 成功解答! 思路 比较简单的一个思路是遍历所有的路径,求和后再查找目标值。但是,最好的方法是一边遍历&#x…...
TI AWR1843 毫米波雷达实物展示
引言 随着自动驾驶、工业自动化以及智能交通系统的快速发展,雷达传感器在现代科技中的重要性日益提升。毫米波雷达凭借其高精度测距、抗干扰能力强等特点,逐渐成为各类感知系统中的关键技术。德州仪器(TI)推出的 AWR1843 毫米波雷…...
前端JS总结(下)之事件操作
目录 前言 事件基础 事件的三部分: 常见的事件: 鼠标事件: 键盘事件: 表单事件: onfocus和onblur:获取焦点和失去焦点 onselect:选中单行文本框/多行文本框中的内容 onchangeÿ…...
如何妙用哈希表来优化遍历查找过程?刷题感悟总结,c++实现
先上题目 题目链接:题目链接 这题我最先想到的就是前缀和a,构造好了以后就遍历每一个[l,r]数组(满足题目要求的连续区间数组),奈何倒数第二个样例时间超限 先给出原思路代码 class Solution { public:int subarray…...
【设计模式】漫谈设计模式
这篇文章里说一下对设计模式的个人的理解。本篇文章更类似于随笔而非技术文档。 设计模式最早是在上个世纪就被人提出来了,如今被奉为圣经,也就是GOF等人写的《设计模式》,其中的设计模式,是指导开发者如何进行开发出高内聚、低耦…...
第N5周:Pytorch文本分类入门
本文为365天深度学习训练营 中的学习记录博客原作者:K同学啊 任务: ●1. 了解文本分类的基本流程 ●2. 学习常用数据清洗方法 ●3. 学习如何使用jieba实现英文分词 ●4. 学习如何构建文本向量 一、前期准备 环境安装 这是一个使用PyTorch实现的简单文…...
SpringBoot 自定义 starter
1. 官方文档 SpringBoot 版本 2.6.13,相关链接 Developing with Spring Boot 1.1 什么是 Starter Starters are a set of convenient dependency descriptors that you can include in your application. You get a one-stop shop for all the Spring and relate…...
TDengine Invalid data format 问题定位
Invalid data format 看语义是数据类型不符,通常这个报错出现在使用行协议写入时。 如果是批量数据写入,想定位是哪条语句的问题,需要查看客户端日志。 如何确定使用的是哪个日志 lsof -p pidof taosadapter | grep taoslog如果没有安装lso…...
Spring Boot 使用 MongoDB 教程
🍁 作者:知识浅谈,CSDN签约讲师,CSDN博客专家,华为云云享专家,阿里云专家博主 📌 擅长领域:全栈工程师、爬虫、ACM算法 🔥 微信:zsqtcyw 联系我领取学习资料 …...
Python办公自动化:使用openpyxl 创建与保存 Excel 工作簿
1 创建新的工作簿 在开始任何 Excel 操作之前,首先需要创建一个工作簿。openpyxl 提供了简单的接口来创建新的工作簿。 创建一个空白的工作簿 我们可以使用 openpyxl.Workbook() 来创建一个新的空白工作簿。以下是一个简单的示例: import openpyxl# …...
【张】#11 Union 共用体
Union 共用体可以存储不同的数据类型,但只能同时存储其中的一种类型。 #include <iostream> using namespace std;struct Product {char productName[20];int type;//1 int ,else charunion{int id_int;char id_chars[20];}; };int main(){Product product; …...
Xcode 在原生集成flutter项目
笔者公司有一个从2017年就开始开发的iOS和安卓原生项目,现在计划从外到内开始进行项目迁徙。 1》从gitee拉取flutter端的代码;(Android报错Exception: Podfile missing) 2》替换Xcode里的cocopods里Podfile的路径 然后报警 然后…...
ES6的promise
Promise是什么 1、Promise是js中的一个原生对象,是一种异步编程的解决方案。可以替换掉传统的回调函数解决方案,将异步操作以同步的流程表达出来。 2、Promise有三种状态:pending(初始化)、fulfilled(成功)、rejected(失败) 可以通过resolve(…...
轻松找回:如何在PostgreSQL 16中重置忘记的数据库密码
目录 1. 引言2. PostgreSQL 16的新特性简介3. 解决方法概述4. 方法一:通过修改pg_hba.conf文件重置密码5. 方法二:通过命令行进入单用户模式6. 方法三:使用pgAdmin工具重置密码7. 总结与最佳实践写在以后 1. 引言 你有没有过这样的经历&…...
EVAL长度突破限制
目录 突破15位限制 代码 绕过方式 第一种(使用echo执行) 第二种(使用file_get_content追加文件后进行问件包含) 第三种(使用usort可变长参数) 突破7位限制 第一种(可以使用>创建文件…...
如何判断树上一个点是否在直径上
# 旅游规划 ## 题目描述 W市的交通规划出现了重大问题,市政府下定决心在全市各大交通路口安排疏导员来疏导密集的车流。但由于人员不足,W市市长决定只在最需要安排人员的路口安排人员。 具体来说,W市的交通网络十分简单,由n个…...
docker详细操作--未完待续
docker介绍 docker官网: Docker:加速容器应用程序开发 harbor官网:Harbor - Harbor 中文 使用docker加速器: Docker镜像极速下载服务 - 毫秒镜像 是什么 Docker 是一种开源的容器化平台,用于将应用程序及其依赖项(如库、运行时环…...
label-studio的使用教程(导入本地路径)
文章目录 1. 准备环境2. 脚本启动2.1 Windows2.2 Linux 3. 安装label-studio机器学习后端3.1 pip安装(推荐)3.2 GitHub仓库安装 4. 后端配置4.1 yolo环境4.2 引入后端模型4.3 修改脚本4.4 启动后端 5. 标注工程5.1 创建工程5.2 配置图片路径5.3 配置工程类型标签5.4 配置模型5.…...
ubuntu搭建nfs服务centos挂载访问
在Ubuntu上设置NFS服务器 在Ubuntu上,你可以使用apt包管理器来安装NFS服务器。打开终端并运行: sudo apt update sudo apt install nfs-kernel-server创建共享目录 创建一个目录用于共享,例如/shared: sudo mkdir /shared sud…...
基于距离变化能量开销动态调整的WSN低功耗拓扑控制开销算法matlab仿真
目录 1.程序功能描述 2.测试软件版本以及运行结果展示 3.核心程序 4.算法仿真参数 5.算法理论概述 6.参考文献 7.完整程序 1.程序功能描述 通过动态调整节点通信的能量开销,平衡网络负载,延长WSN生命周期。具体通过建立基于距离的能量消耗模型&am…...
【JVM】- 内存结构
引言 JVM:Java Virtual Machine 定义:Java虚拟机,Java二进制字节码的运行环境好处: 一次编写,到处运行自动内存管理,垃圾回收的功能数组下标越界检查(会抛异常,不会覆盖到其他代码…...
全球首个30米分辨率湿地数据集(2000—2022)
数据简介 今天我们分享的数据是全球30米分辨率湿地数据集,包含8种湿地亚类,该数据以0.5X0.5的瓦片存储,我们整理了所有属于中国的瓦片名称与其对应省份,方便大家研究使用。 该数据集作为全球首个30米分辨率、覆盖2000–2022年时间…...
MMaDA: Multimodal Large Diffusion Language Models
CODE : https://github.com/Gen-Verse/MMaDA Abstract 我们介绍了一种新型的多模态扩散基础模型MMaDA,它被设计用于在文本推理、多模态理解和文本到图像生成等不同领域实现卓越的性能。该方法的特点是三个关键创新:(i) MMaDA采用统一的扩散架构…...
解决本地部署 SmolVLM2 大语言模型运行 flash-attn 报错
出现的问题 安装 flash-attn 会一直卡在 build 那一步或者运行报错 解决办法 是因为你安装的 flash-attn 版本没有对应上,所以报错,到 https://github.com/Dao-AILab/flash-attention/releases 下载对应版本,cu、torch、cp 的版本一定要对…...
android13 app的触摸问题定位分析流程
一、知识点 一般来说,触摸问题都是app层面出问题,我们可以在ViewRootImpl.java添加log的方式定位;如果是touchableRegion的计算问题,就会相对比较麻烦了,需要通过adb shell dumpsys input > input.log指令,且通过打印堆栈的方式,逐步定位问题,并找到修改方案。 问题…...
离线语音识别方案分析
随着人工智能技术的不断发展,语音识别技术也得到了广泛的应用,从智能家居到车载系统,语音识别正在改变我们与设备的交互方式。尤其是离线语音识别,由于其在没有网络连接的情况下仍然能提供稳定、准确的语音处理能力,广…...
