为什么这个模型值得单独写一篇
过去两年所有"语音助手"的技术栈基本是同一个模板:ASR 转文字 → LLM 想 → TTS 读出来。这条链路有两个绕不过去的问题:一是延迟,三段串行叠加,即便每段都优化到极致,端到端也要 800ms 以上;二是情绪和副语言信息全部丢失——笑声、叹气、犹豫的停顿,在转文字那一刻就没了。
Block(Jack Dorsey 旗下)的 Dessa 直接把这套架构掀了:训练数据全部是真人对话音频,没有用任何文本数据,也没有基于预训练模型,端到端音频进、音频出。
三个技术要点
1. 从零用语音训练
这是最激进的一点。绝大多数"端到端语音模型"其实是文本模型 + 音频适配器,本质还是文本在中间做中介。Dessa 完全不用文本,意味着它学到的不是"这个词怎么读",而是"这句话在这个语境里该用什么语气说出来"。官方给的例子是它能自然地在句尾带出笑意,或者在对方讲完后留一个恰当的停顿再接话。
2. 全双工:边听边说
全双工(full-duplex)是这次架构的核心。传统语音助手是半双工——你说的时候它闭麦,它说的时候你插不进去。真人对话不是这样,我们会用"嗯""对"这种反馈音表示在听,也会在对方说到一半时打断。
Dessa 支持同时收发,所以它能做到:
- 在你停顿思考时不抢话,等 1.5 秒再判断是结束还是顿住;
- 被打断时立即停下而不是把整句念完;
- 用短反馈音维持对话节奏,而不是沉默等你讲完。
这三点听起来微小,但组合起来产生的"像人"的感受,比音色拟真度重要得多。
3. 单机架训练,笔记本推理
训练只用了单台 GPU 机架完成——这个规模在 2026 年属于"小成本实验",说明架构效率做得不错。推理端更实用:已经在 MacBook Pro 上跑通了本地运行。
本地可跑这件事的意义被低估了。语音是最敏感的数据之一,把录音传到云端在很多行业(医疗、法律、金融客服)根本过不了合规。能本地跑的语音模型,打开的是不能上云的那部分市场。
实测感受:延迟与"人味"
从公开演示看,往返延迟被压到了人耳难以察觉的程度,最重要的改进是不再有"说完话等两秒"的空白。那两秒是用户流失最集中的地方——你会开始怀疑是不是没听清,然后重复一遍。
情绪捕捉是第二个差异点。演示里模型听到对方笑着说"我今天把咖啡洒键盘上了",回应也带了一点笑意,而不是用播音腔说"很遗憾听到这个消息"。这种情绪匹配是文本中转架构极难做到的,因为文字里没有"笑意"这个信息。
局限:现在还不能当生产工具
必须说清楚几个现实约束:
- 可控性差。端到端模型没有中间文本,你没法做关键词过滤、敏感词拦截、话术模板。企业客服场景上线前要先解决合规审查。
- 知识注入难。想让它回答产品参数、订单状态,还是得外接工具调用。而音频域的 function calling 生态基本空白。
- 多语言未知。演示以英文为主,中文的声调、语气词(啊、吧、呢)处理能力还没有公开数据。
- 没有 API 与定价。目前是研究性质发布,商用时间表不明。
和现有语音方案的对比
如果你现在就要落地,实用的组合仍是"高质量 TTS + 流式 LLM"。HeyGen 的 HeyGen Voice 在受控朗读场景表现很强,延迟低、音色稳,做播报、有声书、课程配音都很成熟。相关的中文场景实测可以看 HeyGen Video 1 评测里的配音部分。
Dessa 的定位不是替代它们,而是打开"实时对话"这个新场景:AI 陪练、心理咨询初筛、语言口语对练、老人陪伴、面试模拟。这些场景的共同点是对"像人"的要求高于对"准确"的要求。
优点与不足
优点:真正端到端,无文本信息损失;全双工支持打断与反馈音;本地可运行,数据不出设备;训练成本低,架构效率高。
不足:无文本中间层导致可控性差;工具调用与知识注入困难;多语言能力未验证;无公开 API。
适合谁关注
做实时语音交互产品的团队应该重点跟踪;做敏感数据语音场景(医疗问诊记录、法律咨询)的团队值得评估本地部署路线;纯做配音、有声内容的团队暂时不用急,现有 TTS 更成熟。
顺带提一句,同期 Pruna AI 发布的 P-Video-2-Pro-Avatar 把单张人像转成口型同步视频,每秒 0.02 美元,搭配语音模型可以拼出完整的数字人链路。这两条线未来一定会合并。
总结
Dessa 现在更像一个方向宣言:语音 AI 的下一步不是把文字读得更好听,而是根本不要文字。它还有一堆工程问题没解决,但"全双工 + 无文本"这个组合,大概率是未来两三年语音产品的标准形态。