Mistral发布Voxtral 3语音模型家族,覆盖50多种语言
10月20日,法国AI公司Mistral AI发布语音模型家族Voxtral 3,同时推出基于LiveKit的语音智能体SDK。与常见的单点模型不同,这套产品把语音转写、推理、工具调用与语音合成串成一条实时流式管线,转写覆盖50多种语言,既可以在Mistral的欧盟托管API上调用,也可以整体部署到企业自有基础设施。
拆开看,转写侧有三档模型。Voxtral Small Transcribe 3覆盖50多种语言,包括全部24种欧盟官方语言以及多种低资源亚洲与印度语言,支持说话人分离,也就是判断“谁在什么时候说话”;它还支持上下文偏置——调用时提供关键词或自由文本,就能提升专有名词、产品名、内部编号的识别准确率,不需要额外微调。模型具备轮次结束检测能力,判断对方是否说完,让智能体不必等待固定停顿。Mini版为40亿参数,主打低价的批量转写;Realtime版面向智能体场景,在35种以上语言上做到500毫秒以内的延迟。

合成侧是Voxtral Mini TTS 3,对外也称Voxtral Speech 3,支持35种以上语言与50多种方言,能根据对话上下文调整情绪、语速与重音。面向专业场景的Pro Voice功能,可以用30分钟参考音频复刻说话人的音色、情绪幅度与说话风格,并在跨语言时保持。
真正把几块拼起来的是SDK。它的流程是:实时转写模型负责听,并判断对方是否说完;一个通用模型(如Mistral Small 4)负责理解语义并调用工具;语音合成模型按当前对话的语气作答。三个阶段各自独立、互不等待,官方称单轮交互能在1秒内完成,用户插话时智能体会停止说话。通话过程中,智能体可以核验来电者身份、查询账单、预约时间,通过函数调用、网页搜索与企业自有系统的检索完成任务。接入方式覆盖SIP电话与WebRTC,并能对接企业现有的电话、IVR与联络中心软件。
定价按环节拆分:批量转写0.0035美元/分钟,Small版0.0040美元/分钟,实时转写0.008美元/分钟,语音合成13美元/百万字符;语音智能体API用Mistral Small 4做推理时为0.04美元/分钟,换用其他推理模型为0.08美元/分钟,均覆盖完整的对话流程。

基准数据方面,Mistral公布的结果显示,在覆盖45种语言的FLEURS测试中,Small版词错率为4.0%(自动识别语种)与4.1%(指定语种),明显低于Whisper large-v3的14.9%;在关键短语召回测试Earnings 22中,提供上下文后召回率从81.4%提升到94.6%。这些均为厂商自测,尚无第三方复现;第三方机构Artificial Analysis已将该模型排在语音转文本榜单第三位。
发布的时点很微妙。同一天,ElevenLabs推出Eleven Realtime语音到语音模型,Max版在Big Bench Audio上得分98.8%、首字延迟0.57秒。两家路线不同:ElevenLabs卖的是语音到语音模型,Mistral卖的是一套可组装的栈,转写、推理、合成三环都能替换,整套还能搬进客户自己的机房。对欧洲买家而言,后一点可能比跑分更重要——客服通话包含大量个人数据,欧盟境内托管或私有化部署,能显著缩短合规沟通的成本。
局限也很清楚。厂商自测的跑分,在噪声环境、中英混说、专业术语与少见口音下能否保持,需要真实录音验证。语音智能体真正的难点往往不是单个模型的字错率,而是打断处理、工具调用延迟与多轮上下文保持。这套SDK把这些环节打包,省去了自己粘合的工作,也意味着可调试的空间被收窄。定价看起来便宜,实际成本还要把推理模型的调用一并算进去。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!