AI 模型
Mistral 发布 Voxtral 3 语音模型及智能体开发工具,打通听、说与工具调用
Mistral 推出 Voxtral 3 与语音智能体 SDK,把转录、推理、工具调用和语音生成接入同一工作流程,并区分录音与实时场景。
Mistral 于 10 月 20 日推出 Voxtral 3,将新一代语音模型与语音智能体开发工具一同发布。新工具面向能在对话中执行操作的应用,把转录和语音生成,与语言模型及外部工具接入更完整的工作流程。公司瞄准客服、服务台和虚拟助手等场景:在这些应用里,听懂用户说了什么,只是完成任务的起点。
语音智能体 SDK 负责采集音频、转录、获取模型回复和播放语音。用户可以打断正在说话的智能体,系统也能在对话过程中检索文档、搜索网页或调用业务函数。它以 LiveKit 为实时传输基础,提供 Python 和 TypeScript 接口。应用掌握哪些知识、能够执行哪些操作,仍可单独配置,使同一套对话流程适用于不同服务。
转录模型区分录音文件与实时音频。Voxtral Mini Transcribe 3 和更大的 Small Transcribe 3 用于处理文件,Mini Transcribe Realtime 3 则在音频持续传入时返回文字。官方文档列出了说话人标注和词汇偏置功能,后者允许提供人名或专业术语,帮助模型提高识别效果。对于录音,这些能力有助于保留发言归属,也让处理陌生词汇不必总从重新训练模型开始。
不同模式同时存在明确的功能边界。离线转录提供片段级时间戳,不提供逐词时间戳。实时说话人标注和轮次结束检测各自受到支持,但官方文档说明,两者不能在同一实时会话中同时启用。轮次检测帮助智能体判断何时回答,说话人分离则用于区分发言者。因此,需要兼顾两项能力的应用,必须处理这种模式差异,不能把公告里的全部能力理解为能在单一连接中任意组合。
语音输出方面,Voxtral TTS 3 可以根据完整文本生成声音,另有适用于对话的实时版本。当前文档列出预设声音、声音克隆、情绪与语速标签以及发音控制。生成的音频能够分段返回,使播放不必等待整个文件完成。这些控制让开发者可以分别处理名称读音、表达方式与声音身份,而不是只依赖语言模型生成的文字来决定最终效果。
部分功能仍比产品的整体描述更受限制。文本转语音指南把自然语言风格指令标注为发布时尚不可用,同时支持明确的情绪与语速标签。前者允许用普通语言描述整段表演,后者则是在文本内加入已受支持的控制。两者的区别说明,理解模型公告时,还需要结合 API 当前定义的实际功能。
部署方面,SDK 可用于服务器或桌面应用;浏览器应用通过自己的服务器取得会话凭据。电话接入使用 SIP,发布初期面向企业客户提供。保存的智能体配置具有版本,可以在不同会话中复用。这些设计让它更接近应用平台,而不仅是一个转录接口;对话如何连接真实业务系统,仍取决于周边应用的设计。
Mistral 通过托管服务提供新的语音系列,本地部署或私有云方案则需与销售团队洽谈。TTS 模型卡将 3.0 版标注为公开预览。公告与模型文档对部分发布规格的表述存在差异,现有公开材料尚未就价格和语言覆盖提供一致口径。最终的对话表现仍取决于所选模型、工具及系统集成,不能仅由语音组件的表现推定。