Ollama上线语音模型，首发Phonon文本转语音

Ollama 现在可以将文本转换为语音。第一个语音模型是 Phonon，它是来自 Gradium 的一系列小型、最先进的文本转语音模型。语音模型现在适用于 macOS，Windows 和 Linux 支持即将到来。

ollama run phonon "Hello from Ollama."

Ollama 0.40.11 在 MacBook Pro 上的未编辑输出。

在 Apple Silicon 上的性能

在 Apple Silicon 上，Ollama 通过 Apple 的机器学习框架 MLX 加速，以实现最先进的吞吐量。在配备 M5 Max 的 MacBook Pro 上，Ollama 比下一个最快的引擎（Gradium 自身的运行时）快了 35%。

吞吐量

实时速度的倍数

在配备 M5 Max 的 MacBook Pro 上测量，生成 45 秒的语音。10 次运行的中位数。Gradium 自身的运行时 ptts 在 CPU 上使用 8 位权重，在神经引擎上使用 fp16，在 GPU 上使用 f32；Ollama 在 bf16 中运行模型。

Ollama 的实现同样准确，与 Hugging Face Transformers 中的参考实现的词错误率相匹配：

准确率

词错误率

越低越好。来自 Seed-TTS 英语测试集的 200 个句子，使用 Whisper large-v3 转录。

声音

使用 --voice 或 API 中的 voice 选择声音：

ollama run phonon --voice Hadley "Hello from Ollama."

这些声音来自 Gradium 的声音目录。ollama show phonon 列出了所有声音。

语言

模型	语言
`phonon`	英语
`phonon:40m-fr`	法语
`phonon:40m-de`	德语
`phonon:40m-es`	西班牙语
`phonon:40m-pt`	葡萄牙语
`phonon:40m-multilingual`	全部五种

phonon 在 Apache 2.0 下发布。40M 模型在 CC BY-NC 4.0 下发布，这限制了它们只能用于非商业用途。

将聊天模型的回复通过管道传输到 Phonon。文本到达时即被朗读，因此回复在第一句话后开始播放：

ollama run gemma4 --hidethinking "Tell me a fun fact about owls in two sentences." | ollama run phonon

运行 ollama run phonon 而没有要输入的文本，以在提示符处打印行，或将输出重定向以保存 WAV 文件：

ollama run phonon "Save this to a file." > speech.wav

API

Phonon 与 OpenAI 兼容的 /v1/audio/speech 端点一起工作，因此使用 OpenAI SDK 的现有代码只需要一个新的基本 URL。

curl http://localhost:11434/v1/audio/speech \
  -H "Content-Type: application/json" \
  -d '{
    "model": "phonon",
    "voice": "Zoey",
    "input": "Hello from Ollama."
  }' --output speech.wav

响应在音频生成时作为流返回，因此可以立即播放：

curl -sN http://localhost:11434/v1/audio/speech \
  -H "Content-Type: application/json" \
  -d '{"model": "phonon", "input": "Playback starts right away."}' \
  | ffplay -nodisp -autoexit -loglevel error -

音频是 24 kHz 单声道，默认返回为 WAV 格式，或使用 "response_format": "pcm" 返回原始 16 位样本。

开始使用

语音模型在 Apple Silicon Mac 上运行。下载 Ollama 0.40.11 或更高版本，然后拉取 Phonon：

ollama pull phonon

更多信息，请参阅：

Ollama上线语音模型，首发Phonon文本转语音

同一件事另外 1 家也报道了

在 Apple Silicon 上的性能

声音

语言

API

开始使用