Fish Audio Drama 3 : le TTS open-weight 35B pilotable par instructions

ComfyUI Wikinews

Fish Audio publie Drama 3, un modèle de synthèse vocale MoE de 35B qui suit des indications de jeu entre crochets, avec des poids ouverts et un nœud partenaire ComfyUI.

<strong>Drama 3</strong> est le modèle de synthèse vocale de nouvelle génération de Fish Audio, annoncé le 13 octobre 2026. C'est un modèle à mélange d'experts de 35B à poids ouverts, conçu pour les scènes à plusieurs personnages, et il accepte des indications de jeu rédigées en langage naturel : [choked up, crying quietly] placé devant une réplique change la façon dont cette réplique est lue. Le nœud partenaire Fish Audio de ComfyUI a reçu une option Drama 3 le jour même dans Comfy-Org/ComfyUI#16999.
Fish Audio Drama 3

Qu'est-ce que Drama 3

Drama 3 est un modèle de synthèse vocale à mélange d'experts (MoE) doté d'un socle textuel de 35 milliards de paramètres et de 3B actifs par token, utilisant une attention hybride complète et linéaire. L'audio est produit par un décodeur codebook-MTP qui décode 10 codebooks de manière causale sur toute la séquence, et les poids des experts sont stockés en FP8 tandis que les poids restants sont en bf16. Le paquet publié se compose de huit fragments safetensors plus un codec de 1,9 Go, soit environ 40 Go sur disque.

Deux éléments le distinguent d'un modèle ordinaire de clonage vocal :

  • Tags de locuteur. <|speaker:0|> jusqu'à <|speaker:15|> permettent à un seul texte de porter jusqu'à 16 personnages : une scène de dialogue est donc générée en un seul flux au lieu de prises concaténées. Le nœud ComfyUI marque les changements de locuteur avec des tokens de style @Voice1, @Voice2 lorsque plusieurs voix sont connectées.
  • Gestion des longues formes. Les textes longs sont découpés automatiquement et peuvent être diffusés chunk par chunk, ce qui vise les livres audio, le doublage et le drama audio plutôt que des phrases isolées. Drama 3 parle 83 langues.

Diriger le jeu

Les indications se placent entre crochets, écrites comme on les dirait à un comédien, et peuvent être insérées à n'importe quel endroit de la réplique pour que l'interprétation bascule là où l'émotion change. L'indication ne doit pas forcément être dans la langue de la réplique : les exemples de lancement utilisent des indications en chinois, en espagnol et en japonais sur du texte anglais.

[breathless, speaking fast] Just turn off the lights. Stay away from the windows. [voice drops to a terrified whisper] And whatever you hear out there... [slow, deadly serious] <emphasis>do not open that door.</emphasis>

La paire <emphasis>...</emphasis> est une balise à portée limitée : elle ne dirige que les mots situés entre la balise d'ouverture et la balise de fermeture, et non le reste de la réplique.

Ton excitéTon tristeTon chuchoté
ExcitéTristeChuchotement

Préréglages de ton issus de la page produit Drama 3. Fish Audio démontre la même réplique de référence lue sur S2.1 Pro et sur Drama 3, et les différences apparaissent sur la deuxième indication de chaque réplique, là où la voix se brise, devient silencieuse ou cède la place à un rire.

Robustesse de prononciation

Fish Audio indique que Drama 3 arrive en tête du benchmark de robustesse de prononciation d'Artificial Analysis, qui teste les mots difficiles, les nombres, les codes et les lectures dépendant du contexte dans des phrases anglaises, avec vérification de chacun par des auditeurs humains :

Ce qui est luDrama 3Fish Audio S2.1 Pro
Noms de marques, de lieux et termes techniques95,9 %87,3 %
Mots dont la lecture dépend du contexte95,3 %86,1 %
Abréviations : nombres, dates, unités, notations93,6 %92,7 %
Séquences exactes : codes, chemins, e-mails86,3 %79,4 %
Global93,2 %88,1 %

Le changement de conception derrière ces chiffres se situe dans l'entraînement : la plupart des modèles vocaux sont ajustés avec des récompenses pour la facilité de transcription et la ressemblance avec l'extrait de référence, ce qui pénalise un rire ou un chuchotement. Drama 3 est quant à lui ajusté contre un modèle de préférence sur les prises, de sorte qu'une lecture expressive n'est pas pénalisée comme une erreur de transcription.

L'utiliser

  • Poids ouverts. Le modèle complet est disponible sur Hugging Face, et Fish Audio documente son exécution via SGLang-Omni dès le jour du lancement avec sgl-omni serve --model-path fishaudio/drama-3.
  • ComfyUI. Les nœuds partenaires Fish Audio du cœur de ComfyUI (« Fish Audio Text to Speech ») exposent Drama 3 comme choix de modèle depuis le 13 octobre 2026, aux côtés des options existantes s2.1-pro et s1. Ces nœuds appellent l'API Fish Audio : ils nécessitent donc une clé API plutôt qu'un GPU local.
  • Hébergé. Le modèle est également disponible dans l'application Text to Speech de Fish Audio pour le web, iOS et Android.

Disponibilité

Poids : fishaudio/drama-3 sur Hugging Face. Guide de déploiement : Drama 3 Cookbook. Page produit : fish.audio/drama-3.

Commentaires

Connectez-vous avec GitHub pour rejoindre la discussion.

Chargement des commentaires…
Fish Audio Drama 3 : le TTS open-weight 35B pilotable par instructions | ComfyUI Wiki