Whisper vs Parakeet

A gente entrega os dois, então isso não é discurso de venda

A maioria dos artigos do tipo "X vs Y" é escrita por alguém que vende o X. Este é diferente. A gente entrega os dois motores no mesmo app. Você escolhe o que quiser por um menu suspenso, baixa uma vez e troca quando der vontade.

Isso significa que não tenho motivo para te empurrar o errado. Se o Parakeet é o certo pra você, quero você usando o Parakeet. Se você precisa do Whisper, quero você no Whisper. O app não escolhe por você, e nem eu. Vou apenas mostrar no que cada um é realmente bom.

Os dois rodam totalmente offline. Os dois são gratuitos para qualquer usuário logado. Sem cartão, sem conta na nuvem por minuto, sem pagar a mais pelo segundo motor.

O Parakeet é o rápido

O Parakeet é o modelo TDT da NVIDIA. TDT significa Token-and-Duration Transducer, um encoder FastConformer acoplado a um decoder que prevê tanto as palavras quanto quanto tempo cada uma dura. Você não precisa lembrar nada disso. A parte que importa está na próxima frase.

Ele é de 5 a 10 vezes mais rápido que o Whisper numa CPU comum. Sem GPU, sem espera. Você solta a tecla de atalho e o texto já está basicamente lá.

O modelo entregue é o Parakeet v3, cerca de 600 MB em disco, e cobre inglês mais 24 outros idiomas europeus, 25 no total. A qualidade é boa. Não é boa como a do Whisper-large, mas mais que suficiente para o ditado do dia a dia: e-mails, anotações, mensagens, aquele texto que a maioria de nós digita o dia inteiro.

O que o Parakeet não faz: ele não traduz a sua fala para o inglês e não aceita vocabulário personalizado nem dicas de hotword. Se você dita em francês, sai texto em francês. Que é exatamente o que a maioria de quem fala francês quer, então isso só é um problema se a tradução for o motivo inteiro de você ter aparecido.

O Whisper é o minucioso

O Whisper é o modelo aberto da OpenAI, e dentro do nosso app ele vem em oito versões. Quatro só em inglês e quatro multilíngues, de um modelo Base de uns 140 MB até um Large v3 de uns 3 GB. Você escolhe o tamanho que combina com a sua máquina e com a sua paciência.

Os modelos multilíngues cobrem 99 idiomas, não 25. Isso inclui chinês, japonês, coreano e árabe, justamente os que o Parakeet pula por completo. O Whisper também traduz qualquer um deles para o inglês em uma só etapa, coisa que o Parakeet não consegue.

E o Whisper te dá um controle que o Parakeet não dá: vocabulário personalizado, ajuste de beam-size e enviesamento por hotword para ele parar de mastigar o nome do seu colega ou do seu produto. Se você dita termos técnicos o dia inteiro, esse controle é a diferença entre texto limpo e uma tarefa de localizar-e-substituir.

O custo é a velocidade. Na mesma CPU, o Whisper é mais lento, às vezes bem mais lento nos modelos maiores. A verdade sem graça é que a maioria de quem escolhe o Whisper não está escolhendo precisão em vez do Parakeet, e sim escolhendo idiomas e controle em vez de velocidade.

A comparação honesta, em uma tabela

Aqui está a decisão inteira em sete linhas. Sem valores em dólar nela — os dois motores são gratuitos no mesmo plano.

Os dois são locais, os dois são offline, os dois são gratuitos no mesmo plano. A tabela não é "bom vs ruim". É "rápido vs flexível".

Qual você deve escolher de verdade

Essa é a parte que a maioria dos artigos de comparação evita, então aqui vai sem rodeios.

Para a maioria dos usuários de inglês, escolha o Parakeet. A velocidade vence no dia a dia. Você dita dezenas de vezes por dia, e a diferença entre "o texto aparece na hora" e "o texto aparece depois de uma pausa" é a diferença entre manter o raciocínio e perdê-lo. Qualquer coisa acima de uns dois segundos e o seu cérebro começa a se reengajar com o app em que você estava, e você esquece o que ia dizer. O Parakeet ser de 5 a 10 vezes mais rápido na CPU não é vaidade de ficha técnica. É a coisa que você sente cem vezes por dia.

Escolha o Whisper quando você precisar de uma de três coisas que o Parakeet não consegue te dar: um idioma fora dos 25 europeus (chinês, japonês, coreano, árabe), tradução para o inglês, ou controle de vocabulário personalizado e hotword para nomes e jargões.

Sou o tipo de pessoa que desenha o diagrama de arquitetura antes de instalar o runtime, então meu instinto é sempre "usar a ferramenta mais capaz". Aqui esse instinto está errado. A ferramenta mais capaz é o Whisper, mas a ferramenta certa para um hábito diário de ditado em inglês geralmente é a mais rápida. Capacidade que você não usa é só tamanho de download.

Como alternar entre eles

Você não precisa se comprometer. Abra o seletor de modelos, escolha o Parakeet ou qualquer modelo Whisper, e ele baixa uma vez. Volte sempre que o trabalho mudar: Parakeet para a leva de e-mails da manhã, Whisper Large v3 na tarde em que você está transcrevendo uma entrevista em japonês.

Mesma tecla de atalho, mesmo overlay, mesmas configurações em ambos os casos. No Windows o padrão é Ctrl+Space. No Mac é um acorde push-to-talk Command+Option, e dá para remapear se ele conflitar com alguma coisa. O motor é um menu suspenso, não uma reinstalação.

Se você só lembrar de uma coisa

Parakeet para velocidade e inglês. Whisper para 99 idiomas, tradução e controle. Você não precisa escolher na hora da instalação, porque os dois vêm no mesmo app e trocar é um menu suspenso, não uma decisão de download em que você fica preso.

Se você quer um panorama mais amplo sobre por que rodar isso na sua própria máquina é melhor do que mandar o áudio para um servidor, escrevi sobre isso em fala para texto offline. E se você está nos comparando com um app pago específico, o artigo alternativa ao superwhisper cobre esse confronto direto.