Whisper vs Parakeet

Vi leverer begge, så det her er ikke et salgsoplæg

De fleste "X vs Y"-artikler er skrevet af nogen, der sælger X. Den her er anderledes. Vi leverer begge motorer i den samme app. Du vælger den, du vil have, fra en dropdown, downloader den én gang og skifter når som helst.

Det betyder, at jeg ikke har nogen grund til at tale dig over på den forkerte. Hvis Parakeet er rigtig for dig, vil jeg have, at du bruger Parakeet. Hvis du har brug for Whisper, vil jeg have dig på Whisper. Appen vælger ikke for dig, og det gør jeg heller ikke. Jeg lægger bare frem, hvad hver enkelt faktisk er god til.

Begge kører helt offline. Begge er gratis for enhver bruger, der er logget ind. Intet kort, ingen cloud-regning per minut, ingen ekstrabetaling for den anden motor.

Parakeet er den hurtige

Parakeet er NVIDIAs TDT-model. Det står for Token-and-Duration Transducer, en FastConformer-encoder boltet fast på en decoder, der forudsiger både ordene og hvor længe hvert af dem varer. Du behøver ikke huske noget af det. Det, der betyder noget, står i den næste sætning.

Den er 5 til 10 gange hurtigere end Whisper på en almindelig CPU. Ingen GPU påkrævet, ingen ventetid. Du slipper genvejstasten, og teksten er stort set allerede der.

Den leverede model er Parakeet v3, omkring 600 MB på disken, og den dækker engelsk plus 24 andre europæiske sprog, 25 i alt. Kvaliteten er god. Ikke Whisper-large-god, men mere end rigeligt til daglig diktering: e-mails, noter, beskeder, det som de fleste af os skriver hele dagen.

Hvad Parakeet ikke gør: den oversætter ikke din tale til engelsk, og den tager ikke imod brugerdefineret ordforråd eller hotword-hints. Hvis du dikterer på fransk, får du fransk tekst. Hvilket er præcis, hvad de fleste fransktalende ønsker, så det er kun et problem, hvis oversættelse er hele grunden til, at du dukkede op.

Whisper er den grundige

Whisper er OpenAIs åbne model, og inde i vores app kommer den i otte varianter. Fire kun-engelske og fire flersprogede, fra en Base-model på cirka 140 MB op til en Large v3 på cirka 3 GB. Du vælger den størrelse, der passer til din maskine og din tålmodighed.

De flersprogede modeller dækker 99 sprog, ikke 25. Det inkluderer kinesisk, japansk, koreansk og arabisk, dem som Parakeet helt springer over. Whisper kan også oversætte enhver af dem til engelsk i ét trin, hvilket Parakeet ikke kan.

Og Whisper giver dig kontrol, som Parakeet ikke gør: brugerdefineret ordforråd, beam-size-indstillinger og hotword-bias, så den holder op med at forvanske din kollegas navn eller dit produkts navn. Hvis du dikterer tekniske termer hele dagen, er den kontrol forskellen mellem ren tekst og en find-og-erstat-pligt.

Prisen er hastighed. På den samme CPU er Whisper langsommere, nogle gange en del langsommere på de større modeller. Den kedelige sandhed er, at de fleste, der vælger Whisper, ikke vælger nøjagtighed frem for Parakeet så meget som de vælger sprog og kontrol frem for hastighed.

Den ærlige sammenligning, i én tabel

Her er hele beslutningen i syv rækker. Ingen kronebeløb i den — begge motorer er gratis på samme niveau.

Begge er lokale, begge er offline, begge er gratis på samme niveau. Tabellen er ikke "god vs dårlig". Den er "hurtig vs fleksibel".

Hvilken bør du faktisk vælge

Det er den del, de fleste sammenligningsartikler smyger sig udenom, så her er den ligeud.

For de fleste engelsktalende brugere, vælg Parakeet. Hastighed vinder dagligt. Du dikterer snesevis af gange om dagen, og forskellen mellem "tekst dukker op med det samme" og "tekst dukker op efter et øjeblik" er forskellen mellem at blive i din tankerække og at miste den. Alt over cirka to sekunder, og din hjerne begynder at koble sig på den app, du var i, og du glemmer, hvad du var i gang med at sige. At Parakeet er 5 til 10 gange hurtigere på en CPU er ikke pral fra et databladsark. Det er noget, du mærker hundrede gange om dagen.

Vælg Whisper, når du har brug for en af tre ting, Parakeet ikke kan give dig: et sprog uden for de 25 europæiske (kinesisk, japansk, koreansk, arabisk), oversættelse til engelsk eller brugerdefineret ordforråd og hotword-kontrol til navne og fagudtryk.

Jeg er den type, der tegner arkitekturdiagrammet, før jeg installerer runtimen, så mit instinkt er altid "brug det mere kapable værktøj". Det instinkt er forkert her. Det mere kapable værktøj er Whisper, men det rigtige værktøj til en daglig engelsk dikteringsvane er som regel det hurtigste. Kapacitet, du ikke bruger, er bare downloadstørrelse.

Sådan skifter du mellem dem

Du behøver ikke binde dig. Åbn model-vælgeren, vælg Parakeet eller en hvilken som helst Whisper-model, og den downloades én gang. Skift tilbage, når arbejdet ændrer sig: Parakeet til morgenens e-mail-bunke, Whisper Large v3 den eftermiddag, hvor du transskriberer et japansk interview.

Samme genvejstast, samme overlay, samme indstillinger uanset hvad. På Windows er standarden Ctrl+Space. På Mac er det en Command+Option push-to-talk-akkord, og den kan ommappes, hvis den kolliderer med noget. Motoren er en dropdown, ikke en geninstallation.

Hvis du kun husker én ting

Parakeet for hastighed og engelsk. Whisper for 99 sprog, oversættelse og kontrol. Du behøver ikke vælge ved installation, for begge følger med i den samme app, og det at skifte er en dropdown, ikke en download-beslutning, du hænger på.

Hvis du vil have det længere billede af, hvorfor det at køre det her på din egen maskine slår det at sende lyd til en server, skrev jeg om det i offline tale-til-tekst. Og hvis du vejer os op mod en bestemt betalt app, så dækker stykket superwhisper-alternativ den direkte sammenligning.