Offline spraak naar tekst, uitgelegd

Wat een offline desktop-app voor spraak naar tekst eigenlijk is

Een desktop-app, geen browsertabblad. Dat onderscheid doet het meeste werk. Een webgebaseerde dicteertool draait in je browser en stuurt de audio bijna altijd naar een server. Een echte offline app is native software die een spraakmodel in het geheugen laadt en het op je CPU of GPU draait, daar op de machine zelf.

Het gedrag is met opzet simpel. Je drukt op een globale sneltoets vanuit welke applicatie dan ook (je e-mailclient, een code-editor, een Slack-venster, een veld voor klinische aantekeningen) en de tekst verschijnt waar je cursor staat, als een snelle typist die het van je overneemt. Geen kopiëren-plakken uit een apart venster. Geen "upload je opname." Het gedraagt zich als het toetsenbord, want dat is de enige interface die elke app al begrijpt.

De standaardsneltoets in Whisper is Ctrl+Space op Windows en Linux. Op een Mac houd je Command en Option samen ingedrukt en laat je een van beide toetsen los om te stoppen, een push-to-talk-combinatie, geen schakelaar. Je kunt hem opnieuw instellen; het eerste wat veel mensen doen is hem verplaatsen, weg van wat botst met hun tekenprogramma of hun muzieksoftware. Ik had die sneltoets in een vroege versie hardcoded en kreeg er om 2 uur 's nachts een mailtje over, wat een verhaal voor de FAQ is.

De eerlijke versie van "hoe" is weinig spectaculair: er is geen magie, alleen een modelbestand op je schijf. Wanneer je een lokale app installeert, download je een spraakmodel, een paar honderd megabyte tot een paar gigabyte aan getrainde gewichten. Vanaf dat moment is transcriptie een rekenkundige bewerking die het model op je audio uitvoert. De audio wordt nooit een netwerkverzoek. Whisper by Remskill draait al zijn lokale transcriptie via een pure-Rust-bibliotheek genaamd transcribe-rs, zonder Python-sidecar en zonder aparte runtime die in leven gehouden moet worden. Wat je merkt is dat de app snel start en dat het audiopad kort blijft.

Druk op een toets, spreek, krijg tekst — de offline-lus

Hier is de volledige lus. Je houdt de sneltoets ingedrukt. Een kleine overlay laat zien dat hij luistert. Je praat, een zin, een alinea, een samenvatting van een college van 600 woorden. Je laat los. Het model transcribeert wat je zei en de tekst landt op je cursor, niet in een bestand dat je daarna moet gaan zoeken. Dat is het praktische verschil tussen een dicteer-app en een bestandstranscriptietool: een dicteer-app voegt tekst live in, op het moment dat je stopt met praten.

Niets daarvan heeft een netwerk nodig. De microfoon voert audio in het lokale model, het model produceert tekst, en de app typt het voor je. De opname loopt nog een korte staart door nadat je de toets loslaat, zodat het laatste woord niet wordt afgekapt, een klein dingetje dat me langer kostte om goed te krijgen dan ik graag toegeef.

Voor alledaagse e-mail en notities duurt het rondje van toets-loslaten tot geplakte tekst een seconde of twee met een Small-model op een recente laptop, snel genoeg om in de zin te blijven die je aan het denken was. Er is ook een optionele tweede stap: Whisper kan een AI-opschoonronde draaien (interpunctie corrigeren, een lijst opmaken, of een gestelde vraag beantwoorden), en in lokale modus draait die ronde op het apparaat zelf via een lokale engine genaamd Ollama. Dus zelfs de stap "laat dit minder als gesproken gewauwel klinken" kan volledig offline blijven. Je activeert het door je zin te beginnen met "Hey whisper". Negeer het en je krijgt een schone, letterlijke transcriptie. Hoe dan ook verlaat niets van wat je zegt de machine, tenzij je de optionele Cloud-schakelaar omzet.

Parakeet of lokale Whisper: welke engine draait offline het best

Er zitten twee lokale engines in de app, en ze zijn ergens anders goed in. Dit is de enige echte keuze die je moet maken.

Parakeet is het TDT-model van NVIDIA, ongeveer 600 MB, en het is de snelle, 5 tot 10 keer sneller dan Whisper op een CPU. Het verwerkt Engels plus 24 Europese talen, 25 in totaal. Het vertaalt niet naar het Engels, en het heeft geen instellingen voor eigen vocabulaire. Als je vooral Engels spreekt en je wilt snelheid, dan is dit degene.

Whisper is het meertalige werkpaard. De meertalige modellen ondersteunen 99 talen met autodetectie en kunnen ze allemaal naar het Engels vertalen. Het is langzamer dan Parakeet op dezelfde hardware, maar het geeft je Chinees, Japans, Koreaans, eigen vocabulaire en fijnere controle. Eén ding om goed uit elkaar te houden: de Engels-only Whisper-modellen (die met .en in de naam) zitten alleen op Engels vast en slaan de ondersteuning van 99 talen volledig over. Dus "Whisper doet 99 talen" klopt alleen voor de meertalige builds.

Vuistregel: Engels en haast, kies Parakeet. Iets meertaligs, iets dat je vertaald wilt hebben, kies een meertalig Whisper-model.

Het juiste lokale model kiezen voor jouw hardware

Een lokaal model laadt in het RAM, dus je hardware stelt het plafond in. Het goede nieuws voor de meeste mensen: de kleinere modellen zijn ruim voldoende.

Aan de Engelse kant lopen de modellen van Base op ongeveer 140 MB, naar Small op ongeveer 480 MB, tot Medium op ongeveer 1,5 GB. Aan de meertalige kant ga je van Small op 480 MB tot Large v3 op ongeveer 3 GB. Het meertalige Small-model is waar nieuwe gebruikers mee beginnen, en het is een verstandige standaard: het past overal en het is nauwkeurig genoeg voor alledaags dicteren.

De saaie waarheid over hardware is dat de microfoon meer uitmaakt dan het model. Een USB-microfoon van $20 doet meer voor de nauwkeurigheid dan twee modelgroottes omhoog springen. Ik bracht een weekend door in de overtuiging dat een model-upgrade mijn troebele transcripties zou oplossen; het was de laptopmicrofoon die de hele tijd de vaatwasser oppikte. Als je op een oudere laptop met 8 GB RAM zit, draai Parakeet of een Small-model en geef het upgrade-geld uit aan de microfoon. Als je een recente Apple Silicon-Mac hebt of een Windows-machine met 16 GB en een aparte GPU, draait elk model comfortabel, inclusief Large v3. Je hebt geen GPU nodig om te beginnen: Parakeet op een CPU is het snelle pad omdat het daarvoor gebouwd is.

Waarom offline het van de cloud wint bij gevoelige audio

Cloud-only dicteren is een privacyramp die wacht om getranscribeerd te worden. Ik zeg dat als botte mening en onderbouw het daarna, want vaag doen over privacy is goedkoop.

Een team waar ik ooit mee werkte had een externe ontwikkelaar een intern "AI-dicteer"-prototype laten bouwen bovenop een cloudmodel. Het riep de API aan voor elke uiting, op elke laptop, met een "slimme retry" die opnames opnieuw verstuurde als hij zenuwachtig werd. Aan het einde van het kwartaal opende de manager het dashboard met cloudkosten en vond een rekening van vijf cijfers, grotendeels van één team dat standup-opnames vier keer over transcribeerde. De oplossing van de ontwikkelaar was "we moeten de prompt optimaliseren." De oplossing van de CFO was "of we moeten niet betalen voor cloudtranscriptie van vergaderingen waar al notulen van zijn." Twee problemen in één rekening: de kosten, en het feit dat elk woord van die vergaderingen nu in de logs van een leverancier leefde.

Offline lost beide op. De salarisspreadsheet van je baas, de mail aan de school van je kind, de juridische memo die je in de trein zonder bereik aan het opstellen bent: niets daarvan zou je laptop moeten verlaten omdat je met je stem wilde typen. De machine heeft al een microfoon en een processor. Voor één alinea heeft hij geen server in de lus nodig. Offline werkt ook met de wifi uit, wat de cloud per definitie niet kan.

Wanneer de cloud of een ingebouwde tool de betere keuze is

Hier is het stuk dat de één-tool-pagina's overslaan. Een lokale app is niet altijd het juiste antwoord.

Ten eerste, de vraag die mensen steeds stellen: doet Windows spraak naar tekst offline? Meestal niet, voor de standaardtool. Windows-spraaktypen, geopend met Win+H, vereist een internetverbinding volgens Microsofts eigen documentatie, dus het dicteren is cloudgebaseerd. Een aparte Windows 11-functie genaamd Voice Access werkt wél offline zodra de taalbestanden zijn geïnstalleerd, maar die is gebouwd om de pc met je stem te bedienen, niet voor snel langdurig dicteren. Op een Mac kan Apple's ingebouwde Dictation sommige algemene tekst op het apparaat zelf verwerken, maar Apple's formulering houdt een slag om de arm: het is niet voor elke taal gegarandeerd, en sommige dictaten kunnen alsnog naar Apple's servers gaan. Dus als je alleen ooit een sporadisch antwoord van 30 woorden dicteert, zijn de ingebouwde tools gratis en prima voor korte uitbarstingen. Een speciale app verdient zijn plek zodra je echt volume dicteert (e-mails, notities, documenten), niet eenregelige berichtjes.

Ten tweede, de cloud wint bij sommige klussen. Als je de hoogst mogelijke nauwkeurigheid nodig hebt bij lastige audio (zware accenten, overlappende sprekers, slechte microfoonomstandigheden), kan een cloudmodel nauwkeuriger zijn dan een lokaal, en het kan live antwoorden van het web ophalen die een lokaal model onmogelijk kan kennen. Whisper's optionele Cloud-modus gebruikt OpenAI via je eigen API-sleutel voor precies die gevallen, met ongeveer 57 talen. De afweging is de eerlijke: het heeft internet nodig, en het stuurt je audio naar OpenAI. Als je werk niet gevoelig is en je wilt de beste kwaliteit plus zoeken op het web op één plek, dan is de cloud de betere keuze, en ik zou je aanraden hem te gebruiken. Als je audio privé is of je verbinding onbetrouwbaar, blijf lokaal.

Heb je een cloud-dicteertool in het oog maar wil je dat je audio op je machine blijft, ons gratis Aqua Voice-alternatief maakt de offline, private zaak volledig.

Offline, online of ingebouwd: een snelle vergelijking

Een korte tabel om de keuze te beslechten. De vollere uiteenzetting van betaalde dicteertools staat in onze gids voor transcriptiesoftware.

Whisper levert de eerste drie in één app: de lokale pijplijn is gratis, en Cloud is de optionele uitbreiding. Als je hier kwam voor "privé en werkt in een vliegtuig," dan zijn de eerste twee rijen je antwoord.

Als je één ding hiervan meeneemt

Offline spraak naar tekst is geen compromis dat je sluit als de wifi het niet doet. Het is de versie waarin de audio van jou is, de vertraging kort is, en er geen kwartaalrekening van de cloud aan het einde op je wacht. De cloud wint nog steeds bij de lastigste audio en live antwoorden van het web, en ik wijs je die kant op wanneer het past. Voor al het andere (de mail, de notitie, de memo in de trein) is het model op je eigen schijf genoeg, en dat is het al een tijdje.