Tal till text offline, förklarat

Vad en offline-app för tal till text faktiskt är

En skrivbordsapp, inte en webbläsarflik. Den distinktionen gör det mesta av jobbet. Ett webbaserat dikteringsverktyg körs i din webbläsare och skickar nästan alltid ljudet till en server. En riktig offline-app är inbyggd programvara som laddar in en talmodell i minnet och kör den på din CPU eller GPU, just där på maskinen.

Beteendet är medvetet enkelt. Du trycker på ett globalt kortkommando inifrån vilken applikation som helst (din e-postklient, en kodredigerare, en Slack-ruta, ett fält för kliniska anteckningar) och texten dyker upp där markören är, som en snabb maskinskrivare som hoppar in åt dig. Ingen kopiera-och-klistra från ett separat fönster. Inget "ladda upp din inspelning". Den beter sig som tangentbordet, eftersom det är det enda gränssnitt som alla appar redan förstår.

Standardkortkommandot i Whisper är Ctrl+Space på Windows och Linux. På en Mac håller du Command och Option samtidigt och släpper endera tangenten för att stoppa, ett tryck-för-att-tala-grepp, inte en av/på-knapp. Du kan ändra det; det första många gör är att flytta det bort från det som krockar med deras ritprogram eller musikprogramvara. Jag hårdkodade det kortkommandot i en tidig version och fick ett mejl klockan två på natten om det, vilket är en historia för vanliga frågor.

Den ärliga versionen av "hur" är oglamorös: det finns ingen magi, bara en modellfil på din disk. När du installerar en lokal app laddar du ner en talmodell, några hundra megabyte upp till några gigabyte tränade vikter. Från och med då är transkribering en matematisk operation som modellen utför på ditt ljud. Ljudet blir aldrig en nätverksbegäran. Whisper by Remskill kör all sin lokala transkribering genom ett rent Rust-bibliotek som heter transcribe-rs, utan någon Python-sidecar och utan någon separat körmiljö att hålla vid liv. Det du märker är att appen startar snabbt och att ljudvägen förblir kort.

Tryck på en tangent, tala, få text — offline-loopen

Här är hela loopen. Du håller in kortkommandot. En liten overlay talar om att den lyssnar. Du pratar, en mening, ett stycke, en 600 ord lång föreläsningssammanfattning. Du släpper. Modellen transkriberar det du sa och texten landar vid din markör, inte i en fil du sedan måste leta reda på. Det är den praktiska skillnaden mellan en dikteringsapp och ett verktyg för filtranskribering: en dikteringsapp infogar text live, i samma ögonblick du slutar prata.

Inget av det behöver ett nätverk. Mikrofonen matar ljud in i den lokala modellen, modellen producerar text, och appen skriver in den åt dig. Inspelningen fortsätter en kort svans efter att du släpper tangenten, så det sista ordet inte klipps av, en liten sak som tog mig längre tid att få rätt än jag gärna erkänner.

För vardaglig e-post och anteckningar är turen från tangentsläpp till inklistrad text en sekund eller två med en Small-modell på en nyare laptop, snabbt nog för att stanna kvar i meningen du tänkte på. Det finns ett valfritt andra steg också: Whisper kan köra en AI-städning (fixa skiljetecken, formatera en lista, eller svara på en fråga du ställde muntligt), och i lokalt läge körs det passet på enheten genom en lokal motor som heter Ollama. Så även "få det här att låta mindre som muntligt babbel"-steget kan förbli helt offline. Du utlöser det genom att börja din mening med "Hey whisper". Strunta i det och du får en ren ordagrann text. Hur som helst lämnar inget du säger maskinen om du inte slår på den valfria Cloud-knappen.

Parakeet eller lokal Whisper: vilken motor kör bäst offline

Två lokala motorer levereras med appen, och de är bra på olika saker. Det här är det enda riktiga beslutet du måste fatta.

Parakeet är NVIDIA:s TDT-modell, ungefär 600 MB, och den är den snabba, 5 till 10 gånger snabbare än Whisper på en CPU. Den hanterar engelska plus 24 europeiska språk, 25 totalt. Den översätter inte till engelska, och den har inga kontroller för anpassat ordförråd. Om du mestadels talar engelska och vill ha fart, är det den här.

Whisper är den flerspråkiga arbetshästen. Dess flerspråkiga modeller stöder 99 språk med automatisk identifiering och kan översätta vilket som helst av dem till engelska. Den är långsammare än Parakeet på samma hårdvara, men den ger dig kinesiska, japanska, koreanska, anpassat ordförråd och finare kontroll. En sak att hålla reda på: de engelskspråkiga Whisper-modellerna (de som är märkta med .en) låser till enbart engelska och hoppar helt över stödet för 99 språk. Så "Whisper klarar 99 språk" stämmer bara för de flerspråkiga byggena.

Tumregel: engelska och bråttom, välj Parakeet. Allt flerspråkigt, allt du behöver översatt, välj en flerspråkig Whisper-modell.

Att välja rätt lokal modell för din hårdvara

En lokal modell laddas in i RAM, så din hårdvara sätter taket. De goda nyheterna för de flesta: de mindre modellerna räcker gott.

På den engelska sidan sträcker sig modellerna från Base på ungefär 140 MB, till Small på ungefär 480 MB, till Medium på ungefär 1,5 GB. På den flerspråkiga sidan går du från Small på 480 MB upp till Large v3 på ungefär 3 GB. Den flerspråkiga Small-modellen är den som nya användare börjar med, och den är ett vettigt standardval: den får plats överallt och den är tillräckligt exakt för vardaglig diktering.

Den tråkiga sanningen om hårdvara är att mikrofonen spelar större roll än modellen. En USB-mikrofon för $20 gör mer för precisionen än att hoppa två modellstorlekar upp. Jag tillbringade en helg övertygad om att en modelluppgradering skulle fixa mina grumliga texter; det var laptopens mikrofon som plockade upp diskmaskinen hela tiden. Om du sitter på en äldre laptop med 8 GB RAM, kör Parakeet eller en Small-modell och lägg uppgraderingspengarna på mikrofonen. Om du har en nyare Apple Silicon-Mac eller en Windows-maskin med 16 GB och ett separat grafikkort, körs varje modell bekvämt, inklusive Large v3. Du behöver inte ett grafikkort för att börja: Parakeet på en CPU är den snabba vägen eftersom den byggdes för det.

Varför offline slår molnet för känsligt ljud

Diktering enbart i molnet är en integritetskatastrof som väntar på att bli transkriberad. Jag säger det som en rak åsikt och backar sedan upp det, för att vifta bort integritet är billigt.

Ett team jag jobbade med en gång lät en konsult bygga en intern "AI-dikterings"-prototyp ovanpå en molnmodell. Den anropade API:et för varje yttrande, på varje laptop, med ett "smart omförsök" som skickade om inspelningar när den blev nervös. I slutet av kvartalet öppnade chefen instrumentpanelen för molnkostnader och hittade en femsiffrig faktura, mestadels från ett team som transkriberade standup-inspelningar fyra gånger om. Konsultens lösning var "vi borde optimera prompten". Ekonomichefens lösning var "eller så borde vi inte betala för molntranskribering av möten som redan har anteckningar". Två problem i en faktura: kostnaden, och det faktum att vartenda ord av de mötena nu låg i en leverantörs loggar.

Offline löser båda. Din chefs lönekalkylblad, mejlet till ditt barns skola, den juridiska inlagan du skriver på ett tåg utan täckning: inget av det borde lämna din laptop bara för att du ville skriva med rösten. Maskinen har redan en mikrofon och en processor. För ett stycke behöver den ingen server inblandad. Offline fungerar dessutom med Wi-Fi avstängt, vilket molnet per definition inte kan.

När molnet eller ett inbyggt verktyg är det bättre valet

Här är den del som ensidiga säljsidor hoppar över. En lokal app är inte alltid rätt svar.

Först, frågan folk ständigt ställer: kan Windows göra tal till text offline? Mestadels nej, för standardverktyget. Windows röstinmatning, som öppnas med Win+H, kräver en internetanslutning enligt Microsofts egen dokumentation, så dikteringen är molnbaserad. En separat funktion i Windows 11 som heter Voice Access fungerar offline när dess språkfiler är installerade, men den är byggd för att styra datorn med rösten, inte snabb diktering av längre text. På en Mac kan Apples inbyggda Dictation bearbeta viss allmän text på enheten, men Apples formulering gardera sig: det är inte garanterat för varje språk, och en del diktering kan fortfarande gå till Apples servrar. Så om allt du någonsin dikterar är det enstaka 30 ord långa svaret, är de inbyggda verktygen gratis och fina för korta stunder. En dedikerad app gör sig förtjänt av sin plats när du börjar diktera på riktigt (mejl, anteckningar, dokument), inte enradiga meddelanden.

För det andra vinner molnet för vissa jobb. Om du behöver högsta möjliga precision på svårt ljud (tunga brytningar, överlappande talare, hemska mikrofonförhållanden), kan en molnmodell vara mer exakt än en lokal, och den kan hämta webbsvar i realtid som en lokal modell omöjligt kan känna till. Whispers valfria Cloud-läge använder OpenAI via din egen API-nyckel för precis de fallen, och listar ungefär 57 språk. Avvägningen är den ärliga: den behöver internet, och den skickar ditt ljud till OpenAI. Om ditt arbete inte är känsligt och du vill ha bästa kvalitet plus webbsökning på ett ställe, är molnet det bättre valet, och jag skulle säga åt dig att använda det. Om ditt ljud är privat eller din anslutning opålitlig, stanna lokalt.

Om du har sneglat på ett molnbaserat dikteringsverktyg men vill att ditt ljud ska stanna på din maskin, vårt gratis alternativ till Aqua Voice gör hela fallet för offline och integritet.

Offline, online eller inbyggt: en snabb jämförelse

En kort tabell för att avgöra valet. Den fylligare genomgången av betalda dikteringsverktyg finns i vår guide till transkriberingsprogram.

Whisper levererar de tre första i en app: den lokala pipelinen är gratis, och Cloud är det valfria tillägget. Om du kom hit för "privat och fungerar på ett flygplan", är de två första raderna ditt svar.

Om du tar med dig en enda sak från detta

Tal till text offline är inte en kompromiss du nöjer dig med när Wi-Fi är nere. Det är versionen där ljudet är ditt, fördröjningen är kort, och det inte väntar någon kvartalsvis molnfaktura i slutet. Molnet vinner fortfarande på det svåraste ljudet och webbsvar i realtid, och jag pekar dig dit när det passar. För allt annat (mejlet, anteckningen, inlagan på tåget) räcker modellen på din egen disk, och den har gjort det ett tag nu.