Lokal vs. skybasert transkripsjon

Lokalt betyr at modellen lever på disken din

Lokal transkripsjon laster ned en talemodell én gang og kjører den deretter på prosessoren din. Ingen opplasting, ingen server, ingen nettverkskontakt under et opptak. Trekk ut nettverkskabelen – det skriver fortsatt.

Appen vår gjør dette i ren Rust gjennom et bibliotek kalt transcribe-rs, uten noe Python-miljø i bakhånd. Du velger blant åtte Whisper-modeller, fra Base på rundt 140 MB opp til Large v3 på omtrent 3 GB, eller NVIDIAs Parakeet på rundt 600 MB, som er fem til ti ganger raskere enn Whisper på en CPU. Intet GPU kreves. Modellen lastes inn i RAM, stemmen din går inn, tekst kommer ut – og ingenting i den prosessen rører internett.

Nedlastingen er den eneste gnisningen. En 3 GB-modell er en ordentlig nedlasting på hotell-Wi-Fi, og en bærbar fra 2018 klarer en liten modell fint men snubler over den store. Etter den første nedlastingen er det derimot ingen kostnad per minutt og ingen server i løkken. Vil du ha den grundige versjonen av dette, har jeg skrevet et eget innlegg om å kjøre det helt offline. Se offline tale-til-tekst på skrivebordet.

Skybasert betyr at lyden din er på reise

Skybasert transkripsjon tar opp lyden din, sender den til en leverandørs server, og serveren sender tekst tilbake. Du leier noen andres maskinvare og deres nyeste modell.

I appen vår er skymodus en bring-your-own-key-løsning med OpenAI. Transkripsjon kjører på gpt-4o-mini-transcribe eller den høyere kvaliteten gpt-4o-transcribe, og du kan legge til AI-opprydding og live nettsøk gjennom samme nøkkel. Du oppgir din egen OpenAI-nøkkel og betaler OpenAI direkte. Vi tar ingen andel og legger ikke på noe påslag. Det er ingen stor modell å laste ned. Det fungerer likt på en fem år gammel netbook som på en ny arbeidsstasjon, fordi arbeidet skjer på serveren – og den kan svare på et spørsmål ved å søke på nettet, noe en lokal modell rett og slett ikke kan.

Kostnaden ligger i selve begrepet. Lyden din forlater maskinen din. Du trenger en aktiv tilkobling. Og du betaler per minutt – brøkdeler av en øre, men det legger seg opp, og det er meterbasert.

Den ærlige sammenstillingen

Ingen dollartall i denne tabellen med vilje. Se vår prisside for de faktiske tallene. Dette handler om formen på hvert valg.

Leser du dette fra topp til bunn, er mønsteret klart. Lokalt bytter bekvemmelighet mot personvern, offline-bruk og fast kostnad. Sky bytter personvern og meterprising mot den nyeste modellen og nettilgang. Ingen er bedre. De er gode på ulike ting.

Når sky er det rette valget

Jeg later ikke som om lokalt vinner hver gang. Det finnes reelle tilfeller der jeg ville valgt sky.

Har du gammel maskinvare eller lite RAM, er sky det snillere alternativet. En bærbar fra 2017 med 8 GB RAM vil slite med en stor lokal modell, mens skyen tar den tunge løftingen et annet sted og maskinen din bare håndterer mikrofonen. Trenger du absolutt toppkvalitet på vanskelig lyd – tunge aksenter, overlappende talere eller fagterminologi – pleier de nyeste hostede modellene å ligge hakket foran det du kan kjøre hjemme. Og vil du diktere et spørsmål og få et nettbasert svar limt inn ved markøren, krever det skyen, punktum. En lokal modell har ingen internettforbindelse å søke med.

Fellesnevneren er denne: sky er fluktveien for svak maskinvare, toppkvalitet på transkripsjon og live nettilgang.

Når lokalt er det rette valget

For de fleste, mesteparten av tiden, er lokalt det jeg ville startet med.

Dikterer du noe privat – et lønnsregneark, en e-post til barnets skole, et juridisk utkast – bør det ikke havne i en leverandørs logger bare fordi du ville skrive med stemmen. Lokalt holder den lyden på maskinen din, punktum. Jobber du på fly, tog eller på kaffebarer med tvilsom Wi-Fi, bryr lokalt seg ikke om du har dekning. Og dikterer du mye, betyr den faste kostnaden noe.

Her er en mening jeg faktisk vil stå for: prøv lokalt først, og bruk sky som fluktvei – ikke som standard. Har du en Mac med Apple Silicon eller en PC fra de siste fire årene, håndterer lokalt hverdagsdiktering med 95 % til 99 % nøyaktighet uten en server i løkken. Fall tilbake til sky når du treffer en vegg – svak maskinvare, det aller vanskeligste lydinntaket, eller behov for nettsøk. De fleste treffer aldri den veggen.

Jeg har en grunn til å være skeptisk til sky som standard. Et team jeg jobbet med lot en konsulent bygge en intern skybasert AI-dikteringsprototype som kalte API-et for hvert utsagn. En smart retry-løkke transkriberte de samme standup-opptakene fire ganger. Lederen åpnet kostnadsdashbordet ved kvartalsslutt og fant en femsifret regning. Konsulentens løsning var å optimalisere prompten. CFO-ens løsning var å slutte å betale for å transkribere møter som allerede har referat. Meterbasert sky er greit – inntil noe kjører i løkke. Lokalt har ingen måler å løpe løpsk.

Begge moduser i én app

Skillet over er reelt, men det er ikke et veiskille du forplikter deg til én gang. I appen vår sitter begge modusene bak samme hurtigtast og samme opptaksoverlay, og bryteren er ett trykk. Dikter en privat e-post lokalt om morgenen, bytt til sky for å faktasjekke noe med nettsøk på ettermiddagen, bytt tilbake. Du installerer ingenting på nytt. Du binder deg ikke til én løsning for alltid.

Det er den biten rammen «lokal vs. sky» gjerne overser. Det er ingen ideologisk krig. Det er to verktøy i samme skuff, og det rette avhenger av setningen du er i ferd med å si. Vil du sammenligne de lokale motorene med hverandre – hastighet mot språkdekning – er det en egen sak: Whisper vs Parakeet. Og om du veier oss mot en spesifikk konkurrent, superwhisper-sammenligningen tar én slik gjennomgang i detalj.

Husker du bare én ting

Lokalt for personvern, offline og fast kostnad. Sky for den nyeste modellen, svak maskinvare og nettilgang. Prøv lokalt først og hold sky som fluktveien. Det beste er å slippe å velge for alltid: én bryter, begge moduser, den som passer setningen du er i ferd med å si.