Speech to text offline, spiegato

Cos'è davvero un'app desktop di speech to text offline

Un'app desktop, non una scheda del browser. Questa distinzione fa quasi tutto il lavoro. Uno strumento di dettatura web gira nel tuo browser e quasi sempre invia l'audio a un server. Una vera app offline è un software nativo che carica un modello vocale in memoria e lo esegue sulla tua CPU o GPU, proprio lì sulla macchina.

Il comportamento è volutamente semplice. Premi una scorciatoia globale dall'interno di qualsiasi applicazione (il tuo client di posta, un editor di codice, una casella di Slack, il campo di una cartella clinica) e la trascrizione appare dove si trova il cursore, come un dattilografo veloce che batte al posto tuo. Niente copia-incolla da una finestra separata. Nessun "carica la tua registrazione". Si comporta come la tastiera, perché è l'unica interfaccia che ogni app già conosce.

La scorciatoia predefinita in Whisper è Ctrl+Space su Windows e Linux. Su un Mac tieni premuti Command e Option insieme e rilasci uno dei due tasti per fermarti: un accordo push-to-talk, non un interruttore. Puoi rimapparla; la prima cosa che molti fanno è spostarla da qualunque combinazione vada in conflitto con la loro app di disegno o il loro software musicale. In una versione iniziale avevo cablato quella scorciatoia in modo fisso e mi sono beccato una email alle 2 di notte a riguardo, ma è una storia per le FAQ.

La versione onesta del "come" non è affascinante: non c'è magia, solo un file modello sul tuo disco. Quando installi un'app locale, scarichi un modello vocale, da qualche centinaio di megabyte a qualche gigabyte di pesi addestrati. Da quel momento, la trascrizione è un'operazione matematica che il modello esegue sul tuo audio. L'audio non diventa mai una richiesta di rete. Whisper by Remskill esegue tutta la sua trascrizione locale attraverso una libreria scritta in puro Rust chiamata transcribe-rs, senza un sidecar Python e senza un runtime separato da tenere attivo. Quello che percepisci è l'app che si avvia in fretta e il percorso dell'audio che resta breve.

Premi un tasto, parla, ottieni il testo: il ciclo offline

Ecco il ciclo completo. Tieni premuta la scorciatoia. Un piccolo overlay ti dice che sta ascoltando. Parli: una frase, un paragrafo, un riassunto di una lezione da 600 parole. Lasci andare. Il modello trascrive quello che hai detto e il testo finisce dove si trova il cursore, non in un file che poi devi andare a cercare. È questa la differenza pratica tra un'app di dettatura e uno strumento di trascrizione di file: un'app di dettatura inserisce il testo dal vivo, nell'istante in cui smetti di parlare.

Niente di tutto questo ha bisogno di una rete. Il microfono passa l'audio al modello locale, il modello produce il testo, e l'app lo scrive per te. La registrazione continua per una breve coda dopo che rilasci il tasto, così l'ultima parola non viene tagliata: una piccola cosa che mi ha richiesto più tempo per essere fatta bene di quanto vorrei ammettere.

Per la posta e gli appunti di tutti i giorni, l'andata e ritorno dal rilascio del tasto al testo incollato è di un secondo o due con un modello Small su un portatile recente: abbastanza veloce da restare nella frase che stavi pensando. C'è anche un secondo passaggio opzionale: Whisper può eseguire una passata di pulizia con l'AI (sistemando la punteggiatura, formattando un elenco o rispondendo a una domanda che hai pronunciato), e in modalità locale quella passata gira sul dispositivo attraverso un motore locale chiamato Ollama. Così anche il passaggio del "fai sembrare questo meno una chiacchierata sconnessa" può restare interamente offline. Lo attivi iniziando la frase con "Hey whisper". Ignoralo e ottieni una trascrizione pulita e parola per parola. In ogni caso, niente di quello che dici lascia la macchina, a meno che tu non attivi l'interruttore opzionale Cloud.

Parakeet o Whisper locale: quale motore funziona meglio offline

Nell'app ci sono due motori locali, e sono bravi in cose diverse. Questa è l'unica vera decisione che devi prendere.

Parakeet è il modello TDT di NVIDIA, circa 600 MB, ed è quello veloce: da 5 a 10 volte più rapido di Whisper su una CPU. Gestisce l'inglese più 24 lingue europee, 25 in totale. Non traduce in inglese e non ha controlli per il vocabolario personalizzato. Se parli soprattutto inglese e vuoi velocità, è questo il motore giusto.

Whisper è il cavallo da tiro multilingue. I suoi modelli multilingue supportano 99 lingue con rilevamento automatico e possono tradurne una qualsiasi in inglese. È più lento di Parakeet sullo stesso hardware, ma ti dà cinese, giapponese, coreano, vocabolario personalizzato e un controllo più fine. Una cosa da tenere a mente: i modelli Whisper solo-inglese (quelli contrassegnati con .en) si limitano al solo inglese e saltano del tutto il supporto alle 99 lingue. Quindi "Whisper fa 99 lingue" è vero solo per le versioni multilingue.

Regola pratica: inglese e di fretta, scegli Parakeet. Qualsiasi cosa multilingue, qualsiasi cosa ti serva tradotta, scegli un modello Whisper multilingue.

Scegliere il modello locale giusto per il tuo hardware

Un modello locale si carica nella RAM, quindi il tuo hardware fissa il tetto. La buona notizia per la maggior parte delle persone: i modelli più piccoli bastano e avanzano.

Sul versante inglese, i modelli vanno da Base a circa 140 MB, a Small a circa 480 MB, fino a Medium a circa 1,5 GB. Sul versante multilingue, si passa da Small a 480 MB fino a Large v3 a circa 3 GB. Il modello Small multilingue è quello con cui partono i nuovi utenti, ed è un'impostazione predefinita sensata: entra ovunque ed è abbastanza accurato per la dettatura di tutti i giorni.

La verità noiosa sull'hardware è che il microfono conta più del modello. Un microfono USB da 20$ fa di più per l'accuratezza che saltare di due taglie di modello. Ho passato un weekend convinto che un upgrade del modello avrebbe sistemato le mie trascrizioni confuse; era il microfono del portatile che captava la lavastoviglie per tutto il tempo. Se hai un portatile più vecchio con 8 GB di RAM, usa Parakeet o un modello Small e spendi i soldi dell'upgrade sul microfono. Se hai un Mac con Apple Silicon recente o una macchina Windows da 16 GB con una GPU dedicata, ogni modello gira comodamente, incluso Large v3. Non hai bisogno di una GPU per iniziare: Parakeet su una CPU è la via veloce perché è stato costruito apposta.

Perché l'offline batte il cloud per l'audio sensibile

La dettatura solo-cloud è un disastro per la privacy in attesa di essere trascritto. Lo dico come opinione netta e poi la sostengo, perché sbandierare la privacy a parole costa poco.

Una volta un team con cui lavoravo aveva fatto costruire da un consulente un prototipo interno di "dettatura AI" basato su un modello cloud. Chiamava l'API per ogni frase, su ogni portatile, con un "riprova intelligente" che rimandava le registrazioni quando si innervosiva. Alla fine del trimestre il manager ha aperto la dashboard dei costi cloud e ha trovato un conto a cinque cifre, gran parte del quale veniva da un solo team che trascriveva quattro volte di seguito le registrazioni degli standup. La soluzione del consulente era "dovremmo ottimizzare il prompt". La soluzione del CFO era "oppure non dovremmo pagare per la trascrizione cloud di riunioni che hanno già gli appunti". Due problemi in un solo conto: il costo, e il fatto che ogni parola di quelle riunioni ora viveva nei log di un fornitore.

L'offline risolve entrambi. Il foglio degli stipendi del tuo capo, l'email alla scuola di tuo figlio, la memoria legale che stai redigendo su un treno senza segnale: niente di tutto questo dovrebbe lasciare il tuo portatile solo perché volevi scrivere con la voce. La macchina ha già un microfono e un processore. Per un paragrafo, non le serve un server nel mezzo. L'offline funziona anche con il Wi-Fi spento, cosa che il cloud, per definizione, non può fare.

Quando il cloud o uno strumento integrato è la scelta migliore

Ecco la parte che le pagine dedicate a un singolo strumento saltano. Un'app locale non è sempre la risposta giusta.

Primo, la domanda che la gente continua a fare: Windows fa lo speech to text offline? Per lo più no, per quanto riguarda lo strumento predefinito. La digitazione vocale di Windows, che si apre con Win+H, richiede una connessione a internet secondo la documentazione stessa di Microsoft, quindi la dettatura è basata sul cloud. Una funzione separata di Windows 11 chiamata Voice Access funziona offline una volta installati i suoi file linguistici, ma è pensata per controllare il PC con la voce, non per una dettatura veloce di testi lunghi. Su un Mac, la Dettatura integrata di Apple può elaborare alcuni testi generici sul dispositivo, ma il modo in cui Apple si esprime resta cauto: non è garantito per ogni lingua, e parte della dettatura potrebbe comunque finire sui server di Apple. Quindi se tutto ciò che detti è l'occasionale risposta da 30 parole, gli strumenti integrati sono gratuiti e vanno benissimo per brevi raffiche. Un'app dedicata si guadagna il suo posto quando inizi a dettare volumi reali (email, appunti, documenti), non messaggi di una riga.

Secondo, il cloud vince per alcuni lavori. Se ti serve la massima accuratezza possibile su audio difficile (accenti marcati, voci che si accavallano, condizioni del microfono pessime), un modello cloud può essere più accurato di uno locale, e può recuperare risposte web in tempo reale che un modello locale non ha modo di conoscere. La modalità Cloud opzionale di Whisper usa OpenAI tramite la tua chiave API proprio per questi casi, con circa 57 lingue elencate. Il compromesso è quello onesto: serve internet, e invia il tuo audio a OpenAI. Se il tuo lavoro non è sensibile e vuoi la migliore qualità più la ricerca web in un unico posto, il cloud è la scelta migliore, e ti direi di usarlo. Se il tuo audio è privato o la tua connessione è inaffidabile, resta in locale.

Se hai messo gli occhi su uno strumento di dettatura cloud ma vuoi che il tuo audio resti sulla tua macchina, la nostra alternativa gratuita ad Aqua Voice espone in pieno la tesi dell'offline e della privacy.

Offline, online o integrato: un rapido confronto

Una breve tabella per chiudere la scelta. L'analisi più completa degli strumenti di dettatura a pagamento si trova nella nostra guida ai software di trascrizione.

Whisper offre i primi tre in un'unica app: la pipeline locale è gratuita, e Cloud è il componente aggiuntivo opzionale. Se sei arrivato qui per "privato e funziona in aereo", le prime due righe sono la tua risposta.

Se da qui porti via una sola cosa

Lo speech to text offline non è un compromesso a cui ti rassegni quando il Wi-Fi non c'è. È la versione in cui l'audio è tuo, la latenza è breve, e non c'è nessun conto cloud trimestrale ad aspettarti alla fine. Il cloud vince ancora per l'audio più difficile e per le risposte web in tempo reale, e ti ci indirizzerò quando è il caso. Per tutto il resto (l'email, l'appunto, la memoria sul treno) il modello sul tuo disco è sufficiente, e lo è ormai da un po'.