Çevrimdışı konuşmadan metne, anlatıyoruz

Çevrimdışı konuşmadan metne masaüstü uygulaması gerçekte nedir

Bir tarayıcı sekmesi değil, bir masaüstü uygulaması. İşin büyük kısmını bu ayrım yapıyor. Web tabanlı bir dikte aracı tarayıcınızda çalışır ve sesi neredeyse her zaman bir sunucuya gönderir. Gerçek bir çevrimdışı uygulama ise yerel bir yazılımdır: bir konuşma modelini belleğe yükler ve onu doğrudan makinenizdeki CPU veya GPU üzerinde çalıştırır.

Davranışı bilinçli olarak basit. Herhangi bir uygulamanın içinden (e-posta istemciniz, bir kod düzenleyici, bir Slack kutusu, bir klinik not alanı) genel bir kısayola basarsınız ve metin, imlecinizin olduğu yerde belirir; tıpkı sizin yerinize oturan hızlı bir daktilografin gibi. Ayrı bir pencereden kopyala-yapıştır yok. "Kaydınızı yükleyin" yok. Klavye gibi davranır, çünkü her uygulamanın zaten anladığı tek arayüz odur.

Whisper'da varsayılan kısayol, Windows ve Linux'ta Ctrl+Space'tir. Mac'te Command ve Option tuşlarını birlikte basılı tutar ve durdurmak için ikisinden birini bırakırsınız; bu bir geçiş tuşu değil, bas-konuş kombinasyonudur. Yeniden atayabilirsiniz; birçok kişinin yaptığı ilk şey, onu çizim uygulamasıyla ya da müzik yazılımıyla çakışan tuştan uzaklaştırmak olur. İlk sürümlerden birinde bu kısayolu sabit kodlamıştım ve sabah 2'de bununla ilgili bir e-posta aldım; bu da SSS'ye saklanacak bir hikâye.

"Nasıl" sorusunun dürüst yanıtı pek de gösterişli değil: sihir yok, sadece diskinizde bir model dosyası var. Yerel bir uygulama kurduğunuzda, birkaç yüz megabayttan birkaç gigabayta kadar eğitilmiş ağırlıklardan oluşan bir konuşma modeli indirirsiniz. O andan itibaren transkripsiyon, modelin sesiniz üzerinde yaptığı bir matematik işleminden ibarettir. Ses asla bir ağ isteğine dönüşmez. Whisper by Remskill, tüm yerel transkripsiyonunu transcribe-rs adlı saf Rust dilinde yazılmış bir kütüphane üzerinden çalıştırır; ne Python yan süreci ne de ayakta tutulması gereken ayrı bir çalışma zamanı vardır. Hissettiğiniz şey, uygulamanın hızlı açılması ve ses yolunun kısa kalmasıdır.

Bir tuşa bas, konuş, metni al — çevrimdışı döngü

İşte tüm döngü. Kısayolu basılı tutarsınız. Küçük bir katman size dinlediğini söyler. Konuşursunuz; bir cümle, bir paragraf, 600 kelimelik bir ders özeti. Tuşu bırakırsınız. Model söylediğinizi yazıya döker ve metin, sonradan aramaya gideceğiniz bir dosyaya değil, imlecinizin olduğu yere düşer. Bir dikte uygulaması ile bir dosya-transkripsiyon aracı arasındaki pratik fark budur: dikte uygulaması metni siz konuşmayı bıraktığınız an, canlı olarak yerleştirir.

Bunların hiçbiri ağa ihtiyaç duymaz. Mikrofon sesi yerel modele besler, model metni üretir ve uygulama onu sizin için yazar. Kayıt, tuşu bıraktıktan sonra kısa bir süre daha devam eder, böylece son kelime kesilmez; bu, doğru ayarlamak için itiraf etmek istediğimden daha uzun sürdüğü küçük bir ayrıntı.

Günlük e-posta ve notlar için, tuşu bırakmaktan yapıştırılan metne kadar geçen süre, güncel bir dizüstü bilgisayarda Small modelle bir iki saniyedir; düşündüğünüz cümlenin içinde kalacak kadar hızlı. İsteğe bağlı ikinci bir adım da var: Whisper bir yapay zekâ temizleme geçişi yapabilir (noktalama düzeltme, liste biçimlendirme ya da söylediğiniz bir soruya yanıt verme) ve yerel modda bu geçiş, Ollama adlı yerel bir motor üzerinden cihazda çalışır. Yani "bunu konuşma dağınıklığından çıkarıp düzgün göster" adımı bile tamamen çevrimdışı kalabilir. Bunu cümlenize "Hey whisper" diyerek başlatarak tetiklersiniz. Onu görmezden gelirseniz temiz, birebir bir transkript alırsınız. Her iki durumda da, isteğe bağlı Bulut anahtarını açmadıkça söyledikleriniz makineden ayrılmaz.

Parakeet mi, yerel Whisper mı: çevrimdışı en iyi hangi motor çalışır

Uygulamada iki yerel motor geliyor ve farklı şeylerde iyiler. Vermeniz gereken tek gerçek karar bu.

Parakeet NVIDIA'nın TDT modeli, yaklaşık 600 MB ve hızlı olanı; bir CPU'da Whisper'dan 5 ila 10 kat daha hızlı. İngilizce'ye ek olarak 24 Avrupa dilini, toplam 25 dili destekler. İngilizce'ye çeviri yapmaz ve özel sözcük dağarcığı denetimleri yoktur. Çoğunlukla İngilizce konuşuyorsanız ve hız istiyorsanız tercihiniz bu olmalı.

Whisper çok dilli iş atıdır. Çok dilli modelleri 99 dili otomatik algılamayla destekler ve hepsini İngilizce'ye çevirebilir. Aynı donanımda Parakeet'ten yavaştır ama size Çince, Japonca, Korece, özel sözcük dağarcığı ve daha ince denetim sunar. Aklınızda tutmanız gereken bir şey var: yalnızca İngilizce Whisper modelleri (.en etiketli olanlar) yalnızca İngilizce'ye kilitlenir ve 99 dil desteğini tamamen atlar. Yani "Whisper 99 dil yapar" ifadesi yalnızca çok dilli sürümler için doğrudur.

Pratik kural: İngilizce ve acele varsa Parakeet'i seçin. Çok dilli herhangi bir şey, çeviri gereken her şey için çok dilli bir Whisper modeli seçin.

Donanımınız için doğru yerel modeli seçmek

Yerel bir model RAM'e yüklenir, dolayısıyla tavanı donanımınız belirler. Çoğu kişi için iyi haber: küçük modeller fazlasıyla yeterli.

İngilizce tarafında modeller, yaklaşık 140 MB'lık Base'den, yaklaşık 480 MB'lık Small'a, yaklaşık 1,5 GB'lık Medium'a kadar uzanır. Çok dilli tarafta ise 480 MB'lık Small'dan yaklaşık 3 GB'lık Large v3'e gidersiniz. Yeni kullanıcıların başladığı model Small çok dilli modeldir ve mantıklı bir varsayılandır: her yere sığar ve günlük dikte için yeterince doğrudur.

Donanımla ilgili sıkıcı gerçek şu ki mikrofon, modelden daha çok önemli. 20 dolarlık bir USB mikrofon, doğruluk için iki model boyutu yukarı çıkmaktan daha fazlasını yapar. Bir model yükseltmesinin bulanık transkriptlerimi düzelteceğine emin bir hafta sonu geçirdim; meğer bunca zaman bulaşık makinesini de toplayan dizüstü mikrofonuymuş. 8 GB RAM'li eski bir dizüstü bilgisayardaysanız Parakeet veya bir Small model çalıştırın, yükseltme parasını mikrofona harcayın. Güncel bir Apple Silicon Mac'iniz ya da ayrık GPU'lu 16 GB'lık bir Windows makineniz varsa Large v3 dahil her model rahatça çalışır. Başlamak için GPU'ya ihtiyacınız yok: CPU'da Parakeet hızlı yoldur, çünkü tam da bunun için tasarlandı.

Hassas seslerde çevrimdışı, bulutu neden geçer

Yalnızca buluta dayalı dikte, transkribe edilmeyi bekleyen bir gizlilik felaketidir. Bunu net bir görüş olarak söyleyip sonra gerekçelendireceğim, çünkü gizlilik konusunda havada laf etmek ucuzdur.

Bir zamanlar birlikte çalıştığım bir ekip, bir yükleniciye bulut modeli üzerine dahili bir "yapay zekâ dikte" prototipi yaptırmıştı. Her ifade için, her dizüstü bilgisayarda API'yi çağırıyor ve gerildiğinde kayıtları yeniden gönderen bir "akıllı yeniden deneme" özelliği vardı. Çeyrek sonunda yönetici bulut maliyet panosunu açtı ve beş haneli bir fatura buldu; çoğu, bir ekibin günlük toplantı kayıtlarını dört kez transkribe etmesinden geliyordu. Yüklenicinin çözümü "istemi optimize etmeliyiz"di. CFO'nun çözümüyse "ya da zaten notları olan toplantıların bulut transkripsiyonu için para ödememeliyiz"di. Tek faturada iki sorun: maliyet ve o toplantıların her kelimesinin artık bir tedarikçinin günlüklerinde yaşıyor olması.

Çevrimdışı, her ikisini de çözer. Patronunuzun maaş tablosu, çocuğunuzun okuluna yazdığınız e-posta, sinyalsiz bir trende taslağını hazırladığınız hukuki dilekçe: sırf sesinizle yazmak istediğiniz için bunların hiçbiri dizüstü bilgisayarınızdan ayrılmamalı. Makinenin zaten bir mikrofonu ve işlemcisi var. Tek bir paragraf için döngüye bir sunucuya ihtiyacı yok. Çevrimdışı, Wi-Fi kapalıyken de çalışır; bulutun tanımı gereği yapamadığı bir şey.

Ne zaman bulut ya da yerleşik bir araç daha doğru tercih

İşte tek araç tanıtan sayfaların atladığı kısım. Yerel bir uygulama her zaman doğru yanıt değildir.

Önce insanların durmadan sorduğu soru: Windows konuşmadan metne işlemini çevrimdışı yapar mı? Varsayılan araç için çoğunlukla hayır. Win+H ile açılan Windows sesli yazma, Microsoft'un kendi dokümantasyonuna göre internet bağlantısı gerektirir; yani dikte bulut tabanlıdır. Voice Access adlı ayrı bir Windows 11 özelliği, dil dosyaları kurulduktan sonra çevrimdışı çalışır, ama hızlı ve uzun dikte için değil, PC'yi sesle denetlemek için yapılmıştır. Mac'te Apple'ın yerleşik Dictation'ı bazı genel metinleri cihazda işleyebilir, ama Apple'ın ifadesi temkinli: her dil için garanti değildir ve bazı dikteler hâlâ Apple'ın sunucularına gidebilir. Yani dikte ettiğiniz tek şey arada bir 30 kelimelik bir yanıtsa, yerleşik araçlar ücretsizdir ve kısa anlar için yeterlidir. Özel bir uygulama ise tek satırlık mesajlar değil, gerçek hacimde (e-postalar, notlar, belgeler) dikte etmeye başladığınızda hak ettiği yeri kazanır.

İkincisi, bulut bazı işlerde kazanır. Zorlu seste (ağır aksanlar, üst üste binen konuşmacılar, berbat mikrofon koşulları) mümkün olan en yüksek doğruluğa ihtiyacınız varsa, bir bulut modeli yerel modelden daha doğru olabilir ve yerel bir modelin asla bilemeyeceği canlı web yanıtlarını çekebilir. Whisper'ın isteğe bağlı Bulut modu, tam da bu durumlar için kendi API anahtarınız üzerinden OpenAI'yi kullanır ve yaklaşık 57 dil listeler. Ödün dürüstçesi: internet gerektirir ve sesinizi OpenAI'ye gönderir. İşiniz hassas değilse ve en iyi kaliteyle web aramayı tek yerde istiyorsanız, bulut daha iyi seçimdir; onu kullanmanızı söylerim. Sesiniz özelse ya da bağlantınız güvenilmezse, yerelde kalın.

Bir bulut dikte aracına göz koydunuz ama sesinizin makinenizde kalmasını istiyorsanız, ücretsiz Aqua Voice alternatifimiz çevrimdışı ve özel savunmayı eksiksiz yapıyor.

Çevrimdışı, çevrimiçi ya da yerleşik: hızlı bir karşılaştırma

Tercihi netleştirmek için kısa bir tablo. Ücretli dikte araçlarının daha kapsamlı dökümü, transkripsiyon yazılımı rehberimizde yer alıyor.

Whisper ilk üçünü tek uygulamada sunar: yerel hat ücretsiz, Bulut ise isteğe bağlı eklentidir. Buraya "özel ve uçakta çalışan" için geldiyseniz, ilk iki satır yanıtınız.

Bu yazıdan tek bir şey alacaksanız

Çevrimdışı konuşmadan metne, Wi-Fi gittiğinde razı olduğunuz bir ödün değil. Sesin sizin, gecikmenin kısa ve sonunda sizi bekleyen çeyreklik bir bulut faturasının olmadığı sürüm budur. Bulut hâlâ en zorlu seste ve canlı web yanıtlarında kazanır ve uygun olduğunda sizi oraya yönlendiririm. Geri kalan her şey için (e-posta, not, trendeki dilekçe) kendi diskinizdeki model yeterlidir ve bir süredir öyle.