Whisper vs Google Speech-to-Text

Google Speech-to-Text on API, ei sovellus, jonka avaat

Tehdään ensimmäinen asia selväksi: Google Cloud Speech-to-Textillä ei ole ikkunaa. Ei kuvaketta telakassa, ei pikanäppäintä, ei "paina ja puhu". Se on palvelu, jonka kanssa ohjelmistosi keskustelee verkon yli. Lähetät sille ääntä koodilla, ja se palauttaa tekstiä. Googlen oma dokumentaatio kuvaa sitä synkronisena, striimaavana ja asynkronisena tunnistuksena, jota käytetään API:n kautta.

Tuo suunnittelu on hyvä siihen, mihin se on tarkoitettu. Striimaava tunnistus palauttaa väliaikaisia tuloksia reaaliajassa, mikä on hyödyllistä, jos rakennat live-tekstitystoimintoa tai ääniohjausta omaan tuotteeseesi. Asynkroninen tunnistus käsittelee pitkiä äänitteitä: lataat äänen, Google jauhaa sen taustalla, ja kyselet tulosta, kun se on valmis. Googlen dokumentaation mukaan tämä eräajopolku käsittelee jopa kahdeksan tunnin ääntä yhdessä työssä. Se on aito vahvuus. Jos sinulla on varastollinen tallennettuja puheluita litteroitavaksi yön yli, loppukäyttäjän saneluohjelma on väärä työkalu, ja Googlen kaltainen API on oikea.

Se tukee pitkää listaa kieliä ja alueellisia kielimuunnelmia, niitä BCP-47-koodeja, jotka insinöörit tuntevat, kuten en-US, en-GB ja es-MX. En aio painaa tähän tarkkaa kielten määrää tai minuuttihintaa, ja olisin varovainen minkä tahansa artikkelin kanssa, joka niin tekee. Googlen hinnoittelu- ja kielisivut muuttuvat, eivätkä verkossa kiertävät luvut jäljity kaikki alkuperäislähteeseen, jonka takana seisoisin. Tämän voin sanoa empimättä: se on käyttöpohjaista pilvilaskutusta. Maksat siitä, mitä lähetät, äänesi menee Googlen palvelimille, eikä ilmaista paikallista tilaa ole.

Kaksi ihmistä, kaksi eri ongelmaa

Tässä on selkein tapa, jonka olen löytänyt sen tunnistamiseen, kummalla puolella tätä rajaa olet. Kuvittele kaksi ihmistä.

Ensimmäinen on kehittäjä. Hän rakentaa asiakastukityökalua, joka muuttaa tallennetut puhelut haettavaksi tekstiksi. Litterointi tapahtuu hänen palvelimellaan, hänen koodinsa sisällä, ilman että kukaan ihminen katsoo sen ajamista. Hän haluaa päätepisteen, jolle voi lähettää ääntä, ja JSON-vastauksen, jonka voi tallentaa tietokantaan. Hän ei koskaan aio "avata" litterointiohjelmaa. Se elää sen tuotteen sisällä, jonka hän toimittaa omille asiakkailleen. Se on Google Speech-to-Textin tehtävä. API on komponentti; hänen tuotteensa on sovellus.

Toinen on kirjoittaja. Tai juristi, joka laatii tekstiä junassa, tai opiskelija, joka muuttaa luennon muistiinpanoiksi, tai vanhempi, joka vastaa opettajan sähköpostiin samalla kun sekoittaa ruokaa. Hänellä ei ole palvelinta. Hänellä on kohdistin, joka vilkkuu dokumentissa, ja hän mieluummin puhuisi kuin kirjoittaisi. Hän haluaa painaa yhtä näppäintä, sanoa lauseen ja katsoa, kun se ilmestyy tiedostoon, joka hänellä on jo auki. Hän ei koskaan aio kirjoittaa koodia, eikä hänen pidäkään. Se on meidän tehtävämme.

Hakusanan sekaannus syntyy siitä, että "Whisper" tarkoittaa kahta asiaa. Google STT on valmis pilvipalvelu. Whisper on malli, eikä malli ole sovellus. Jonkun täytyy rakentaa sovellus sen ympärille: kytkeä mikrofoni, johdottaa pikanäppäin, liittää teksti kohdistimen kohdalle. Se on se osa, jonka me teimme.

Sovelluksemme Whisper on työpöytäsanelua, ja se toimii omalla koneellasi

Whisper on puhemalli, jonka OpenAI avasi avoimeksi lähdekoodiksi. Sovelluksemme ajaa sitä paikallisesti: puhdasta Rustia, ei Python-sivuprosessia, ei palvelinta tavallisen sanelun silmukassa. Painat pikanäppäintä (oletuksena Ctrl+Space Windowsissa, täysin uudelleenmääriteltävissä), puhut, vapautat, ja teksti laskeutuu sinne, missä kohdistimesi jo on. Ei koodia. Ei API-avainta paikalliselle polulle. Ääni ei koskaan poistu kannettavalta.

Tuo viimeinen osa on koko juju, ja se on se, joka ei näy ominaisuustaulukossa.

Paikallisella tasolla valitset kahdeksasta Whisper-mallista, noin 140 megatavusta aina 3 gigatavuun asti; vaihdat latauskoon ja prosessoriajan tarkkuuteen. Neljä on viritetty englannille; neljä monikielistä kattaa laajan kirjon kieliä ja osaa kääntää puheen englanniksi samalla eleellä — minkä Googlen API ei taittele yhteen sanelupainallukseen ja minkä useimmat kuluttajatyökalut jättävät kokonaan väliin. Lisäksi on Parakeet, erillinen NVIDIA-moottori, joka on 5–10 kertaa Whisperiä nopeampi prosessorilla englannille ja 24 muulle eurooppalaiselle kielelle, ja se toimii ilman näytönohjainta.

Koko paikallinen putki on ilmainen jokaiselle sisäänkirjautuneelle käyttäjälle, eikä korttia tarvita rekisteröityessä: jokainen malli, tekoälysiivous Ollaman kautta, historia, omat hotwordit, koko paketti. Jos haluat pilvipinnan, se on Whisper Pro: OpenAI:n pilvilitterointi (gpt-4o-mini-transcribe tai gpt-4o-transcribe), tekoälysiivous pilvessä ja verkkohaku, kaikki omalla OpenAI-avaimellasi, eikä Remskill ota siitä siivua. Se on valinnaista. Oletus on paikallinen ja ilmainen.

Tylsä totuus on, että yhden saneltavan tekstikappaleen kohdalla kannettavassasi on jo mikrofoni ja prosessori. Se ei tarvitse datakeskusta.

Kustannusmallit eivät ole samanmuotoisia

Tässä vertailu lakkaa olemasta omenoiden vertaamista omenoihin. Pilvi-API laskuttaa jokaisesta äänen minuutista. Paikallinen saneluohjelma laskuttaa korkeintaan kerran.

Näin minuuttipohjaisen mallin puraisevan kerran. Tiimillä, jonka kanssa työskentelin, oli alihankkija rakentamassa sisäistä "tekoälysanelu"-prototyyppiä, joka kutsui pilvi-API:a jokaisesta lausahduksesta. Eräs "älykäs uudelleenyritys" -rutiini muuttui liian aggressiiviseksi ja litteroi samat standup-äänitteet neljään kertaan. Tiiminvetäjä avasi kustannuskojelaudan kvartaalin lopussa ja löysi viisinumeroisen laskun. Alihankkijan korjaus oli "meidän pitäisi optimoida promptia". Talousjohtajan korjaus oli "tai meidän ei pitäisi maksaa pilvilitteroinnista kokouksille, joista on jo muistiinpanot."

Tämä ei ole isku Googlen API:a vastaan. Tarkoituksenmukaisesti käytettynä, insinöörien toimesta, jotka pitävät mittaria silmällä, se on hinnoiteltu hyvin tuotantoputkille. Se on isku siitä, että maksullista pilvipalvelua käytetään johonkin, minkä paikallinen sovellus tekee ilmaiseksi. Pelkkä pilvilitterointi on yksityisyyskatastrofi, joka odottaa laskutushetkeään. Luonnossopimuksesi, palkkataulukkosi, sähköposti lapsesi kouluun — kaikki poistuvat koneeltasi, koska halusit puhua kirjoittamisen sijaan. Yksilölle, joka sanelee koko päivän, paikallinen ensin on oikea oletus, eikä mittari koskaan käynnisty.

Vierekkäin

Tässä rehellinen asettelu. Huomaa, ettei taulukko oikeastaan kerro "kumpi on parempi". Se kertoo "kumpaan kategoriaan kuulut".

Taulukossa ei tarkoituksella ole tarkkoja Google-lukuja. Muoto on se, mikä merkitsee: palvelin vs. kone, koodi vs. pikanäppäin, mittari vs. ilmainen. Jos nuo rivit osoittavat sinut API:n suuntaan, hyvä — jatka lukemista seuraavaan osioon. Jos ne osoittavat sovelluksen suuntaan, latauspainike on alhaalla.

Milloin Google Speech-to-Text on oikea työkalu

Tarttuisin Googlen API:in, en sovellukseemme, muutamassa selkeässä tapauksessa. Tämä on se osio, jonka tekoälyartikkelit ohittavat, joten tässä se on suoraan.

Jos mikä tahansa noista on sinä, sulje tämä välilehti ja avaa Googlen dokumentaatio. Me emme tee palvelinpuolta. Se ei ole valheellista vaatimattomuutta; se on eri tuote.

Milloin sovelluksemme Whisper on oikea työkalu

Kääntöpuoli. Et rakenna ohjelmistoa. Yrität lakata kirjoittamasta.

Haluat sanella sähköposteja, muistiinpanoja, viestejä, koodikommentteja, ja saada ne ilmestymään mihin tahansa sovellukseen, jossa jo olet. Mieluummin näkisit, ettei äänesi mene kenenkään palvelimille. Et halua minuuttipohjaisen mittarin käyvän samalla kun ajattelet. Haluat sen ilmaiseksi aloittamiseen, etkä halua kirjoittaa riviäkään koodia sen käyttämiseen.

Valitse Parakeet nopeuteen ja englantiin; valitse monikielinen Whisper-malli, kun tarvitset kääntämistä, harvinaisempia kieliä tai hienojakoisempaa hallintaa. Paikallinen putki ei maksa mitään; pilvitaso (OpenAI:n litterointi omalla avaimellasi) on valinnainen ja hinnoiteltu hinnoittelusivulla.

Tämän kysymyksen offline-, paikallis- ja ilmaispuolesta kirjoitin laajemmat vaihtokaupat artikkeliin paikallinen vs. pilvilitterointi. Ja jos valitset kahden toimittamamme paikallisen moottorin väliltä, Whisper vs Parakeet käy läpi nopeuden suhteessa kielikattavuuteen.

Jos muistat vain yhden asian

Google Speech-to-Text on API insinööreille; sovelluksemme Whisper on sanelua ihmisille. Sen kysyminen, kumpi on "parempi", on kuin kysyisi, onko auton moottori parempi kuin auto. Riippuu täysin siitä, rakennatko sen vai ajatko sillä.