オフライン音声入力を、 わかりやすく

オフライン音声入力デスクトップアプリとは実際のところ何か

ブラウザのタブではなく、デスクトップアプリであること。この違いがほとんどすべてを決めます。Webベースの音声入力ツールはブラウザの中で動き、ほぼ必ず音声をサーバーに送ります。本物のオフラインアプリは、音声モデルをメモリに読み込み、それをマシン上のCPUやGPUで直接動かすネイティブソフトウェアです。

動作はあえてシンプルです。どんなアプリの中からでも（メールクライアント、コードエディタ、Slackの入力欄、診療記録のフィールドなど）グローバルなホットキーを押すと、カーソルのある場所に文字起こしが現れます。まるで腕のいいタイピストが代わりに入力してくれるように。別ウィンドウからのコピー＆ペーストもなければ、「録音をアップロード」もありません。キーボードのように振る舞うのは、それがどんなアプリも理解できる唯一のインターフェースだからです。

Whisperの初期設定のホットキーは、WindowsとLinuxでは Ctrl+Space です。Macでは Command と Option を同時に押し続け、どちらかのキーを離すと止まります。トグルではなく、押している間だけ話すプッシュ・トゥ・トークの組み合わせです。割り当ては変えられます。多くの人がまずやるのは、お絵かきアプリや音楽ソフトと競合するキーから外すことです。私は初期のバージョンでこのホットキーを固定してしまい、午前2時に苦情のメールをもらいました。その話はFAQで。

「どうやって」の正直な答えは、地味なものです。魔法はなく、ディスク上にあるモデルファイルがあるだけです。ローカルアプリをインストールすると、音声モデル（数百メガバイトから数ギガバイトの学習済みの重み）をダウンロードします。それ以降、文字起こしはそのモデルがあなたの音声に対して行う数学的な処理です。音声がネットワークリクエストになることはありません。Whisper by Remskillは、ローカルの文字起こしをすべて transcribe-rs という純粋なRust製ライブラリで処理します。Pythonのサイドカーもなければ、常駐させておく別のランタイムもありません。実感として伝わるのは、アプリの起動が速いことと、音声の経路が短いままであることです。

キーを押し、話し、テキストを得る — オフラインのループ

これが処理の全体像です。ホットキーを押し続けます。小さなオーバーレイが「聞いています」と知らせます。話します。一文でも、一段落でも、600語の講義の要約でも。手を離します。モデルが話した内容を文字起こしし、テキストがカーソルの位置に届きます。あとから探しに行くファイルの中ではありません。これが、音声入力アプリとファイル文字起こしツールの実用上の違いです。音声入力アプリは、話し終えた瞬間にテキストをその場で挿入します。

どれもネットワークを必要としません。マイクが音声をローカルのモデルに送り、モデルがテキストを生成し、アプリがそれをあなたの代わりに入力します。録音はキーを離したあともほんの少しだけ続くので、最後の言葉が途切れません。これは些細なことですが、正しく動かすのに自分でも認めたくないほど時間がかかりました。

日々のメールやメモなら、キーを離してからテキストが貼り付けられるまでの往復は、最近のノートパソコンでSmallモデルを使えば1〜2秒です。考えていた文の流れを保てるくらい速いです。任意のもう一段階もあります。WhisperはAIの整形パス（句読点の修正、リストの整形、話した質問への回答）を実行でき、ローカルモードではそのパスは Ollama というローカルエンジンを通じて端末内で動きます。つまり「話し言葉のだらだらした感じを直す」段階すら、完全にオフラインのままにできます。文の頭を「Hey whisper」で始めると起動します。無視すれば、きれいなそのままの文字起こしが得られます。どちらにしても、任意のクラウドのスイッチを入れない限り、話した内容がマシンの外に出ることはありません。

Parakeetかローカル版Whisperか：オフラインで一番いいエンジンはどっち

2つのローカルエンジンがアプリに同梱されていて、それぞれ得意なことが違います。これが、あなたが実際に下す必要のある唯一の本当の決断です。

Parakeet はNVIDIAのTDTモデルで、約600 MB。速い方で、CPU上ではWhisperの5〜10倍速いです。英語に加えて24のヨーロッパ言語、合計25言語に対応します。英語への翻訳はできず、カスタム語彙の制御もありません。主に英語を話していて速さが欲しいなら、これです。

Whisper は多言語の働き者です。多言語モデルは自動検出付きで99言語に対応し、そのどれでも英語に翻訳できます。同じハードウェアではParakeetより遅いですが、中国語、日本語、韓国語、カスタム語彙、そしてより細かな制御が使えます。1つはっきりさせておきたいこと。英語専用のWhisperモデル（.en と付いているもの）は英語だけに固定され、99言語対応は丸ごと省かれます。だから「Whisperは99言語に対応している」が本当なのは、多言語版だけです。

目安はこうです。英語で、急いでいるならParakeet。多言語のもの、翻訳が必要なものなら、多言語のWhisperモデルを選んでください。

自分のハードウェアに合ったローカルモデルの選び方

ローカルモデルはRAMに読み込まれるので、ハードウェアが上限を決めます。たいていの人にとって朗報なのは、小さいモデルで十分だということです。

英語側のモデルは、約140 MBのBaseから、約480 MBのSmall、約1.5 GBのMediumまであります。多言語側では、480 MBのSmallから約3 GBのLarge v3まであります。新しいユーザーが最初に使うのは多言語のSmallモデルで、これは妥当な初期設定です。どこにでも収まり、日々の音声入力には十分な精度があります。

ハードウェアについての退屈な真実は、モデルよりもマイクの方が重要だということです。20ドルのUSBマイクは、モデルのサイズを2段階上げるよりも精度に効きます。私は週末まるごと、モデルをアップグレードすれば不明瞭な文字起こしが直ると思い込んでいました。実際にはずっとノートパソコンのマイクが食洗機の音を拾っていただけでした。8 GBのRAMの古いノートパソコンを使っているなら、ParakeetかSmallモデルを動かして、アップグレード代はマイクに使ってください。最近のApple Silicon Macや、ディスクリートGPU付きの16 GBのWindowsマシンなら、Large v3を含めてどのモデルも快適に動きます。始めるのにGPUは要りません。CPU上のParakeetが速い道なのは、そのために作られたからです。

機密性の高い音声で、オフラインがクラウドに勝る理由

クラウドだけの音声入力は、文字起こしされるのを待っているプライバシーの惨事です。これは断定的な意見としてそう言い、そのあと根拠を示します。プライバシーについて手を振って済ませるのは安易ですから。

以前一緒に働いたチームが、外部の請負業者にクラウドモデルの上で社内用の「AI音声入力」の試作を作らせたことがありました。それは発話のたびにAPIを呼び、すべてのノートパソコンで動き、不安になると録音を再送する「スマートリトライ」付きでした。四半期の終わりにマネージャーがクラウド費用のダッシュボードを開くと、5桁の請求があり、その大半はあるチームがスタンドアップの録音を4回も文字起こししたものでした。請負業者の解決策は「プロンプトを最適化すべきだ」。CFOの解決策は「あるいは、すでに議事録のある会議をクラウドで文字起こしする費用を払わないこと」。1枚の請求書に2つの問題がありました。コストと、それらの会議のすべての言葉がいまベンダーのログの中に存在しているという事実です。

オフラインは両方を解決します。上司の給与スプレッドシート、子どもの学校宛てのメール、電波の入らない電車で書いている法律文書。音声でタイプしたかったというだけで、そのどれもがノートパソコンの外に出るべきではありません。マシンにはすでにマイクとプロセッサがあります。一段落のために、間にサーバーを挟む必要はありません。オフラインはWi-Fiを切っていても動きます。これは定義上、クラウドにはできないことです。

クラウドや組み込みツールの方がいい場面

ここが、単一ツールのページが飛ばす部分です。ローカルアプリがいつも正しい答えとは限りません。

まず、みんながずっと聞いてくる質問。Windowsはオフラインで音声入力できるのか？ 既定のツールに関しては、ほぼノーです。Win+H で開くWindowsの音声入力は、Microsoft自身のドキュメントによればインターネット接続が必要なので、文字起こしはクラウドベースです。Voice Accessという別のWindows 11の機能は、言語ファイルをインストールすればオフラインで動きますが、これは速い長文の音声入力ではなく、音声でPCを操作するために作られています。Macでは、Appleの組み込みのDictationは一部の一般的なテキストを端末内で処理できますが、Appleの表現は曖昧です。すべての言語で保証されるわけではなく、一部の音声入力はAppleのサーバーに送られることがあります。だから、たまに30語の返信を音声入力するだけなら、組み込みのツールは無料で、短いひと吹きには十分です。専用アプリが真価を発揮するのは、一行のメッセージではなく、本格的な量（メール、メモ、文書）を音声入力するようになってからです。

次に、いくつかの用途ではクラウドが勝ちます。難しい音声（強いなまり、話者の重なり、ひどいマイク環境）で可能な限り高い精度が必要なら、クラウドモデルはローカルより正確になり得ますし、ローカルモデルには知りようのないリアルタイムのWeb回答を引き出せます。Whisperの任意のクラウドモードは、まさにそういう場合のために、あなた自身のAPIキーを使ってOpenAIを利用し、およそ57言語に対応しています。トレードオフは正直なものです。インターネットが必要で、あなたの音声をOpenAIに送ります。仕事が機密でなく、最高の品質とWeb検索を一か所で求めるなら、クラウドの方がいい選択で、私もそれを使うようにと言うでしょう。音声が秘匿性のあるものだったり、接続が不安定だったりするなら、ローカルにとどまってください。

クラウドの音声入力ツールが気になっているけれど、音声は自分のマシンにとどめておきたいなら、 私たちの無料のAqua Voice代替が、オフラインでプライベートという主張を余すところなく示します。

オフライン、オンライン、組み込み：手早い比較

選択を決めるための短い表です。有料の音声入力ツールのより詳しい内訳は、こちらの文字起こしソフトウェアガイドにあります。

Whisperは最初の3つを1つのアプリにまとめています。ローカルパイプラインは無料で、クラウドは任意の追加機能です。「プライベートで、機内でも動く」を求めてここに来たなら、最初の2行があなたの答えです。

この記事から1つ持ち帰るなら

オフラインの音声入力は、Wi-Fiが落ちたときに仕方なく我慢するものではありません。音声があなたのもので、遅延が短く、最後に待っている四半期ごとのクラウド請求がない、そういう版です。クラウドはいまも最も難しい音声とリアルタイムのWeb回答では勝ちますし、それが合う場面ではそちらを案内します。それ以外のすべて（メール、メモ、電車での文書）には、自分のディスクにあるモデルで十分です。そしてもうしばらく前から、ずっとそうなのです。