分単位課金のSaaSはもうやめた。Mチップ搭載Macを完全オフラインの音声文字起こしワークステーションに変えた話

先日、あるクライアントから2時間以上にも及ぶ深いインタビュー録音の文字起こしと振り返り作業を依頼されました。その際、クライアントから強く念を押されたのが「録音には内部機密が含まれているため、パブリッククラウドやサードパーティのSaaSには絶対にアップロードしないこと」という条件でした。

この一言で、私が普段愛用しているオンラインの文字起こしツール（OtterやAPIの直接呼び出しなど）はすべて使えなくなってしまいました。

数ギガバイトにもなる音声ファイルをどうにかして処理するため、私はローカル環境でのデプロイ手法を必死に模索し始めました。最初は定番の faster-whisper を試したのですが、MacのGPUを全くうまく使ってくれないことに気づきました。CPUばかりを消耗し、ファンは爆音を立てて回り、キーボードを叩き割りたくなるほど遅かったのです。

その後、Appleの開発者ドキュメントを漁っているうちに、Apple純正の機械学習フレームワークである MLX に目が止まりました。Mチップの驚異的なユニファイドメモリ・アーキテクチャは、まさに大規模モデルを動かすために作られたようなものです。なぜ私は今まで、分単位で課金されるAPIに無駄金を払っていたのでしょうか？

環境構築からモデルの変換、C++依存関係のコンパイルまで、数え切れないほどの壁にぶつかりながらも、ついにMac上で信じられないほど快適に動く、完全オフラインのデスクトップ環境を作り上げることに成功しました。MLX-Whisperを使って英語や多言語の文字起こし速度を限界まで引き上げただけでなく、高精度な中国語処理のためにAlibabaのオープンソースエンジン「Paraformer」を無理やり組み込み、ついには「話者分離（誰が話したかを識別する機能）」まで実装してしまいました。

実際に動かしてみた感想は、「圧倒的ストレスフリー」の一言に尽きます。

2時間のM4A会議音声をそのままドラッグ＆ドロップし、Wi-Fiを切断した状態でも、M2チップのGPUが瞬時にフル稼働し、ものの数分で話者ラベル付きの完璧なテキストを出力してくれます。100%オフラインで動作するため、音声ファイルもテキストデータもローカルのハードディスク内に完全に閉じ込められており、クライアントの厳しいプライバシー要件も完璧にクリアしました。

もしあなたが今でも文字起こしツールに毎月数千円のサブスク代を払っていたり、私のようにデータプライバシーに極めて厳しい案件を抱えていたりするなら、机の上に置かれているMチップ搭載Macの性能を限界まで使い切ることを強くおすすめします。ちなみに、後日この自分用のローカルコアを「開けてすぐ使える」ツールとしてパッケージ化し、freeaudiototext.com に公開しておきました。ターミナルでのコード入力や環境構築のエラーに頭を悩ませたくない方は、ぜひそこからMacオフライン版を手に入れてみてください。

ただAPIをラップしただけのサービスに無駄なお金を払うのはもうやめましょう。あなたのMacはそれ自体がモンスター級のスペックを持っているのですから、フルに活用すべきです。