クラウドのAPIを使わず、自分のPCの中だけでLLMを動かす「ローカルLLM」への関心が高まっている。インターネット接続なしで使える、データが外部に送信されない、API利用料がかからないといった利点から、個人開発者だけでなく企業の検証環境でも採用が広がっている。ここではOllamaとLM Studioという2つの代表的なツールを紹介する。

Ollamaはコマンドライン中心のシンプルさが魅力

Ollamaはターミナルからコマンド一つでモデルをダウンロードし、すぐに対話を始められる手軽さが特徴だ。バックグラウンドでAPIサーバーとしても動作するため、自作アプリからローカルLLMを呼び出す開発用途にも向いている。モデルの切り替えもコマンド一つで行えるため、複数のモデルを比較検証したいエンジニアに支持されている。

LM Studioはグラフィカルな操作性が魅力

LM Studioはグラフィカルなインターフェースを備えており、モデルの検索・ダウンロード・チャットまでをマウス操作だけで完結できる。コマンドライン操作に慣れていない人でも直感的に扱えるため、初めてローカルLLMに触れる人にはLM Studioから始めるのがおすすめだ。

必要なPCスペックの目安

軽量なモデル（70億パラメータ前後）であれば、メモリ16GB程度のノートPCでも実用的な速度で動作する。より高精度な回答を求めて中規模モデル（300億〜700億パラメータ）を動かす場合は、メモリ32GB以上、可能であればGPU（VRAM12GB以上）を搭載した環境が推奨される。GPUがない環境でもCPUだけで動作させることは可能だが、応答速度はかなり遅くなる点は理解しておきたい。

初心者におすすめのモデル

日本語の性能と動作の軽さのバランスが良いモデルとして、パラメータ数70億〜80億クラスのオープンモデルから試すのが定番だ。まずは軽量モデルで動作確認をし、PCスペックに余裕があれば徐々に大きなモデルへ試していくという段階的な進め方が挫折しにくい。

まとめ

ローカルLLMはクラウドAPIに比べて性能面で劣る場面もあるが、プライバシーとコストの両面でメリットが大きい。まずはOllamaかLM Studioのどちらかをインストールし、軽量モデルで試してみることから始めるとよい。

用途を見極めて併用する

すべての作業をローカルLLMに置き換える必要はなく、機密性の高い文書処理や、通信環境が不安定な場所での作業にはローカルLLM、複雑な推論や最新知識が必要な場面ではクラウドAPIというように、用途に応じて使い分けるのが現実的だ。両方を試したうえで、自分の作業スタイルに合った比率を見つけていくとよい。