ローカルAI（ローカルLLM）とは？ 種類・必要なPC・注意点

AI（Claude）が書き、運営者が確認して公開した記事です。分担と確かめたもの →

AIチャットは使ったことがあるけれど、「ローカルAI」「ローカルLLM」は試したことがない。そんな人向けに、自分のPCで動かす生成AIの種類と、始める前に確かめることをまとめました。

内容は、各道具・モデルの公式ドキュメント・公式リポジトリ・ライセンス原文を2026年10月5日時点で読んでまとめたものです。このサイトでは、ここに挙げた道具を実際に動かしてはいません。性能の比較やおすすめもしていません。

先に結論：モデルを自分のPCに置いて動かすAI

ローカルAIは、AIの本体であるモデル（学習を終えたAIのデータ一式）を自分のPCにダウンロードし、自分のPCの計算で動かす使い方です。文章を作るモデルはLLM（大規模言語モデル）と呼ばれるので、文章のAIを手元で動かすことを「ローカルLLM」と呼びます。

• 入力した内容を手元にとどめられる。ただし、ローカルのモデルを選んだときだけです
• 道具の多くは無料。代わりに、PCのメモリ・ストレージ・GPUを使います
• モデルごとにライセンス（使ってよい条件）が違う。同じシリーズでも、世代や大きさで商用利用の可否が変わります
• モデルや拡張機能は公式の配布元から入れる。形式によっては、読み込むだけでプログラムが実行されます

クラウドのAIチャットとの違い

クラウドのAIチャットは提供元のサーバーで、ローカルAIは自分のPCで計算します。

不利な点から書くと、ローカルAIはPCの性能と手間を求めます。Ollama（チャット型の道具）の公式ドキュメントによると、モデルは「数十〜数百GB」になりえます。保存場所の空きに注意が要ります（Ollama（Windows））。

利点は入力の扱いです。Ollama の公式FAQは「We don't see your prompts or data when you run locally.」（ローカルで動かすときは、プロンプトやデータは見えない）としています（Ollama FAQ）。人に見せたくない下書きやメモをAIに読ませたいときの選択肢になります。

⚠️ Ollama にはクラウドで動くモデルもあり、選ぶとプロンプトと応答は Ollama 側で処理されます（FAQ には、保存・記録はせず学習にも使わないとあります）。クラウド機能は設定の disable_ollama_cloud か、環境変数 OLLAMA_NO_CLOUD=1 で無効にできます（クイックスタート・FAQ）。ローカルの道具を使っていても、データが外に出ないとは限りません。

種類別の道具：チャット・画像生成・文字起こし・読み上げ

表には、道具のライセンスまで公式の資料で確かめたものだけを載せました（読み上げは道具の説明までしか確かめていません）。並びは名前のアルファベット順で、順位ではありません。対応OSとライセンスは2026年10月5日時点の公式リポジトリの記載です。

「操作」のGUIは画面のボタンで操作する形、コマンドはターミナル（文字で命令を打つ画面）で操作する形を指します。表の道具はどれも無料のオープンソース（ソースコードが公開され、ライセンスの範囲で誰でも使える形）です。ライセンスの列は道具そのものの条件で、モデルのライセンスは別です（後の章）。

チャット型：文章で頼むと文章で答える

質問への回答・要約・翻訳・下書きなど、クラウドのAIチャットと同じ種類の作業をします。

モデルは道具とは別にダウンロードします。公式リポジトリで確かめられたモデルの例は、gpt-oss（OpenAI。120b と 20b）、Llama 4（Meta。Scout と Maverick、2025年4月5日公開）、Qwen（Alibaba。Qwen3 のほか Qwen3.5・3.6・3.8）です。

画像生成：言葉から絵を作る

文字起こし：録音を文字にする

録音した音声を、外部のサービスに送らずに文字にできます。

読み上げ：文字を声にする

Piper は、公式リポジトリで「高速でローカルな音声合成エンジン」と説明され、Python の pip install piper-tts で入れる形です。声のモデルには別にライセンスがある、とリポジトリにあります。道具と声のライセンスはこのページでは確かめきれていないので、使う前にリポジトリで確認してください。

必要なPCの目安（公式の数字だけ）

参考として、このサイトの運営者の PC は Ryzen 5 3500・メモリ 64GB・GeForce RTX 3070（VRAM 8GB）・SSD 1TB です（2026年10月22日時点）。ただし、この PC でここに挙げた道具やモデルを動かした記録はありません。下の数字は、各公式ページに書かれている目安です。

• パラメータ: モデルの大きさを表す数。「8B」は80億（B＝10億）。多いほど必要なメモリが増えます
• VRAM: GPU（画像処理用の部品）に付いている専用のメモリ。PC本体のメモリ（RAM）とは別です

次の表は2026年10月5日時点の公式の数字です。快適に動く保証ではなく、各公式が示す目安や最低限です。

読み方の例です。GPU の無い RAM 16GB のPCには、VRAM（GPU のメモリ）の行は当てはまりません。whisper.cpp は最大の large でもメモリ約3.9GB で、数字の上では範囲に入ります。GiB・MiB は GB・MB とほぼ同じ大きさです（1GiB は約1.07GB）。

自分のPCの数字は、Windows は［タスクマネージャー］の［パフォーマンス］、Mac は Apple メニューの［このMacについて］で見られます。

GPU・メモリの公式仕様を見る → グラフィックカードの VRAM は、メーカーの仕様ページで製品名から引けます（例: NVIDIA GeForce の比較表の「標準メモリ構成」）。Mac は Apple サポートの仕様の一覧から機種のページを開きます（どちらも2026年10月22日に確認）。

Ollama の現行の公式ドキュメントには、モデルの大きさごとのメモリの目安は見当たりませんでした。

量子化：ファイル名の「Q4」「Q8」は小さくした度合い

llama.cpp の公式ドキュメントは、量子化を「モデルの重みの精度を下げることで、モデルを小さくし、推論を速くできる。ただし精度が多少落ちることがある」と説明しています（llama.cpp quantize）。

同じドキュメントの例では、Llama 3.1 8B が量子化なし（F16）で 14.96 GiB、Q8_0 で 7.95 GiB、Q4_K_M で 4.58 GiB です。モデル名の末尾の「Q4」「Q8」は量子化の度合いで、数字が小さいほどファイルは小さくなります。メモリが足りないPCでも、量子化版なら動かせる場合があります。

いちばん大事な注意：モデルごとにライセンスが違う

道具が無料でも、モデルにはモデルごとのライセンスがあります。次の表は、ライセンスの原文か公式リポジトリの記載を2026年10月5日時点で確かめられたものだけです（名前のアルファベット順）。条件は変わることがあります。

シリーズの名前だけで「商用OK」と判断しない

同じシリーズの中でも、ライセンスが分かれています。

• FLUX.1: [schnell] は商用利用できますが、[dev] はモデルの商用利用ができません
• FLUX.2: [klein] 4B は Apache 2.0、[klein] 9B と [dev] は非商用です
• Qwen: Qwen3 は Apache 2.0 です。Qwen3.5 以降は、公式 README が「モデルの重みと一緒に配布しているライセンスファイルを見る」よう案内しており、このページでは確かめていません
• Mistral: アーカイブ済みの公式リポジトリでは、Codestral や Mistral Large 2 などが非商用のライセンス（MNPL・MRL）です（mistral-inference）。ほかのモデルのライセンスは、このページでは確かめていません

会社やシリーズの名前で覚えると、別の世代や大きさで条件を取り違えます。ダウンロードするモデル1つずつ、配布ページのライセンスファイルを開いてください。

Llama 4 の条件

Llama 4 Community License と利用ポリシーのおもな条件です。

• Llama 4 の公開日の時点で、前の月の月間アクティブユーザーが7億を超えていたなら、Meta の別の許諾が必要
• 配布するときは「Built with Llama」を目立つように表示する
• Llama で学習・改良したモデルを配布・提供するなら、名前を「Llama」で始める
• 利用ポリシーの禁止事項を守る（違法行為、詐欺・なりすまし、出力を人間が作ったと偽ることなど）
• マルチモーダルモデル（文章と画像などを扱えるモデル）は、EU に住む個人と、EU に主たる事業所がある会社には権利が付与されない（組み込んだ製品・サービスを使うだけの最終利用者は除く）

FLUX.1 [dev] の「出力は商用利用できる」

FLUX.1 [dev] のライセンスは、対価を受け取らない個人の研究・趣味などを「非商用」とします。一方で出力は、禁止事項を除いて「商用を含むあらゆる目的」に使えると書いています。禁止事項は、出力で競合するモデルを学習すること、同意のない性的な画像などです。違法・権利侵害の内容を防ぐフィルタを入れるか、人に渡す前に出力を確認することも求めています（ライセンス原文）。

モデルのライセンスで出力の利用が認められていても、作った絵が既存の作品に似ていないかは別の問題です。当サイトの方針は「AIと著作権の考え方」にまとめています。

安全面：モデルと拡張機能は公式の配布元から

pickle 形式は、読み込むだけでコードが動くことがある

モデルの配布サイト Hugging Face の公式ドキュメントによると、pickle（Python のデータ保存形式）は読み込むときに任意のコードを実行できます。同じドキュメントは「信頼できない出どころの pickle を読み込まない」よう求め、ファイルの走査も「100%確実ではない。安全かどうかを確かめるのは利用者の責任」としています（Hugging Face のドキュメント）。

形式はファイル名の末尾（拡張子）で見分けます。選びたいのは次の2つの形式です。

• safetensors（.safetensors）: 「pickle と違って安全にテンソル（モデルの数値データ）を保存する形式」と公式が説明しています（safetensors）
• GGUF（.gguf）: llama.cpp などで使うモデルの保存形式で、1ファイルで配布できます（GGUF の仕様）

Hugging Face のドキュメントは、pickle のファイルの例に pytorch_model.bin を挙げています。この2つ以外の形式は、出どころを確かめてから開いてください。

入手先は公式の案内に従う

Ollama は ollama pull で公式のモデルライブラリから取得します。Qwen・FLUX は、Hugging Face にある開発元の公式アカウントで配布されています。同じ名前の改変版を別の人が上げていることもあるので、配布元が開発元のアカウントか、確かめてから入れてください。

拡張機能は信頼できる作者のものだけ

ComfyUI の公式ドキュメントは、カスタムノード（追加の機能）を信頼できる作者の広く使われているものだけにするよう求め、未検証のものはシステムを乗っ取られるリスクがあるとしています（カスタムノードの導入）。

Stable Diffusion web UI の起動オプション --allow-code は、画面から任意の Python コードを動かす機能を有効にします。意味が分かるまでは付けません。

⚠️ インストール手順に curl ... | sh（ダウンロードしたスクリプトをそのまま実行する形）が出てきたら、実行する前に URL が道具の公式ドメインかを確かめてください。

始める前のチェックリスト

1. やりたいことの種類を決める（チャット・画像生成・文字起こし・読み上げ）
2. 道具の対応OSとバージョンが、自分のPCに合うか確かめる
3. メモリ・GPUとVRAM・ストレージの空きを、上の公式の数字と比べる
4. ダウンロードするモデル1つずつ、ライセンスで商用利用・表示の義務・禁止事項を読む
5. 道具は公式リポジトリ、モデルは開発元の公式アカウントから入れる
6. safetensors か GGUF を選び、出どころの分からない pickle は開かない
7. 入力を手元にとどめたいなら、選んだモデルがクラウドではなくローカルで動くものか確かめる

次にやること

• AIへの頼み方に慣れていないなら、先にクラウドのAIチャットで試せます。無料プラン・学習に使わせない設定は「生成AIで何ができる？ 得意・苦手と使う前の注意点」にあります
• 頼み方の具体例は「AIで文章を校正・言い換えするプロンプト」にあります（クラウドのAIチャットでの手順）

ローカルAIは、入力を手元にとどめられる代わりに、PCの準備とライセンスの確認を自分で引き受ける使い方です。試すなら、チェックリストの1から順に公式のドキュメントを開いてください。

はじめての方へ の記事

• 生成AIで何ができる？ 得意・苦手と使う前の注意点
• AIへの頼み方の基本（効いた書き方8つ）
• AIのまちがいを見つける確かめ方
• AIに渡さない情報と、貼る前の伏せ方
• 無料と有料のAIチャット、何が違う？ 4サービスの料金と上限
• ローカルAI（ローカルLLM）とは？ 種類・必要なPC・注意点（いま読んでいる記事）