ローカルLLMのおすすめは？Ollamaで動く18モデルを実測｜DeepSeek・Qwen・Gemma・gpt-oss【2026年11月】

モデル：Ollama の公式ライブラリの人気上位から14個と、日本製の4個を選びました（2026年11月8日）。日本製の4個は、Hugging Face の mmnga と mmnga-o が公開している GGUF 版を、Ollama の hf.co/ 経由で取得しました。量子化（モデルを小さくするために数値の精度を落とす方式）は、gpt-oss 20B が MXFP4、ほかの17個が Q4_K_M です。Ollama の qwen3:30b は思考モードだけで答える Qwen3-30B-A3B-Thinking-2507 でした。deepseek-r1:8b は DeepSeek-R1-0528-Qwen3-8B、deepseek-r1:14b は DeepSeek-R1-Distill-Qwen-14B（どちらも Qwen を元にした蒸留版）です。

digest は測定に使った計算機で ollama list を実行し、表示された ID と先頭の12桁が一致することを確かめました（2026年11月9日）。

常識問題：JGLUE の JCommonsenseQA v1.3 の検証用データ（valid、1,119問、CC BY-SA 4.0）です。指示文は「次の質問に、最も適切な選択肢の番号を1つ選んでください。番号（0〜4）だけを答えてください。」で、出力の最初の0〜4の数字を答えとしました。

算数の文章題：MGSM の日本語版（250問、CC BY-SA 4.0）です。指示文で、最後の行に「答え：」に続けて数値だけを書くよう頼み、「答え：」の後の数値（無ければ最後の数値）を答えとしました。

外国語の判定：回答に、中国語の簡体字（日本語の文字コード Shift_JIS に無く、中国語の文字コード GB2312 にある字）、韓国語のハングル、機能語（the・to・you など）を含む英単語3つ以上の連なりのどれかがあれば、外国語が混ざった回答として数えました。「Slack, Teams, Chatwork」のような製品名の並びは数えません。業務の依頼40本は次のとおりです。

1. 取引先に、納品が3日遅れることを伝えるお詫びのメールを、200字程度で書いてください。
2. 新しく入った社員向けに、社内チャットの使い方の注意点を5つ、箇条書きで書いてください。
3. 会議の日程を来週の火曜日から木曜日に変えてほしいと、上司に頼むメッセージを書いてください。
4. 生成AIを社内で使う時に、情報漏えいを防ぐための決まりを4つ挙げ、それぞれ一文で説明してください。
5. 次の文章を3行で要約してください。「当社は来月から、紙の申請書をやめて、すべての経費精算をオンラインで受け付けます。領収書は写真で提出でき、承認は上長がスマートフォンから行えます。移行期間は2か月で、その間は紙の申請も受け付けます。」
6. お客様から「注文した商品と違う色が届いた」という問い合わせが来ました。最初の返信の文面を書いてください。
7. 在宅勤務の良い点と難しい点を、それぞれ3つずつ挙げてください。
8. 小学生にも分かるように、インターネットの仕組みを150字程度で説明してください。
9. 「検討します」という返事を、相手に失礼のない形で、もう少し具体的な言い方に書き直してください。例を3つ挙げてください。
10. 新商品の発表会の案内文を、日時と場所を空欄にして書いてください。
11. 社内の勉強会で使う、自己紹介のテンプレートを作ってください。
12. 電話の取り次ぎで、担当者が不在の時の受け答えの例を書いてください。
13. 週報の書き方のコツを、新人に向けて300字程度で説明してください。
14. 顧客アンケートの自由記述を分類する時の、分類の項目の例を6つ挙げてください。
15. 飲食店の店長として、アルバイト募集の求人文を200字程度で書いてください。
16. 取引先との打ち合わせのあとに送る、お礼のメールを書いてください。
17. プロジェクトの遅れを上司に報告する時に、伝えるべき項目を順に挙げてください。
18. 次の箇条書きを、つながりのある文章に書き直してください。・売上は前年比5%増・新規顧客が増えた・既存顧客の解約も増えた・来期は解約の対策を優先する
19. パスワードを安全に管理する方法を、社員向けに分かりやすく説明してください。
20. 「なるべく早く」と言われた依頼に、期限を確かめる返信の例を書いてください。
21. 社内の備品を申請する手順を、5つの段階に分けて説明してください。
22. 初めて会う取引先との会話で使える、話題の例を5つ挙げてください。
23. 会社のホームページに載せる、会社紹介の文章を200字程度で書いてください。業種はパン屋とします。
24. クレームの電話を受けた時に、やってはいけない対応を4つ挙げてください。
25. 議事録を書く時に、必ず残すべき項目を挙げてください。
26. 部下に仕事を任せる時の伝え方のポイントを3つ、理由とあわせて書いてください。
27. 梅雨の時期に、店舗の売り場で気をつけることを挙げてください。
28. 次のメールの文面を、より丁寧な言い方に直してください。「明日の会議、資料まだですか？早めに送ってください。」
29. 新しい業務システムを導入する時に、現場の反対を減らす進め方を説明してください。
30. 年末の挨拶のメールを、取引先向けに書いてください。
31. 社員旅行の行き先を決めるアンケートの質問を5つ作ってください。
32. Excelの表を共有する時に、よくある失敗と防ぎ方を3つずつ書いてください。
33. 介護施設の職員向けに、夜勤の引き継ぎで伝えるべきことを挙げてください。
34. 採用面接で、応募者に最初にかける言葉の例を3つ書いてください。
35. 商品の値上げをお客様に伝えるお知らせの文章を書いてください。
36. 社内の会議を短くするための工夫を5つ挙げてください。
37. 工場の安全標語を5つ作ってください。
38. 地方の観光案内所で、外国から来たお客様に地域を紹介する日本語の文を書いてください。
39. 新年度の目標を立てる時の考え方を、300字程度で説明してください。
40. 退職する同僚に贈るメッセージカードの文を3つ考えてください。

生成の設定：温度0（毎回もっとも確からしい語を選ぶ設定）、シード値42で、正答率は同じ手順で2回測っています。思考モードを持つモデルは、思考モードをオフにして測りました。

次の5つは、思考モードで答えさせました。Qwen3 30B-A3B Thinking-2507 と Qwen3-Swallow 8B は、思考モードをオフにできません。DeepSeek-R1 の2つは、オフにしても考える過程を書き続けました。gpt-oss 20B は思考の量を最小（low）にしました。

この5つは、コンテキスト長を8,192トークンにし、出力の上限を常識問題で4,096トークン、算数の文章題と業務の依頼で6,144トークンにしました。ほかのモデルは、コンテキスト長4,096トークン、出力の上限は常識問題64、算数の文章題1,024、業務の依頼800トークンです。

LLM-jp-4 8B：Ollama で取得したままでは、回答が何も返ってきませんでした。会話の書式が gpt-oss と同じ形式で、最初に出す記号が、Ollama が出力を止める合図の文字列に当たるためです。モデル本来の書式で依頼を送って測りました。

GPU のメモリと速さ：1モデルずつ読み込み、GPU のメモリの使用量の増加分を nvidia-smi（GPU の状態を表示する NVIDIA の道具）で測りました。Ollama の /api/ps が示す値は使っていません。Gemma 4 の2つでは1.1GB と、ollama list が示すモデルのファイルの大きさ（8.0GB と 18GB）より小さく出ました。ほかの16モデルでも、nvidia-smi で測った値より0.6〜1.8GB小さく出ました。速さは5本の依頼に回答した時の、出力のトークン毎秒の中央値です。

実行環境：Ollama 0.40.15（Docker）、NVIDIA H200 1基。正答率の測定は8本を同時に処理し、GPU のメモリと速さは1本ずつ処理しました。