[{"data":1,"prerenderedAt":1949},["ShallowReactive",2],{"knowledge:ja:\u002Fknowledge\u002Fai\u002Fllm\u002Flocal-llm-landscape-2026":3,"knowledge-locales:\u002Fknowledge\u002Fai\u002Fllm\u002Flocal-llm-landscape-2026":1948},{"id":4,"title":5,"appliesTo":6,"body":18,"description":1931,"extension":1932,"meta":1933,"navigation":1934,"path":1935,"publishedAt":1936,"seo":1937,"status":1938,"stem":1939,"tags":1940,"technologies":1944,"updatedAt":1946,"__hash__":1947},"knowledge_ja\u002Fknowledge\u002Fai\u002Fllm\u002Flocal-llm-landscape-2026.md","2026年時点の主要なローカルLLM",[7,8,9,10,11,12,13,14,15,16,17],"Qwen3.8-Flash-Nextのライセンス要約訂正・Ollama RCのMLX保持メモリは2026-10-13 JST確認","Ollama v0.40.3・Bonsai Hadamard対応・Gemma 4 OpenCL decodeは2026-10-12 JST確認","LLM-jp-4.1・Linuxロードピーク・MLX判断モデルは2026-10-11確認","MoE GPU cache・Ollama変換時のディスクと復旧は2026-10-11確認","K2 HorizonのTensor Parallel・ML Driftの公開基盤は2026-10-11確認","Ollama v0.40.0の非プレリリース提供・K2 Horizonの本流対応と量子化配布は2026-10-07確認","Portable ComputerのWindows対応・Splash・Qwenのindexerメモリは2026-10-04確認","MiMo-V2.6-Distill-Qwen-9B・GGUF packed推論・Ollama MLXは2026-09-29確認","Spark-X2.5・Bonsai 2・Edge0・Iris-miniは2026-09-18確認","2026-09-01時点の公開情報","K2 Horizon・NVIDIA PAIRは2026-09-06確認",{"type":19,"value":20,"toc":1895},"minimark",[21,25,29,32,35,38,41,102,106,109,112,138,141,145,150,161,182,185,193,196,204,208,222,225,229,238,241,244,247,250,482,486,494,581,584,592,596,617,632,635,643,646,649,670,673,698,717,726,729,759,763,771,774,777,780,783,787,795,803,816,831,834,843,847,855,858,861,864,867,870,873,881,890,893,906,925,928,932,940,943,946,949,958,961,964,973,992,1006,1009,1014,1040,1062,1066,1074,1077,1110,1113,1121,1135,1138,1141,1174,1204,1208,1217,1220,1223,1226,1234,1237,1240,1247,1250,1253,1257,1265,1268,1271,1275,1284,1292,1317,1331,1351,1382,1402,1405,1408,1491,1494,1497,1515,1530,1551,1554,1557,1574,1577,1581,1584,1587,1595,1601,1604,1607,1610,1613,1616,1619,1636,1639,1662,1665],[22,23,24],"h2",{"id":24},"概要",[26,27,28],"p",{},"ローカルLLMは、PCでチャットを動かすだけでなく、検索やプログラムなどの外部機能を呼び出す能力（Tool Use）や、目標に向けて複数の作業を進める仕組み（Agent）の基盤としても使われ始めています。Meta、Liquid AI、NVIDIA、Ornith、Qwen、Google、OpenAI、Mistralからはローカル実行やモデルデータの公開を意識した製品が登場し、PerplexityはモデルとAgentの実行環境を一体でローカルへ置く製品を公開しました。",[26,30,31],{},"この記事では、2026年9月1日時点の主要なモデルを紹介し、モデルデータを小さくして必要メモリを減らす方法（量子化）や、一度に参照できる文章量（Context Length）などの情報をどう読めばよいか整理します。モデルだけでなく、Tool、Context管理、Sandboxを組み合わせるAgent実行環境も含め、選定前の全体像を扱います。",[26,33,34],{},"2026年9月6日に一次資料を確認し、K2 HorizonとNVIDIA PAIRを追加しました。既存項目は各記述の情報日を維持しており、今回すべてを再検証したものではありません。",[26,36,37],{},"2026年9月18日にSpark-X2.5、Bonsai 2、Edge0、Iris-miniの一次資料を確認しました。小型Agent候補、低ビット圧縮、SSDからのExpert読み込み、Harnessに依存する評価を追加し、既存項目すべての再検証とは区別します。",[22,39,40],{"id":40},"結論",[42,43,44,48,51,54,57,60,63,66,69,72,75,78,81,84,87,90,93,96,99],"ul",{},[45,46,47],"li",{},"10月13日の確認では、Flash-Nextの既存ライセンス要約を訂正し、Ollama RCのMLX保持メモリ修正を追加しました。商用利用条件、論理cache量、実確保メモリを分け、既存項目の情報日は維持します。",[45,49,50],{},"10月12日の確認では、Ollamaのバックグラウンド変換停止、Bonsaiのdev Q2_0向けHadamard本流対応、Gemma 4の条件付きOpenCL decode対応を確認しました。評価経路の変更であり、品質や必要メモリの実測ではありません。",[45,52,53],{},"10月11日の確認では、LLM-jp-4.1を日本語Agentの研究用候補へ追加し、K2 HorizonのTensor Parallel再有効化とMLX判断モデル対応を確認しました。MoE cache、ロード時Buffer、ディスク変換、ML Driftは、それぞれ異なる資源・実行経路の変更です。容量の小ささや対応追加を日本語品質、総メモリ削減、ゲーム同居性能の保証にはしません。",[45,55,56],{},"10月7日の追加確認では、Ollama v0.40.0のMLX経路を非プレリリース版で評価でき、K2 Horizonもllama.cpp本流と公式量子化GGUFを組み合わせる候補になりました。対応版・モデル・Contextを固定し、提供状態と実測性能を分けます。",[45,58,59],{},"9月29日の追加確認では、MiMo-V2.6-Distill-Qwen-9BをAgent候補に加えました。TransformersのGGUF packed推論とOllamaのMLX自動選択は、対応環境・Versionを限定して評価します。既存項目すべての再検証ではありません。",[45,61,62],{},"Spark-X2.5は小型Agentの比較候補です。Bonsai 2は重みを圧縮し、Edge0はSSDからExpertを読み込むため、容量とメモリの数値を同列に扱いません。Iris-miniはモデルとHarnessを一体で評価する必要性を示します。",[45,64,65],{},"K2 Horizon 3.7B \u002F 7Bは小型ローカルAgentの新しい比較候補です。開発元のBenchmarkはNPC品質や一般PCでの応答速度を示しません。",[45,67,68],{},"NVIDIA PAIRは独立した要求を複数PCへ振り分け、VRAMを統合せずに同時処理の選択肢を増やします。",[45,70,71],{},"ローカルLLMは、会話だけでなく、途中の手順を考えて答える能力（Reasoning）、Tool Use、画像の読み取り、長時間の作業を競う段階へ進んでいます。",[45,73,74],{},"MetaのMuse Glimmerは、一般向けのPC上で複数の作業を進める用途を明示した点が特徴です。",[45,76,77],{},"Liquid AIのLFM2.5-2.6Bは、約1.59GBの公式4bitモデルとTool Use向けの学習により、オンデバイスAgentの小型候補になっています。QADとDSparkは、量子化による品質低下と生成速度を別々に改善する仕組みです。",[45,79,80],{},"NVIDIAのNemotron 3.5 Lightningは、複雑な計画を担う大型モデルと、Tool Useなどを繰り返す実行モデルを分ける設計を明確にしています。",[45,82,83],{},"Ornith 1.5 9Bは、Tool CallingとAgentic Codingを重視し、公式Q4_K_Mが5.63GBのため、8GB級GPUでも検証候補に入る小型モデルです。ただし、この容量はWeightだけを示します。",[45,85,86],{},"Qwen3.8-Flash-Nextは、Qwen4に先行する効率化の方向を示しました。ただし、1トークン当たり約60億を使うことと、約60億規模のPC向けモデルであることは別です。",[45,88,89],{},"MistralのMinistral 3 3Bは、256K Context、Structured Output、Function Callingを備えた小型Edge候補です。",[45,91,92],{},"モデルだけでなく実行ソフトウェアの対応状況も実用性を変えます。LM Studio 0.4.22ではDFlash、DSpark、MTPのAssistant Drafterが利用可能になりました。",[45,94,95],{},"Perplexity Portable Computerは、モデル、Context管理、Tool、Scheduler、Sandboxを一体で設計することで、同じモデルでもAgentの結果が変わることを示す実装例です。",[45,97,98],{},"モデル名やパラメータ数だけでは、必要メモリ、速度、品質を判断できません。",[45,100,101],{},"最適なモデルは用途と実行環境で変わるため、候補を絞った後は同じ課題と同じハードウェアで比較します。",[22,103,105],{"id":104},"ローカルllmで起きている変化","ローカルLLMで起きている変化",[26,107,108],{},"従来は、量子化した小型モデルが手元のPCで起動し、自然な文章を生成できること自体が注目されていました。",[26,110,111],{},"現在は、次の機能をローカル環境でどこまで扱えるかが重要になっています。",[42,113,114,117,120,123,126,129,132,135],{},[45,115,116],{},"Reasoning",[45,118,119],{},"Tool Use",[45,121,122],{},"Tool Useに失敗したとき、結果を見てやり直す",[45,124,125],{},"文章に加えて画像や動画を読み取る",[45,127,128],{},"長い文章や過去のやり取りを参照する",[45,130,131],{},"タスクに応じて、Reasoning量と応答速度のバランスを変える",[45,133,134],{},"複数の作業を続けるため、回答をより速く生成する",[45,136,137],{},"複雑な計画と、Tool Useなどの反復的な実行を異なるモデルへ分担する",[26,139,140],{},"モデル単体だけでなく、データの圧縮方法、モデルを動かすソフトウェア、回答を速く生成する仕組み、ContextとToolを管理するHarnessまで含めた実行環境全体で比較する必要があります。",[22,142,144],{"id":143},"モデルとharnessを一体で評価する","モデルとHarnessを一体で評価する",[146,147,149],"h3",{"id":148},"portable-computerはモデルと実行環境を一体で設計する","Portable Computerはモデルと実行環境を一体で設計する",[26,151,152,153,160],{},"Perplexityの",[154,155,159],"a",{"href":156,"rel":157},"https:\u002F\u002Fwww.perplexity.ai\u002Fuk\u002Fhub\u002Fblog\u002Fintroducing-portable-computer-for-local-first-ai",[158],"nofollow","Portable Computer","は、2026年8月25日に公開されたローカル優先のAgent実行環境です。初期提供では、NVIDIA DGX Spark上でQwen 3.8 27Bまたは、それをAgent用途向けに追加学習したPPLX 27Bを使用します。ProとMaxの利用者向けにLinux版が提供され、NVIDIA RTX GPU搭載PCとWindowsへの対応は、この初期発表では今後の予定でした。",[26,162,163,164,169,170,175,176,181],{},"2026年10月4日確認。",[154,165,168],{"href":166,"rel":167},"https:\u002F\u002Fblogs.nvidia.com\u002Fblog\u002Flocal-ai-perplexity-windows-pcs\u002F",[158],"NVIDIAの9月14日発表","では、24GB以上のVRAMを持つ対応GeForce RTX／RTX PRO向けWindows版が提供されています。",[154,171,174],{"href":172,"rel":173},"https:\u002F\u002Fnewsroom.amd.com\u002Fnews\u002Famd-perplexity-agentic-pcs\u002F",[158],"AMDの9月24日発表","では、Ryzen AI Haloを含む対応Ryzen AI Max環境へ拡大しました。",[154,177,180],{"href":178,"rel":179},"https:\u002F\u002Fwww.perplexity.ai\u002Fen-GB\u002Fhub\u002Fproducts\u002Fportable-computer",[158],"現行製品ページ","はPro／Max契約を案内しています。評価できる機材の選択肢は増えましたが、当方の日本語品質、応答時間、ゲーム同居性能の検証は未実施です。製品で使えることはCheckpointの再配布許可を意味しません。",[26,183,184],{},"特徴は、モデルだけをローカルで動かすのではないことです。Orchestrator、Planner、Tool Router、Scheduler、永続Task Queue、Local Search Indexも端末上で実行します。通常の処理とファイルはローカルに保ち、Web検索、接続サービス、より強いクラウドモデルが必要になった場合だけ、ユーザーの許可を得て端末外へ処理を移します。ローカルモデルが処理した範囲は、クラウド推論の利用枠を消費しません。",[26,186,152,187,192],{},[154,188,191],{"href":189,"rel":190},"https:\u002F\u002Fwww.perplexity.ai\u002Fuk\u002Fhub\u002Fblog\u002Fa-local-first-agent-for-private-and-cost-effective-knowledge-work",[158],"技術解説","では、決定的なプログラムであるOrchestratorがContext、実行Loop、権限を管理し、LLMは次の行動を提案します。ToolはOS LevelのSandbox内で実行され、Sandboxが利用できない場合は、隔離なしで実行せずHarness自体を停止します。クラウドのAdvisorは承認されたContextだけを受け取り、端末上のファイルやToolを直接操作できません。",[26,194,195],{},"Perplexity自身が作成した53件のLocal Knowledge Work Benchでは、すべてNVIDIA DGX Spark上でQwen 3.8 27Bを使った場合、Portable ComputerのHarnessは82.6%、Piは77.6%、Hermesは74.0%でした。PPLX 27BとPortable Computerを組み合わせると85.4%と報告されています。各課題は3回評価されています。これは、同じモデルでもHarness設計が結果へ影響することを示す開発元評価ですが、非公開の社内Benchmarkであり、他の用途やハードウェアで同じ差が出ることを保証しません。",[26,197,152,198,203],{},[154,199,202],{"href":200,"rel":201},"https:\u002F\u002Fhuggingface.co\u002Fperplexity-ai\u002Fpplx-computer-qwen-3-8-27b-dflash2-20260824",[158],"PPLX系Checkpoint配布ページ","では、NVFP4、FP8 KV Cache、DFlash2を使うDGX Spark向けの構成が公開されています。ただし、配布ページのライセンス表示は「other」で、再配布や商用製品への組み込み条件を確認できません。Portable Computerで利用できることと、Checkpointを別の製品へ再配布できることは分けて判断します。",[146,205,207],{"id":206},"iris-miniはcontext管理まで含めて評価する例","Iris-miniはContext管理まで含めて評価する例",[26,209,210,211,216,217,221],{},"2026年9月18日確認。",[154,212,215],{"href":213,"rel":214},"https:\u002F\u002Fhuggingface.co\u002FAllSpark-Research\u002FIris-mini",[158],"Iris-mini","はQwen3.6-35B-A3Bを追加学習した検索Agentで、総35B・Active 3B、256K Contextを持ちます。開発元のBrowseComp評価はContext管理なしで64.7、入力が閾値を超えたら会話を冒頭の質問へ戻す",[218,219,220],"code",{},"discard-all","で82.2です。独立した再現実験ではありません。他モデルとの比較表は各BaselineのHarness条件が異なるため、同条件の順位とは扱いません。",[26,223,224],{},"重視するのは、モデル、検索Tool、Context管理を一体で評価する点です。Active規模から全Weightの必要メモリは決まらず、モデルのローカル実行は外部Web検索のオフライン化も意味しません。Research Agentの候補であり、NPC品質の証拠ではありません。",[22,226,228],{"id":227},"複数pcへ推論要求を振り分けるnvidia-pair","複数PCへ推論要求を振り分けるNVIDIA PAIR",[26,230,231,232,237],{},"2026年9月6日確認。",[154,233,236],{"href":234,"rel":235},"https:\u002F\u002Fgithub.com\u002FNVIDIA\u002FPersonal-AI-Router",[158],"NVIDIA PAIR","は、同じLAN上の対応PCへ独立した推論要求を振り分けるBeta版の実行基盤です。Ollama互換・OpenAI互換の入口を提供し、実行環境、モデルの配置、現在の負荷に応じて処理先を選びます。",[26,239,240],{},"各要求は1台で完結します。GPUメモリの統合、一つのモデルの複数PCへの分割、処理中の要求の分割は行いません。複数Agentの同時実行を検討する際の候補であり、単一要求が高速化することを示すものではありません。全体の完了時間とQueue待ちを、単一要求の応答時間とは分けて評価します。",[22,242,243],{"id":243},"主要なモデル",[26,245,246],{},"以下は網羅的なランキングではありません。2026年時点のローカルLLMを理解するうえで、異なる方向性を示している代表例です。",[26,248,249],{},"公開日は、この記事で扱うモデルまたは主要な派生技術が公式に公開された日です。配布リポジトリの最終更新日時ではありません。公式資料で日付まで確認できない場合は月単位で記載しています。",[251,252,253,275],"table",{},[254,255,256],"thead",{},[257,258,259,263,266,269,272],"tr",{},[260,261,262],"th",{},"開発元",[260,264,265],{},"モデル",[260,267,268],{},"公式公開日",[260,270,271],{},"主な特徴",[260,273,274],{},"選定時の注意",[276,277,278,296,313,330,347,364,381,398,415,432,449,466],"tbody",{},[257,279,280,284,287,290,293],{},[281,282,283],"td",{},"Meta",[281,285,286],{},"Muse Glimmer 30B",[281,288,289],{},"2026-08-10",[281,291,292],{},"Agent、Tool Use、失敗時の再試行、画像入力、生成の高速化",[281,294,295],{},"量子化したモデル以外にも、過去の入力を一時保持する領域などが必要",[257,297,298,301,304,307,310],{},[281,299,300],{},"XHToken",[281,302,303],{},"Spark-X2.5 4B \u002F 1.7B",[281,305,306],{},"2026-09-01",[281,308,309],{},"小型Agent、Tool Calling、最大1M Context",[281,311,312],{},"公称評価はThinking有効時。実行環境と用途別の応答時間を検証",[257,314,315,318,321,324,327],{},[281,316,317],{},"IFM",[281,319,320],{},"K2 Horizon 3.7B \u002F 7B",[281,322,323],{},"2026-09-03",[281,325,326],{},"Dense、512K Context、Coding・Agent課題の評価",[281,328,329],{},"Core規模の表記。ランタイム対応、日本語品質、応答時間を検証",[257,331,332,335,338,341,344],{},[281,333,334],{},"NII \u002F LLM-jp",[281,336,337],{},"LLM-jp-4.1 8B",[281,339,340],{},"2026-09-28",[281,342,343],{},"日本語向け研究モデル、Tool Calling、65,536 Context",[281,345,346],{},"直接の本番利用を想定せず、ParserとTemplateを固定",[257,348,349,352,355,358,361],{},[281,350,351],{},"Liquid AI",[281,353,354],{},"LFM2.5-2.6B",[281,356,357],{},"2026-08-04（本体）\u002F 08-19（QAD）\u002F 08-20（DSpark）",[281,359,360],{},"小型のオンデバイスAgent、Tool Use、128K Context、QAD、DSpark",[281,362,363],{},"公称の品質・速度は特定条件の評価であり、QADとDSparkの効果は分けて測る",[257,365,366,369,372,375,378],{},[281,367,368],{},"NVIDIA",[281,370,371],{},"Nemotron 3.5 Lightning 30B-A3B",[281,373,374],{},"2026-08-11",[281,376,377],{},"Tool Use、結果確認などを高頻度に行うAgentの実行層、Reasoning",[281,379,380],{},"一度に使う部分は約30億でも、モデル全体は約300億のデータを保持する",[257,382,383,386,389,392,395],{},[281,384,385],{},"Ornith",[281,387,388],{},"Ornith 1.5 9B \u002F 35B-A3B",[281,390,391],{},"2026-08（1.5。公式発表は月単位）",[281,393,394],{},"Tool Calling、Agentic Coding、Reasoning、262,144トークン",[281,396,397],{},"開発元評価はコード・Terminal課題であり、NPC性能や実機速度を示さない",[257,399,400,403,406,409,412],{},[281,401,402],{},"Qwen",[281,404,405],{},"Qwen3.8-27B \u002F Flash-Next",[281,407,408],{},"2026-08-14（27B）\u002F 08-26（Flash-Next）",[281,410,411],{},"Denseな27Bと、Qwen4を先行検証する125B-A6B MoE",[281,413,414],{},"Flash-Nextは約60億だけを使っても、全Weightの保持量は大きい",[257,416,417,420,423,426,429],{},[281,418,419],{},"Google",[281,421,422],{},"Gemma 4",[281,424,425],{},"2026-03-31（主要4構成）\u002F 06-03（12B）",[281,427,428],{},"小型端末向けからPC向けまで、規模と内部構造が異なる複数のモデルを展開",[281,430,431],{},"ファミリー名ではなく、実際に使用するモデルごとに評価する",[257,433,434,437,440,443,446],{},[281,435,436],{},"OpenAI",[281,438,439],{},"gpt-oss-20b \u002F 120b",[281,441,442],{},"2025-08-05",[281,444,445],{},"モデルデータが公開された、Reasoningを強化したモデル",[281,447,448],{},"OpenAI APIで提供されるクラウドモデルとは、実行方法と運用責任が異なる",[257,450,451,454,457,460,463],{},[281,452,453],{},"Mistral",[281,455,456],{},"Ministral 3 3B",[281,458,459],{},"2025-12-02",[281,461,462],{},"小型Edge向け、文章・画像入力、256K Context、Function Calling",[281,464,465],{},"小型でも、用途ごとの言語品質とTool Use成功率は別途検証する",[257,467,468,470,473,476,479],{},[281,469,453],{},[281,471,472],{},"Mistral Small 4",[281,474,475],{},"2026-03-16",[281,477,478],{},"Reasoning、コード作成、Agent、画像入力を一つにまとめる",[281,480,481],{},"一度の処理で使う部分が小さくても、モデル全体を保持するメモリは別途必要",[146,483,485],{"id":484},"mimo-v26-distill-qwen-9b","MiMo-V2.6-Distill-Qwen-9B",[26,487,488,489,493],{},"2026年9月29日確認。Xiaomiの",[154,490,485],{"href":491,"rel":492},"https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-V2.6-Distill-Qwen-9B",[158],"は、Qwen3.5-9BへMiMo生成データで教師あり追加学習を行ったAgentモデルです。Coding、Tool Use、複数段階の作業を評価する候補として加えます。",[251,495,496,512],{},[254,497,498],{},[257,499,500,503,506,509],{},[260,501,502],{},"Xiaomiの評価",[260,504,505],{},"指標",[260,507,508],{},"元のQwen3.5-9B",[260,510,511],{},"MiMo派生",[276,513,514,528,541,555,568],{},[257,515,516,519,522,525],{},[281,517,518],{},"SWE-bench Verified",[281,520,521],{},"avg@3",[281,523,524],{},"60.0",[281,526,527],{},"61.1",[257,529,530,533,535,538],{},[281,531,532],{},"SWE-bench Pro",[281,534,521],{},[281,536,537],{},"32.0",[281,539,540],{},"44.6",[257,542,543,546,549,552],{},[281,544,545],{},"AutomationBench v1.0.6",[281,547,548],{},"avg@1",[281,550,551],{},"5.0",[281,553,554],{},"30.3",[257,556,557,560,562,565],{},[281,558,559],{},"Terminal Bench 2.1",[281,561,548],{},[281,563,564],{},"27.0",[281,566,567],{},"37.1",[257,569,570,573,575,578],{},[281,571,572],{},"Toolathlon-Verified",[281,574,548],{},[281,576,577],{},"25.9",[281,579,580],{},"35.2",[26,582,583],{},"これは開発元評価であり、独立した再現や日本語NPC品質の証拠ではありません。改善幅も課題によって異なります。公式QuickstartはQwen3.5対応の新しいSGLangと、付属のMiMo v2.6 Chat Templateを案内しています。別の実行環境へ移す際は、重みの形式だけでなくTemplateとTool Callの扱いを確認します。量子化Weightの容量だけから8GB・12GB・16GB GPUでの実用性を断定せず、Context、実行時メモリ、応答時間、ゲームとの同時実行を測定します。",[26,585,586,587,591],{},"会話やTool Callを生成するこのモデルと、候補の選択だけを返す方式は用途が異なります。Kev、SemIf、Laya、Tev1の違いは",[154,588,590],{"href":589},"\u002Fknowledge\u002Fai\u002Fagents\u002Frepository-centered-agent-harness","Agent Harness記事","で比較しています。",[146,593,595],{"id":594},"llm-jp-41-8bは日本語agentの研究用比較候補","LLM-jp-4.1 8Bは日本語Agentの研究用比較候補",[26,597,598,599,604,605,610,611,616],{},"2026年10月11日確認。NIIの",[154,600,603],{"href":601,"rel":602},"https:\u002F\u002Fllm-jp.nii.ac.jp\u002Fblog\u002Fllm-jp-4-1\u002F",[158],"9月28日公式発表","はTool Callingを追加したLLM-jp-4.1と公式量子化版を公開しています。",[154,606,609],{"href":607,"rel":608},"https:\u002F\u002Fhuggingface.co\u002Fllm-jp\u002Fllm-jp-4.1-8b-thinking",[158],"8Bカード","は総約8.59B、65,536 Context、Apache 2.0です。",[154,612,615],{"href":613,"rel":614},"https:\u002F\u002Fhuggingface.co\u002Fllm-jp\u002Fllm-jp-4.1-8b-thinking-gguf\u002Ftree\u002Fmain",[158],"公式Q4_K_M GGUF","の5.5GBはWeight容量で、総RAM／VRAMではありません。配布リポジトリの更新日を元モデル公開日とは扱いません。",[26,618,619,620,625,626,631],{},"10月1日公開のプレリリース",[154,621,624],{"href":622,"rel":623},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Freleases\u002Ftag\u002Fb11320",[158],"llama.cpp b11320","は",[154,627,630],{"href":628,"rel":629},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fpull\u002F29681",[158],"PR #29681","の専用Harmony parserを含み、4.1独自の空白と並列Tool Call区切りを扱います。対応TemplateとTokenizerを揃え、通常のgpt-oss parserやLLM-jp-4.0対応と同一視しません。開発元のparser／Schema試験は当方の実測ではありません。モデルカードは研究開発向けで直接の本番利用を想定しないと説明します。短い日本語Tool課題、Reasoning分離、Schema、完了時間、総メモリの比較候補であり、日本語成功率、NPC品質、ゲーム同居性能は未測定です。採用時は正確な配布物・Runtime・再配布条件を確認します。",[146,633,303],{"id":634},"spark-x25-4b-17b",[26,636,210,637,642],{},[154,638,641],{"href":639,"rel":640},"https:\u002F\u002Fgithub.com\u002FXHToken\u002FSpark-X2.5",[158],"Spark-X2.5","は4Bと1.7Bを展開する小型Agentの比較候補です。開発元の更新履歴では、モデル公開は9月1日、llama.cpp対応は9月6日、LM Studio対応は9月8日、Ollama対応は9月15日です。これらは開発元が案内する対応日であり、検証時にはインストールしたEngine、Chat Template、Tool Call Parserを確認します。",[26,644,645],{},"4BのBFCL-v4 65.1、MCP-Atlas 54.6は開発元の公称値で、評価はすべてThinking有効時です。非Thinking時の品質、日本語NPC会話、低遅延を示す値ではありません。最大1MトークンのContextも容量上限であり、必要メモリの目安ではありません。用途に必要なContextと出力予算から始め、Intentの正確さと応答完了時間を比較します。",[146,647,320],{"id":648},"k2-horizon-37b-7b",[26,650,651,652,657,658,663,664,669],{},"2026年9月6日確認。IFMが9月3日に公開した",[154,653,656],{"href":654,"rel":655},"https:\u002F\u002Fifm.ai\u002Fblog\u002Fk2\u002F",[158],"K2 Horizonファミリー","は、小型Agentの比較候補を増やしました。",[154,659,662],{"href":660,"rel":661},"https:\u002F\u002Fhuggingface.co\u002FIFM\u002FK2-Horizon-3.7B",[158],"3.7B","と",[154,665,668],{"href":666,"rel":667},"https:\u002F\u002Fhuggingface.co\u002FIFM\u002FK2-Horizon-7B",[158],"7B","のモデルカードは、DenseなCore部分の規模と、ネイティブ524,288トークンのContextを示します。Core規模の表記だけから、Checkpoint全体や実行時の必要メモリを推定しません。",[26,671,672],{},"開発元が報告するSWE-bench Verifiedはそれぞれ68.6、70.6です。ただし、公式の評価手順はhigh reasoningと最低32,768出力トークンを案内しています。3.7BのBFCL v4は50.9で、Qwen3.5-4Bの55.7を下回るため、Tool Use全般で一律に優位とは判断できません。これらは候補を絞る材料であり、低遅延のNPC会話、日本語品質、量子化した一般PCでの性能を示すものではありません。",[26,674,675,676,681,682,687,688,693,694,697],{},"9月6日の確認では、",[154,677,680],{"href":678,"rel":679},"https:\u002F\u002Fhuggingface.co\u002FIFM\u002FK2-Horizon-3.7B-GGUF",[158],"公式3.7B GGUF","のBF16配布とIFM forkが評価経路でした。2026年10月7日の追加確認では、10月6日20:20 UTC（10月7日05:20 JST）公開のプレリリース",[154,683,686],{"href":684,"rel":685},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Freleases\u002Ftag\u002Fb11454",[158],"llama.cpp b11454","に、K2 HorizonのDense／MoVA、変換・読み込み、Tokenizer、Reasoning／Tool Call対応が入りました。モデルカードに残る本流PR進行中の案内より新しい実装状況です。ただし、",[154,689,692],{"href":690,"rel":691},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fblob\u002Fb11454\u002Fsrc\u002Fllama-arch.cpp",[158],"同版の最終コード","ではK2 HorizonのTensor Parallel（",[218,695,696],{},"-sm tensor","）は無効です。",[26,699,700,701,706,707,712,713,716],{},"10月7日時点の公式配布には、",[154,702,705],{"href":703,"rel":704},"https:\u002F\u002Fhuggingface.co\u002FIFM\u002FK2-Horizon-3.7B-GGUF\u002Ftree\u002Fmain",[158],"3.7BのQ4_K_M","が3.16GB、",[154,708,711],{"href":709,"rel":710},"https:\u002F\u002Fhuggingface.co\u002FIFM\u002FK2-Horizon-7B-GGUF\u002Ftree\u002Fmain",[158],"7BのQ4_K_M","が5.59GBで存在します。3.7B側のファイル名は",[218,714,715],{},"K2-Horizon-4B-Q4_K_M.gguf","です。量子化ファイルの初回公開日は未確定であり、元モデルの9月3日公開とは分けます。容量はWeightのファイルサイズで、KV Cache、ランタイムの確保領域、ゲーム描画を含みません。512K全体が一般GPUに収まると想定せず、用途に必要なContextで評価します。",[26,718,719,720,725],{},"公式GGUFカードの量子化評価は非Agent課題に限られ、元モデルのAgentスコアをQ4へ移しません。実行版、正確なGGUF、Chat Templateを固定して、日本語の短いTool課題、Reasoning分離、Schema、Timeout／Fallback、総メモリと完了時間を比較します。各配布物の動作、Ollama／LM Studioへの取り込み、ゲーム同居性能は当方では未検証です。モデルカードのApache-2.0表記と",[154,721,724],{"href":722,"rel":723},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fblob\u002Fb11454\u002FLICENSE",[158],"llama.cppのMIT","を分け、製品同梱前にはモデルLICENSE原文と配布条件を確認します。今回、モデルLICENSE原文は取得できていません。",[26,727,728],{},"IFMは学習資料の公開を説明していますが、発表には今後の公開と、学習データまたは構築レシピという区別もあります。全資料を公開済みとは扱いません。また、7BがSWE-benchの回答を取得し、スコアを82へ膨らませた実行例を開示しています。この実行例をソフトウェア開発能力の証拠にはせず、モデルカードの掲載値70.6と区別します。公開の透明性と課題の性能は別々に評価します。",[26,730,731,732,737,738,740,741,746,747,752,753,758],{},"2026年10月11日の追加確認では、10月9日14:53 UTC（23:53 JST）公開のプレリリース",[154,733,736],{"href":734,"rel":735},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Freleases\u002Ftag\u002Fb11528",[158],"llama.cpp b11528","で、K2 Horizonの",[218,739,696],{},"が再有効化されています。",[154,742,745],{"href":743,"rel":744},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fpull\u002F30217",[158],"PR #30217","はホスト側Tensor viewの処理を修正し、部分offloadとTensor Parallelの組み合わせでのassertへ対応しました。",[154,748,751],{"href":749,"rel":750},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fblob\u002Fb11528\u002Fsrc\u002Fllama-arch.cpp",[158],"版固定コード","で再有効化を確認でき、上記b11454の履歴とは区別します。Tensor Parallelは",[154,754,757],{"href":755,"rel":756},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fblob\u002Fb11552\u002Ftools\u002Fserver\u002FREADME.md",[158],"Server文書","でもEXPERIMENTALです。対応する複数GPU、互換GGUF、Weight・KV cache・Runtime領域を収容するRAM／VRAMが必要です。同じGGUF・Context・入力で通常のlayer分割や単GPUと起動・完走、Prefill／Decode、総メモリを比較する候補であり、速度向上や総メモリ削減の証明ではありません。各配布物、日本語品質、Ollama／LM Studioへの取り込みは当方では未検証で、モデルとRuntimeの再配布条件も別々に確認します。",[146,760,762],{"id":761},"meta-muse-glimmer-30b","Meta Muse Glimmer 30B",[26,764,765,766,770],{},"Metaの",[154,767,286],{"href":768,"rel":769},"https:\u002F\u002Fhuggingface.co\u002Fmeta-models\u002FMuse-Glimmer-30B\u002Fblob\u002Fmain\u002FREADME.md",[158],"は、約296億のパラメータを持ち、モデル全体を毎回使う方式（Dense）に、画像を読み取る部分を組み合わせたモデルです。Agent、Tool Use、Reasoning、失敗時の再試行といった用途を掲げています。",[26,772,773],{},"モデルカードでは、量子化によって言語モデルのデータを20GB未満へ圧縮し、直前までの入力を再利用する一時メモリ（KV cache）、画像を読み取る部分、先の単語をまとめて予測する補助モデルを含む24GBまたは32GB級の構成を対象としています。",[26,775,776],{},"先の単語をまとめて予測する「投機的デコード」により、回答の内容を保ちながら生成を速くする仕組みも提供しています。",[26,778,779],{},"Metaの参入が興味深いのは、単に新しいモデルデータを公開したことではありません。手元のPCでTool Useを繰り返すAgentを、明確な製品用途として扱っている点にあります。",[26,781,782],{},"一方、24GBまたは32GBという値は、あらゆる環境で同じ速度が出ることを保証するものではありません。量子化方式、Context Length、モデルを動かすソフトウェア、同時に処理する要求数によって必要メモリと速度は変わります。",[146,784,786],{"id":785},"liquid-ai-lfm25-26b","Liquid AI LFM2.5-2.6B",[26,788,789,790,794],{},"Liquid AIの",[154,791,354],{"href":792,"rel":793},"https:\u002F\u002Fhuggingface.co\u002FLiquidAI\u002FLFM2.5-2.6B",[158],"は、2026年8月4日に公開された、オンデバイスAgent向けの文章モデルです。約26.9億のパラメータ、131,072トークンのContext Lengthを持ち、日本語を含む16言語を対象にしています。Tool Useと複数段階の作業に対応するよう追加学習されている一方、公式モデルカードは、高度なコード作成や知識量が重要な作業には推奨していません。",[26,796,797,802],{},[154,798,801],{"href":799,"rel":800},"https:\u002F\u002Fhuggingface.co\u002FLiquidAI\u002FLFM2.5-2.6B-GGUF\u002Ftree\u002Fmain",[158],"公式GGUF","では、通常のQ4_0と、2026年8月19日に追加されたQAD Q4_0がともに約1.59GB、Q4_K_Mが約1.67GBです。QAD（Quantization-Aware Distillation）は、高精度のTeacherから4bitのStudentへ知識を移し、量子化による品質低下を抑える方法です。Liquid AIは、2.6Bを含む4モデルの評価全体で、通常のQ4_0化によって失われたBF16からの平均精度の97%を回復したと報告しています。これは2.6B単体が全用途でBF16の97%の性能を持つ、という意味ではありません。",[26,804,805,806,811,812,815],{},"2026年8月20日に公開された",[154,807,810],{"href":808,"rel":809},"https:\u002F\u002Fwww.liquid.ai\u002Fblog\u002Flfm2.5-dspark",[158],"DSpark","は、328Mの小さな補助モデルが先のトークンを提案し、本体が検証する投機的デコードです。開発元のM4 Max、FP16 GGUF、",[218,813,814],{},"llama.cpp","、温度0という条件では、2.6Bの平均生成速度が61から139トークン\u002F秒へ向上し、複数Toolを使う評価ではFunction Callingの待ち時間を平均57%短縮したと報告されています。温度0の同条件では出力を変えずに高速化する設計ですが、この数値はQAD Q4_0との組み合わせを測ったものではありません。",[26,817,818,819,821,822,827,828,830],{},"DSparkは公開時から",[218,820,814],{},"とSGLangへ統合され、2026年8月28日の",[154,823,826],{"href":824,"rel":825},"https:\u002F\u002Flmstudio.ai\u002Fchangelog\u002Flmstudio\u002Flmstudio-v0.4.22",[158],"LM Studio 0.4.22","では、DFlash、DSpark、MTPのAssistant Drafterへ正式対応しました。利用には",[218,829,814],{}," engine 2.29.1以降が必要です。これによりGUIやLocal Serverからも対応する補助モデルを試しやすくなりました。LFM2.5-2.6B用DSparkの公式GGUFでは、Q4_K_Mの補助モデルが約200MBで配布されています。",[26,832,833],{},"ただし、LM StudioがLFM2.5-2.6Bを常に2.27倍へ高速化するという意味ではありません。LM Studio自身も、補助モデルの処理速度や提案の採用率によっては投機的デコードが逆に遅くなる可能性を説明しています。約1.59GBは本体Weight、約200MBは補助モデルのファイル容量であり、KV cache、推論ソフトウェア、同時に動かすアプリのメモリは別に必要です。LM Studioは候補を比較する試作環境にはなりますが、製品へそのまま同梱するランタイムと同義ではありません。",[26,835,836,837,842],{},"ライセンスはLFM Open License v1.0です。Liquid AIの",[154,838,841],{"href":839,"rel":840},"https:\u002F\u002Fdocs.liquid.ai\u002Flfm\u002Fhelp\u002Fmodel-license",[158],"公式説明","では、年間売上1,000万米ドル未満の企業は無償で商用利用でき、それを超える場合は有償ライセンスが必要とされています。小さなWeightとTool Useへの特化から、端末上のIntent選択や短いTool Callの検証候補にはなりますが、ゲームとの同居、日本語品質、失敗率を示す実測ではありません。",[146,844,846],{"id":845},"nvidia-nemotron-35-lightning-30b-a3b","NVIDIA Nemotron 3.5 Lightning 30B-A3B",[26,848,849,850,854],{},"NVIDIAの",[154,851,371],{"href":852,"rel":853},"https:\u002F\u002Fhuggingface.co\u002Fnvidia\u002FNVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16",[158],"は、2026年8月11日に公開されたMoEモデルです。モデル全体は約300億のパラメータを持ち、1トークンの処理では約30億のパラメータを使います。ReasoningとTool Useに対応し、最大Context Lengthは1,000,000トークンとされています。",[26,856,857],{},"特徴は、単独ですべての作業を担う万能モデルではなく、Tool Use、結果の確認、サブエージェントへの作業委譲などを高頻度に行う「実行層」を明確な用途にしている点です。NVIDIAは、複雑な計画を大型のReasoningモデルへ任せ、Nemotron 3.5 Lightningが反復的な実行を担当する構成を示しています。",[26,859,860],{},"NVIDIA公称では、Agentの実行能力を測るPinchBenchで約85%の精度を示し、同程度の精度として比較したQwen3.6 35B-A3Bより、10,000件のタスクを完了する時間を約30%短縮したとしています。一方、同じ公式評価表では、SWE-bench VerifiedとTerminal-Bench 2.1はQwen3.6 35B-A3Bを下回ります。高難度のReasoningやコード作成を一律に置き換えるのではなく、実行速度と成功率のバランスで役割を限定して評価するモデルです。",[26,862,863],{},"llama.cpp、Ollama、LM Studioなどのローカル実行環境が案内されています。ただし、約30億というActive Parametersは計算量を理解するための値であり、モデルデータの保持量が30億規模になるという意味ではありません。公式モデルカードから案内されるGGUF配布先では、2026年8月21日時点でNVFP4が約22.5GB、Q4_K_Mが約25.4GBです。Context Lengthを伸ばすほどKV cacheも増えるため、ゲームなど他のGPU処理と同時に動かす場合は、モデルデータだけでなく実際の空きメモリを測る必要があります。",[26,865,866],{},"最大1,000,000トークンも、一般的なPCで常に利用できる量ではありません。公式のBF16実行例では、H100を1基使う構成の検証済みContext Lengthは256,000トークンで、1,000,000トークンはより大きな構成を前提としています。用途に必要な範囲へ制限して評価します。",[26,868,869],{},"モデルカードではOpenMDW 1.1ライセンスのもとで商用利用可能と説明されています。実際に採用する場合は、モデルだけでなく、利用する量子化データと実行ソフトウェアを含めて条件を確認します。",[146,871,388],{"id":872},"ornith-15-9b-35b-a3b",[26,874,875,880],{},[154,876,879],{"href":877,"rel":878},"https:\u002F\u002Fhuggingface.co\u002Fornith-ai\u002FOrnith-1.5-9B",[158],"Ornith 1.5 9B","は、約90億のパラメータを毎回使うDenseモデルです。最大Context Lengthは262,144トークンで、Reasoning、Tool Calling、Agentic Codingを主な対象としています。MITライセンスで公開され、開発元は単一GPUや量子化したEdge環境での利用を想定しています。",[26,882,883,884,889],{},"公式の",[154,885,888],{"href":886,"rel":887},"https:\u002F\u002Fhuggingface.co\u002Fornith-ai\u002FOrnith-1.5-9B-GGUF",[158],"9B GGUF配布","では、Q4_K_Mが5.63GB、Q5_K_Mが6.47GBです。Q4_K_Mは8GB級GPUでも検証候補になるWeight容量ですが、実行ソフトウェアの作業領域、KV cache、入力、同時に動かすゲームの描画などは含みません。「Weightが5.63GBなので、ゲームと同じ8GB GPUへ常駐できる」とは判断せず、必要なContext Lengthとゲーム実行中の空きVRAMを実測します。",[26,891,892],{},"開発元公称の5回平均では、9BのSWE-bench Verifiedは70.6、Terminal-Bench 2.1はClaude Code Harnessで47.0、Terminus-2 Harnessで46.2です。Terminal-Bench 2.1の評価条件には、128,000トークン、32 CPU cores、48GB RAM、4時間のTimeoutが含まれます。これはコード修正やTerminal操作に関する開発元評価であり、一般的なPCでの速度や、ゲーム内NPCの会話品質、人格の一貫性、リアルタイム応答を示す数値ではありません。",[26,894,895,900,901,905],{},[154,896,899],{"href":897,"rel":898},"https:\u002F\u002Fhuggingface.co\u002Fornith-ai\u002FOrnith-1.5-35B-A3B",[158],"35B-A3B版","は、全体が約350億、1トークン当たり約30億を使うMoEモデルです。開発元公称の5回平均はSWE-bench Verified 79.0、Terminal-Bench 2.1のClaude Code Harness 68.5ですが、",[154,902,801],{"href":903,"rel":904},"https:\u002F\u002Fhuggingface.co\u002Fornith-ai\u002FOrnith-1.5-35B-A3B-GGUF",[158],"のQ4_K_Mは21.7GBあります。Active Parametersが小さくても、8GB級GPUでゲームと同時に保持できるWeight容量にはなりません。",[26,907,908,913,914,663,917,920,921,924],{},[154,909,912],{"href":910,"rel":911},"https:\u002F\u002Follama.com\u002Flibrary\u002Fornith",[158],"Ollama公式ライブラリ","の",[218,915,916],{},"ornith:9b",[218,918,919],{},"ornith:35b","は、2026年8月22日時点ではOrnith 1.0として説明されています。1.5を検証するときは汎用Tagだけで判定せず、公式GGUFページにある",[218,922,923],{},"hf.co\u002Fornith-ai\u002FOrnith-1.5-9B-GGUF","のように、1.5の配布元と量子化方式を明示します。",[26,926,927],{},"Tool Callingを使った高レベル判断を小型モデルへ任せる設計では、9B版は検証候補になります。ただし、これは機能とサイズからの推論です。NPC用途では、ゲーム状態から決められた形式の行動を選べるか、誤った行動をValidatorで拒否できるか、同じ人格を維持できるか、目標Latency内に収まるかを独自に評価します。",[146,929,931],{"id":930},"qwen38-27b-qwen38-flash-next","Qwen3.8-27B \u002F Qwen3.8-Flash-Next",[26,933,934,939],{},[154,935,938],{"href":936,"rel":937},"https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen3.8-27B",[158],"Qwen3.8-27B","は、約270億のパラメータを持つDenseモデルで、文章に加えて画像と動画を扱います。Reasoning量を調整でき、コード作成、調査、長時間の作業を主な改善領域としています。",[26,941,942],{},"標準では、一度に262,144トークンを扱い、拡張時は最大1,000,000トークンと説明されています。トークンは、文章をモデルが処理しやすい単位へ分割したものです。",[26,944,945],{},"ただし、最大量を常に使う必要はありません。Context Lengthを長くすると、KV cache、最初に入力を読み込む時間（Prefill）、古い情報が紛れ込む可能性も増えるため、用途に必要な範囲へ制限します。",[26,947,948],{},"公式モデルカードには、決められた課題で性能を測る試験（Benchmark）も掲載されていますが、開発元が指定した実行手順と条件での結果です。別の開発元が公開した数値と単純に横並びにはできません。",[26,950,951,952,957],{},"2026年8月26日に公開された",[154,953,956],{"href":954,"rel":955},"https:\u002F\u002Fqwen.ai\u002Fblog?id=qwen3.8-flash-next",[158],"Qwen3.8-Flash-Next","は、将来のQwen4で使うアーキテクチャを先行公開した、画像と動画も扱うMoEモデルです。主モデルは約1250億で、1トークン当たり約60億を使います。これに約510億のN-gram Embeddingと約40億のMulti-Token Prediction（MTP）部分が加わります。標準のContext Lengthは262,144トークンで、YaRNによって最大1,000,000トークンへ拡張できます。",[26,959,960],{},"新しいQwen Sparse Attention（QSA）は、長い入力から参照候補を小さなまとまり単位で絞り、長文処理の計算を減らす仕組みです。N-gram Embeddingは、直近の単語の並びから大きな表を引くことで、少ない追加計算でモデル容量を増やします。この表はホスト側のメモリへ置き、GPUの計算と並行して先読みできる設計です。ローカル用途で注目すべき点は、Flash-Nextが今すぐ軽いことではなく、計算量、GPUメモリ、モデル容量を別々に調整する方向を示したことです。",[26,962,963],{},"Qwen公称の同一評価表では、Qwen3.8-27Bに対して、SWE-bench Proは61.7から62.5への小幅な上昇ですが、DeepSWE 1.1は42.2から58.7、Toolathlon Verifiedは67.1から73.5、JobBenchは33.4から55.7へ上昇しています。AgentやTool Useを重視した改善を示す材料ですが、開発元による評価であり、第三者による再現や一般的なPCでの速度を示すものではありません。",[26,965,966,967,972],{},"約60億というActive Parametersだけを見て、6Bモデル相当の実行環境で動くとは判断できません。第三者の",[154,968,971],{"href":969,"rel":970},"https:\u002F\u002Fhuggingface.co\u002Funsloth\u002FQwen3.8-Flash-Next-GGUF\u002Ftree\u002Fmain\u002FUD-IQ1_S",[158],"Unsloth GGUF","では、公開時点で大幅に圧縮したUD-IQ1_Sでも約72.5GBあります。公式リポジトリはTransformers、llama.cpp、SGLang、vLLM、TokenSpeedなどの導線を示していますが、新アーキテクチャの公開直後であるため、対応Version、画像入力、Tool Calling、量子化方式を個別に確認する必要があります。現時点では一般的なゲーミングPCへ常駐させる候補というより、大容量メモリを持つ環境での検証対象です。",[26,974,975,976,981,982,985,986,991],{},"2026年10月4日確認。10月3日公開のプレリリース",[154,977,980],{"href":978,"rel":979},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Freleases\u002Ftag\u002Fb11372",[158],"llama.cpp b11372","は、",[218,983,984],{},"qwen4exp","経路のindexer中間領域を削減しました。",[154,987,990],{"href":988,"rel":989},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fpull\u002F29825",[158],"PR #29825","の作者は、CUDA・128K Context・N-gram表をRAMへ置く構成でcompute bufferが6056→3748 MiB、Metal・64Kで6224→3924 MiBと報告しています。これは特定構成での実装測定であり、Qwenの公式必要環境や、Weight・KV cacheを含む総RAM／VRAMの半減ではありません。大容量環境ですでに評価する場合は、実行版、量子化、Context、batch／ubatch、backendを固定し、一時領域、総メモリ、Prefill、Decodeを分けて測ります。当方による再現やOllama／LM Studioへの取り込みは未確認で、上記の一般PC向けの判断は変えません。",[26,993,994,995,1000,1001,1005],{},"2026年10月13日JST確認。Flash-Nextの",[154,996,999],{"href":997,"rel":998},"https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen3.8-Flash-Next\u002Fblob\u002Fmain\u002FLICENSE",[158],"Qwen Community License 1.0原文","に照らし、既存の要約を訂正します。新しいライセンス変更の発表ではありません。第1項は、月間アクティブユーザーが1億を超えるか、月商が2,000万米ドルを超える商用製品・サービスにモデル名の表示を求めます。第2項は、利用者または関連会社がModel as a Service／AI Work Assistant事業を営む場合、その利用者がモデルまたは派生物を",[1002,1003,1004],"strong",{},"商用目的で使う前に別許諾を得る","と定めており、当該製品用途だけの条件へ狭めません。モデル・出力・基盤となるモデル能力を第三者へ提供しない所定の社内利用には例外があります。事業の定義と除外条件も原文で確認し、個別事業やゲーム機能への法的適用は断定しません。Qwen3.8-27BのApache-2.0とは別の条件です。",[26,1007,1008],{},"現時点の選定では、Qwen3.8-27BとFlash-Nextを置き換え関係として扱いません。前者は比較的小さいDenseモデルとして、後者はQwen4世代の効率化を先行評価する大規模モデルとして、別の目的で候補に置きます。将来この構造が小型モデルへ展開された場合は、同じ品質をより小さい計算量で得られるかを改めて測ります。",[1010,1011,1013],"h4",{"id":1012},"gpu-expert-cacheでもホスト側のweight保持は必要","GPU Expert cacheでもホスト側のWeight保持は必要",[26,1015,1016,1017,981,1022,1027,1028,1033,1034,1039],{},"2026年10月11日確認。10月8日01:36 UTC（10:36 JST）公開のプレリリース",[154,1018,1021],{"href":1019,"rel":1020},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Freleases\u002Ftag\u002Fb11480",[158],"llama.cpp b11480",[154,1023,1026],{"href":1024,"rel":1025},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fpull\u002F29887",[158],"PR #29887","のホストExpert用GPU cacheを含みます。同日15:27 UTC（10月9日00:27 JST）公開の",[154,1029,1032],{"href":1030,"rel":1031},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Freleases\u002Ftag\u002Fb11507",[158],"b11507","で、",[154,1035,1038],{"href":1036,"rel":1037},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fpull\u002F30112",[158],"PR #30112","の複数GPU対応も入りました。GPU cacheへExpertを再利用する方式で、Weightの圧縮やEdge0のSSD Streamingとは異なります。",[26,1041,1042,1047,1048,1051,1052,1057,1058,1061],{},[154,1043,1046],{"href":1044,"rel":1045},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fblob\u002Fb11507\u002Fcommon\u002Farg.cpp",[158],"b11507の引数定義","では",[218,1049,1050],{},"--moe-cache-mib","は既定0で無効です。",[154,1053,1056],{"href":1054,"rel":1055},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fblob\u002Fb11507\u002Fsrc\u002Fllama-moe-cache.cpp",[158],"最終実装","は最大32 tokensの小batchを対象とし、Tensor Parallelは非対応、総予算は",[218,1059,1060],{},"--tensor-split","または空きメモリに応じて分配します。PRの設定例をGPUごとの予算へ転用しません。作者の単GPU測定はQwen3.8-Flash-Next Q4_0・93.7 GiB、EPYC 7742・16 cores・PCIe 4.0 x16、32K Context、MTPなしの条件で、一般PCやゲーム同居性能の証明ではありません。大容量offloadの評価では、ホストWeightと実行領域を収容するRAM、cache用のGPU余裕を確保し、無効／有効のCold／Warm、Prefill／Decode、転送量、総RAM／VRAM、描画負荷を比較します。日本語、p95／p99、Ollama／LM Studioへの取り込みは未検証で、RuntimeのMITとモデルの条件も分けます。",[1010,1063,1065],{"id":1064},"ternary-bonsai-2-27bは低ビット重みと専用runtimeの組み合わせ","Ternary Bonsai 2 27Bは低ビット重みと専用Runtimeの組み合わせ",[26,1067,210,1068,1073],{},[154,1069,1072],{"href":1070,"rel":1071},"https:\u002F\u002Fhuggingface.co\u002Fprism-ml\u002FTernary-Bonsai-2-27B-gguf",[158],"Ternary Bonsai 2 27B","はQwen3.8-27Bの派生モデルです。言語モデルのWeightはPTQ1_0で5.95GB、PQ2_0で7.21GB、画像入力には任意のProjector約0.63GBを別途使います。これはファイル容量であり、実行時の総VRAMではありません。これらPTQ1_0／PQ2_0配布物のモデルカードはternary形式とHadamard変換に対応したPrismML版llama.cppを要求しており、通常のGGUF対応だけでは動かせません。",[26,1075,1076],{},"PrismMLの14件のThinking評価平均は84.78、FP16は86.32で、平均値の比は約98.2%です。あらゆる課題の能力を98.2%維持する保証ではありません。公式のllama-bench TG128はbatch 1・depth 0・画像なしの測定で、RTX 4090の91.1 tok\u002FsはPTQ1_0、RTX 5090の129.9とM5 Proの28.1はPQ2_0です。最小容量と各機種の最速値を一つの構成へ合成しません。NPC品質やゲーム描画との同時実行性能は未検証です。",[26,1078,1079,1080,1085,1086,1091,1092,1097,1098,1103,1104,1109],{},"2026年10月12日JST確認。10月11日公開のプレリリース",[154,1081,1084],{"href":1082,"rel":1083},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Freleases\u002Ftag\u002Fb11556",[158],"llama.cpp b11556","には、",[154,1087,1090],{"href":1088,"rel":1089},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fpull\u002F29600",[158],"PR #29600","のHadamard対応が本流へ入りました。評価対象は公式の",[154,1093,1096],{"href":1094,"rel":1095},"https:\u002F\u002Fhuggingface.co\u002Fprism-ml\u002FTernary-Bonsai-2-27B-gguf-dev\u002Ftree\u002Fmain",[158],"dev Q2_0 GGUF、7.63GB","です。上記PTQ1_0 5.95GB／PQ2_0 7.21GBまで本流対応したとは一般化せず、",[154,1099,1102],{"href":1100,"rel":1101},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fpull\u002F29672",[158],"PTQ1_0対応PR #29672","は今回の確認時点でもOpenです。",[154,1105,1108],{"href":1106,"rel":1107},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fblob\u002Fb11556\u002Fsrc\u002Fllama-adapter.cpp#L337-L340",[158],"版固定Adapter実装","はHadamardを折り込んだWeightへのLoRAを拒否します。正確な配布物と実行版を固定し、Weight、KV cache、Runtime領域、ゲームのメモリを別々に見積もります。ファイル容量は必要RAMではなく、日本語、量子化品質、ゲーム性能は当方では未検証です。実行対応とモデル再配布の許可も分けます。",[146,1111,422],{"id":1112},"gemma-4",[26,1114,1115,1116,1120],{},"Googleの",[154,1117,422],{"href":1118,"rel":1119},"https:\u002F\u002Fai.google.dev\u002Fgemma\u002Fdocs\u002Fcore",[158],"は、単一のモデルではなく、対象ハードウェアに応じた複数の構成を持つファミリーです。",[42,1122,1123,1126,1129,1132],{},[45,1124,1125],{},"20億・40億規模の小型端末向けモデル",[45,1127,1128],{},"約120億の統合モデル",[45,1130,1131],{},"約260億のパラメータを持ち、処理ごとに一部の専門領域だけを使う方式（MoE）",[45,1133,1134],{},"約310億のパラメータを持つDenseモデル",[26,1136,1137],{},"Tool Use、Reasoning、画像などの入力、多言語対応を扱い、小型端末からPCまで広い範囲を対象にしています。そのため、「Gemma 4が動くか」ではなく、どの配布モデルを、どの精度とソフトウェアで動かすかを明示して比較します。",[26,1139,1140],{},"小型モデルは必要メモリと応答時間の面で有利ですが、大型モデルと同じ品質を保証するものではありません。指示に正しく従えるか、必要な言語を自然に扱えるか、Tool Useを正しく実行できるかを確認する必要があります。",[26,1142,1143,1144,1149,1150,1155,1156,1161,1162,1167,1168,1173],{},"2026年10月11日確認。Googleの",[154,1145,1148],{"href":1146,"rel":1147},"https:\u002F\u002Fdevelopers.googleblog.com\u002Fml-drift-next-gen-gpu-aiml-inference-at-the-edge\u002F",[158],"10月8日のML Drift発表","は、LiteRTのGPU基盤を独立したC++ライブラリとしてOSS公開したものです。アプリ内GPU推論の経路であり、新しいGemmaモデルや完成したゲームSDKではありません。",[154,1151,1154],{"href":1152,"rel":1153},"https:\u002F\u002Fgithub.com\u002Fgoogle-ai-edge\u002Fml-drift\u002Fblob\u002F7c58cf0ec5276287b4d341bdfc96ef0fc66360af\u002FREADME.md",[158],"固定版README","はOpenCL／Metal／WebGPU／OpenGL ESを記載します。確認時点で独立した",[154,1157,1160],{"href":1158,"rel":1159},"https:\u002F\u002Fgithub.com\u002Fgoogle-ai-edge\u002Fml-drift\u002Freleases",[158],"配布リリース","はなく、",[154,1163,1166],{"href":1164,"rel":1165},"https:\u002F\u002Fdevelopers.google.com\u002Fedge\u002Flitert\u002Fnext\u002Fcpp_sdk",[158],"LiteRT C++ SDKのバイナリ","とは分けます。デスクトップLLM評価はpreviewで、「最大12%低いメモリoverhead」を総メモリ削減率へ置き換えません。対応モデル形式・SDK・Backendを固定してCold初期化、Prefill／Decode、総メモリ、描画同居負荷を測る候補です。通常GGUFの代替、日本語、Tool Use、ゲーム性能は未検証で、",[154,1169,1172],{"href":1170,"rel":1171},"https:\u002F\u002Fgithub.com\u002Fgoogle-ai-edge\u002Fml-drift\u002Fblob\u002F7c58cf0ec5276287b4d341bdfc96ef0fc66360af\u002FLICENSE",[158],"Apache 2.0","とモデル・依存物の条件も分けます。",[26,1175,1176,1177,981,1182,1187,1188,1193,1194,1197,1198,1203],{},"2026年10月12日JST確認。10月11日19:14 UTC（10月12日04:14 JST）公開のプレリリース",[154,1178,1181],{"href":1179,"rel":1180},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Freleases\u002Ftag\u002Fb11559",[158],"llama.cpp b11559",[154,1183,1186],{"href":1184,"rel":1185},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fpull\u002F30266",[158],"PR #30266","でGemma 4 E2B／E4Bのhead dimension DK512向けOpenCL Flash Attention decodeへ対応しました。モデルの新公開ではなくRuntimeの更新です。",[154,1189,1192],{"href":1190,"rel":1191},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fblob\u002Fb11559\u002Fggml\u002Fsrc\u002Fggml-opencl\u002Fggml-opencl.cpp#L9476-L9506",[158],"版固定の適用条件","はAdreno、F32 query／F16 KV、query位置数1、GQA 4または8、kernel初期化成功などで、",[218,1195,1196],{},"GGML_OPENCL_FA_DK512_DECODE=0","なら無効です。A7xのmixed型kernelはcompiler crash回避のため除外されています。",[154,1199,1202],{"href":1200,"rel":1201},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fblob\u002Fb11559\u002Fdocs\u002Fbackend\u002FOPENCL.md",[158],"OpenCL文書","もFlash Attentionが常に速くなるとはしていません。端末、driver、GGUF、Contextを固定し、Prefill／Decode、発熱、総メモリ、描画競合、Fallbackを測る候補です。これらは当方では未検証で、全GPUの高速化を保証しません。",[146,1205,1207],{"id":1206},"openai-gpt-oss","OpenAI gpt-oss",[26,1209,1210,1211,1216],{},"OpenAIの",[154,1212,1215],{"href":1213,"rel":1214},"https:\u002F\u002Fdevelopers.openai.com\u002Fapi\u002Fdocs\u002Fmodels\u002Fall",[158],"gpt-oss-20bとgpt-oss-120b","は、Apache 2.0でモデルデータが公開されている、Reasoningを強化したモデルです。利用者が管理するPCやサーバー、対応する実行サービスで動かします。",[26,1218,1219],{},"OpenAI APIから提供されるクラウドモデルとは、実行場所、更新方法、必要なハードウェア、運用責任が異なります。「OpenAIのモデル」という名前だけでまとめず、クラウドAPIとモデルデータが公開されたモデルを分けて扱います。",[26,1221,1222],{},"20bと120bでは必要リソースが大きく異なるため、モデルファミリー単位ではなく、実際に使用するモデルとデータの圧縮方法を指定します。",[146,1224,456],{"id":1225},"ministral-3-3b",[26,1227,1228,1229,1233],{},"Mistralの",[154,1230,456],{"href":1231,"rel":1232},"https:\u002F\u002Fdocs.mistral.ai\u002Fmodels\u002Fministral-3-3b-25-12",[158],"は、2025年12月2日に公開された、Edge環境を対象とする小型モデルです。公式資料では3B、文章・画像入力、256,000トークンのContext Length、Structured Output、Function Callingに対応し、Apache 2.0でWeightを公開しています。",[26,1235,1236],{},"小型であることは、端末上での候補にしやすいという意味です。自然な日本語、人格の維持、Tool選択、応答時間を保証するものではなく、Vision EncoderやKV cacheを含む実行時メモリも量子化Weightのファイル容量だけでは判断できません。",[146,1238,472],{"id":1239},"mistral-small-4",[26,1241,1242,1246],{},[154,1243,472],{"href":1244,"rel":1245},"https:\u002F\u002Fmistral.ai\u002Fnews\u002Fmistral-small-4\u002F",[158],"は、Reasoning、コード作成、Agent、画像入力を一つにまとめたMoEモデルです。",[26,1248,1249],{},"公式資料では全体で約1190億のパラメータを持ち、一度の処理で主に使う部分（Active Parameters）は約60億と説明しています。Active Parametersが小さいことは、必要な計算量を理解する材料になります。ただし、モデル全体のデータを保持するためのメモリや配布容量まで、約60億規模のモデルと同じになるわけではありません。",[26,1251,1252],{},"モデルの公開状況や、提供終了・非推奨などの状態も変化します。以前の候補を固定的に使い続けず、導入時に現行モデル、非推奨状態、ライセンスを確認します。",[22,1254,1256],{"id":1255},"edge0はssdから必要なexpertを読み込む","Edge0はSSDから必要なExpertを読み込む",[26,1258,210,1259,1264],{},[154,1260,1263],{"href":1261,"rel":1262},"https:\u002F\u002Fgithub.com\u002FEdge0-AI\u002FEdge0",[158],"Edge0","はSSD Expert Streaming、Recover-LoRA、読み込むExpertを予測するPrerouterを組み合わせます。Qwen3.6由来の35B-A3B previewでは、開発元は保存Weight約23GB、ピークactive memory 2.9GiBと報告しています。Bonsaiの常駐Weight圧縮とは異なり、その時点で読み込むExpertを変える方式です。",[26,1266,1267],{},"公称14.9〜17.7 tok\u002FsはMac mini M4 Pro・24GB、約3.3K入力、10ステップのWarmup後に200出力トークンを測る2回の実行です。Active memoryはOSやページキャッシュを含むシステム全体のRAMではなく、Warm時のPrefillはページキャッシュへ載った状態と明記されています。3GBのPCで動くことを示しません。ストレージ、キャッシュ状態、長Context時のKV増加を別々に測ります。",[26,1269,1270],{},"現行BackendはApple SiliconとMLXで、CUDAはロードマップです。通常のOllamaやLM StudioでGGUFを読むだけでは、このStreaming構成を再現できません。OpenAI互換Serverは接続境界になりますが、Windows対応やNPC適性の証拠ではありません。品質・応答時間に加え、Cold／Warm時の挙動とストレージ競合を評価します。",[22,1272,1274],{"id":1273},"apple-siliconの実行経路もversionを固定して評価する","Apple Siliconの実行経路もVersionを固定して評価する",[26,1276,1277,1278,1283],{},"2026年9月29日確認。Hugging Faceの",[154,1279,1282],{"href":1280,"rel":1281},"https:\u002F\u002Fhuggingface.co\u002Fblog\u002Ftransformers-llama-cpp-quants",[158],"TransformersでGGUFを実行する更新","は、量子化Weightを展開せず保持するpacked推論経路を追加しました。従来のGGUFを展開して読み込む経路とは異なります。初期対応はMPSで、Qwen3.5のDense \u002F MoEと互換Qwen3.8が中心です。PaddingやBatch処理には制約があり、GGUF全般・全GPUへの対応や、量子化状態のまま自由に追加学習できることを意味しません。Python側の実験へ組み込む候補として、使用Versionと対応モデルを確認します。",[26,1285,1286,1291],{},[154,1287,1290],{"href":1288,"rel":1289},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Freleases\u002Ftag\u002Fv0.40.0-rc0",[158],"Ollama v0.40.0-rc0","は、Apple SiliconでMLX対応アーキテクチャを自動的にMLXへ振り分けます。9月29日の確認時点ではプレリリースでした。対応モデルに限る変更であり、すべてのモデルやWindows \u002F NVIDIAの実行経路がMLXへ変わるわけではありません。以前のMLXベンチマークを今回のRCの改善率として転用せず、Context、Cache、並列数を固定して比較します。",[26,1293,1294,1295,1300,1301,913,1306,625,1309,1312,1313,1316],{},"2026年10月7日の追加確認では、",[154,1296,1299],{"href":1297,"rel":1298},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Freleases\u002Ftag\u002Fv0.40.0",[158],"Ollama v0.40.0","が非プレリリース版として提供されています。",[154,1302,1305],{"href":1303,"rel":1304},"https:\u002F\u002Fapi.github.com\u002Frepos\u002Follama\u002Follama\u002Freleases\u002Ftags\u002Fv0.40.0",[158],"公式メタデータ",[218,1307,1308],{},"prerelease",[218,1310,1311],{},"false","で、RCを選ばずにMLX経路を評価できます。公開枠の",[218,1314,1315],{},"published_at","は9月25日、現行macOS配布物の作成は10月6日18:27 UTC（10月7日03:27 JST）であり、いずれも正式化の正確な時刻とは断定しません。ここでの10月7日は提供状態の確認日です。",[26,1318,1319,1324,1325,1330],{},[154,1320,1323],{"href":1321,"rel":1322},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Fblob\u002F0d0720e51fb2fd9aa58781c3d720c06d720c2e7b\u002Fdocs\u002Fmacos.mdx",[158],"版固定macOS要件","はmacOS 14以降です。MLX経路は対応Apple Silicon・モデルと十分な統合メモリを前提とし、",[154,1326,1329],{"href":1327,"rel":1328},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Fblob\u002F0d0720e51fb2fd9aa58781c3d720c06d720c2e7b\u002FLICENSE",[158],"OllamaのMIT","とは別にモデルの条件を確認します。同じモデル、Context、Cache、並列数でRCと非プレリリース版のCold／Warm応答を比較します。提供状態の変更だけでは日本語品質、総メモリ、p95／p99、ゲーム同居性能の改善は判断できず、当方では未測定です。",[26,1332,1333,1334,981,1339,1344,1345,1350],{},"2026年10月13日JST確認。10月12日19:00:12 UTC（10月13日04:00:12 JST）公開のプレリリース",[154,1335,1338],{"href":1336,"rel":1337},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Freleases\u002Ftag\u002Fv0.40.4-rc0",[158],"Ollama v0.40.4-rc0",[154,1340,1343],{"href":1341,"rel":1342},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Fpull\u002F18955",[158],"PR #18955","のMLX保持メモリ修正を含みます。投機推論のrollbackで復元したRecurrent stateが大きなBufferの一部を参照し続ける問題に対し、",[154,1346,1349],{"href":1347,"rel":1348},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Fblob\u002Fv0.40.4-rc0\u002Fmlxrunner\u002Fprefix_cache.go#L584-L617",[158],"要求終了時のcompaction","で必要なstateだけを切り離してからprefix cacheへ保持します。Weight圧縮や全モデル共通の改善ではありません。同じモデル・digest・Context・投機設定・要求列で実行版を比較し、論理cache量、実確保メモリ、swap、遅延を別々に確認します。当方の再現、メモリ削減量、日本語品質、ゲーム同居性能は未測定です。",[26,1352,1353,1354,1357,1358,1363,1364,625,1369,1372,1373,1376,1377,1381],{},"2026年10月11日確認。",[154,1355,1299],{"href":1297,"rel":1356},[158],"には",[154,1359,1362],{"href":1360,"rel":1361},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Fpull\u002F18701",[158],"MLX判断モデル対応","も入り、Nimble、Tev1、Clef、Clef Flashを評価できます。この経路にRC選択は必須ではありません。",[154,1365,1368],{"href":1366,"rel":1367},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Fblob\u002Fv0.40.2\u002Fdocs\u002Fcapabilities\u002Fdecision.mdx",[158],"v0.40.2判断API文書",[218,1370,1371],{},"\u002Fv1\u002Fsystemone","の候補選択、確率、順序付き評点を説明しており、文章生成とは用途が異なります。Clef画像は",[218,1374,1375],{},"images","内の生base64で、URLやdata URLは受け付けず、llama.cppの経路と分けます。対応Apple Silicon・モデル・Engine・入力表現を固定し、経路の増加を精度、確率の較正、メモリ削減、低Latencyの証明へ読み替えません。ゲーム側の評価は",[154,1378,1380],{"href":1379},"\u002Fknowledge\u002Fgame\u002Fllm\u002Fgame-npc-llm-adoption-boundaries","NPC記事","で扱います。",[26,1383,163,1384,1389,1390,1395,1396,1401],{},[154,1385,1388],{"href":1386,"rel":1387},"https:\u002F\u002Finco.ai\u002Fblog\u002Fsplash\u002F",[158],"Splash","はApple Silicon向けの専用実行エンジンで、",[154,1391,1394],{"href":1392,"rel":1393},"https:\u002F\u002Flmstudio.ai\u002Fchangelog\u002Flmstudio\u002Flmstudio-v0.4.25",[158],"LM Studio 0.4.25","も9月19日に対応しました。公称要件はM3以降、macOS 26.4以降、統合メモリ36GB以上で、開発元は48GB以上を推奨します。",[154,1397,1400],{"href":1398,"rel":1399},"https:\u002F\u002Fhuggingface.co\u002Fincoai\u002FQwen3.8-27B-Splash",[158],"Qwen3.8-27Bの専用パッケージ","は4bit本体、DFlash 2、Vision Encoder等を含む17.4GBで、通常のMLX／Transformers Checkpointではありません。ダウンロード容量と必要総メモリを分け、エンジンとモデルの利用条件を個別に確認します。採用前にはCold Prefill、Cache再利用、遅い要求の応答時間、ゲーム同居負荷を測る必要があり、当方では未検証です。",[22,1403,1404],{"id":1404},"スペックを読むときの注意点",[26,1406,1407],{},"ローカルLLMでは、似ているように見える数字が異なる意味を持ちます。",[251,1409,1410,1423],{},[254,1411,1412],{},[257,1413,1414,1417,1420],{},[260,1415,1416],{},"情報",[260,1418,1419],{},"分かること",[260,1421,1422],{},"それだけでは分からないこと",[276,1424,1425,1436,1447,1458,1469,1480],{},[257,1426,1427,1430,1433],{},[281,1428,1429],{},"モデル全体のパラメータ数",[281,1431,1432],{},"モデル全体のおおよその規模",[281,1434,1435],{},"実行時の計算量と必要メモリ",[257,1437,1438,1441,1444],{},[281,1439,1440],{},"Active Parameters",[281,1442,1443],{},"MoEが一度の処理で主に使う規模",[281,1445,1446],{},"モデル全体の保持量と配布容量",[257,1448,1449,1452,1455],{},[281,1450,1451],{},"量子化後のモデル容量",[281,1453,1454],{},"圧縮された配布モデルのおおよその容量",[281,1456,1457],{},"一時メモリや他のアプリを含む、PC・GPU全体の使用量",[257,1459,1460,1463,1466],{},[281,1461,1462],{},"一度に扱えるトークン数",[281,1464,1465],{},"モデルが一度に参照できる文章量の上限",[281,1467,1468],{},"長文を読ませたときの速度と、情報を正しく使えるか",[257,1470,1471,1474,1477],{},[281,1472,1473],{},"1秒当たりの生成トークン数",[281,1475,1476],{},"特定条件で回答を生成する速さ",[281,1478,1479],{},"最初の文字が出るまでの時間や、遅い要求がどれだけあるか",[257,1481,1482,1485,1488],{},[281,1483,1484],{},"Benchmarkの点数",[281,1486,1487],{},"指定された課題と実行手順での性能",[281,1489,1490],{},"自分の用途、言語、ハードウェアでの品質",[26,1492,1493],{},"Denseは、原則としてモデル全体を入力の処理に使います。MoEは複数の専門領域から一部だけを使うため計算量を抑えられますが、使わない専門領域も含めたモデル全体のデータを保持する必要があります。",[26,1495,1496],{},"量子化は必要メモリを減らしますが、精度、対応する実行ソフトウェア、速度へ影響する場合があります。同じ「4bit」でも方式が異なれば結果も異なるため、圧縮方法の名前まで記録します。",[26,1498,1499,1500,625,1505,1510,1511,1514],{},"2026年10月11日確認。10月1日19:24 UTC（10月2日04:24 JST）公開のプレリリース",[154,1501,1504],{"href":1502,"rel":1503},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Freleases\u002Ftag\u002Fb11324",[158],"llama.cpp b11324",[154,1506,1509],{"href":1507,"rel":1508},"https:\u002F\u002Fgithub.com\u002Fggml-org\u002Fllama.cpp\u002Fpull\u002F29749",[158],"PR #29749","を含みます。Linuxの",[218,1512,1513],{},"-lm dio","でTensor全体と同じ大きさの一時コピーを、最大64MBの再利用Bufferへ置き換えました。ロード時ピークRSS、空きRAM、ロード時間を推論中のRAM／VRAMやゲーム負荷と分けて測ります。作者のDGX Spark／CUDA測定は設定限定であり、全OS・読み込み方式共通の削減や当方の再現結果ではありません。",[26,1516,1517,1518,1523,1524,1529],{},"2026年10月11日確認。10月8日16:53 UTC（10月9日01:53 JST）公開の非プレリリース",[154,1519,1522],{"href":1520,"rel":1521},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Freleases\u002Ftag\u002Fv0.40.2",[158],"Ollama v0.40.2","の現行ノートは、旧形式モデルを初回実行時に変換し、ダウングレード用の旧コピーを保持すると説明します。",[154,1525,1528],{"href":1526,"rel":1527},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Fpull\u002F18874",[158],"PR #18874","は一覧の重複表示を隠す変更で、disk上のバックアップ削除ではありません。変換用のdisk余裕と初回処理を、ダウンロード容量や実行時RAM／VRAMと分けて測ります。バックアップを削除して0.40より前へ戻す場合はモデルの再取得が必要です。変換機能の初出日は未確定で、v0.40.2の新導入とは断定しません。当方は変換・削除を行っておらず、増加容量、所要時間、復旧動作は未検証です。",[26,1531,1532,1533,1538,1539,1544,1545,1550],{},"2026年10月12日JST確認。10月11日UTC公開の",[154,1534,1537],{"href":1535,"rel":1536},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Freleases\u002Ftag\u002Fv0.40.3",[158],"Ollama v0.40.3","は、ローカルモデルの互換性変換をバックグラウンドで開始する処理を停止しました。",[154,1540,1543],{"href":1541,"rel":1542},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Fpull\u002F18908",[158],"PR #18908","は、特に大量のEmbedding要求でのrequest overheadとGC負荷を理由に挙げ、",[154,1546,1549],{"href":1547,"rel":1548},"https:\u002F\u002Fgithub.com\u002Follama\u002Follama\u002Fblob\u002Fv0.40.3\u002Fserver\u002Froutes.go#L253-L267",[158],"版固定の要求処理","でも移行呼び出しが無効化されています。上記v0.40.2の履歴は残しつつ、バックグラウンド変換の発生を前提にする際は導入版を確認します。変換済みWeightの巻き戻しやバックアップ削除を示す変更ではありません。同じモデル・並列数で要求LatencyとGCを比較し、disk使用量や実行時RAM／VRAMとは分けます。当方では改善量やVRAM削減を測っておらず、変換・復旧動作も未検証です。",[22,1552,1553],{"id":1553},"選ぶときの基準",[26,1555,1556],{},"モデル名から選ぶのではなく、先に用途と制約を決めます。",[42,1558,1559,1562,1565,1568,1571],{},[45,1560,1561],{},"分類や要約など仕事を限定できるか、自由な会話やAgentが必要か",[45,1563,1564],{},"利用できるPCメモリ（RAM）・GPUメモリ（VRAM）と、同時に動かすアプリの使用量",[45,1566,1567],{},"文章だけでよいか、画像や動画も必要か",[45,1569,1570],{},"必要な言語、Context Length、Tool Useの精度",[45,1572,1573],{},"モデル、データの圧縮方法、実行ソフトウェアのライセンスと提供状況",[26,1575,1576],{},"候補を2、3種類に絞ったら、同じ入力文、Context Length、量子化方式、ハードウェアで比較します。最初の文字が表示されるまでの時間、回答の完了時間、PC・GPUメモリに加え、実際の課題が成功した割合と失敗例を確認します。開発元が公開したBenchmarkは候補を絞る材料として利用し、最終判断は自分の用途で行います。",[22,1578,1580],{"id":1579},"ゲーム内ローカルslmの搭載予定例","ゲーム内ローカルSLMの搭載予定例",[26,1582,1583],{},"gamescom 2026でNVIDIAは、Creature収集RPG『Aniimo』が2027年初頭にNVIDIA ACEへ対応すると発表しました。PlayerのGPU上でFine-tuning済みNemotron SLMを動かし、自然言語や音声からPlayerの意図を解釈して、Game側のBehavior APIを呼び出す計画です。",[26,1585,1586],{},"これは、Local Modelを自由会話だけに使うのではなく、自然言語を構造化されたGame操作へ変換する例です。ただし現時点では搭載予定であり、製品版の必要VRAM、RenderingとのGPU共有、応答時間、誤操作率は公開資料から判断できません。Model選定ではWeight容量だけでなく、Gameと同時実行したときの総VRAM、Latency、Behavior APIへ渡す出力の検証を評価します。",[26,1588,1589,1590,1594],{},"詳しい構成とgamescomで示された他のGame AI事例は、",[154,1591,1593],{"href":1592},"\u002Fknowledge\u002Fgame\u002Fresearch\u002Fgamescom-2026-game-ai-landscape","gamescom 2026で見えたゲームAIの現在地","で整理しています。",[26,1596,1597,1600],{},[154,1598,1599],{"href":1379},"NPC導入記事","では、ローカル会話、記憶、行動を組み合わせたFallout 4の公開Mod、AI Follower Jessicaも扱います。",[22,1602,1603],{"id":1603},"現時点の見方",[26,1605,1606],{},"9月18日の追加例では、小型Agentモデル、常駐Weightの圧縮、ExpertのStreamingを分け、Iris-miniでContext管理の影響も補強しました。検証の選択肢が増えたことと、NPC採用やゲーム同居性能が確定したことは別です。",[26,1608,1609],{},"K2 Horizonは小型Agentの比較候補を、PAIRは複数PCへの同時要求の分散方法を増やしました。いずれも用途ごとの検証が必要です。",[26,1611,1612],{},"2026年9月時点のローカルLLMで重要なのは、特定のモデルが一律に最良になったことではありません。Reasoning、Tool Use、画像入力、失敗時の再試行、回答の高速化といった機能を、ローカル環境で扱う選択肢が増えたことです。LM StudioのAssistant Drafter対応のように、同じモデルでも実行ソフトウェアの更新によって検証可能な構成が増えます。",[26,1614,1615],{},"MetaのMuse Glimmerは、その変化を分かりやすく示しています。Liquid AIのLFM2.5-2.6Bは、小型モデルのTool Useと、量子化時の品質を補うQAD、生成を速めるDSparkを組み合わせる方向性を示しています。NVIDIAのNemotron 3.5 Lightningは、Agentを一つのモデルだけで構成せず、計画と反復実行を分担する方向性を示しています。Perplexity Portable Computerは、モデルとHarness、Sandbox、必要時のクラウドEscalationを一体で設計する方向性を具体化しました。Ornith 1.5 9Bは、小型のTool CallingモデルもAgentの実験対象に入ることを示します。一方、Qwen、Gemma、gpt-oss、Mistralも異なるサイズと設計で選択肢を広げています。",[26,1617,1618],{},"モデルの更新は速いため、一覧を固定的な推奨として扱わず、次の条件で再評価します。",[42,1620,1621,1624,1627,1630,1633],{},[45,1622,1623],{},"新しいモデルまたはデータの圧縮方法が公開された",[45,1625,1626],{},"使用する実行ソフトウェアの対応状況が変わった",[45,1628,1629],{},"対象ハードウェアや同時実行するアプリが変わった",[45,1631,1632],{},"必要な言語、Tool Use、Context Length、応答時間が変わった",[45,1634,1635],{},"モデルや依存ライブラリのライセンス、提供状況が変わった",[22,1637,1638],{"id":1638},"注意点",[42,1640,1641,1644,1647,1650,1653,1656,1659],{},[45,1642,1643],{},"Spark-X2.5、Bonsai 2、Edge0、Iris-miniは2026年9月18日確認です。性能数値は開発元の報告であり、当方による再現実験は行っていません。",[45,1645,1646],{},"既存項目は2026年9月2日までに整理した公開情報に基づき、個別の確認日は各記述に残しています。K2 HorizonとNVIDIA PAIRは9月6日に一次資料を確認して追加しました。今回、既存項目すべてを再検証したものではありません。",[45,1648,1649],{},"掲載したモデルは代表例であり、利用可能なローカルLLMを網羅するものではありません。",[45,1651,1652],{},"性能と必要メモリは、量子化方式、実行ソフトウェア、Context Length、同時処理数、ハードウェアで変わります。",[45,1654,1655],{},"開発元が公開したBenchmarkは、その開発元の評価条件に基づきます。",[45,1657,1658],{},"10月4日の確認範囲はPortable ComputerのWindows提供、Splash、Qwenのindexerメモリです。既存モデルすべての再検証やゲーム性能の実測ではありません。",[45,1660,1661],{},"モデルのライセンスだけでなく、利用規約、実行ソフトウェア、依存ライブラリの条件も確認してください。",[22,1663,1664],{"id":1664},"関連資料",[42,1666,1667,1673,1680,1686,1692,1699,1705,1712,1718,1724,1731,1737,1743,1749,1756,1762,1769,1775,1781,1787,1793,1799,1805,1811,1818,1824,1831,1837,1843,1849,1855,1862,1866,1872,1878,1884,1890],{},[45,1668,1669],{},[154,1670,1672],{"href":768,"rel":1671},[158],"Muse Glimmer 30B Model Card",[45,1674,1675],{},[154,1676,1679],{"href":1677,"rel":1678},"https:\u002F\u002Fwww.liquid.ai\u002Fblog\u002Flfm2-5-2-6b",[158],"LFM2.5-2.6B公式発表",[45,1681,1682],{},[154,1683,1685],{"href":792,"rel":1684},[158],"LFM2.5-2.6B Model Card",[45,1687,1688],{},[154,1689,1691],{"href":799,"rel":1690},[158],"LFM2.5-2.6B公式GGUF",[45,1693,1694],{},[154,1695,1698],{"href":1696,"rel":1697},"https:\u002F\u002Fhuggingface.co\u002Fblog\u002FLiquidAI\u002Fqad",[158],"LFM2.5 QAD Q4_0",[45,1700,1701],{},[154,1702,1704],{"href":808,"rel":1703},[158],"LFM2.5-DSpark",[45,1706,1707],{},[154,1708,1711],{"href":1709,"rel":1710},"https:\u002F\u002Fhuggingface.co\u002FLiquidAI\u002FLFM2.5-2.6B-DSpark-GGUF\u002Ftree\u002Fmain",[158],"LFM2.5-2.6B-DSpark公式GGUF",[45,1713,1714],{},[154,1715,1717],{"href":839,"rel":1716},[158],"LFM Open Licenseの説明",[45,1719,1720],{},[154,1721,1723],{"href":824,"rel":1722},[158],"LM Studio 0.4.22 release notes",[45,1725,1726],{},[154,1727,1730],{"href":1728,"rel":1729},"https:\u002F\u002Flmstudio.ai\u002Fdocs\u002Fapp\u002Fadvanced\u002Fspeculative-decoding",[158],"LM Studio Speculative Decoding",[45,1732,1733],{},[154,1734,1736],{"href":156,"rel":1735},[158],"Portable Computer公式発表",[45,1738,1739],{},[154,1740,1742],{"href":189,"rel":1741},[158],"Portable Computer技術解説",[45,1744,1745],{},[154,1746,1748],{"href":200,"rel":1747},[158],"PPLX Computer Qwen 3.8 27B DFlash2 Checkpoint",[45,1750,1751],{},[154,1752,1755],{"href":1753,"rel":1754},"https:\u002F\u002Fdeveloper.nvidia.com\u002Fblog\u002Fnvidia-nemotron-3-5-lightning-delivers-fast-accurate-specialized-task-execution-for-long-running-agents\u002F",[158],"Nemotron 3.5 Lightning Technical Blog",[45,1757,1758],{},[154,1759,1761],{"href":852,"rel":1760},[158],"Nemotron 3.5 Lightning BF16 Model Card",[45,1763,1764],{},[154,1765,1768],{"href":1766,"rel":1767},"https:\u002F\u002Fhuggingface.co\u002Fggml-org\u002FNVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF",[158],"Nemotron 3.5 Lightning GGUF",[45,1770,1771],{},[154,1772,1774],{"href":877,"rel":1773},[158],"Ornith 1.5 9B Model Card",[45,1776,1777],{},[154,1778,1780],{"href":886,"rel":1779},[158],"Ornith 1.5 9B GGUF",[45,1782,1783],{},[154,1784,1786],{"href":897,"rel":1785},[158],"Ornith 1.5 35B-A3B Model Card",[45,1788,1789],{},[154,1790,1792],{"href":903,"rel":1791},[158],"Ornith 1.5 35B-A3B GGUF",[45,1794,1795],{},[154,1796,1798],{"href":910,"rel":1797},[158],"Ollama ornith library",[45,1800,1801],{},[154,1802,1804],{"href":936,"rel":1803},[158],"Qwen3.8-27B Model Card",[45,1806,1807],{},[154,1808,1810],{"href":954,"rel":1809},[158],"Qwen3.8-Flash-Next公式発表",[45,1812,1813],{},[154,1814,1817],{"href":1815,"rel":1816},"https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen3.8-Flash-Next",[158],"Qwen3.8-Flash-Next Model Card",[45,1819,1820],{},[154,1821,1823],{"href":997,"rel":1822},[158],"Qwen Community License 1.0",[45,1825,1826],{},[154,1827,1830],{"href":1828,"rel":1829},"https:\u002F\u002Fhuggingface.co\u002Funsloth\u002FQwen3.8-Flash-Next-GGUF",[158],"Unsloth Qwen3.8-Flash-Next GGUF",[45,1832,1833],{},[154,1834,1836],{"href":1118,"rel":1835},[158],"Gemma 4 model overview",[45,1838,1839],{},[154,1840,1842],{"href":1213,"rel":1841},[158],"OpenAI API model catalog",[45,1844,1845],{},[154,1846,1848],{"href":1231,"rel":1847},[158],"Ministral 3 3B model overview",[45,1850,1851],{},[154,1852,1854],{"href":1244,"rel":1853},[158],"Introducing Mistral Small 4",[45,1856,1857],{},[154,1858,1861],{"href":1859,"rel":1860},"https:\u002F\u002Fwww.nvidia.com\u002Fen-us\u002Fgeforce\u002Fnews\u002Fgamescom-2026-dlss-4-5-ray-reconstruction-release-announcements-trailers\u002F",[158],"NVIDIAのgamescom 2026発表",[45,1863,1864],{},[154,1865,1593],{"href":1592},[45,1867,1868],{},[154,1869,1871],{"href":654,"rel":1870},[158],"K2 Horizon",[45,1873,1874],{},[154,1875,1877],{"href":660,"rel":1876},[158],"K2 Horizon 3.7B",[45,1879,1880],{},[154,1881,1883],{"href":666,"rel":1882},[158],"K2 Horizon 7B",[45,1885,1886],{},[154,1887,1889],{"href":678,"rel":1888},[158],"K2 Horizon 3.7B GGUF",[45,1891,1892],{},[154,1893,236],{"href":234,"rel":1894},[158],{"title":1896,"searchDepth":1897,"depth":1897,"links":1898},"",2,[1899,1900,1901,1902,1907,1908,1923,1924,1925,1926,1927,1928,1929,1930],{"id":24,"depth":1897,"text":24},{"id":40,"depth":1897,"text":40},{"id":104,"depth":1897,"text":105},{"id":143,"depth":1897,"text":144,"children":1903},[1904,1906],{"id":148,"depth":1905,"text":149},3,{"id":206,"depth":1905,"text":207},{"id":227,"depth":1897,"text":228},{"id":243,"depth":1897,"text":243,"children":1909},[1910,1911,1912,1913,1914,1915,1916,1917,1918,1919,1920,1921,1922],{"id":484,"depth":1905,"text":485},{"id":594,"depth":1905,"text":595},{"id":634,"depth":1905,"text":303},{"id":648,"depth":1905,"text":320},{"id":761,"depth":1905,"text":762},{"id":785,"depth":1905,"text":786},{"id":845,"depth":1905,"text":846},{"id":872,"depth":1905,"text":388},{"id":930,"depth":1905,"text":931},{"id":1112,"depth":1905,"text":422},{"id":1206,"depth":1905,"text":1207},{"id":1225,"depth":1905,"text":456},{"id":1239,"depth":1905,"text":472},{"id":1255,"depth":1897,"text":1256},{"id":1273,"depth":1897,"text":1274},{"id":1404,"depth":1897,"text":1404},{"id":1553,"depth":1897,"text":1553},{"id":1579,"depth":1897,"text":1580},{"id":1603,"depth":1897,"text":1603},{"id":1638,"depth":1897,"text":1638},{"id":1664,"depth":1897,"text":1664},"主要なローカルLLMと小型Agent候補を紹介し、低ビット圧縮、SSD Expert Streaming、Context管理を含む実行環境の選び方を整理します。","md",{},true,"\u002Fknowledge\u002Fai\u002Fllm\u002Flocal-llm-landscape-2026","2026-08-18",{"title":5,"description":1931},"published","knowledge\u002Fai\u002Fllm\u002Flocal-llm-landscape-2026",[1941,1942,1943],"local-inference","agent","open-weight",[1945],"llm","2026-10-13","IqXR1hFCS_3cUEFUW3plIox4iNAGh9mxcEi6awqMjmM",{"ja":1934,"en":1934},1791891818198]