折角なので、自分のPCにAIさん住んで欲し~い。
・・・というわけで、がさりんごそりんやってみた。ちなみに、画像や動画生成系ではなく、文章系のやつ。自分のPCに住み着いたおしゃべりAI氏と話をしたら楽しいんじゃないかな、と。ネットを介す必要がないので、ネットがない状態でも話ができる。まあ、電力は食うから、バッテリー駆動はきついかもしれない。
やり方自体は簡単。
1.LM Studioをダウンロードしてインストールする
2.LM StudioにLLMをダウンロードする
たった2ステップ。とても簡単。ちなみに、LM Studioというのは、アプリの名前。LLMは、文章系の生成AIの本体。いろんな種類がある。
LM Studioのダウンロードは、ここから。https://lmstudio.ai/
英語サイトだけど、Download for Windows、とあるのをぽちっと押せば大丈夫(Windowsで使う場合)。LM Studio自体は、後で日本語に切り替えられなくもない(でもまあ、変えても変えなくてもあまり変わらない気がする・・・)。
インストールしてLM Studioを立ち上げたら、次は、LLMを選んでダウンロード。LM Studioを開き、下記画像の青で囲んだところをクリック。これでLLMを選ぶ画面が開く。

左上の欄(言語を英語にしている場合、薄い字で「Search local models by name or author…」といった内容が表示されている)に、検索ワードを入れると、そのワードを含むLLMの候補が表示される。
特に思いつかない場合は、下の方で比較的軽いものをいくつか挙げているので、コピー&ペーストするのも手。
下記は、llama4系のLLMを探しているところ。

このLLMが、(文章系)生成AIの本体。LLMとは、「Large Language Model」の略で、日本語にすると大規模言語モデル。これは、大量に文章を読み込んで学習したもので、言葉を入れると、入力された言葉と関係が深い言葉や文章がアウトプットとして出て来る。
このLLM(以下モデルと呼ぶ)は、いろんな種類があり、要求されるPC能力(スペック)も様々。
先の画像の赤背景に白抜き文字で「likely too large」とある。これは、入れようとしているPCの能力に対して、選んだモデルが「大きすぎるのでは」と警告してくれている。
PCの能力に見合わないモデルを使おうとすると、PCに負荷がかかりすぎ、まっとうに動かない、いつまでたっても返答が返ってこない等の問題が起こる。全体としては、大きいモデルほど賢いが(ただし、世代が違うとサイズによる能力差を超えることも多いので、一概にサイズだけで決まるわけではない)、PCに見合ったサイズのものを選ばないと、PC負荷がかかり、電力が消費されるばかりで、何もできない事態にもなりかねない。
このモデル選びが、初心者には、なかなかに分かりにくく、選びにくい。「とりあえずなんでもいいから動くものを知りたい」、という向きに、軽い系のものを選んでみた(2026年2月末現在)。
・ mmnga / gemma-3n-E2B-it-gguf
Googleの出しているGemmaの最新世代でいちばん軽量な奴。意外と侮れない。
・grapevine-AI / gemma-3n-E4B-it-gguf
同じくGoogleのGemma-3nだが、上記より少し重く、そして少し賢い
・mmnga / Llama-3-ELYZA-JP-8B-gguf
Meta社のLlama-3をベースに日本のElyza社が大量の日本語データで追加学習を行い、日本語での応答精度や自然さを向上させたモデル。このひとつ上のモデル(gemma-3n-E4B)より重い。ただ、ベースになっているLlama-3がGemma-3nより少し古く、効率は、Gemma-3nより悪め。重さが増したわりに賢さの上昇は少ないかもしれないが、独特の表現力がある(ような気がする)
Windows11でメモリ16GBのノートPCを使っているが、この環境下では、上記のうち3番目のLlama3系Elyzaがギリギリ動作する限界、という感がある。
他には・・・
・lmstudio-community / gemma-3-1B-it-qat-GGUF
爆速だけどある意味ハチャメチャ。軽さはピカイチ。
・mradermacher / Ministral-3-8B-Instruct-2512-BF16-GGUF
フランスのLLM、Mistral系。8Bなのでそこそこ重く、なんとなく賢い。スケジュール調整をさせたら自主的に「おやつ時間」を挿入して笑ってしまった。ちょっと毛色が違って面白い
とりあえずこんな感じで・・・モデルの選び方ヒントの話は、また今度。ローカルで動かす時、何が難しいって、「モデル名がほとんど呪文」な点。もっとも、今なら、AIに聞けば根気強く教えてくれる(だがしかし、結局使い勝手は、自分でやってみないと分からないのだった😓)
