Raspberry Pi 4の8GBをファイルサーバやwikiなどのwebサービスを自宅内限定で実行させているが、
ollamaも動かしてみようと思って調べてみたら、
llama3.2:3bより
llama3.2:1bなら更に軽そうだったので入れてみた。
まず、ollamaのインストールは
curl -fsSL https://ollama.com/install.sh | sh
そして実行。
ollama run llama3.2:1b
LLMの容量は1.3GBくらいのようで、
ストレージは128GBの安いマイクロSDだが、動作も普通な感じ。
リソースはフルフル使っている感じ。
ローカル実行なのでAI回答中でもネットワークアクセスが無いのは当然だが、
ディスクアクセスも変化があまりない。
文字を出してくれる、ってだけで、なんか仕事している感じがする。
何かの提案や文章の要約くらいなら、回数制限を気にせず使えていいんじゃなかろうか。
windows11に耐えられない古いPCで、バックアップにもならないくらい低スペでも
スタンドアロンでとりあえず動かしておきたい、
ってことで、FreeDOSでも入れておこうと思ったが、
FD１枚程度の小さいOSは他にもあって、
過去にモスキートとか起動させたり、VineのFDブートディスクをそのまま使ってみたりもあったので、
今回はKolibriOSを使ってみようと思った。
とりあえず、ディスクイメージをダウンロードしてqemuで起動させてみた。
容量が1.44MB程度なのにGUIでいろいろ入っていて面白い。
ブートして内部ストレージ（つまりはSSDやHDD）にインストールする方法がよくわかっていないのだが
こういうときはプアマンインストールなんだろうな。
ブログの過去記事でいろいろ試したことがあるので、思い出しながらになりそう。
ちなみに、その当時にいろいろやっていたFMVビブロNC13Dはまだ起動する。
これでもwindows2000が入ればブートのファイルを編集することで
他のOSを起動出来た気がする。
ビブロNC13Dはwindows95だったが、windows98も起動できたし、windows2000も起動できた。
windowsXpはメモリ不足だが、起動ディスクを編集したらインストールは可能だった。
windowsMeはCPUのチェックで弾かれたので入れたことがない。
ビブロNC13DのCPUのクロックが133MHzで、Meは150MHz以上が必須だったようなので。
話が変わってしまったが、同じ方法でwindowsXpの頃のネットブックからKolibriOSが起動できるか
試してみようと思う。
制限を気にせずAIのチャットボットを使うには
チャットGPTやジェミニに課金して使うか、
GPUを追加購入してローカルで使うかなんだけれど、
ちゃんと動くスクリプトを考えさたり、相談事の場合、
個人的には課金した方がいいかな、と思うが、
とりあえず遊びでも何でも理由はともなく、ノートPC上で動かしたい、
ってところで、ollamaをインストールしてはみた。
しかし、どのLLMを使ったらよさそうか、
検索してもあんまり合致するものが出てこなかったので
チャットGPTとかに聞いてみたら、
今時点では「llama3.2:3b」を使っておくのがよさそうだった。
llama3.2:3bで聞いてみても、そんな回答だった。
これはwindowsでもubuntuでも同じような回答だった。
メモリ16GBのノートPCもあるが、
普段使うのは12GBだったり8GBだったり、
CPUは第5世代～第10世代のCore i3やCore i5で、ちょっと幅があるので、
単純に「メモリ８GB程度のノートPC」を条件にして、
・CPUのみで動作するローカル環境
・英語、中国語は使わない。日本語のみで要約して答えてくれるモデルがいい。
と条件を加えた。
llama3.2:3b以外だと、
・gpt-ossはそもそも 8GB CPUでは非現実的、小型版もまだ成熟不足
・gemma3は日本語重視で文章が自然だが、少し冗長
・phi3:3.8b では回答は長いので、プロンプトを使用して要約する必要があります。
・qwenは中国語になりがち
ってことで、今の時点で個人的には「llama3.2:3b」が良さそうなので、
しばらく使っていこうと思う。
ここへは昨年、gooブログ終了で移行してきたわけだが、
ブックマークがまだ残っていたので削除する前にどうなっているのか見てみた。
そりゃそうだ。
こんな感じで、ブックマークを放置していて久々にアクセスしたらなくなっているとか
これからもあるんだろうな。
Q4OSの３２ビット版を入れてみたMSI Wind Netbook U100、
ネットに接続したところで何に使えるわけでもないので、
今後はスタンドアロンで外部モニタとして使おうと、
サポート切れだが、windows10を入れなおした。
Atom N280が使われているWindows Xpの頃のネットブックなのだが
これまでQ4OS入れたりwindows10を入れたりを繰り返してきた感じ。
windows10だとUSB接続の画像キャプチャがドライバを用意しなくても
自動で認識するようなので、外部モニタに使えそう。
と言っても、画面サイズは1024 x 600なので、せいぜいRasPIに使う程度だが、
動作確認用に専用のモニタを別に用意する必要もないので、安上がりではある。
もともと中古で購入したときはHDDが入ってなくて、SSDを入れてwindows10をインストールしたら
ライセンス認証されたことでもあり、
せっかくなので、スタンドアロンで使うかな。
動作的にネットに接続するのも一苦労なのだが、セキュリティとしてのリスクを抑える意味で
無線LANなどは外してしまった方がよさそう。
同じ用途にしたこの前の2in1の方だと、USBハブが必要になるぶん、U100の方が手軽かもしれない。
