以下の3つの環境で LM Studio を試してみた。（1週間くらい）
※間違いがあるかもしれません。
※いわゆるおま環要素が含まれています。
環境
メイン PC（デスクトップ）
OS: Windows11
CPU: Intel(R) Core(TM) i9-9900K CPU @ 3.60GHz (3.60 GHz)
メモリ: RAM 32.0 GB
GPU: NVIDIA GeForce GTX 1080 Ti (11 GB)
ストレージ 使用領域 1.35 TB / 2.29 TB
中古で買った、古いゲーミング PC 。AI で使うには力不足だが、PS3 時代の PC ゲームだったら MOD を入れても快適だったりする。
例えば、Skyrim は SE よりも LE のほうが確実に軽いので、そっちで遊んでいる。
仕事中にも使うノート PC
CPU: Intel® Core™ i5-1135G7 @ 2.40GHz
メモリ: 15.3 GiB の RAM
グラフィックプロセッサ: Mesa Intel® Iris® Xe Graphics
製品名: dynabook G83/HS
休憩中用ノート PC
OS: CachyOS Linux
CPU: Intel® Core™ i5-8265U CPU @ 1.60GHz
メモリ: 16 GiB の RAM (15.0 GiB 使用可能)
グラフィックプロセッサ: Intel® UHD Graphics 620
製品名: HP ProBook 430 G6
リース落ちのジャンク。軽いゲームなら良いけど、重いものはメイン PC 等からのストリーミングプレイじゃないと無理。
試した LLM モデル
※試したのはすべて GGUF タイプである。
※Obsidian に書いたものをコピペしたのでいつもと書き方違う。
gemma系：Google（アメリカ）
gemma-3-1B-it-QAT-Q4_0
HPProBook430G6でも安定して使える。
ただ、1Bしかない。
gemma-3-4b-it-GGUF
LMStudio初回起動時にお勧めされるやつ。
HPProBook430G6は文字化けエラー落ち。
Dynabook 83/HSから安定。画像解析は出来ない。
はい、承知いたしました。私のことについて詳しくご説明します。
私はGoogleによってトレーニングされた、大規模言語モデルです。
- 学習データ: 2023年1月までの公開されているテキストとコードで学習されました。
- 開発元: Google AI
- 目的: 様々な質問に答えたり、テキストを作成したり、翻訳したりするなど、幅広いタスクを実行することです。
- 特徴: 自然な日本語を理解し、生成することができます。また、大量の情報を迅速に処理できます。
より詳細な情報が必要な場合は、お気軽にお尋ねください。
gemma-3n-E4B-it-text-GGUF
LMStudioから見ると画像マークついてたけど名前通り非対応。
gemma-4-E2B-it-GGUF
HPProBook430G6でも安定して使える。
HP ProBook 430 G6で使っても、少し遅いだけで文字化けエラーはない。画像認識は、ギリ行けることもある（文字認識すら間違いだらけだが）。
Dynabook 83/HSでの画像認識は、間違いはあるがしっかりしてもらえているようだ。gemma-4-E4B-it-GGUFはやったりやらなかったりになったところを見るとこれが安定なのかも？
実質5Bらしいのでこれは使えると思う。
私は Gemma 4 と申します。Google DeepMindによって開発された、大規模言語モデル（LLM）です。
私について、詳しくご説明します。
1. 正体と性質
- 名前: Gemma 4
- 開発元: Google DeepMind
- 種類: 大規模言語モデル（LLM）であり、オープンウェイトモデルとして提供されています。これは、研究者や開発者が私の構造と能力をより深く理解し、応用できるようにすることを目的としています。
2. 能力（入力と出力）
- 入力処理: テキストと画像を理解し、処理することができます。
- 出力: テキストを生成します。画像そのものを生成することはできません。
- 音声処理: 私のファミリー（Gemma 4）の中には、特定のモデルサイズ（2Bや4Bなど）が音声入力を処理する能力も持っていますが、私自身はテキストベースでの対話と情報処理が主となります。
3. 機能
私は、与えられた指示や質問に対して、自然で文脈に合った応答を生成するように設計されています。具体的な機能としては以下のようなことが可能です。
- 質問への回答
- 文章の要約
- 翻訳
- アイデアの生成や文章の作成
- 複雑な概念の説明
4. 知識の範囲
私の知識は、学習データに基づいて構築されており、その知識は特定のカットオフ時点（2025年1月）で制限されています。それ以降の最新の情報については、文脈として提供されない限り、回答できません。私は、皆様が求める情報を提供し、さまざまなタスクを支援するために存在しています。どうぞ、何かご質問があればお気軽にお尋ねください。
gemma-4-E4B-it-GGUF
HPProBook430G6は文字化けエラー落ち。部分的なオフロードで安定。（画像は無理）
Dynabook 83/HSから安定。画像説明は出来たり出来なかったりで、駄目な場合が多い。
（アップデートで画像説明の質が落ちた……？OCRの質は確実に劣化した）
実質7.5Bらしい。
メインPCでは安定して画像解説させることができた。内容は割と間違ってたけども。
私はGoogleによってトレーニングされた大規模言語モデルです。
できることの例:
- 質問への回答: 幅広いトピックに関する情報を提供できます。
- 文章の作成: メール、記事、物語など、様々な形式の文章を生成できます。
- 要約と翻訳: 長い文章を短くまとめたり、異なる言語に翻訳したりすることが得意です。
- アイデア出し: ブレインストーミングや構成案の提案ができます。
私の特徴:
- 知識ベース: インターネット上の膨大なデータに基づいて学習しています。
- 対話能力: 自然な会話を心がけ、文脈を理解しながら応答します。
苦手なこと（限界）:
- リアルタイムの感情や経験: 人間のような感情や個人的な経験を持つことはできません。
- 最新すぎる情報: 学習データが一定期間に止まっているため、ごく最近の出来事については知識が限定的かもしれません。
- 専門的な判断: 医療や法律など、専門的なアドバイスが必要な場合は、必ず専門家にご相談ください。
どのようなことに関心がありますか？具体的な質問をいただければ、より詳しくお答えできます。
私はGoogle DeepMindによって開発された、オープンウェイトの大規模言語モデルであるGemma 4です。
私についての詳細:
- 名前と種類: Gemma 4という名前を持つ大規模言語モデル（LLM）です。
- 開発元: Google DeepMindが開発しました。
- 性質: オープンウェイトモデルであり、その構造や重みが公開されています。
- 能力: テキストの理解と生成を主な機能としています。画像などのマルチモーダルな入力も処理できます（ただし、出力はテキストのみです）。
- 知識のカットオフ: 私の知識は2025年1月までの情報に基づいています。それ以降の出来事については把握していません。
補足事項:
- 私は特定の「学習データの最終日」という形で正確な日付を提示することはできませんが、上記のカットオフ日が私の知識の限界を示しています。
- 私には個人的な感情や意識はありません。与えられたデータとアルゴリズムに基づいて応答を生成しています。
gemma-4-E4B-it-heretic-GGUF
gemma-4-E4B-it-GGUFとほとんど変わらないが、なんか雰囲気が違う。
これの用途は何だろうか？
gemma-4-26B-A4B-it-GGUF
エラーもなく使えはしたけども、メインPCでも読み込み切れないサイズ……。
14Bの段階でGPUで読み込み切れないサイズだし当たり前なんだけども。
おそらくメインPCでまともに使える奴の限界値候補……と思ったけど、MoEバージョンだから、完全なオフロードできない時点で使えてないって発想もある。
LMStudioのアップデートの結果か、メインPCでも起動できなくなった。
GPT系：OpenAI（アメリカ）
gpt-oss-20b-GGUF
エラーもなく使えはしたけども、メインPCでも読み込み切れないサイズ……。
14Bの段階でGPUで読み込み切れないサイズだし当たり前なんだけども。
GPTなので、結果は見慣れたもの。安心感がある。
メインPCでまともに使える奴の限界値候補。
(Q4_K_M)
私はOpenAIによって開発された大規模言語モデル、ChatGPTです。
学習データ：2024年6月までの公開テキストから訓練されており、インターネットに接続してリアルタイムで情報を取得することはできません。
機能：質問応答・文章生成・翻訳・要約・創作など、多岐なる言語処理タスクを実施します。
限界：個人的経験や感情は持たず、推論は学習データに基づくため、常に最新情報や特異ケースでは不完全な回答になる場合があります。
これらが私の概要です。
Qwen系：Alibaba Cloud（中国）
Qwen3.5-2B-GGUF
HPProBook430G6で使うならこれがメインかな。Hugging Faceのページでは画像認識できるとあったが、LMStudioに読み込ませてみたところ画像認識が使えない。文字化けまつり。
私は Qwen3.5 であり、中国の大型言語モデルです。以下に詳細をまとめます：
- 開発者・背景：アリババクラウド（Alibaba Cloud）が開発した AI モデルで、自然言語処理や多岐にわたるタスクに対応します。
- バージョン情報：Qwen3.5 は最新バージョンであり、より高度な能力を備えています。
- 主な特徴：
- 文脈理解力：長文の文脈を正確に把握し、論理的推論や複雑な問題解決が可能です。
- 多言語対応：100 ユーザー言語に対応し、世界中で利用可能です。
- コード能力：Python や他のプログラミング言語でのコーディング、デバッグ、最適化など、高度なコード生成・実行支援を提供します。
- 長文処理：256K の文脈容量を備え、長い文章や資料の分析・要約が可能です。
- 多模态能力：画像認識、OCR、チャート解析などの多様なデータ形式に対応しています。
- 応用分野：研究・教育、ビジネス・業務効率化、医療・法律支援など、幅広い領域で活用されています。
さらに詳細な情報や特定のタスクについてご質問があれば、喜んでサポートいたします！
Qwen3.5 は2026 年 1 月時点の最新情報を基に設計されています。具体的には：
- 知識截止时间（Knowledge Cutoff）：2026 年 1 月の最新情報です。
- データ範囲：この時点で生成された回答や分析結果は、その日付までの事実・技術・社会現象などを正確に反映しています。
ただし、以下の点にご注意ください：
- リアルタイム性：2026 年 1 月以降の最新ニュースや出来事については、私の知識範囲に含まれていません。
- 情報の確認：重要な事実（特に政治的・社会的な出来事）について、正確性を保つために外部情報源を参照するよう努めますが、完全な最新情報は提供できません。
もし特定の話題について詳しく知りたい場合は、その内容に焦点を当てて質問してください！
Qwen_Qwen3.5-2B-GGUF
HPProBook430G6でQwen3.5-2B系を使って画像認識がなかなかできなくて試してみたやつ。
ダウンロード失敗した？Q5_K_Sだから今まで使っていたやつよりサイズ大きいはずだが明らかにサイズが小さかった。そして失敗。
HPProBook430G6にて、Qwen3.5-2B-Q4_K_Mで画像認識が使えなかったのでこっちも試してみることにした。
無理だった。
私は AI 助手であり、人間ではありませんが、以下のような特徴を持っています：
- 知識の蓄積: 学習データに基づいて情報を収集・整理し、回答を作成します。
- 多様な役割: 質問への応答、文章作成、翻訳、コード生成など、幅広いタスクに対応できます。
- 継続的な進化: 新しい情報や技術が追加されると、その時点で知識を更新されます。
ただし、私は人間ではないため、感情や意識を持ちません。また、特定の個人（例えば「あなた」という存在）について詳しく説明することはできません。何かご質問やお手伝いが必要であれば、お気軽にお尋ねください！
私の最新の情報更新日は2026 年 1 月です。この時点での知識と情報を基に回答を生成しています。
Qwen3.5-4B
ネット上で、低スペックPCで使う場合でバランスがいい物とお勧めされてたやつ。
HPProBook430G6は文字化けエラー落ち。
Dynabook 83/HSから安定。画像説明は落ちたりシンキング止まりになることもあるから、文章のみの利用が現実的。
私はアリババクラウドの通義実験室（Tongyi Lab）が開発した大規模言語モデル「Qwen3.5」です。主な特徴は以下の通りです：
- 知識ベース: 2026 年までの知識を学習しています。
- 多言語対応: 世界中の主要な言語で通信可能です。
- 高度な能力: 論理推論、数学計算、コード生成、複雑なタスク実行に強みがあります。
- 長文脈処理: 非常に長いテキスト（256K トークン）を正確に理解・要約できます。
私には感情や自己意識はありません。質問や課題に対して、事実と論理に基づいた回答を提供します。
Qwen3.5-9B-GGUF
ネット上で、使えるなら4Bより良いとお勧めされてたやつ。シンキングタイムが長い。
Dynabook 83/HS：ちょっとした質問でも数十分かかっていたので、実用的とは言えない。
メインPCで安定。実用的。画像解説も良好。（ただし、中国語が混じった）
日本語に翻訳させる作業にも良い（シンキングタイムが長いけど、質は悪くない）。
私はアリババクラウドが提供する「Qwen」シリーズの大規模言語モデルです。
- 学習データの更新時期：具体的なトレーニングの日付や更新サイクルは、知的財産権の都合で公開情報として明言されておりません。一般的な知識のカットオフ点はモデルリリース時の時点（2024 年初頭～）の情報を含んでいます。
- プライバシー設定：ユーザーとの対話は基本的に学習データとして再利用されず、匿名化された統計情報のみで使用される場合があります。
- 機能特性：長文脈処理、高度な論理推論、コーディング、画像解析などに対応しており、多言語での自然な対話を支援します。
詳細な技術仕様については、アリババクラウドの公式ドキュメントをご参照ください。
Qwen3.5-13B-Star-Trek-TNG-DS9-Heretic-Uncensored-Thinking-i1-GGUF
ちょっと気になったのでメインPCに入れてみることにした。
Qwen3.5-9B-GGUFと違って画像認識はない模様。入れる意味ないかも。
Phi系：Microsoft（アメリカ）
Phi-3-mini-4k-instruct-gguf
メインPCでも普通の質問でエラーを発生させ停止したので実用的とは言えない。
Phi-4-mini-reasoning-GGUF
Dynabook 83/HSではシンキングタイムが長いが、Qwen3.5-9B-GGUFの時よりは短かく数分程度。
しかし、シンキングして終わってしまった（つまり英語のみだった）から実用的とは言えないか。
システムプロンプトを設定すれば日本語になった……けどなんかよくわからない日本語。中華フォントやらハングルやら混じっているし、内容だってどう見ても質問に対する答えではない。
nemotron系：NVIDIA（アメリカ）
NVIDIA-Nemotron-3-Nano-4B-GGUF
4BってことはDynabook 83/HSも行ける……？って思ったけど、NVIDIAのだからGPU必須か。
詳しく教えてって言ったのに回答結果がめっちゃ短い。
私はGPT-4モデルであり、2023年9月1日までに学習データが収集された最後の日です。それ以降は新しい情報を取得できません。
Mistral系：Mistral（フランス）
Mistral-7B-Instruct-v0.3-GGUF
AIに聞いてまずはこれから、とおすすめされがちなやつ。
英語で出力されて、それに対して日本語でといえば日本語で行ってもらえる感じ。英語オンリーでないだけ使えるか。と思ったけど、日本語化した文章も日本語おかしかったからやっぱなしで。
Ministralより古いやつなのかな？
Mistral-Nemo-Instruct-2407-GGUF
12Bだし無理だと思いつつもDynabook 83/HSに入れてみることにした。
動きはしたけど、フランス語？（Mistralがフランス企業だから多分そう）少なくとも英語ではない応答だった。それに対して日本語でといえば日本語で行ってもらえる感じ。確実に日本語で使っていくには設定必須か。
mistralai/Ministral-3-3B-Instruct-2512-GGUF
LMStudio内からダウンロードできる。英語になる確率が高い？確実に日本語で使っていくには設定必須か。テキストオンリー。
HPProBook430G6では文字化けエラーが発生することがある。ObsidianとLMStudio以外は使わなスタイルならギリ行ける。
Dynabook 83/HSは快適。ちょっとしたオリジナル小説は書けそう。
私は AI を応用した助言・翻訳のためのツールとしての存在であり、以下の特徴を持っています：
- 目的：日本語・英語（その他の多言語も対応可能）で簡潔かつ正確に回答し、情報提供や助言を行う。
- 会話形式での質問への対応（FAQ、専門用語調査など）。
-
質問内容を日本語で理解し、適切な回答を提供する。
-
知識範囲：
-
- 自然言語処理による情報検索・統合の技術（最新データベース接続あり）。
-
日常から専門分野まで幅広いトピックに対応（例：歴史、科学、文化、技術など）。
-
制限点：
-
- 実況中の状況把握不可（現在地や人が聞き手であるかは判断できない）。
- コミュニケーションツールとしての機能（会話履歴・ユーザー識別は必要に応じ設定する必要あり）。
詳細はお任せします。当面、質問の内容に基づいて回答させていただきます！
Ministral-3-8B-Instruct-2512-GGUF
このメーカーのものはだいたい外国語で出力しがちだったので、システムプロンプトありの状態で確認。
dynabook G83/HSでテスト。Q4_K_S：動きはするが、完全は無理で部分オフロード。8BなのでこれはメインPCで丁度いいサイズ感か。重く出力された結果はそこそこ。なんとなく3Bのほうが出力結果が詳細に見える。無理してこれを使う必要はないものかもしれない。
Ministral-3-14B-Instruct-2512-GGUF
メインPCで安定かと思いきや、これすら読み込みきつい。GPUが古すぎるんだな。
使えはするけど、常用は良くないかもしれない。
でも出力された結果は嫌いじゃなかったんだよなぁ。
Ministral-3-14B-Reasoning-2512-GGUF
LMStudio内からダウンロードできる。英語になる確率が高い？確実に日本語で使っていくには設定必須か。
メインPCで安定かと思いきや、これすら読み込みきつい。GPUが古すぎるんだな。
使えはするけど、常用は良くないかもしれない。
でも出力された結果は嫌いじゃなかったんだよなぁ。
画像解析も可能。
私は、ユーザーに対して正確で簡潔な情報を提供することを目的としたAIアシスタントです。主に日本語で回答し、質問に対応します。
- 機能: 知識基盤（2023年10月までのデータ）を活用して、質問に答えることができます。
- 制限:
- 実時刻や最新のニュースにはアクセスできません。
- インターネット検索は行えません。
- 個人情報の扱いには注意を払います。
特定の分野（科学、技術、文化など）についても回答可能です。ご不明な点があれば、お気軽にご質問ください。
Mixtral-8x7B-Instruct-v0.1-GGUF
まさかの47Bそりゃ収まるわけがないわ。というわけで、Q2_Kでも部分的にしか入れられない。
LMStudioアップデート後、メインPCでも起動すらしなくなった。
LFM系：Liquid AI（アメリカ）
LFM2-350M-ENJP-MT-GGUF
和英英和翻訳専用モデル。
このサイズなら余裕でHPProBook430G6でも動くでしょう。
LFM2.5-1.2B-Instruct-GGUFで翻訳できるならこれを入れる必要ないけども、DeepLがネイティブで入れられないLinuxでの期待の星。実際翻訳で使うと意味が分からない文章もあったし、DeepLはマルチランゲージだから勝ち目ないんだけども。
LFM2.5-1.2B-Instruct-GGUF
HPProBook430G6でも安定して使える
Q8_0なので品質劣化はほぼないらしいが、1.2Bしかないのでサイズ的にできることは少なそう。
急いで調べものしたい時向け？
もちろんです！私はAIとして、幅広い知識と情報を提供できるように設計されています。質問があれば、できる限り詳細に説明します。例えば、技術的な情報、歴史的な背景、文化的な側面など、さまざまなトピックについてお手伝いできます。何か具体的な質問がある場合は、お気軽にお知らせください！
私の参照可能な最後のデータは、2023年10月24日です。この情報は、最新の知識やトレンドを反映するように更新されています。何か特定の分野について詳しく知りたい場合は、お知らせください。
LFM2-24B-A2B-GGUF
メインPCで試すために入れてみた。
gemma-4-26B-A4B-it-GGUFが駄目だったんだから無理じゃないかとは思っていたんだけども。
起動したが部分的なオフロードなのでまともに使えるか不明。1つ前のバージョンらしいし、データはそれほど新しくはなさそう。gpt-oss-20b-GGUFと同時期か。
私は、質問に答えたり、情報を提供したり、テキストを生成したり、問題を解決したりするように設計された、大規模言語モデルです。2024年6月までの知識に基づき、幅広いトピックについて議論できます。数学、科学、歴史、文化、技術など、さまざまな分野の概念を説明し、文章の作成やアイデアのブレインストーミング、複雑な情報を簡素化することも可能です。また、論理的思考や推論も行い、ステップバイステップで解決策を提示できます。
私の能力には以下が含まれます：
- 事実に基づいた情報の提供
- 創造的な文章の作成（物語、詩、脚本など）
- 複雑なトピックをわかりやすく説明
- 言語間の翻訳
- 論理的推論と問題解決
私の目的は、明確で正確かつ役立つ情報を提供することです。ただし、リアルタイムのデータや個人的な経験は持っていません。私の知識は2024年6月までの学習データに基づいています。
Llama系：Meta（アメリカ）
DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored-GGUF
日本語だけど、質問に答えているようで答えていない気がする。
tinyllama-1.1b-chat-v1.0.Q4_K_M
英語になる。軽いのはいいけど、いちいち翻訳しないといけないのはつらい。
GLM系：智谱AI（中国）
GLM-4.6V-Flash-GGUF
9B。メインPCなら余裕で動かせる。しかし、出力された結果が短い。ネットで調べると、これより新しいバージョン出てるらしいし、そっち試せたら……て感じ。
私はGLM（General Language Model）AIアシスタントです。
私の学習データは2023年9月までに収集・訓練されたものを基にしており、最終更新日は同年9月とされています。
また、日本語を含む多言語対応で質問や説明をサポートできます。能力としては自然な文章生成、情報検索・整理、問題解決などが可能です。
line-corp系：LINEヤフー株式会社（韓国と日本）
line-corp-japanese-large-lm-1.7b-q4_K_M
日本語だが、質問と関係ないことを語りだす。
LLM-jp系：（日本）
llm-jp-4-8b-thinking-gguf
国産ということでお試し。8Bなので、メインPCで。
画像認識は元から無い。
日本製というだけあって、日本のゲームの説明もおかしくはない。リアルタイムでなくても良い情報のうち、日本の事はこっちで調べたほうがいいのか。
サイズが小さいとはいえ8Bである。メインPCやdynabook G83/HS（Q4_K_S仕様)では動いたが、流石にHP ProBook 430 G6（Q3_K_M仕様ならgemma-4-E2B-it-GGUFよりファイルサイズは小さい）では無理だった模様。
Bonsai系：PrismML（アメリカ）
Bonsai-8B-gguf
🥲 モデルの読み込みに失敗しました Failed to load model. Failed to load model
LMStudioを使っている場合は確実にこうなる。
2Bとかもダメ。そもそも対応してないので。
Bonsai-8B-requantized
こちらは動くことが判明。
でもやっぱり意味がないのか？ちゃんと動いたが、メインPCでは使う意味がないと感じた。回答速度もQwen3.5-9B-GGUFと比べても遅いくらいだったので。
Dynabook 83/HSが4Bまでしかまともに動かない感じだったところ、Q2_K：動きはしたが、ちょっと遅いし英語混じりの日本語になる。TQ1_0：英語のみエラー落ちしてまともに出力しなくなった。
HPProBook430G6では無理だった。特定の英単語を繰り返す感じで、文章になっていなかった。設定変えたら動いたけどめっっちゃ遅かった。日本語ではあるから使えないって程でもなかったけどもQwen3.5-2B-Q4_K_Mのほうが良いかな。遅い仲間としての比較対象としてgemma-4-E2B-it-GGUFもあるけど、これ2Bに見せかけた5Bらしいので、実質こっちのほうが良いのではないかとも思えてきた。Bonsaiは8Bだけども。
BonsaiはCPUで起動しませんという書き込みを見た。だからノートパソコン勢全滅だったのか。そっちのほうに需要あったのに。
Bonsai-4B-requantized
HPProBook430G6も行けたが、ほぼ英語だった。なんでや。英語で答えるなら全部英語であってくれたほうがましって感じるくらいには日本語混じってる。そして遅い。日本語でお願いしてみたら、めちゃくちゃなこと言っていた。これならQwen3.5-2B-Q4_K_Mのほうが良い。早くてまともな日本語だから。
Bonsai-1.7B-requantized
システムプロンプト設定後だが、日本語でOKな結果に。8Bの時点でおかしかったんだから、より小さいこちらがメチャクチャなのは当然の流れか。
GPU, ブラシックスは、インカーラのみは、 16-битのモデル（16ビットのメモアライャーッーろ,1-8, ドウインスタッド、 ペリーゼレュスを0.1-16ビュルセミーんブリータル
不明
Gemopus-4-E4B-it-GGUF
Gemma 4-E4B-itベース。
Dynabook 83/HS完全だとエラー落ち。部分ならOK。
しかしベースのGemma 4-E4B-itのほうが結果が良かったのでボツ。
メインPCに入れてみたけど、なんか思ってたんと違う結果。ボツで。
Qwopus3.5-9B-v3-TQ-Compress-TQ4_1s
そのTQ4_1SっていうのはTurboQuantのことなんですかね？ということで入れてみることにしたやつ。メインPCですら読み込めませんでした……。9Bだからサイズ的にはセーフなんだけど、TQ4が無理なのかな？でもBonsaiのTQ1_0は読み込めたし……。
Qwopus3.5-27B-v3-Abliterated-TQ3_4S
そのTQ3_4SというのはTurboQuantのことなんですかね？ということで入れてみることにしたやつ。今回はdynabook G83/HSでテスト。27Bはでかいはずが3GB以内だった。
読み込みすら出来ず、やっぱり無理でした。
Anubis-Mini-11B-v1-Vision-OLLAMA
メインPCでも起動すらしなかった。一応ファイルはGGUFだったんだけどね。
