ローカルLLMを動かすためにLMstudioをインストールしたが、ネットを見てみるとunslothというソフトが良いという記事があり、これをインストールした。
インストールまではうまく行ったけれどその後に試行錯誤したのでメモとして残しておく。
画像を取り忘れてしまったけれど、インストール後に起動するとセットアップを開始するボタンが出てくるので、押すと周辺ソフトのインストールが開始される。
途中でマカフィーのポップアップが出てきて、ソフトの起動をストップしたというメッセージが表示されたので、マカフィーをアンインストールした。マカフィーはアンインストールしてもWindowsセキュリティで保護していてくれれば問題ない。
変なタイミングでマカフィーがブロックしたので、unslothをアンインストールして、再インストールした。改めてインストールを開始したら次はWindowsのスマートアプリ制御というのが働き、ブロックされてしまった。
メッセージを選択するとブラウザでヘルプページが表示された。
このページの一番下にある以下の操作を実施することで解消するらしい。
--------------------------------------------------
[Windows セキュリティ>ウイルス & 脅威保護] で [保護の履歴] をチェックし、スマート アプリ コントロールまたはブロックされたアプリ エントリを探すことができます。
--------------------------------------------------
上記の操作を行い、unsloth で再度セットアップをしてもだめだったので、改めてunsloth自体を再インストールした。(インストール用のexeファイルを再実行することで再インストールすることができる)
再びセットアップしたところセットアップが正常終了して、プロンプト入力画面が表示されるようになった。
プロンプトを入力したところ次はモデルのロードでエラーが発生した。モデルはLM studioでダウンロードしたファイルを自動的に発見してくれて、それをロードしようとしたときに発生した。内容は「Failed to load model: [WinError 4551] アプリケーション制御ポリシーによってこのファイルがブロックされました。」だった。
ネットで調べたら「スマート アプリ コントロール(Smart App Control)機能が、読み込もうとしたモデルや関連ファイル(DLLなど)を安全ではないと判断してブロックしていることが原因で発生します。 」と出力される。
解決方法は以下の手順に従った。
-----------------------------------------------------------------------
Windowsの「スマート アプリ コントロール」をオフにするか、ブロックされたファイルのプロパティからブロックを解除することで解決できます。
スマート アプリ コントロールをオフにする手順
スタートメニューから「Windows セキュリティ」を開きます。
「アプリとブラウザーの制御」をクリックします。
「スマート アプリ コントロールの設定」を開き、設定を「オフ」に変更します。
-----------------------------------------------------------------------
これでロードでのエラーは発生しなくなったけれど、次はロードが終わらない。ずっと置いておくとプロンプト画面が消えて「Something went wrong」が表示されてしまう。
いろいろ問題が発生中だけど、続きは明日以降時間があるときに調査する予定。今日はここまで・・・
