こんにちは！
去年から仕事の隙間時間にいろいろと創造と妄想を重ねた結果、ローカルで使用できるAI秘書が欲しいなと。
chatGPT、google gemini、clpilot、その他。色々チャットボットがありますがこれらでは最終の欲しいものとはちょっと違うんですよね。
ですので、超～超～重～い腰をそろそろあげて本気でそれを作ると。
生成AIはプロだったり「たーくさん」お金を持っている企業のを使わざるを得ないですよね。コスト的に。
まぁ音楽生成は使う必要はないのでいりませんが。
全容は書けませんがざっくりおぼろーな。
まず、
①ローカルで動かせるチャットぼっと+コーディングができる子を作る。
仕事に行っている間に指示したものを作っておいてもらう。
検証もしてもらう。
②秘書。スケジュールであるとかその他を管理であるとか整理をしてもらうため。
③音声認識と発声。
イントネーションなどは自分で教えていくしかないですね。
④～はちょっと時間かかりすぎるので徐々に。
チャットボットにまず記憶を短期、中期、長期と分ける。ストレージに負担をかけたくないのでできるだけRAM。
最悪の場合壊れても融通の利く普通のSSDにまずは記憶を入れれるようにする。
HDDに定期的にそれらの記憶データをバックアップする。
※SSD破損時の備え
メインのM2の負担を最小限にしたい。
メモリが安いときに無駄に実装した64Gのメモリが役に立ちそう。
まだ調べたりない、把握できていないこともあるが①②+記憶はそこまで難しくはないだろうと勝手に思っている。
①②を作り、想定している程度で育てる。(記憶を使う)※再教育という意味ではない。
実用圏内になったら③をこの子とその辺のAIと協力して③以降の拡張機能を実装していく。
それらと並行して「シークレット」の部分も作っていく。
今のところ、難しいかもしれない部分は記憶とその使い方との連携。
また、オープンソースのモデルを使用するのでこちらで「再教育」はできない。
ので、疑似的に知識領域を補助する方法を思いついた。
まぁ「子供を一から高速に育てていく感じ」。
※そもそもGPTLVは私の資金では到底無理であるのはわかっているので必要もないし、規模が大きすぎるし、もう世間が知っているようなものなので作る意欲もない。
OSにアクセスしてスケジュール管理もいいだろうけれど機能だの把握するのは面倒なので今のところ自分が必要な機能は自分で作ればいいかなと考えている。
GPUのスペック的に7Bモデルが適しているが切り替えて13Bも使えるようにすれば時間をかけてもいいことに使えるだろう。
こんな時代なのに自分ひとりでいろいろやるにはこういうのを使わない手はない。
この子ができれば私のしたい事は「とてつもなく効率化される」
また、巷の企業がレジ打ちできるように？「まだできてないの？はぁ？」ですよ。
そんなの資金あるのにできてないの？って感じ。
想定よりも制作に時間がかかるとAIに言われましたが。。。
その期間耐えれば作れるなら人生の半年か１年か程度なら使うしかない。
とりあえず①②あたりができてから「シークレット」の部分にも触れた事を「気まぐれ」で書こうと思います。
ｍｍ
【あとがき】
今日、職場の同僚のタイ人の女の子が、私が仕事の隙間時間に紙切れに書いている事を見られたんですよね。
「それは何を書いているのですか？」と聞かれ、普通に「趣味で私が使いたいAIを作りたい」と言ったら「ばけもの」と言われました（笑）まぁ嬉しいですよね。彼女は一緒に仕事している期間が数年あるので「私がしてきた事を知っている」からそう感じたんでしょう。いつもできるだけへらへらして、ボケて、でも仕事なので、他がなんじゃこりゃ状態のおバカでどうしようもなかったので見かねて、色々やって「目立ってしまった」ので。それでもあの会社の「日本人たち」は向上心も持たないし、努力もしない。まぁ私にはもうどうでもいいですが。働いて、とりあえずの報酬がいただけるのであれば「いくらでもへらへら」していられますよ♪会社ではちゃんと「社員でもない」のに「社員ができない事をやった」実績が疑いようもなくあるのは事実で業務経歴書にもかける。私のこのプロジェクトも一人でやって見せようと決めている。あ、正確には一人というか１AIもどき？AIかなんかと巷のAIと3人？人はおかしいな。いやもう考えるのはよそう。ぁぁ音楽したい。
