RAM32GB搭載のCopilot+PC準拠パソコンで試したいLLM | AIを使って生産性向上を目指すクリエイターM

AIを使って生産性向上を目指すクリエイターM

ツインレイと出会い人生V字回復を目指しています。
ココナラを通じてWordPressの復旧作業を多数請負った実績ありIT系の仕事をしたいという夢を叶えています。
法人化できるように活動しています。

6月18日からMicrosoftが新しく作ったカテゴリーのパソコンCopilot+PCに準拠したパソコンが、複数のメーカーから発売されます。

その中で、RAM32GB搭載のASUSのパソコンに私は、注目しています。

 

Amazonと楽天市場で、購入予約できます。

 

 

 

こちらに、関連記事を書きました。

 

 

 

 

 

 

こちらの過去の記事でも書いていますが、ローカル環境、自分が使っているパソコンでLLM大規模言語モデルやSLM小規模言語モデルを使う際は、VRAMやRAMの容量が重要になります。

 

NPUは、利用するソフトウェアが対応している必要がありますので、通常は、GPUを使うかGPUが無いときは、CPUのみでLLMなどを利用することになります。

この設定を簡単に行うことができるのが、LM Studioというソフトウェアです。

 

こちらの記事が、参考になると思います。

 

 

Stable Diffusion web UI(AUTOMATIC1111版)を使う人の中には、VRAMが8GB必要とか24GBあると良いとかという話をネットで見聞きした人も多いと思います。

ローカル環境で生成AIを使う人は、GPUの能力やVRAMの容量が、最大の関心事だと思います。

 

6月18日から発売されるASUSのSnapdragon X Elite搭載の新型「ASUS Vivobook S 15」(S5507QA-HA321W)は、本体メモリRAMが32GBありますが、VRAMが本体メモリと共用になっている点が気になります。

 

Snapdragon X Eliteは、Core Ultra 7 155Hと同等の性能があるようですが、GPUは、SoCに内蔵のGPUコアで、Qualcomm Adrenoです。

 

NVIDIAのGPUが搭載されていないパソコンでは、生成AIを使うときは、CPUのみを使う設定にすることになると思います。

NPUは、BPUを使う命令に対応したソフトウェアが必要です。

そのため現在は、NPU搭載パソコンで処理能力が40STOPS以上のパソコンなら、Copilot+PCで使えると言われているWindowsの機能が使えますので、この機能を使うためのNPUと理解すると良いかもしれないです。

 

GIMPでは、NPUに対応したアドオン拡張機能があるようです。

またAdobeのソフトウェアの中で、NPUに対応したものがあるという話を以前ネットで見かけた記憶がありますが、MicrosoftのCopilotに質問しても回答を得られませんでした。

 

Core UltraというインテルのCPUには、NPUが搭載されています。

でもCopilot+PCで使える機能を使うための推奨基準には、達していないようです。

そのため6月18日以降に発売されるSnapdragon X Elite搭載か、モバイル(ノートPC)向け次世代CPU「Lunar Lake」(開発コード名)も注目されています。

 

 

 

 

 

Snapdragon X EliteについてMicrosoftのCopilotに、質問した回答です

Snapdragon X Eliteは、Qualcommが開発したモバイルパソコン向けの最新SoC(System on Chip)です。このチップセットは、省電力性とAI性能に優れており、特に高性能なCPUと生成AIオンデバイス機能を備えています。Snapdragon X Eliteは、4nmプロセスで製造され、12の高性能コアを搭載していることが特徴です¹。

このSoCは、自社設計のCPU「Oryon」を搭載し、AppleのMシリーズやIntelのCoreシリーズといった現行のPC向けSoCをCPU性能で上回るとされています。また、QualcommはSnapdragon X EliteのCPU性能が「Core Ultra 7 155H」の最大37%高速であると主張しています²。

Snapdragon X Eliteのラインナップには、複数のモデルがあり、それぞれのモデルはCPUとGPUのコア数が同じで、上位モデルほど最大クロックが高く設定されています。EliteモデルのCPUは合計12コアで、8つのパフォーマンスコアと4つの効率コアが含まれます(8P + 4E)。Plusモデルはパフォーマンスコアが一つ削減された10コア(6P + 4E)という構成です¹。

さらに、このSoCは「USB4/Thunderbolt 4」に対応し、GPUも「DirectX 12」に対応しているため、規格面でもWindowsに最適化されています。メモリはLPDDR5x-8448という超高速メモリに対応し、AI用のコアとしては、「Hexagon NPU」が搭載されており、処理性能は全モデル45TOPSとなっています¹。

これらの特徴により、Snapdragon X Eliteは、モバイルパソコン向けのプラットフォームとして、高性能でありながらも長いバッテリー駆動時間を実現することが期待されています。実際の製品が発売されて評価されるまでは、その実力を確かめることはできませんが、購入を検討する際にはこれらの情報を参考にしてください。¹²

ソース: Copilot との会話、 2024/6/1
(1) Windows CPUの新たな選択肢?「Snapdragon X Elite/Plus .... https://pcfreebook.com/article/sd-x-elite-and-plus-1st-overview-and-early-benchmark.html.
(2) PC Watch - IntelやAppleを超越したSnapdragon X EliteのCPU .... https://pc.watch.impress.co.jp/docs/column/ubiq/1542491.html.
(3) クアルコム、ノートパソコン向け「Snapdragon X Elite」を発表 .... https://bing.com/search?q=Snapdragon+X+Elite+%e6%90%ad%e8%bc%89+%e3%83%91%e3%82%bd%e3%82%b3%e3%83%b3%e5%90%91%e3%81%91CPU.
(4) Qualcomm「Snapdragon X Elite」発表、Apple Siliconに .... https://news.mynavi.jp/article/20231026-2802620/.
(5) クアルコム、ノートパソコン向け「Snapdragon X Elite」を発表 .... https://k-tai.watch.impress.co.jp/docs/news/1541719.html.
(6) 「インテルやApple M2を圧倒」--Snapdragon X Elite搭載PCは .... https://japan.cnet.com/article/35210743/.
(7) undefined. https://www.qualcomm.com/products/mobile/snapdragon/pcs-and-tablets/snapdragon-x-elite.

Yahoo!ショッピング(ヤフー ショッピング)