こんにちは！こんばんは！
ないとめあです。
訪問ありがとうございます。
まだ、DeepSeekの話題が
世間を騒がしています。
最近、DeepSeekは
OpenAIの出力を蒸留して
作られたことが話題になっています。
では、蒸留とは
いったい何なのか...
LLM（Large Language Models）における蒸留（Distillation）は、通常の機械学習モデルの蒸留と同様に、ティーチャーモデル（大規模モデル）からスチューデントモデル（小規模モデル）に知識を移すプロセスです。
ちょっと専門用語すぎて
わけわかりませんがｗ
要は、私が自分のパソコンで実行できるように
本来は100GB以上のメモリを
必要とする大規模LLMを
パソコンレベルで動作できるように
小さくする操作のことだそうですｗ。
では、DeepSeekはどうやってったのか？
OpenAIのAPIを使用してDeepSeekの
トレーニングをして高い完成度を得たと
言われています。
そう考えると
新しいものを生み出したのではなく
単にOpenAIをコピーしたと
考えることもでき、
現時点ではあまり脅威ではないとも
思われます。
NVIDIAの株価は下がりましたが
ハイテク各社の巨額投資は
無駄ではないことが証明されれば
NVIDIAの高性能半導体は
今まで通り買われるので
NVIDIA株は下がっている今は
買いかもしれません...
しかし、
日本人の我々は、
円高リスクがあるので
買う時期は見極める必要が
あります。
では、また！
過去の関連記事
