700億パラメータの日本語LLM「ELYZA-japanese-Llama-2-70b」 | らい氏のブックマーク

らい氏のブックマーク

気になったことを書いているブログです。

ELYZA, Inc.から【700億パラメータの日本語LLM「ELYZA-japanese-Llama-2-70b」を開発し、グローバルモデルに匹敵する性能を達成しました。デモサイトも同時に公開しています。】(204,3,12)

 

 

 

日本語特化したLLMELYZA-japanese-Llama-2-70b

(700億パラメータ)

 

 

どんなもんかなと、気になったので調べながら試してみようと思います。

 

 

・700億パラメータの日本語LLM「ELYZA-japanese-Llama-2-70b」

 

 

↳ https://note.com/elyza/n/n0ea755ca3e7b

 

ELYZA-japanese-Llama-2-70bは、日本のELYZA社によって構築された最新の日本語特化LLMです。

 

このモデルは、これまでのELYZAが開発した日本語モデルと同様に「Llama2」をベースに、日本語の追加事前学習と事後学習を行い、Llama2が持つ強力な英語能力を日本語に対する言語能力に拡張させています。

 

その性能は、後ほど詳しく見ていきますが、ELYZA Tasks 100という独自の日本語ベンチマークを用いた性能評価では、既存の日本語LLMを大きく上回っており、GPT-3.5 TurboやClaude 2.1などに匹敵する性能を示しました。

 

 

引用元:https://note.com/elyza/n/n0ea755ca3e7b#95586403-bc59-438a-aebf-b430d9d42b31

 

 

細かい話は、noteを読んでもらえばいいので、さっそく遊んでみる。

 

 

デモページ

 

 

 

↳ https://elyza.ai/lp/elyza-llm-for-jp

 

 

Q:美味しいカレーライスの作り方を教えて

(抽象的な質問をしてみた)

 

 

 

んー、GPT4は5つのプランを用意してくたんだけど、いい事を教えてもらったからメモ。

  • カレールー (箱に書いてある給水量より少なめ)
  • 生姜 1かけ
  • にんにく 2片
  • ウスターソース 適量
  • バター 適量

 

なんだろ、まだ安定していないのか10回のうち3回は「ERROR」がでますね。

 

 

素直な感想を書くと「微妙です」

回答も違うことを答えたり、もう少し頑張ってほしいところです。