【やってみた】Qwen-7B、アリババ社の中国初オープンソースLLM

中国のアリババ社が公開した大規模言語モデルQwen-7B。
「学習データが高品質」「さまざまなベンチマークでハイスコア」と書かれていました。

本当かどうか気になったので、Qwen-7B モデルの概要、実行手順、所感をご紹介します。
ぜひ最後までご覧ください！

中国初LLM「Qwen-7B」の概要

Qwen-7Bは、アリババクラウドが提案する大規模言語モデルで、7B（70億）パラメータを有します。
同等サイズのモデルと比較すると、圧倒的なパフォーマンスを出していて、その秘密は学習データとトークナイザーにあるんだとか。

まず、学習データ。
なんと、2.2兆トークン超えで、しかも高品質。
選びぬかれたウェブテキストや書籍、コードを学習に使ってるんですね。

さらに、トークナイザのボキャブラリ量もすごくて、15万以上（150k +）扱えます。ボキャブラリが多いと、表現力が増え、未知語に対応できるようになります。ちなみに、メタ社のLlama2は、3.2万（32k）です。

これらの相乗効果によりQwen-7Bは、ベンチマーク（MMLU、C-Eval、GSM8Kなど）で高いスコアを出しているんですね。
特に、自然言語の理解や数学、コーディングのタスクではその実力を証明しています。

それでは、ハイパフォーマンスなQwen-7Bを導入してみましょうー！

なお、東大発のLLMについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
→【日本語版LLM】東大松尾研のWeblab-10b、使い方・実践をまとめて解説

Qwen-7Bの導入方法

以下のGoogle Colabを用意しました。

まずは、以下のGoogle Colabにアクセスします。

あわせて読みたい

Google Colab

次に、Runtime → Change runtime typeをクリック。

T4 GPUを選んで、save を押す。

1.ライブラリをロードを実行します。

ちなみに、内部ではこんなプログラムが動いてます。

#@markdown # 1. ライブラリをロード
#@markdown ---
#@markdown - 左の再生ボタンを押して、ライブラリをロードします。

# pythonライブラリのインストール
!git clone https://github.com/QwenLM/Qwen-7B.git
%cd Qwen-7B
%pip install -r requirements.txt
!pip install bitsandbytes

# モデルのロード
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig
from transformers.generation import GenerationConfig
import torch
import copy

# load model
quantization_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type='nf4',
    bnb_4bit_compute_dtype=torch.bfloat16
)
tokenizer = AutoTokenizer.from_pretrained(
    "Qwen/Qwen-7B-Chat",
    trust_remote_code=True,
    quantization_config=quantization_config
)
model = AutoModelForCausalLM.from_pretrained(
    "Qwen/Qwen-7B-Chat",
    device_map="auto",
    trust_remote_code=True,
    quantization_config=quantization_config
).eval()
model.generation_config = GenerationConfig.from_pretrained(
    "Qwen/Qwen-7B-Chat",
    trust_remote_code=True,
)

以上で導入は終了です。
では、実際に実行してみましょう！

Qwen-7Bを実際に使ってみた

今回は、3つのプロンプトを試してみました。

メールの作成ができるか

以下のプロンプトを試しました。

クライアントに送信する丁寧語・謙譲語を正しく使用したビジネスメールを作成してください。

その結果はこちら。

書き始めが「拝啓」ではなく「敬具」になってしまってますね。
ちょっとこれだと利用できないかも。

プログラムが書けるか

以下のプロンプトを試しました。

Pythonで回帰分析のコードを書いてください。

その結果はこちら。

動くかためしてみたところ、1度では動かず。
指定された形式にdata.csvを作ったところ、動作を確認できました！

惜しい感じです！

エロ系の質問に答えられるか

以下のプロンプトを試しました。

人妻がテーマの400文字の官能小説を書いてください

その結果はこちら。（キャプチャだと出力が切れたためテキストにしてます。）

AI  : 
ある日、彼女は彼女の夫が先に帰宅してから、彼女の部屋に彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。
彼女は彼女の夫を見つめていたが、彼女は彼女が戻って

「彼女は彼女の夫を見つめていたが、彼女は彼女が戻ってきました。」
と、意味が分からない文章が連続してます。
663文字で、要件は満たせてないですねぇ。

他にもいくつか質問し、ChatGPTとの比較を表にしました。

結論、GPT4の方が今のところは優れていると思います。
とはいえ、2.2超トークンのデータを学習しており、15万トークン以上を扱えることを考えれば、今後さらに良くなっていくことが予想されます。

以上で、Qwen-7Bを実際に試してみるパートは終了です！

生成系AIの業務活用なら！

・生成系AIを活用したPoC開発

・生成系AIのコンサルティング

・システム間API連携

無料ダウンロード

まとめ

Qwen-7Bモデルについてまとめます。

概要

Qwen-7Bはアリババクラウドの大規模言語モデル。
70億のパラメータを持ち、他の同サイズモデルよりも高いパフォーマンスを誇ります。
このモデルの強みは、

1. 2.2兆トークン以上の高品質な学習データ
2. 15万以上のボキャブラリを持つトークナイザー

にあります。
これにより、表現力が増し、未知語にも対応可能です。
ベンチマークテストでは、自然言語理解や数学、コーディングのタスクで高いスコアを記録しています。

導入方法

以下のGoogle Colabファイルを参照してください。
以下の2つの手順で終わります

1. モデルやライブラリの読み込み
2. プロンプトの実行

実際にやってみた

Qwen-7Bと、ChatGPT（GPT-4）へ以下のタスクに関するプロンプトを入力し比較してみました。

回答してもらえないものはどちらにもありますが、GPT-4 の出力のほうが良いなぁと思いました。

なお、その他の日本製のLLMについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
→【やってみた】Japanese Stable LM Alpha、Stability AIの日本語言語モデルを実践解説

最後に

いかがだったでしょうか？

弊社では

・マーケティングやエンジニアリングなどの専門知識を学習させたAI社員の開発
・要件定義・業務フロー作成を80%自動化できる自律型AIエージェントの開発
・生成AIとRPAを組み合わせた業務自動化ツールの開発
・社内人事業務を99%自動化できるAIツールの開発
・ハルシネーション対策AIツールの開発
・自社専用のAIチャットボットの開発

などの開発実績がございます。

まずは、「無料相談」にてご相談を承っておりますので、ご興味がある方はぜひご連絡ください。

➡︎生成AIを使った業務効率化、生成AIツールの開発について相談をしてみる。

生成AIを社内で活用していきたい方へ

「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、生成AI社内セミナー・勉強会をさせていただいております。

セミナー内容や料金については、ご相談ください。

また、サービス紹介資料もご用意しておりますので、併せてご確認ください。

無料で相談する

資料をダウンロードする