【Qwen2-72B-Instruct】北京大学の難問数学テストも完璧に解ける！？

!pip install transformers==4.38.1 accelerate==0.27.1 bitsandbytes==0.42.0 torch==2.2.0

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig

# Qwen2-7B-Instructモデルを選択
model_name = "Qwen/Qwen2-7B-Instructt"

# 4ビット量子化の設定
quantization_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_compute_dtype=torch.float16,
    bnb_4bit_use_double_quant=True,
    bnb_4bit_quant_type="nf4"
)

# GPUを使用（利用可能な場合）
device = "cuda" if torch.cuda.is_available() else "cpu"

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    quantization_config=quantization_config,
    device_map="auto",
    trust_remote_code=True
)

tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)

prompt = "Give me a short introduction to large language model."
messages = [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": prompt}
]

text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)

model_inputs = tokenizer([text], return_tensors="pt").to(device)

generated_ids = model.generate(
    model_inputs.input_ids,
    max_new_tokens=512#動作が遅い場合にはtokensを128などに減らす
)

generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
print(response)

A large language model is a type of artificial intelligence system that has been trained on vast amounts of text data, enabling it to generate human-like responses and text. These models use complex algorithms and deep learning techniques to understand the context, syntax, and semantics of language, allowing them to produce coherent and contextually relevant responses.

Typically, large language models are composed of multiple layers of interconnected neural networks, which enable them to learn from patterns in the data and make predictions or generate new text based on those learned patterns. They can be used for various tasks, such as language translation, text summarization, question answering, creative writing, and more.

The training process involves feeding the model massive datasets, like books, articles, web pages, and other written content, so it can learn the structure and nuances of language. Once trained, these models can be fine-tuned for specific applications by adding additional data related to the desired task, making them adaptable and versatile tools for natural language processing (NLP) and AI-driven language applications.

!pip install transformers==4.38.1 accelerate==0.27.1 bitsandbytes==0.42.0 torch==2.2.0

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig

# モデルの設定
model_name = "Qwen/Qwen2-7B-Instruct"
quantization_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_compute_dtype=torch.float16,
    bnb_4bit_use_double_quant=True,
    bnb_4bit_quant_type="nf4"
)
device = "cuda" if torch.cuda.is_available() else "cpu"

# モデルとトークナイザーの読み込み
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    quantization_config=quantization_config,
    device_map="auto",
    trust_remote_code=True
)
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)

def generate_response(conversation):
    # 会話履歴をトークナイザーのテンプレートに適用
    text = tokenizer.apply_chat_template(
        conversation,
        tokenize=False,
        add_generation_prompt=True
    )
    
    # 入力をトークン化
    model_inputs = tokenizer([text], return_tensors="pt").to(device)
    
    # 応答を生成
    generated_ids = model.generate(
        model_inputs.input_ids,
        max_new_tokens=512,
        do_sample=True,
        temperature=0.7
    )
    
    # 生成されたトークンをデコード
    response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
    
    # 入力テキストを除去して応答のみを返す
    return response[len(text):].strip()

def chat():
    print("Qwen2モデルとのチャットを開始します。終了するには 'quit' と入力してください。")
    conversation = [{"role": "system", "content": "You are a helpful AI assistant."}]
    
    while True:
        user_input = input("You: ")
        if user_input.lower() == 'quit':
            print("チャットを終了します。")
            break
        
        conversation.append({"role": "user", "content": user_input})
        ai_response = generate_response(conversation)
        print(f"AI: {ai_response}")
        conversation.append({"role": "assistant", "content": ai_response})

# チャットを開始
chat()

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig

# モデルの設定
model_name = "Qwen/Qwen2-7B-Instruct"
quantization_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_compute_dtype=torch.float16,
    bnb_4bit_use_double_quant=True,
    bnb_4bit_quant_type="nf4"
)

# デバイスの設定
device = "cuda" if torch.cuda.is_available() else "cpu"

# モデルとトークナイザーの読み込み
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    quantization_config=quantization_config,
    device_map="auto",
    trust_remote_code=True
)
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)

def generate_response(prompt):
    messages = [
        {"role": "system", "content": "You are a helpful assistant that solves mathematical problems."},
        {"role": "user", "content": prompt}
    ]
    text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
    model_inputs = tokenizer([text], return_tensors="pt").to(device)
    
    generated_ids = model.generate(
        model_inputs.input_ids,
        max_new_tokens=1024,
        do_sample=True,
        temperature=0.7
    )
    
    response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
    return response[len(text):].strip()

# 問題1
problem1 = """
数学問題：
已知 a = log_2 0.2, b = 2^0.2, c = 0.2^3, 則

この問題について、以下の点を含めて詳細に解答してください：
1. a, b, cの値を計算してください。
2. a, b, cの大小関係を決定してください。
3. 解答の過程と理由を説明してください。
"""

# 問題2
problem2 = """
数学問題：
设复数z满足|z-i|=1，z在复平面内对应的点为(x, y)，则

この問題について、以下の点を含めて詳細に解答してください：
1. |z-i|=1の幾何学的意味を説明してください。
2. xとyの関係を示す方程式を導出してください。
3. 解答の過程と理由を説明してください。
"""

# 問題を解く
print("問題1の解答:")
print(generate_response(problem1))
print("\n問題2の解答:")
print(generate_response(problem2))

問題1の解答:
g_2 0.2**：これは2の何乗が0.2になるかを求めるための式で、数値的に計算すると、a ≈ -2.3219。これは、2^-2.3219 ≈ 0.2の結果を示します。
- **b = 2^0.2**：これは2の0.2乗を表す式で、数値的に計算すると、b ≈ 1.2496。
- **c = 0.2^3**：これは0.2の3乗を表す式で、数値的に計算すると、c = 0.008。

### 2. a, b, cの大小関係を決定してください。

比較してみると、

- a ≈ -2.3219
- b ≈ 1.2496
- c = 0.008

これらは全て正の数で、それぞれが異なる範囲にあることがわかります。具体的には、aは最も小さい（負の値）で、bはaより大きくcよりも大きい、そしてcは最小の正の値であることが確認できます。

### 3. 解答の過程と理由を説明してください。

#### a = log_2 0.2の計算：

この問題では、2の何乗が0.2になるかを求める必要がある。これは対数の定義に基づく。つまり、log_2 0.2 = x のとき、2^x = 0.2 となる。これを計算するには、対数の値を直接計算することができないため、科学的な計算機や数学的な近似法を使用する。答えは大まかに -2.3219 と見なすことができます。

#### b = 2^0.2の計算：

これは2の0.2乗を計算する問題で、これも直接的な方法で解くのは難しい。しかし、数値計算ツールを使用すれば、答えは約1.2496 と求めることができます。

#### c = 0.2^3の計算：

これは直接計算可能で、0.2を3乗することで得られます。その結果は、0.008となります。

以上の計算から、a, b, cの大小関係は a < c < b と判断することができます。

問題2の解答:
たすとき、その \(z\) の実部 \(x\) と虚部 \(y\) の間の関係を求める」というものである。ここで、 \(z\) は複素数で、 \(z = x + yi\)（ただし、 \(x\) と \(y\) は実数）という形を取る。

### 1. |z-i|=1の幾何学的意味を説明

「|z-i|=1」は、複素平面上で、点 \(z\) が \(i\) から距離が1の点を形成することを意味します。ここでは、 \(i\) は虚数単位で、複素平面上の \(0\) から \(i\) の方向に \(1\) 単位の距離があります。したがって、与えられた等式は、複素平面上で \(z\) が \(i\) から \(1\) 単位の距離にある点を描くことを意味します。これは、複素平面上の円の一部を形成します。この円は \(i\) を中心として、半径が \(1\) の円です。

### 2. xとyの関係を示す方程式を導出

与えられた条件は \(|z - i| = 1\) で、 \(z = x + yi\) と置き換えることができます。このとき、等式は次のようになります：

\[|x + yi - i| = 1\]

これを計算すると、
\[|x + (y-1)i| = 1\]

これは、複素数の絶対値の定義を用いて次の形に変形できます：
\[\sqrt{x^2 + (y-1)^2} = 1\]

ここで、 \(x\) と \(y\) は \(z\) の実部と虚部を表しています。したがって、上記の式は \(x\) と \(y\) の関係を示す方程式となります。

### 3. 解答の過程と理由を説明

まず、複素数 \(z\) の一般形を \(z = x + yi\) と表現し、与えられた等式 \(|z - i| = 1\) を代入します。この等式は \(|x + yi - i| = 1\) を意味します。次に、複素数の絶対値の定義を用いることで \(x\) と \(y\) の関係を導き出すために、 \(x + yi - i\) の絶対値を計算します。

具体的には、
\[|x + yi - i| = \sqrt{x^2 + (y-1)^2}\]

この式は \(x\) と \(y\) の関係を示す方程式であり、これは \(x\) と \(y\) の間の幾何学的な関係を表しています。具体的には、 \(x\) と \(y\) が満たすのは、中心が \(i\) で、半径が \(1\) の円の部分を形成します。

以上の解説により、与えられた問題に対する解答が得られました。

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig

# モデルの設定
model_name = "Qwen/Qwen2-7B-Instruct"
quantization_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_compute_dtype=torch.float16,
    bnb_4bit_use_double_quant=True,
    bnb_4bit_quant_type="nf4"
)

# デバイスの設定
device = "cuda" if torch.cuda.is_available() else "cpu"

# モデルとトークナイザーの読み込み
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    quantization_config=quantization_config,
    device_map="auto",
    trust_remote_code=True
)
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)

def generate_response(prompt):
    messages = [
        {"role": "system", "content": "You are a helpful assistant that solves mathematical problems."},
        {"role": "user", "content": prompt}
    ]
    text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
    model_inputs = tokenizer([text], return_tensors="pt").to(device)
    
    generated_ids = model.generate(
        model_inputs.input_ids,
        max_new_tokens=1024,
        do_sample=True,
        temperature=0.7
    )
    
    response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
    return response[len(text):].strip()

# 問題1
problem1 = """
数学問題：
円周率が3.05より大きいことを証明してください。
"""

# 問題を解く
print("問題1の解答:")
print(generate_response(problem1))

問題1の解答:
.05より大きいことは、その定義から明らかです。

具体的には、π ≈ 3.14159 > 3.05 となります。

したがって、円周率が3.05より大きいという主張は正しいと言えます。