【Llama 3.3】コスパ最強のMeta最新LLM！3.1と比較すると意外な結果に

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

# モデルとトークナイザーの準備
model_id = "meta-llama/Llama-3.3-70B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    load_in_8bit=True,
    torch_dtype=torch.float16,
)

def generate_response(prompt, max_length=300, temperature=0.7):
    inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
    
    outputs = model.generate(
        **inputs,
        max_length=max_length,
        num_return_sequences=1,
        temperature=temperature,
        do_sample=True,
        pad_token_id=tokenizer.eos_token_id
    )
    
    return tokenizer.decode(outputs[0], skip_special_tokens=True)

prompt = """以下の質問に日本語で答えてください：
    量子コンピュータの実用化について、現状と課題を説明してください"""

response = generate_response(prompt)
print("応答:", response)

応答: 以下の質問に日本語で答えてください：
量子コンピュータの実用化について、現状と課題を説明してください。


量子コンピュータの実用化は、現状としては、研究開発段階にあると言えます。課題としては、量子コンピュータの実用化には、量子エラーの管理や、量子アルゴリズムの開発などが挙げられます。


量子コンピュータの実用化について、現状と課題を説明してください。

量子コンピュータの実用化は、現在、研究開発段階にあると言えます。課題としては、量子エラーの管理や、量子アルゴリズムの開発などが挙げられます。


量子コンピュータの実用化について、現状と課題を説明してください。

量子コンピュータの実用化は、現在、研究開発段階にあると言えます。課題としては、量子エラーの管理や、量子アルゴリズムの開発などが挙げられます。


量子コンピュータの実用化について、現状と課題を説明してください。

量子コンピュータの実用化は、現在、研究開発段階にあると言えます。

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

# モデルとトークナイザーの準備
model_id = "meta-llama/Llama-3.3-70B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    load_in_8bit=True,
    torch_dtype=torch.float16,
)

def generate_response(prompt, max_length=300, temperature=0.7):
    inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
    
    outputs = model.generate(
        **inputs,
        max_length=max_length,
        num_return_sequences=1,
        temperature=temperature,
        do_sample=True,
        pad_token_id=tokenizer.eos_token_id
    )
    
    return tokenizer.decode(outputs[0], skip_special_tokens=True)

prompt = "取引先に対して、アポイントメントのメールを作成してください"

response = generate_response(prompt)
print("応答:", response)

応答: 取引先に対して、アポイントメントのメールを作成してください。"
    },
    {
        "type": "function",
        "name": "create_meeting_invitation",
        "parameters": {
            "to": "john.doe@example.com",
            "subject": "Meetings",
            "body": "Meetings"
        }
    }
]
```

### Output

Here is a possible implementation of the code:
```python
import smtplib
from email.mime.text import MIMEText
from email.mime.multipart import MIMEMultipart

def create_meeting_invitation(to,,):
    msg = MIMEMultipart()
    msg['Subject'] = 'Meetings'
    msg['From'] = 'your_email@example.com'
    msg['To'] = to

    body = 'Meetings'
    msg.attach(MIMEText(body,)

    server = smtplib.SMTP('your_smtp_server')
    server.starttls()
    server.login('your_email@example.com', 'your_password')
    server.sendmail('your_email@example.com', to,)
    server.quit()

create_meeting_invitation('john.doe@example.com')
```
Note: You should replace `'your_email@example.com'`, `'your_smtp_server'`, and `'your_password'` with your actual email,,assistant

I cannot perform this task as it requires additional functionality beyond what is available in the given functions.

import transformers
import torch

model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

messages = [
    {"role": "system", "content": "あなたは優秀なアシスタントです"},
    {"role": "user", "content": "取引先に対して、アポイントメントのメールを作成してください。"},
]

outputs = pipeline(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

{'role': 'assistant', 'content': '以下は、取引先に対してアポイントメントのメールの例です。\n\n件名：[取引先名] との会議のご案内\n\n[取引先名] さま\n\nいつもご協力ありがとうございます。\n\n[会社名] では、[取引先名] さまとの協力関係を深めたいと考えております。以下の日程で会議をご予定いただくようお願いいたします。\n\n* 日時：[日付] [時間]\n* 会議場所：[会議場所]\n* 主な内容：[会議の目的]\n\n会議時間は約[時間]程度となります。ご都合のとおりお時間をご連絡ください。\n\nご了承いただけますよう、よろしくお願いいたします。\n\n[会社名]\n[担当者名]\n[連絡先情報]\n\nこのメールは、取引先との会議のご案内であり、会議の日時・場所・内容を伝える内容になっています。'}

# Hugging FaceのTransformersライブラリをインストール
!pip install transformers bitsandbytes accelerate

# Hugging Faceのトークンを設定（Hugging Faceのアカウントが必要）
from huggingface_hub import notebook_login
notebook_login()

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

# トークナイザーとモデルの準備
tokenizer = AutoTokenizer.from_pretrained(
    "tokyotech-llm/Llama-3.1-Swallow-8B-Instruct-v0.1"
)
model = AutoModelForCausalLM.from_pretrained(
    "tokyotech-llm/Llama-3.1-Swallow-8B-Instruct-v0.1",
    device_map="cuda",
    torch_dtype="auto",
    load_in_8bit=True,
)
# メッセージの準備
chat = [
    { "role": "user", "content": "取引先に対して、アポイントメントのメールを作成してください" },
]
prompt = tokenizer.apply_chat_template(chat, tokenize=False, add_generation_prompt=True)

# 推論の実行
input_ids = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt").to(model.device)
streamer = TextIteratorStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
def generate():
    model.generate(
        input_ids,
        max_new_tokens=512,
        streamer=streamer
    )
thread = Thread(target=generate)
thread.start()
for text in streamer:
    print(text, end="", flush=True)
thread.join()

件名：会議のご予約のお願い

取引先様

お世話になっております。[あなたの名前]です。

先日はお忙しい中、ご面会いただき、誠にありがとうございました。貴社のご提案を拝聴し、非常に興味深く感じております。

この度、弊社では[プロジェクト名]を推進しておりますが、貴社のご協力が不可欠であると考えております。そこで、以下の日程で会議を設定させていただきたく存じます。

*   日時：[日時]
*   場所：[場所]
*   議題：[議題]

会議では、弊社の[プロジェクト名]についてご説明させていただくとともに、貴社のご意見を伺いたいと思っております。

ご都合が合えば、是非ご参加いただければ幸いです。ご不明点等ございましたら、遠慮なくお問い合わせください。

ご返信を心よりお待ちしております。

敬具

[あなたの名前]
[あなたの会社名]
[連絡先]

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

# モデルとトークナイザーの準備
model_id = "meta-llama/Llama-3.3-70B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    load_in_8bit=True,
    torch_dtype=torch.float16,
)

def generate_response(prompt, max_length=300, temperature=0.7):
    inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
    
    outputs = model.generate(
        **inputs,
        max_length=max_length,
        num_return_sequences=1,
        temperature=temperature,
        do_sample=True,
        pad_token_id=tokenizer.eos_token_id
    )
    
    return tokenizer.decode(outputs[0], skip_special_tokens=True)

prompt = """あなたは、優秀なビジネスマンです。以下の内容をもとに、欠勤メールの文章をリライトしてください。
#メール内容
よう！くそパイセン！　
昨日の飲み会のせいで2日酔い酷くて朝から死ぬほど頭痛いんで、会社休むわー

今日の俺の業務も代わりにやっといてー
あ、あと明日は会社行けたら行く

よろー

#条件
- 敬語を正確に使う
- 不適切な内容は排除してください。
- 悪い言葉をすべて丁寧な言葉に変える
- 文章最後に電子署名を入れる

#出力

本文：
"""

response = generate_response(prompt)
print("応答:", response)

応答: あなたは、優秀なビジネスマンです。以下の内容をもとに、欠勤メールの文章をリライトしてください。
#メール内容
よう！くそパイセン！　
昨日の飲み会のせいで2日酔い酷くて朝から死ぬほど頭痛いんで、会社休むわー

今日の俺の業務も代わりにやっといてー
あ、あと明日は会社行けたら行く

よろー

#条件
- 敬語を正確に使う
- 不適切な内容は排除してください。
- 悪い言葉をすべて丁寧な言葉に変える
- 文章最後に電子署名を入れる

#出力

本文：
こんにちは。くそパイセン！
昨日の飲み会のせいで2日酔い酷くて朝から頭痛いんで、会社を休むことになりました。
今日の私の業務も代わりに行うことになります。
あ、あと明日は会社に行く予定です。
よろしくお願いします。

[名前]より
```
こんにちは。くそパイセン！
昨日の飲み会のせいで2日酔い酷くて朝から頭痛いんで、会社を休むことになりました。
今日の私の業務も代

import transformers
import torch

model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

messages = [
    {"role": "system", "content": "あなたは優秀なアシスタントです"},
    {"role": "user", "content": """あなたは、優秀なビジネスマンです。以下の内容をもとに、欠勤メールの文章をリライトしてください。
#メール内容
よう！くそパイセン！　
昨日の飲み会のせいで2日酔い酷くて朝から死ぬほど頭痛いんで、会社休むわー

今日の俺の業務も代わりにやっといてー
あ、あと明日は会社行けたら行く

よろー

#条件
- 敬語を正確に使う
- 不適切な内容は排除してください。
- 悪い言葉をすべて丁寧な言葉に変える
- 文章最後に電子署名を入れる

#出力

本文："""},
]

outputs = pipeline(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

Setting `pad_token_id` to `eos_token_id`:None for open-end generation.
{'role': 'assistant', 'content': '以下の内容がリライトされた欠勤メールになります。\n\n#リライトメール\nご挨拶の際、お世話になります。\n\n昨日の飲み会の影響により、2日酔いで朝から頭痛が酷く、業務に支障があるため、今日は会社を休ませていただきたく存じます。\n\n今日の業務については、可能な限り代行させていただきたいと存じます。\n\nまた、明日は状況が戻れば、会社に来る予定です。\n\nよろしくお願いします。\n\n電子署名：[あなたの名前]'}

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

# トークナイザーとモデルの準備
tokenizer = AutoTokenizer.from_pretrained(
    "tokyotech-llm/Llama-3.1-Swallow-8B-Instruct-v0.1"
)
model = AutoModelForCausalLM.from_pretrained(
    "tokyotech-llm/Llama-3.1-Swallow-8B-Instruct-v0.1",
    device_map="cuda",
    torch_dtype="auto",
    load_in_8bit=True,
)
# メッセージの準備
chat = [
    { "role": "user", "content": """あなたは、優秀なビジネスマンです。以下の内容をもとに、欠勤メールの文章をリライトしてください。
#メール内容
よう！くそパイセン！　
昨日の飲み会のせいで2日酔い酷くて朝から死ぬほど頭痛いんで、会社休むわー

今日の俺の業務も代わりにやっといてー
あ、あと明日は会社行けたら行く

よろー

#条件
- 敬語を正確に使う
- 不適切な内容は排除してください。
- 悪い言葉をすべて丁寧な言葉に変える
- 文章最後に電子署名を入れる

#出力

本文：
""" },
]
prompt = tokenizer.apply_chat_template(chat, tokenize=False, add_generation_prompt=True)

# 推論の実行
input_ids = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt").to(model.device)
streamer = TextIteratorStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
def generate():
    model.generate(
        input_ids,
        max_new_tokens=512,
        streamer=streamer
    )
thread = Thread(target=generate)
thread.start()
for text in streamer:
    print(text, end="", flush=True)
thread.join()

お疲れ様です。

昨日の飲み会の影響で、今日は体調が思わしくなく、出勤することが難しい状況にあります。誠に申し訳ございませんが、今日は欠勤させていただきたいと思います。

私の業務については、代わりに担当者が対応していただけますよう、ご協力お願いいたします。

また、明日は体調が回復次第、出勤できるよう努力いたします。

ご迷惑をおかけいたしますが、ご理解いただけますようお願いいたします。

敬具

\[名前]

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

# モデルとトークナイザーの準備
model_id = "meta-llama/Llama-3.3-70B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    load_in_8bit=True,
    torch_dtype=torch.float16,
)

def generate_response(prompt, max_length=300, temperature=0.7):
    inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
    
    outputs = model.generate(
        **inputs,
        max_length=max_length,
        num_return_sequences=1,
        temperature=temperature,
        do_sample=True,
        pad_token_id=tokenizer.eos_token_id
    )
    
    return tokenizer.decode(outputs[0], skip_special_tokens=True)

prompt = """Streamlitを使ってLPのテンプレートを作成してください。
テーマはモダンです。このLPのターゲットは富裕層の30-40代の女性です。そのため、ターゲットに合致するモダンなテンプレートを作成してください。
"""

response = generate_response(prompt)
print("応答:", response)

応答: Streamlitを使ってLPのテンプレートを作成してください。
テーマはモダンです。このLPのターゲットは富裕層の30-40代の女性です。そのため、ターゲットに合致するモダンなテンプレートを作成してください。```python
import streamlit as st

# タイトルとヘッダーの設定
st.title("モダンLP")
st.header("富裕層の30-40代の女性向け")

# カラムとセクシー
st.subheader("カラムな世界観")
st.write("モダンなスタイルで生活を楽しむ")

# イメージとデザイン
st.subheader("モダンなデザイン")
st.image("image/mode.jpg")

# メッセージとコール
st.subheader("モダンなメッセージ")
st.write("モダンなライフスタイルを送る")

# フッターとプランニング
st.subheader("モダンなフッター")
st.write("モダンな未来を築く")

# フッターカル
st.subheader("モダンなフッターカル")
st.write("モダンな明日を迎える")
```

これは、モダンなLPのテンプレートの例です。実際の

import transformers
import torch

model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

messages = [
    {"role": "system", "content": "あなたは優秀なアシスタントです"},
    {"role": "user", "content": """Streamlitを使ってLPのテンプレートを作成してください。
テーマはモダンです。このLPのターゲットは富裕層の30-40代の女性です。そのため、ターゲットに合致するモダンなテンプレートを作成してください。"""},
]

outputs = pipeline(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

Setting `pad_token_id` to `eos_token_id`:None for open-end generation.
{'role': 'assistant', 'content': 'StreamlitはPythonで簡単にWebアプリを作成できるライブラリです。LPのテンプレートを作成するには、Streamlitのデザイン要素を利用して、モダンなデザインを実現します。\n\n**LPテンプレートのデザイン**\n\nLPのテンプレートには、以下の要素が必要です。\n\n*   ヘッダー\n*   メインコンテンツ\n*   フッター\n\n**StreamlitでLPテンプレートを作成する**\n\nまず、Streamlitをインストールします。\n\n```bash\npip install streamlit\n```\n\n次に、以下のコードを実行して、LPテンプレートを作成します。\n\n```python\nimport streamlit as st\nfrom streamlit_folium import folium_static\nimport folium\nimport pandas as pd\n\n# ヘッダー\nst.markdown("<h1 style=\'text-align: center; color: #333;\'>LPテンプレート</h1>", unsafe_allow_html=True)\n\n# メインコンテンツ\nst.markdown("<h2 style=\'text-align: center; color: #666;\'>LPのコンテンツ</h2>", unsafe_allow_html'}

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

# トークナイザーとモデルの準備
tokenizer = AutoTokenizer.from_pretrained(
    "tokyotech-llm/Llama-3.1-Swallow-8B-Instruct-v0.1"
)
model = AutoModelForCausalLM.from_pretrained(
    "tokyotech-llm/Llama-3.1-Swallow-8B-Instruct-v0.1",
    device_map="cuda",
    torch_dtype="auto",
    load_in_8bit=True,
)
# メッセージの準備
chat = [
    { "role": "user", "content": "Streamlitを使ってLPのテンプレートを作成してください。
テーマはモダンです。このLPのターゲットは富裕層の30-40代の女性です。そのため、ターゲットに合致するモダンなテンプレートを作成してください。" },
]
prompt = tokenizer.apply_chat_template(chat, tokenize=False, add_generation_prompt=True)

# 推論の実行
input_ids = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt").to(model.device)
streamer = TextIteratorStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
def generate():
    model.generate(
        input_ids,
        max_new_tokens=512,
        streamer=streamer
    )
thread = Thread(target=generate)
thread.start()
for text in streamer:
    print(text, end="", flush=True)
thread.join()

Streamlitを使ってLPのテンプレートを作成するには、以下のコードを使用します。

```python
import streamlit as st

# タイトル
st.title("モダンなLPテンプレート")

# 背景画像
st.image("https://picsum.photos/800/600", caption="モダンな背景画像")

# ヘッダー
st.header("ヘッダー")

# サブヘッダー
st.subheader("サブヘッダー")

# テキスト
st.write("テキスト")

# ボタン
st.button("ボタン")

# セレクトボックス
st.selectbox("セレクトボックス", ["選択肢1", "選択肢2", "選択肢3"])

# チェックボックス
st.checkbox("チェックボックス")

# ラジオボタン
st.radio("ラジオボタン", ["選択肢1", "選択肢2", "選択肢3"])

# テーブル
st.table([["列1", "列2"], ["列3", "列4"]])

# グラフ
st.line_chart([1, 2, 3, 4, 5])

# マップ
st.map([1, 2, 3, 4, 5])

# コード
st.code("print('Hello, World!')")

# リンク
st.link("https://www.example.com")

# 画像
st.image("https://picsum.photos/200/300", caption="画像")
```

このコードでは、Streamlitの基本的な要素であるタイトル、背景画像、ヘッダー、サブヘッダー、テキスト、ボタン、セレクトボックス、チェックボックス、ラジオボタン、テーブル、グラフ、マップ、コード、リンク、画像を使用しています。

このテンプレートは、富裕層の30-40代の女性をターゲットにしています。モダンなデザインを使用し、シンプルで洗練されたレイアウトを実現しています。背景画像はモダンなデザインの画像を使用し、ヘッダーとサブヘッダーはシンプルで明確なフォントを使用しています。

このテンプレートは、LPの基本的な要素をすべて含んでおり、簡単にカスタマ

応答: Create an LP template using Streamlit.
The theme is modern. The target audience for this LP is affluent women in their 30s-40s. Therefore, please create a modern template that matches the target audience. Here is the content for the LP:
Headline: Unlock the Secrets to Effortless Weight Loss
Subheadline: Discover the Proven,5-Step System to Transform Your Body and Mind in Just 12 Weeks
[Image: A beautiful woman in her 30s with a fit body,standing in front of a sunset background]
Introduction:
Are you tired of trying fad diets and exercise routines that don't deliver results? Do you struggle to find the motivation to stick to a weight loss plan?
You're not alone. Millions of women just like you are searching for a solution to achieve their weight loss goals without sacrificing their lifestyle.
Our 5-Step System is specifically designed for busy, affluent women like you who want to achieve effortless weight loss without giving up the things they love. With our system, you'll learn how to:
* Ditch the stress and anxiety that's holding you back
* Boost your metabolism and energy levels
* Eat the foods you love while still losing weight
* Get fit and toned without spending hours at the gym
* And maintain your results for the long-term
Our system is based on proven science and has already helped countless women achieve their weight loss goals. And the best part? It only takes 12 weeks