Mistral AI発「Magistral」とは？ 推論特化で進化するLLMの未来

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["MISTRAL_API_KEY"],
    base_url="https://api.mistral.ai/v1"
)

response = client.chat.completions.create(
    model="mistral-medium-latest",  # 利用するモデル名
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "LLMのMagistral Mediumについて簡単に説明してください。"}
    ],
    temperature=0.7,
    max_tokens=500
)

print(response.choices[0].message.content)

**Magistral Medium**は、2024年6月に発表された**Mistral AI**による**中規模の高性能言語モデル（LLM）**です。
主な特徴は以下の通りです：

1. **規模と性能**
   - パラメータ数は非公開ですが、**Mistral Small（22B）とMistral Large（123B）の中間**に位置付けられています。
   - 高い推論能力とコストパフォーマンスを両立し、**企業向けタスク（RAG、ファインチューニング、エージェントシステムなど）**に適しています。

2. **長文処理**
   - **128Kトークン**のコンテキストウィンドウをサポートし、長文の理解や複雑なドキュメント処理が可能です。

3. **マルチモーダル対応（予定）**
   - テキストだけでなく、**画像や音声などのマルチモーダル入力**にも対応する予定（2024年後半にリリース予定）。

4. **効率性**
   - **Mistralの高速推論エンジン**と組み合わせることで、低遅延・低コストで運用できます。

5. **利用方法**
   - **MistralのAPI**または**La Plateforme**（Mistralのモデルホスティングサービス）経由で利用可能。
   - ファインチューニングやカスタマイズもサポートされています。

---
**比較例（Mistralシリーズ）**
| モデル          | 規模       | コンテキストウィンドウ | 主な用途               |
|----------------|-----------|----------------------|------------------------|
| **Mistral Small** | 22B       | 32Kトークン          | 軽量タスク、低コスト     |
| **Magistral Medium** | 中規模   | **128Kトークン**     | **企業用途、複雑タスク** |
| Mistral Large     | 123B      |

import os
import base64
import mimetypes
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["MISTRAL_API_KEY"],
    base_url="https://api.mistral.ai/v1"
)

# 画像をdata URLに変換（Magistral 1.2のvision入力用）
def encode_image_to_data_url(path: str) -> str:
    mime = mimetypes.guess_type(path)[0] or "image/png"
    with open(path, "rb") as f:
        b64 = base64.b64encode(f.read()).decode("utf-8")
    return f"data:{mime};base64,{b64}"

image_path = "/content/G1IfPW3XIAAKlWs.png"
image_data_url = encode_image_to_data_url(image_path)

# テキストのみ→画像つきマルチモーダル入力に変更
response = client.chat.completions.create(
    model="mistral-medium-latest",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "この画像を踏まえて、LLMのMagistral Mediumについて簡潔に説明し、図の要点も述べてください。"},
                {"type": "image_url", "image_url": image_data_url}
            ]
        }
    ],
    temperature=0.7,
    max_tokens=500
)

print(response.choices[0].message.content)

このバーチャートは、様々な評価基準における複数の言語モデルの性能を比較したものです。

**Magistral Mediumモデルについて**
- Magistral モデルは、簡単に言えば、自然言語処理タスクに使用される大規模言語モデル（LLM）の一つです。この図の中ではMagistral-Smallという名前で2種類（2509と2506）のバージョンが比較されています。

**図の要点**
1. **比較モデル**
   - Magistral-Small-2509
   - Magistral-Small-2506
   - Qwen3-30B-A3b-Thinking-2507
   - Qwen3-32B

2. **評価基準**
   - AIME24
   - AIME25
   - GPQA Diamond
   - LiveCodeBench v5
   - LiveCodeBench v6
   - HLE Text-only

3. **スコア比較**
   - AIME24ではMagistral-Small-2509が86.14%と最も高いスコアを示しています。
   - AIME25ではQwen3-30B-A3b-Thinking-2507が85.00%と最も高いスコアです。
   - GPQA DiamondではQwen3-30B-A3b-Thinking-2507が73.40%と最も高いスコアです。
   - LiveCodeBench v5ではQwen3-30B-A3b-Thinking-2507が76.80%と最も高いスコアです。
   - LiveCodeBench v6ではQwen3-30B-A3b-Thinking-2507が66.00%と最も高いスコアです。
   - HLE Text-onlyではMagistral-Small-2509が7.46%と最も高いスコアです。

4. **全体的な傾向**
   - Qwen3-30B

import os
import base64
import mimetypes
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["MISTRAL_API_KEY"],
    base_url="https://api.mistral.ai/v1"
)

# 画像をdata URLに変換（Magistral 1.2のvision入力用）
def encode_image_to_data_url(path: str) -> str:
    mime = mimetypes.guess_type(path)[0] or "image/png"
    with open(path, "rb") as f:
        b64 = base64.b64encode(f.read()).decode("utf-8")
    return f"data:{mime};base64,{b64}"

image_path = "/content/G1IfPW3XIAAKlWs.png"
image_data_url = encode_image_to_data_url(image_path)

# テキストのみ→画像つきマルチモーダル入力に変更
response = client.chat.completions.create(
    model="mistral-medium-latest",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "この画像を踏まえて、私がPythonで同じグラフを作成するためのコードを出力してください。"},
                {"type": "image_url", "image_url": image_data_url}
            ]
        }
    ],
    temperature=0.7,
    max_tokens=4000
)

print(response.choices[0].message.content)

このグラフはMatplotlibやSeabornを使用して作成できます。以下に、このグラフを再現するためのPythonコードを示します。

```python
import matplotlib.pyplot as plt
import numpy as np

# データの準備
labels = ['AIME24', 'AIME25', 'GPQA Diamond', 'LiveCodeBench v5', 'LiveCodeBench v6', 'HLE Text-only']
magistral_small_2509 = [86.14, 77.34, 70.07, 70.02, 61.60, 7.46]
qwen3_30b_a3b_thinking_2507 = [85.00, 81.40, 73.40, 76.80, 66.00, 6.44]
qwen3_32b = [81.40, 72.90, 68.40, 55.84, 47.36, None]
magistral_small_2506 = [70.68, 62.76, 68.18, 65.70, None, None]

x = np.arange(len(labels))  # ラベルの位置
width = 0.2  # バーの幅

fig, ax = plt.subplots(figsize=(14, 8))

# バーのプロット
rects1 = ax.bar(x - width*1.5, magistral_small_2509, width, label='Magistral-Small-2509', color='orange')
rects2 = ax.bar(x - width/2, qwen3_30b_a3b_thinking_2507, width, label='Qwen3-30B-A3b-Thinking-2507', color='cyan')
rects3 = ax.bar(x + width/2, qwen3_32b, width, label='Qwen3-32B', color='blue')
rects4 = ax.bar(x + width*1.5, magistral_small_2506, width, label='Magistral-Small-2506', color='gold')

# グラフの装飾
ax.set_ylabel('Score (%)')
ax.set_xticks(x)
ax.set_xticklabels(labels)
ax.legend()

# 値をバーの上に表示
def autolabel(rects):
    for rect in rects:
        height = rect.get_height()
        if height is not None:
            ax.annotate('{}'.format(height),
                        xy=(rect.get_x() + rect.get_width() / 2, height),
                        xytext=(0, 3),
                        textcoords="offset points",
                        ha='center', va='bottom')

autolabel(rects1)
autolabel(rects2)
autolabel(rects3)
autolabel(rects4)

fig.tight_layout()
plt.show()
```

このコードでは、Matplotlibを使って棒グラフを作成しています。データは問題文のグラフに従って設定されています。`None` の部分はグラフに表示されないようになっています。