【gpt-3.5-turbo-16k】ChatGPT3.5のAPIの性能を徹底解説

メディア事業部AIライターの柏崎です。

みなさん、ChatGPTのAPIがアップデートされたことをご存知ですか？

今回のアップデートでGPT-3.5 APIが「はやい、やすい、（トークン数が）でかい」になりました。
どこかの牛丼チェーンみたいですね！

そこで今回は、APIについて何がアップデートされたのか、速さや価格はどうなったのかをまとめました。

ぜひ最後までご覧ください。

なお弊社では、生成AIツール開発についての無料相談を承っています。こちらからお気軽にご相談ください。

gpt-3.5-turbo-16kの概要

2023年6月13日に次のようなアップデートがありました。

1. モデルの改善：gpt-3.5-turbo-16kが導入された。開発者は一度に日本語だと約8000文字を処理できるようになり、より効率的なテキスト生成が可能になりました。
2. コスト削減：開発者向けのコストが大幅に削減されました。
3. 新機能の導入：Function Call という機能が追加されました。開発者はチャットボットが外部ツールを呼び出したり、自然言語をAPI呼び出しに変換したりすることが可能になりました。

なお、Function Callingの所感をまとめた記事は後日書こうと思ってます。

では、旧バージョンとの比較を見ていきましょう！

gpt-3.5-turbo-16kを比較してみた

比較項目は以下の2つです。

1. 処理速度
2. 価格

比較したモデルは、以下の4つです。

1. gpt-3.5-turbo-0301
2. gpt-3.5-turbo-0613
3. gpt-3.5-turbo-0613-16k
4. Azure OpenAI 3.5-turbo-0301

それではそれぞれ確認していきましょう！

処理速度

次のようなプロンプトとシェルスクリプトを使い、速度を計測しました。

プログラムを3回実行した平均値から、速い順番を決めています。

シェルスクリプト:

curl https://api.openai.com/v1/chat/completions \

  -H "Content-Type: application/json" \

  -H "Authorization: Bearer {your_api_key}" \

  -d @message.json \

  -w "%{time_total}\n"

プロンプト(message.json):

{

    "model": "gpt-3.5-turbo-0613",

    "messages": [

        {

            "role": "user",

            "content": "hello, worldと10回言ってください。"

        }

    ]

}

ちなみに、「Hello,worldと10回言ってください」としたのは、測定結果から偶然性をなくしたいからです。

仮に1回だけにすると、たまたま速かった/遅かったとなると思うので、なるべく公平にするためにこのようなプロンプトにしています。

速い順に並べた結果は以下のとおりです。

1. GPT3.5-turbo-0613
2. GPT3.5-turbo-0613-16k
3. Azure OpenAI
4. GPT3.5-turbo-0301

実験結果の詳細は、表にまとめています。

100文字（Hello World 10回分）出力にかかった時間（秒）

旧バージョン（gpt-3.5-turbo-0301） と、新バージョン（gpt-3.5-turbo-0613）を比較すると約3倍の差がありますね。

めちゃくちゃ速くなってる！

価格

OpenAIの情報によると、gpt-3.5-turboの入力トークンのコストを25％削減したそうです。（出力トークンについては記載がなかったです。）

gpt-3.5-turbo-0301に関しては、0.002ドル/1kトークン（非公式）。

たしかに安くなってそうですね。

精度

精度に関しては、感覚的にはアップしているように感じました。

強化学習の成果だと思います。

検証項目を改めて、後日まとめますのでお楽しみに！

なお、ChatGPT APIについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
→ChatGPT APIとは？利用方法や料金の確認方法、活用事例15選を紹介

神アプデによってGPT APIはより高速になりコスパが上がった

OpenAIのGPT APIがアップデートされました。

主な変更点は以下のとおりです。

1. モデルの改善：新たなgpt-3.5-turbo-16kが導入された。開発者は一度に日本語で約8000文字を処理が可能。
2. コスト削減：開発者向けのコストが大幅に削減され、入力トークンのコストが25％削減。
3. 新機能の導入：Function Callという新機能が追加。開発者はチャットボットが外部ツールを呼び出したり、自然言語をAPI呼び出しに変換したりすることが可能。

スピードテストの結果では、新しいモデルgpt-3.5-turbo-0613が最も速い。

旧バージョンのgpt-3.5-turbo-0301と比較して約3倍のスピードアップが達成されています。

価格に関して、gpt-3.5-turboの入力トークンは、25％安くなりました。

生成系AIの業務活用なら！

・生成系AIを活用したPoC開発

・生成系AIのコンサルティング

・システム間API連携

無料ダウンロード

最後に

いかがだったでしょうか？

弊社では

・マーケティングやエンジニアリングなどの専門知識を学習させたAI社員の開発
・要件定義・業務フロー作成を80%自動化できる自律型AIエージェントの開発
・生成AIとRPAを組み合わせた業務自動化ツールの開発
・社内人事業務を99%自動化できるAIツールの開発
・ハルシネーション対策AIツールの開発
・自社専用のAIチャットボットの開発

などの開発実績がございます。

まずは、「無料相談」にてご相談を承っておりますので、ご興味がある方はぜひご連絡ください。

➡︎生成AIを使った業務効率化、生成AIツールの開発について相談をしてみる。

生成AIを社内で活用していきたい方へ

「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、生成AI社内セミナー・勉強会をさせていただいております。

セミナー内容や料金については、ご相談ください。

また、弊社紹介資料もご用意しておりますので、併せてご確認ください。

セミナーを依頼する

資料をダウンロードする