GPT-3.5 Turboとは？従来モデルとの違い＆API活用法を徹底解説
メディア事業部AIライターの柏崎です。
みなさん、ChatGPTのAPIがアップデートされたことをご存知ですか？
今回のアップデートでGPT-3.5 APIが「はやい、やすい、（トークン数が）でかい」になりました。
どこかの牛丼チェーンみたいですね！
そこで今回は、APIについて何がアップデートされたのか、速さや価格はどうなったのかをまとめました。
ぜひ最後までご覧ください。
GPT-3.5とは
GPT-3.5は、OpenAIが開発してきたGPTシリーズの一つで、自然言語の理解と生成において高い能力を持つ言語モデルです。
GPT-3が2020年に公開され、非常に多くのデータと高度なアルゴリズムを使って人間らしい文章生成ができることで話題となりましたが、その改良版であるGPT-3.5はより多くのタスクに対応できるように洗練されています。
gpt-3.5-turbo-16kの概要
2023年6月13日にgpt-3.5-turboのアップデート版として、gpt-3.5-turbo-16kが公開されました。
アップデート内容は下記の通りです。。
- モデルの改善：新しく公開されたgpt-3.5-turbo-16kは、従来モデルのgpt-3.5-turboに比べて4倍の長さのコンテキストを扱えるようになり、日本語だと一度に約8000文字を処理できるようになった。これにより、より効率的なテキスト生成が可能になりました。
- コスト削減：開発者向けのコストが大幅に削減されました。
- 新機能の導入：Function Call という機能が追加されました。開発者はチャットボットが外部ツールを呼び出したり、自然言語をAPI呼び出しに変換したりすることが可能になりました。
なお、Function Callingについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
gpt-3.5-turbo-16kを比較してみた
次に、gpt-3.5-turbo-16kと旧バージョンでどれほど性能に違いがあるかを比較していきたいと思います。
比較項目は以下の2つです。
- 処理速度
- 価格
比較したモデルは、以下の4つです。
- gpt-3.5-turbo-0301
- gpt-3.5-turbo-0613
- gpt-3.5-turbo-0613-16k
- Azure OpenAI 3.5-turbo-0301
それではそれぞれ確認していきましょう！
処理速度
次のようなプロンプトとシェルスクリプトを使い、速度を計測しました。
プログラムを3回実行した平均値から、速い順番を決めています。
シェルスクリプト:
curl https://api.openai.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer {your_api_key}" \
-d @message.json \
-w "%{time_total}\n"
プロンプト(message.json):
{
"model": "gpt-3.5-turbo-0613",
"messages": [
{
"role": "user",
"content": "hello, worldと10回言ってください。"
}
]
}ちなみに、「Hello,worldと10回言ってください」としたのは、測定結果から偶然性をなくしたいからです。
仮に1回だけにすると、たまたま速かった/遅かったとなると思うので、なるべく公平にするためにこのようなプロンプトにしています。
速い順に並べた結果は以下のとおりです。
- GPT3.5-turbo-0613
- GPT3.5-turbo-0613-16k
- Azure OpenAI
- GPT3.5-turbo-0301
実験結果の詳細は、表にまとめています。
| モデル名 | gpt-3.5-turbo-0613 | gpt-3.5-turbo-0613-16k | Azure OpenAI 3.5-turbo-0301 | gpt-3.5-turbo-0301 |
|---|---|---|---|---|
| 1回目 | 0.813201 | 1.610510 | 1.593099 | 3.083588 |
| 2回目 | 0.881164 | 1.335805 | 1.778964 | 3.106458 |
| 3回目 | 0.852241 | 1.245126 | 1.761716 | 3.231992 |
| 平均 | 0.848868 | 1.397147 | 1.711259 | 3.140679 |
100文字（Hello World 10回分）出力にかかった時間（秒）
旧バージョン（gpt-3.5-turbo-0301） と、新バージョン（gpt-3.5-turbo-0613）を比較すると約3倍の差がありますね。
めちゃくちゃ速くなってる！
価格
OpenAIの情報によると、gpt-3.5-turboの入力トークンのコストを25％削減したそうです。（出力トークンについては記載がなかったです。）
gpt-3.5-turbo-0301に関しては、0.002ドル/1kトークン（非公式）。
| モデル名 | gpt-3.5-turbo-0613 | gpt-3.5-turbo-0613-16k | Azure OpenAI 3.5-turbo-0301 | gpt-3.5-turbo-0301 |
|---|---|---|---|---|
| 金額 | 0.0015ドル/1k入力トークン1K出力トークンあたり0.002ドル | 1K入力トークンあたり0.003ドル1K出力トークンあたり0.004ドル | 0.002ドル/1kトークン | 0.002ドル/1kトークン |
たしかに安くなってそうですね。
精度
精度に関しては、感覚的にはアップしているように感じました。
強化学習の成果だと思います。
検証項目を改めて、後日まとめますのでお楽しみに！
なお、ChatGPT APIについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
GPT APIの商用利用について
GPT APIの商用利用については、OpenAI公式の利用規約を確認すると下記のように記載されています。※１
“1.1 Use of Services. We grant you a non-exclusive right to access and use the Services during the Term (as defined below). This includes the right to use OpenAI’s application programming interfaces (“APIs”) to integrate the Services into your applications, products, or services (each a “Customer Application”) and to make Customer Applications available to End Users (as defined below). “Services” means any services for businesses and developers we make available for purchase or use, along with any of our associated software, tools, developer services, documentation, and websites, but excluding any Third Party Offering.”
（翻訳）
1.1 サービスの利用。当社は、期間中（以下に定義します）、本サービスにアクセスし使用する非独占的な権利をお客様に付与します。これには、OpenAIのアプリケーションプログラミングインターフェース（「API」）を使用して、本サービスをお客様のアプリケーション、製品、またはサービス（それぞれを「お客様アプリケーション」といいます）に統合し、お客様アプリケーションをエンドユーザー（以下に定義します）に提供する権利が含まれます。「サービス」とは、OpenAI が購入または使用のために提供する企業および開発者向けのサービス、および関連するソフトウェア、ツール、開発者サービス、ドキュメンテーション、ウェブサイトを意味します。
上記の通り、お客様アプリケーションをエンドユーザーに提供する権利が含まれる点や、ユーザーに対して「非独占的な」権利を与えており、「商用利用を禁止する」といった文言もないことから、商用利用は可能と判断できます。
しかし、APIの商用利用にあたっては、OpenAIのブランドガイドラインに従う必要があるため、商用利用を考えている方は事前に確認しておきましょう。※2
gpt-3.5-turbo-16kの活用事例
gpt-3.5-turboの4倍の長さのコンテキストを扱えるようになったgpt-3.5-turbo-16kですが、gpt-3.5-turbo-16kはどのような場面で利用されているのでしょうか。
最後に、gpt-3.5-turbo-16kを使った活用事例について紹介します。
事例①動画の要約
上記のポストでは、動画の内容を文字起こしした後にその内容を要約している様子が公開されています。
gpt-3.5-turboでは、動画の長さや動画内の音声の量によってはトークン数が足りず、一度にテキストが入力できない場合がありましたが、gpt-3.5-turbo-16kを活用すれば4倍の長さのコンテキストを扱えるため、gpt-3.5-turboよりもより多くの動画の内容を要約できるようになりました。
事例②長文の要約
論文や書籍など、長文のテキストを要約したい時にもgpt-3.5-turbo-16kは活躍します。
上記のポストのように、ChatGPTでは文章量が多く要約できなかった文章も、gpt-3.5-turbo-16kを活用することで一括で要約することができています。
このように、従来モデルの4倍の長さのコンテキストを扱えるようになったことで、幅広いテキストコンテンツの要約が可能になりました。
なお、GPT APIの活用方法をさらに知りたい方は、下記の記事を合わせてご確認ください。
神アプデによってGPT APIはより高速になりコスパが上がった
OpenAIのGPT APIがアップデートされました。
主な変更点は以下のとおりです。
- モデルの改善：新しく公開されたgpt-3.5-turbo-16kは、従来モデルのgpt-3.5-turboに比べて4倍の長さのコンテキストを扱えるようになり、日本語だと一度に約8000文字を処理できるようになった。
- コスト削減：開発者向けのコストが大幅に削減され、入力トークンのコストが25％削減。
- 新機能の導入：Function Callという新機能が追加。開発者はチャットボットが外部ツールを呼び出したり、自然言語をAPI呼び出しに変換したりすることが可能。
スピードテストの結果では、新しいモデルgpt-3.5-turbo-0613が最も早く、旧バージョンのgpt-3.5-turbo-0301と比較して約3倍のスピードアップが達成されています。
価格に関して、gpt-3.5-turboの入力トークンは、25％安くなりました。
OpenAIは、生成AIブームの火付け役であるChatGPTや高性能な動画生成AIであるSoraなど、様々な分野で高品質の生成AIを開発しています。
今後も新しいモデルの開発やAIツールなどが登場することが予想されるので、生成AI分野に遅れを取らないためにもOpenAIの動向には注目していきましょう。
生成系AIの業務活用なら！
・生成系AIを活用したPoC開発
・生成系AIのコンサルティング
・システム間API連携
最後に
いかがだったでしょうか？
GPT-3.5 Turboの最新アップデートで、より高速かつ低コストでのAI活用が可能になりました。自社での導入・活用を検討する際に、最適なモデル選定や活用方法について、一緒に考えてみませんか？
弊社では
・マーケティングやエンジニアリングなどの専門知識を学習させたAI社員の開発
・要件定義・業務フロー作成を80%自動化できる自律型AIエージェントの開発
・生成AIとRPAを組み合わせた業務自動化ツールの開発
・社内人事業務を99%自動化できるAIツールの開発
・ハルシネーション対策AIツールの開発
・自社専用のAIチャットボットの開発
などの開発実績がございます。
まずは、「無料相談」にてご相談を承っておりますので、ご興味がある方はぜひご連絡ください。
➡︎生成AIを使った業務効率化、生成AIツールの開発について相談をしてみる。
「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、生成AI社内セミナー・勉強会をさせていただいております。
セミナー内容や料金については、ご相談ください。
また、サービス紹介資料もご用意しておりますので、併せてご確認ください。
