ChatGPTに自社データを学習させる方法、情シスに多い悩み別に紹介

あなたは、ChatGPTを使って、自社専用のChatGPTを作る方法を知っていますか？

まさか、未学習のChatGPTをそのまま使用していませんよね？
ChatGPTをカスタマイズする方法について述べた以下のスライドは、すでに2万回以上も閲覧されています。

参考記事：ChatGPT_APIのEmbedding_カスタマイズ入門 – Speaker Deck

この反響からわかるように、多くの企業が自社データの追加学習に関心を持っています。自社サービスを柔軟に拡張できるのですから、使わない手はありませんよね。

本記事では、「ChatGPTに自社データを学習させ、自社専用のChatGPTを作る方法」について解説します。
最後まで読んだ方は、ChatGPTにおける自社データの効果的な活用方法をマスターし、生成AIに潜むデメリットを克服した上で社内で活用できるようになります。

ぜひ、最後までご覧ください。

なお弊社では、ChatGPTを自社で学習する方法についての1時間無料相談を承っています。こちらからお気軽にご相談ください。
→無料相談で話を聞いてみる

【悩み別】ChatGPTに自社データを学習させる方法

ChatGPTを活用するうえで、さまざまな問題点・悩みがあります。代表的な問題点・悩みと、その対策である「ChatGPTの学習方法」を以下の表にまとめました。

これから、上記の問題点・悩みについて、具体的に解説します。

情報漏洩のリスクが気になる

ChatGPTに文章データを入力する際には、情報漏洩のリスクに関して細心の注意を払う必要があります。なぜなら、ChatGPTで入力した内容は、生成AIの学習に利用される可能性があるからです。

情報漏洩の対策としては、ChatGPTのAPIを利用しましょう。OpenAI社によると、API経由のデータは、ChatGPTの学習には利用されず、情報漏洩のリスクを低減できます。しかし、ChatGPTの利用に、APIを経由する場合は、次の2点に注意する必要があります。

• APIの利用料金
• APIを利用するためのシステムや機能の考慮

まずは、APIの利用料金についてです。APIの利用料金は、入力した文字数に応じて金額が決まります。

例えば、「gpt-3.5-turbo」というAPIの種類の場合、1000トークンごとに0.002ドルが必要です。このトークン数は、言語によってカウントの仕方が違います。日本語で入力した場合のトークン数は次のようになっています。

• ひらがな1文字：1トークン
• 漢字1文字：2~3トークン

次にAPIを利用するためのシステムや機能を考慮する必要性について解説します。

結論から言うと、APIを使用する際もセキュリティ対策が必要です。

APIを利用する際に適切なセキュリティ対策をすることで、情報漏洩リスクを低減できます。安易にAPIを信用せず、情報漏洩を防ぐための対策をしましょう。

虚偽情報の生成（ハルシネーション）がされないようにしたい

ハルシネーションとは、生成AIが実際のデータと異なる情報を生成することです。簡単に言うと、嘘の情報を生成することを指しています。これは、主に文章の生成などにおいて問題になるケースが多く、正確で意味のある出力をせず、誤った情報拡散の要因となります。

ハルシネーションの原因は、主に以下の3つです。

1. 文脈内での正しさを重視するあまり誤った情報を生成してしまう
2. 古い情報を参照することで、現在では通用しない情報を生成してしまう
3. 学習データが不足しており、推測した情報を生成するが、それが誤りである

ハルシネーションに対する対策方法としては、エンベディングを行うことが有効です。エンベディングとは、独自のデータをChatGPTに教え込む学習方法です。

エンベディングによって、独自のデータから質問に最も関連する情報を検索し、回答に利用できます。この方法により、回答生成時に正しいデータを参照するので、ハルシネーションが起きにくくなるのです。

ハルシネーションについては、以下の2つの記事が参考になります。

参考記事：生成AIの「幻覚」防ぐグラウンディング、ハルシネーションの解決策をひもとく
参考記事：生成AIにおけるハルシネーションとは？起きる理由と対策方法について解説！

できるだけ自社データを優先させて回答を生成したい

新たに学習させた自社データを優先させて、ChatGPTに回答させたいと思っている企業も多いでしょう。しかし、自社データを利用して回答を生成する場合は、ChatGPTをそのまま使うだけではダメです。

なぜなら、ChatGPTはネット上などにある大量の文章データを学習し、自然言語を生成しているからです。そのため、自社データを優先して回答させるためには、特殊な処理が必要になります。

自社データを優先させてChatGPTに出力させる場合は、先ほどご紹介したエンベディングを弊社は推奨しています。

この時、「ファインチューニングじゃダメなの？」という疑問があるかと思います。結論としては、エンベディングの方が、より自社データに即した正確な出力が可能になるので、ファインチューニングよりもおすすめです。

ファインチューニングは、LLM自体に追加で数千件ほどの文章データを学習させるため、どの情報から回答を生成したのか分からなくなります。。そのため、自社データではなく、事前学習の段階で得ていた情報から回答を生成する可能性が出てきます。

しかし、エンベディングを利用することで、より自社データに即した正確な回答を生成できるようになるのです。

回答生成で利用した自社データを把握したい

実業務で利用するためには、同じ精度の答えを常に出力しなければならず、回答の再現性が重要になります。例えば、カスタマーボットが同じ質問のたびに、違う回答を出してきたら困りますよね。

回答精度の再現性を高めるためには、回答生成時に利用するデータを把握し調整する必要があります。この場合は、エンべディングが有効です。

エンベディングは、回答生成時に自社データを参照するので、参考にしたデータを確認でき調整も可能です。

ただし、エンベディングには、Pythonの知識とLangchainと呼ばれる生成系AIに特化したモジュールの理解が必要になります。エンべディングを活用する際は、注意してください。

もし、エンべディングを使って自社データを学習させたい場合はこちらからご相談ください。

コストをかけずに学習させたい

ここまでは、ChatGPTに自社データを学習させる上で発生する問題の解決策として、エンベディングやファインチューニングをご紹介しました。確かに2つとも有用な技術です。

しかし、ファインチューニングもエンベディングも、プログラミングやAIの知識が必要です。もし、そのノウハウがなければ、開発を外注しなければいけなくなり、費用が発生してしまいます。

そこで、費用をかけずに解決する方法としてプロンプトエンジニアリングがあります。

プロンプトエンジニアリングとは、ChatGPTにわかりやすい質問の仕方をして、回答を求める方法です。質問をする際、OpenAIのAPIを利用しなければ自社データがChatGPTの学習に利用されます。APIを利用せず個人情報や機密情報を入力すると、情報漏洩にもつながるので注意してください。

業務特化ではなく、業界に関する一般的な知識を向上させたい

自社の業務特化ではなく、自社の業界に関する一般的な知識を向上させたい場合は、ファインチューニングが効果的です。

例えば、アパレル業界で服の種類や素材など一般的な知識を身につけたチャットボットを開発したい時などです。

特定のデータを学習させる際はエンべディングを使用することも多いです。しかし、エンべディングは自社に特化したより詳細な情報を学習させることに長けています。

そのため、業界の知識を学習させる際は、ファインチューニングを使用しましょう。

なお、ファインチューニングについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
→ファインチューニングとは？ChatGPTに必須の技術を院生が徹底解説

なお弊社では、ChatGPTを自社で活用する方法についての1時間無料相談を承っています。こちらからお気軽にご相談ください。
→無料相談で話を聞いてみる

ChatGPTに自社データを学習させる方法一覧

ここでは、ChatGPTに自社データを学習させる方法について、その詳細内容を解説します。

ChatGPTに自社データを学習させる方法を、以下に表でまとめました。

OpenAI API

OpenAI APIは、OpenAIのモデルを利用するためのAPIです。これを使用すると、自然言語処理タスクや他のAI関連のタスクを実行するために、OpenAIのモデルを利用できます。

OpenAI APIを利用すれば、ChatGPT を使用して、テキスト生成や文章要約、質問応答、言語翻訳などの自然言語処理タスクも実行可能です。

また、APIを経由することで自社データは学習されず、情報漏洩のリスクが低減できます。

プロンプトデザイン

プロンプトデザインとは、プロンプトエンジニアリングとも呼ばれ、「ChatGPTにわかりやすく質問文を投げかける」という手法です。

質問する文章のことを「プロンプト」といい、このプロンプトをわかりやすく書くことで、ChatGPTの回答精度が向上します。

例えば「○○についてのブログ記事を書いてください」とプロンプトを書くよりも……

「あなたはプロのライターです。○○についてのブログ記事を1000文字程度で書いてください。ターゲット読者は20代男性無職です。」

というふうに、より詳しく書くことで、回答の精度が向上します。

プロンプトデザインには、他にもさまざまなテクニックがあります。「深津式」や「シュンスケ式」など、多様な種類のテクニックがあるので、ぜひ試してみてください。

ファインチューニング

ファインチューニングとは、「大量のデータで事前学習されたLLMに対して、解きたいタスクに応じてデータを追加で学習させる」という手法です。

ファインチューニングをするためには、一般的には数百〜数千件ほどのデータを用意する必要があります。この数が多いか少ないかは、企業にもよると思いますが、自社データの少ない企業にとっては「集められない」という場合もあるでしょう。

また、ファインチューニングは、プログラミングのスキルやAIの知識を要するため、気軽には取り組めません。

ベクトルデータベース

ベクトルデータベースとは、データをベクトル化して、保存や管理するデータベースシステムのことです。ベクトルデータベースを利用すれば、通常のデータベースよりも効率よくデータを格納し、処理ができます。

特に、「データの類似度」を測ることが得意なデータベースです。この「データの類似度」を測る技術を用いることで、次にご紹介するエンベディングにも応用できます。

エンべディング

本来、エンベディングとは「単語や文章のデータなどを、ベクトルに変換する手法」のことを指します。

ChatGPTにおけるエンベディング手法では、特定の情報や知識をプロンプトに組み込む手法を指します。具体的には、ChatGPTに対して、特定の情報をプロンプトに加えて質問し、その情報を基に適切な回答をさせる方法です。

そのために、あらかじめ自社データをベクトル化してベクトルデータベースに格納しておき、以下の手順でプロンプトに特定の情報を組み込みます。

1. ChatGPTに投げかけたプロンプト文をベクトル化
2. ベクトルデータベース内で最も関連のあるデータを引っ張ってくる
3. そのデータ（文章）を、元のプロンプトに加える

上記の手順ですれば、自社のデータをChatGPTのプロンプトに組み込めます。

ChatGPTに自社データを学習させたらできること

ここでは、ChatGPTに自社データを学習させることで、可能になることを2つご紹介します。

自社専用のAIチャットボット開発

ChatGPTに自社データを学習させることで、自社専用のAIチャットボットを開発できます。

AIチャットボットには専門知識を学習させられます。

例えばマーケターやエンジニア、コンサルタントなど、専門家を複数登場させることも可能です。

AIチャットボットを作成すれば、社内の質疑にかかる工数を減らすことができ、余剰時間を増やせるでしょう。

弊社は、透明性を重要視しており、このAIチャットボット作成手法を一般公開しています。

以下の記事からご覧ください。

参考記事：【ChatGPTハーレム】Slackに専門家美女AIを大量召喚したら全員反応してウザすぎたので調教する #Python – Qiita

自律型AIエージェントの開発

ChatGPTに自社データを学習させると、要件定義・業務フロー作成を80%自動化できる自立型AIエージェントの開発が可能になります。

自律型AIエージェントを活用すれば、AIと対話をするだけで業務フロー図の作図やマニュアル作成、要件定義を半自動で行うことが可能です。

そのため、全体の工数を（この例の場合）50%以上削減できるでしょう。

今後ITエンジニアが不足すると言われる中で、上流工程を担当する人は特に不足していくと思われます。IT業界の方や、社内DXを行う方にとって有用な事例になれば幸いです。

こちらがGPTが生成した業務フロー図になります。

なお、AIエージェント「Camel」について詳しく知りたい方は、下記の記事を合わせてご確認ください。
→AIエージェント「Camel」｜AutoGPTとの違いや導入方法を徹底解説！

ChatGPTに自社データを学習させよう

今回は、ChatGPTに自社データを学習させて、ChatGPT独自の課題を解決する方法について解説しました。

各企業が持つ悩みに対する、自社データを活用したChatGPTの学習方法は、以下のようなものがあります。

これらの手法でChatGPTに自社データを学習させると、以下のようなシステムも作れます。

• 自社専用のAIチャットボット
• 自律型AIエージェント

自律型AIエージェントを開発すれば、AIや人からの命令に対して、理解・回答するだけでなく実行まで行わせることが可能になります。

そうなれば、「記事のリサーチから執筆まで自動で行うAIライター」も作れるのです。

最後に

いかがだったでしょうか？

弊社では

・マーケティングやエンジニアリングなどの専門知識を学習させたAI社員の開発
・要件定義・業務フロー作成を80%自動化できる自律型AIエージェントの開発
・生成AIとRPAを組み合わせた業務自動化ツールの開発
・社内人事業務を99%自動化できるAIツールの開発
・ハルシネーション対策AIツールの開発
・自社専用のAIチャットボットの開発

などの開発実績がございます。

まずは、「1時間の無料相談」にてご相談を承っておりますので、ご興味がある方はぜひご連絡ください。

➡︎生成AIを使った業務効率化、生成AIツールの開発について相談をしてみる。

生成AIを社内で活用していきたい方へ

「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、生成AI社内セミナー・勉強会をさせていただいております。

セミナー内容や料金については、ご相談ください。

また、弊社紹介資料もご用意しておりますので、併せてご確認ください。

セミナーを依頼する

資料をダウンロードする