Azure OpenAI Serviceを用いた自社データ活用術！企業の導入事例を含め徹底解説
WEELメディア事業部リサーチャーのいつきです。
みなさんは、法人向けAIプラットフォーム「Azure OpenAI Service」で自社データを取り込めることはご存知ですか？
回答文の生成やその他タスクをこなす際に、より正確な情報を取得できるようになるので、情報の正確性を重視する法人のみなさんにとってはメリットが大きいはずです。
そこで今回の記事では、Azure OpenAI Serviceで自社データと取り込むメリットや導入事例についてご紹介します。
最後まで目を通すと、Azure OpenAI Serviceに自社データを取り込む利点が理解できるので、業務効率化のアイデアが次々と浮かぶかもしれません。
ぜひ最後までご覧ください。
Azure OpenAI Serviceとは？
Azure OpenAI Serviceとは、Microsoft Azureが提供している法人向けAIサービスです。GPT-4やDALL-Eなど、OpenAI製の生成AIモデルをセキュリティ対策が万全なMicrosoft Azureのクラウド上で利用できます。
具体的なセキュリティ対策としては、アクセス制御や暗号化などが挙げられます。もちろん、会話内容がAIモデルのトレーニングに利用されることもないので、自社データが漏洩してしまう心配も基本的にはありません。
なお、Azure OpenAI Serviceについて詳しく知りたい方は、下記の記事を合わせてご確認ください。
自社データを用いたAzure OpenAI Service導入のメリット
Azure OpenAI Serviceでは、「On your data」機能を活用することで自社データをAIモデルに取り込めます。
自社データをAzure OpenAI Serviceに取り込むメリットは、以下のとおりです。
- データ分析の効率化
- ビジネスインサイトの向上
- コストの削減
以下で、それぞれのメリットを詳しくみていきましょう。
データ分析の効率化
自社データを用いたAzure OpenAI Serviceを導入すると、データ分析の効率が向上します。たとえば、自社商品に対して届いた大量のレビューを分析して、顧客の要望をまとめるといった作業が可能です。
従来の方法だと、これらの集計や分析業務を手作業で実施することがほとんどですが、1つずつ注視して分類していてはどうしても時間がかかります。
一方、自社データを取り込んだAzure OpenAI Serviceなら、指定した項目に沿って生成AIが自動で情報を分類してくれるので、もはや人間の手はほとんど必要ありません。
ビジネスインサイトの向上
自社データを取り込んだAzure OpenAI Serviceを導入すると、ビジネスインサイトの向上も見込めます。ちなみに、ビジネスインサイトとは、「顧客が気づいていない意識や購買動機を見抜くこと」といった意味です。
上記の例で、商品レビューの分析について触れましたが、生成AIならレビューに潜む顧客の感情なども抽出できます。動機や感情といった細かいところまで分析すれば、商品開発や訴求方法に活かせること間違いありません。
コストの削減
1つ目のメリットとしてデータ分析の効率化を挙げましたが、業務が効率化されれば必然的にコストの削減も実現します。
初期費用こそ多額のコストがかかりますが、その後削減できる人件費のことを考えて長い目で見れば、コストを大きく削減できるはずです。
また、ChatGPTなどをそのまま使うと、インターネット上の情報を参照して回答文を生成するので、正確性に欠けるという問題があります。
しかし、自社データを取り込んだAzure OpenAI Serviceなら、情報の正確さが増すので、ファクトチェックにかかる人員やその人件費も削減できるでしょう。
自社データを用いたAzure OpenAI Service導入の注意点
自社データを用いたAzure OpenAI Service導入する際は、以下3つの注意点が存在します。
- セキュリティー対策
- 自社データの整合性と品質
- コスト管理
企業が事業を運営するうえで、上記3つが疎かになると、思わぬトラブルに発展しかねません。
以下で注意点について詳しく解説するので、ぜひ参考にしてみてください。
セキュリティー対策
Azure OpenAI Serviceに限らず、生成AIを利用して自社データを取り扱う際は、セキュリティ対策が必須です。
とはいえ、Azure OpenAI Serviceのセキュリティ対策は厳格な体制をしいているので、ユーザー側が何か特別な処理をする必要はありません。
Azure OpenAI Serviceのセキュリティ対策としては、以下のようなものが実施されています。
- 不正アクセス防止
- API キーやAzure ADによる厳格な認証
- Azure ADの多要素認証
- シングルサインオン機能
- プライベートネットワークの構築
ただし、Azure OpenAI Serviceが想定していない方法で自社データの取り込みを試みると、セキュリティ対策が万全ではなくなる可能性があります。
Azure OpenAI Serviceに自社データを取り込む際は、正しい方法で取り込みましょう。
自社データの整合性と品質
Azure OpenAI Serviceに自社データを取り込む際、肝心の学習データの整合性や品質に問題があっては、AIモデルの出力精度を向上させられません。
むしろ、誤情報ばかりを出力するので、最悪の場合は企業の信頼が低下することにもつながります。
そこで、Azure OpenAI Serviceにデータを取り込む前に、改めて情報の事実確認を実施しましょう。時間が経つと情報に変化が起きることもあるので、常に最新の情報かどうかをチェックしておくことが大切です。
コスト管理
Azure OpenAI Serviceを利用する際は、一定のコストがかかります。月額ではなく、従量課金制で1,000 トークンあたり〇〇円という形でかかるのが特徴です。
以下に、Azure OpenAI Serviceの料金をまとめました。
| モデル名称 | モデルタイプ | 料金 |
|---|---|---|
| GPT-3.5-Turbo（4K） | 言語 | $0.0015（プロンプト） $0.002（アウトプット） ※1,000トークンあたり |
| GPT-3.5-Turbo（16K） | $0.005（プロンプト） $0.002（アウトプット） ※1,000トークンあたり | |
| GPT-4（8K） | $0.03（プロンプト） $0.06（アウトプット） ※1,000トークンあたり | |
| GPT-4（32K） | $0.06（プロンプト） $0.12（アウトプット） ※1,000トークンあたり | |
| GPT-4o グローバルデプロイ（128K） | $0.005（プロンプト） $0.015（アウトプット） ※1,000トークンあたり | |
| GPT-4o リージョン API（128K） | $0.005（プロンプト） $0.015（アウトプット） ※1,000トークンあたり | |
| Dall-E-3（標準画質） | 画像 （解像度1024 * 1024） | $4 ※100画像あたり |
| Dall-E-3（HD画質） | 画像 （解像度1024 * 1024） | $8 ※100画像あたり |
| Whisper | 音声 | $0.36 ※1時間あたり |
Azure OpenAI Serviceで自社データを取り込む際も、上記と同じ料金がかかるので注意しましょう。
自社データを用いたAzure OpenAI Serviceの導入事例
ここからは、自社データを用いたAzure OpenAI Serviceの導入事例をご紹介します。
今回紹介するのは、以下4社の事例です。
- 三井不動産
- 栃木県庁
- 横浜銀行・東日本銀行
- 伊藤忠商事
すでに、自社データを用いたAzure OpenAI Serviceの導入に成功している事例を参照すれば、自社における生成AI活用のアイデアも浮かぶはずです。
以下で詳しく紹介していくので、ぜひ参考にしてみてください。
事例① 三井不動産
三井不動産は、Azure OpenAI Serviceに自社データを取り込んで、GPT-4を搭載した「&Chat」という自社特化型のAIチャットボットを開発しています。※1
最新のインターネット情報や社内データを参照して、社内問い合わせ業務の回答を生成しているとのことです。
具体的な運用は、全従業員約2,500人を対象に2023年8月より開始していると発表されています。精度の高い回答を得るために、プロンプト集もまとめているとのことなので、こうした取り組みは真似していきたいですね！
事例② 栃木県庁
栃木県庁は、業務効率化と行政サービス品質向上を目的として、Azure OpenAIを全庁で導入しています。Azure OpenAI Serviceを経由してChatGPTを導入したのは、行政が守るべきセキュリティ要件を満たしたいと考えたためです。※2
テスト運用を経て効果的なプロンプト集を作成し、現在ではすでに本格運用に至っているとのこと。
メイン画面でプロンプト例がポップアップで表示される仕組みを構築し、職員はコピー＆ペーストでAIチャットボットを活用しているようです。
事例③ 横浜銀行・東日本銀行
コンコルディア・フィナンシャルグループの横浜銀行と東日本銀行では、社内DXの推進を目的として「行内ChatGPT」を開発・運用しています。※3
銀行業務では元々、稟議書の作成やマニュアルの作成といったOA業務が多いので、これらの業務をICT技術を活用して効率化したい意図があったようです。
ただし、普通に生成AIを活用するだけでは期待した回答結果を得られないため、回答精度を上げるために銀行内の業務文書を学習させました。
それでも情報の正確さは完全とはいえず、社内での利用が浸透していないため、ICT推進室がリードして各営業店への勉強会などをおこなっているそうです。
事例④ 伊藤忠商事
伊藤忠商事株式会社は、取引先の食品関連会社に提供しているデータ分析ダッシュボード「FOODATA」に、生成AIを取り込んで新たなサービスを開発しています。※4
元々、データ分析機能を提供していた「FOODATA」ですが、データ分析の高速化だけでなく、より高付加価値なアウトプットを提供したいと考えていました。
そこで、Azure OpenAI ServiceとAzure AI Studioを使って自社データを取り込み、PoC開発を経て「根拠のある商品企画書を自動で生成するサービス」に昇華させたとのことです。
アイデア出しはまさに生成AIが得意とする処理なので、今回の事例を参考にうまく取り入れていきたいですね！
なお、生成AIのPoC開発について詳しく知りたい方は、下記の記事を合わせてご確認ください。
Azure OpenAI Serviceに自社データを取り込んで運用してみよう
Azure OpenAI Serviceに自社データを取り込むと、従来の生成AIサービスでは実現できなかった、より安全で専門性が高いAIチャットボットを生成できます。
具体的なメリットは、以下のとおりです。
- データ分析の効率化
- ビジネスインサイトの向上
- コストの削減
ただし、導入する際は、以下3つの注意点も存在します。
- セキュリティー対策
- 自社データの整合性と品質
- コスト管理
上記に注意しながら、社内業務の効率化を目指してみてください。
なお、今回の記事では参考事例として、以下の4社をご紹介しました。
- 三井不動産
- 栃木県庁
- 横浜銀行・東日本銀行
- 伊藤忠商事
自社データを取り込んだAzure OpenAI Serviceの活用アイデアとして、真似できるところは真似してみましょう。
参考記事
生成系AIの業務活用なら！
・生成系AIを活用したPoC開発
・生成系AIのコンサルティング
・システム間API連携
最後に
いかがだったでしょうか？
弊社では
・マーケティングやエンジニアリングなどの専門知識を学習させたAI社員の開発
・要件定義・業務フロー作成を80%自動化できる自律型AIエージェントの開発
・生成AIとRPAを組み合わせた業務自動化ツールの開発
・社内人事業務を99%自動化できるAIツールの開発
・ハルシネーション対策AIツールの開発
・自社専用のAIチャットボットの開発
などの開発実績がございます。
まずは、「無料相談」にてご相談を承っておりますので、ご興味がある方はぜひご連絡ください。
➡︎生成AIを使った業務効率化、生成AIツールの開発について相談をしてみる。
「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、生成AI社内セミナー・勉強会をさせていただいております。
セミナー内容や料金については、ご相談ください。
また、弊社紹介資料もご用意しておりますので、併せてご確認ください。
