Azure Open AI Serviceで社内ChatGPTを構築してみた

 

こんにちは皆さん！

昨今はOpen AI や Microsoft、Meta など大規模LLM の開発が進んでおり、AI ブームが止まりませんね。

多くの企業がAIを盛り上げている一方、企業データのセキュリティについて懸念を抱いていて、多くの企業は仕事でChatGPTの利用を禁止しているかと思います。

今回は、ChatGPTを社内のAzureに閉じた環境で利用できるAzure Open AI Service を使って社内ChatGPT環境を構築してみます。

最近は、BingChatEnterpriseなどデータ漏洩の心配なくChatGPTを使えるサービスもありますが、Azure Open AI サービスを利用することで、

社内のデータ取り込み（Add your data機能）や、ログ収集などカスタマイズを施していくことも可能になります。

Add your data機能についてはこちらの記事で紹介しています。

 

では早速作っていきましょう。

 

Web App VNET統合とプライベートエンドポイント用のサブネット作成

初めに閉域環境でAzure Open AIサービスを利用できるようにプライベートエンドポイントを準備します。

 

対象のVNET で「+サブネット」をクリックして、web appのVnet統合用と、Azure Open AI用のプライベートエンドポイント用のサブネットを作成します。

 

Web App 用のサブネットを作成。

 

Azure Open AI 用のサブネットを作成。

 

 

Azure Open AI Serviceのデプロイ

Azure Portal > Azure Open AI から「作成」をクリック。

 

アジアリージョンで作成できるようになったので、Japn Eastを選択します。

 

パブリックのアクセスを無効にします。

 

プライベートエンドポイントを作成します。

 

Chatgptモデルのデプロイ

作成したAzure Open AI のリソース開き、[Azure Open AI Studio に移動する]をクリックします。

 

 

チャット > 新しいデプロイの作成と進みます。

モデルを選択し、デプロイの名前を任意で設定し作成します。

※2023年7月時点でgpt-35-turboはadd your dataがサポートされていないようです。

Add your data 利用時はgpt-35-turbo-16kを選択してください。

 

作成するとChatGPTプレイグランドのページが表示されます。

 

デプロイしたモデルとチャットもできます。

 

右上にある[Deploy to]ボタンからフロントエンドのWebAppをデプロイすることができます。

 

デプロイするWeb Appのパラメーターを設定し、デプロイします。

 

デプロイ完了後、Azure Portal から対象のWeb Appリソースを開き、ネットワーク > Vnet 統合から

Vnet統合を有効にします。

この際、初めに準備したwebapp用のサブネットに統合しましょう。そうすることで、WebAppからの通信がVnet内からAzure Open AIの

プライベートエンドポイントを通じて閉域で通信可能になります。

 

設定が完了したら、Chat GPTを利用することができます！

 

このチャットのやり取りはAzure内で完結するため、モデルの学習等で使われることはなく外部にデータが流出することはありません。

別の記事で、社内データをChatGPTに取り込み回答させることができる「Add your data」機能や、プロンプトのログの取り方等も解説していきます。

 

社内ChatGPT導入をご検討中の方へ

上記でご紹介した様な社内向けChatGPTの導入をご検討中の方へ、社内ChatGPTを導入する際には、不安や疑問がつきものですよね。
自社データと連携したChatGPTでどこまで精度が出るのか、またユーザーが本当に使うようになるのか・・・。

そこで、それらの不安を解消すべく、社内ChatGPTの成功のポイントを解説するセミナーを企画しました。
マイクロソフトのスペシャリストが登壇し、社内ChatGPTの成功に必要な情報をお話しします。

8月28日(月)に日本マイクロソフト品川本社で開催しますので、ご興味お持ちいただけましたらぜひお申し込みください！

＼ マイクロソフトのスペシャリストが登壇 ! ／

社内ChatGPTで成功する方法とは？

どうぞよろしくお願いいたします。