PCCC23：SCSK株式会社 テーマ１「『Azure OpenAI Service』導入支援サービス」
- 1. Copyright © SCSK Corporation SCSK株式会社 ソリューション事業グループ クラウドサービス事業本部 コミュニケーションサービス第一部 「 A z u r e O p e n A I S e r v i c e 」 導 入 支 援 サ ー ビ ス
- 2. 1 Copyright © SCSK Corporation Ver2.0_20231031 はじめに 2022 年に OpenAI 社が対話型の 生成 AI を世界に公開して以降、AI に関するニュースを見ない日はありません。 まるで人間と自然に対話しているかのような体験は、従来のチャットボットとは一線を画すものであり、ビジネスにおける AI 活用の可能性を多くの人に感じさせるものでした。 その革新性に期待が高まる一方で、ビジネスで AI を活用する上では、セキュリティやコンプライアンスといった目に見え づらい要求にも対応していくことが求められます。 Azure OpenAI Service は、 Microsoft 社の企業向けクラウドサービスであり、OpenAI 社の革新的な AI モデル を、Microsoft Azure プラットフォーム上で安心してご利用頂くことができます。 『Azure OpenAI Service 導入支援サービス』 は、Azure OpenAI Service をシンプルなアプリケーションととも にスピーディにご提供する導入支援サービスです。 SCSKでは、 Microsoft 社とのパートナーシップ、自社における AI 活用の知見を 『Azure OpenAI Service 導入 支援サービス』 を通してお客様のビジネスにおける 『AI 活用の未来を共に創ってゆきたい』と考えております。
- 3. 2 Copyright © SCSK Corporation Ver2.0_20231031 アイデア出しや、要約、言語翻訳 などの壁打ち 社内に散らばる様々な文書と つないで対話ベースの検索 社員やお客様からの 問い合わせ対応業務の高度化 主な生成 AI の種類と利用ケース 従業員の 壁打ちチャットボット 問合せ対応の 効率化・自動化 ■ 生成AIの種類は、文章生成／画像生成／動画生成／音声生成等あり ■ ChatGPTをはじめ、文章生成を利用するケースが多い 音声生成 動画生成 文章生成 画像生成 社内情報の 検索 規程集やITヘルプデスクナレッジなど 問い合わせ内容を要約してシステム入力など 非構造化データを構造化しないまま自然言語で扱えることに強みがある
- 4. 3 Copyright © SCSK Corporation Ver2.0_20231031 なぜ、生成AIの活用が注目されるのか どんな事例があるか知りたい これまでの作業タスクを生成AIを活用して置き換えることで作業時間の短縮や 専門組織・人材などへの属人化の課題を解消することへの期待が大きい インターネットで 情報を検索する 入手した情報の精査、 評価を行う 情報を使って資料にまとめる 検討資料にもとづいて ディスカッションを行う 自社データやシステムも含めて 社内情報を検索する 仕事のやり方を意識して“依頼する” という方法に変える必要があります。 この変化に利用者は、十分に慣れる必要があります。 インターネットからの 情報取得を依頼する 情報を使って 資料作成を依頼する 自社データやシステムも含めて 社内情報紹介を依頼する ChatGPT、Bing Chat 業務のプロセス 従来の作業タスク 生成AIを活用すると Azure OpenAI Microsoft Copilot 意思決定する
- 5. 4 Copyright © SCSK Corporation Ver2.0_20231031 文章生成 AI の要点 テーマを 決める 情報を入手 情報を評価 情報を まとめる 意思決定 する ナレッジワーカーの業務プロセスは概ね次のように汎化でき、生成 AI はこのプロセスを次のように置き換える テーマを 決める 情報を入手 情報を評価 情報を まとめる 意思決定 する 置き換える上でのポイントは 2 つある 依頼するという方法に慣れる 情報源と接続する 依頼する 接続する 人は、生成 AI に自然言語で “意図” を伝えて、タスクを “依頼する” 必要が あります。生成 AI に入力フォームはありません。 また、生成 AI は “推論” して、統計学的にもっともらしい回答を生成します。 常に正確な回答を行うとは限りません。 これらの特性は、人にタスクを “依頼する” ことに類似しており、生成 AI か ら期待する結果を得られるように “依頼する” 方法に慣れる必要があります。 生成 AI は、ある時点のデータセットを元に学習したモデルです。データセッ トに含まれないことは知らず、時には一貫性に欠ける振る舞いをします。生 成 AI は、単語と単語が統計的にどのように関係するかはわかっていますが、 それが何を意味するかをわかっているわけではありません。 この生成 AI が持つ知識を補うために外部の情報源を接続することで、生成 AI が生成する回答の質を向上することができます。 ・ モデルが最新の信頼できる事実にアクセスできる ・ モデルの情報ソースを参照可能にすることで正確性のチェックができる 情報源 “人事マニュアル” から “申請方法” を調べて、 “人事規程集”から “有給” で調べて… 有給の申請方法と 条件を教えて 私は既に40 日 休みました 情報源 XX から YY して 情報を得て 回答しよう インターネット 社内規程集 ナレッジベース ・・・ ※ このような AI フレームワークを RAG （Retrieval-augmented Generation） といいます
- 6. 5 Copyright © SCSK Corporation Ver2.0_20231031 業務適用と実践 ご提供サービス 自社専用 対話型生成 AI 『依頼するという方法に慣れる』 ために、自 社専用の対話型生成 AI 利用環境の導入を ご支援します。 依頼するという方法に慣れる 自社文書検索 対話型生成 AI 『情報源と接続する』 ために、自社文書を検 索可能な対話型生成 AI 利用環境の導入を ご支援します。 情報源と接続する どの業務を対象にするか どのような効果を狙うか Azure OpenAI Service チャット UI 利用者 チャット Azure OpenAI Service チャット UI 利用者 管理者 管理 UI データ ストア pdf チャット メンテナンス 検索 どの情報を利用するか どの作業を対象とするか どのサービスが必要か どのように実証するか 貴社専用の Azure OpenAI Service 環境を導入する 導入支援サービスをご提供します 事前構成済みのシンプルなアプリケーション + Azure OpenAI Service をスピーディに導入 貴社固有の業務＋データに基づく システム導入をご支援
- 7. 6 Copyright © SCSK Corporation Ver2.0_20231031 自社専用 対話型 生成 AI サービス概要 『依頼することに慣れる』 ために、チャット用の UI を備えた対話型の生成 AI 利用環境をご提供します。 • お客様専用の Azure 環境に、専用のチャット用の UI と Azure OpenAI Service を導入しますので安心してご利用頂けます。 • ご要望に応じて 既存 Microsoft Entra ID との認証連携や Azure 仮想ネットワークへの接続などのニーズへも対応可能です。 ご 提 供 範 囲 • Azure 環境の初期セットアップ • Azure Open AI リソース作成 • チャット用 UI アプリケーション導入 ご 提 供 価 格 • 導入費用： 1,500,000 円～ 導 入 期 間 • 契約締結後、利用開始まで最短で 2 週間 ※ Azure OpenAI Service の利用にはお客様から Microsoft 社への 事前申請が必要となります。事前申請承認後に構築開始となります。 ※ 弊社から Azure をご契約いただく前提となります。 ※ Azure 利用料金に関しては上記に含みません。別途費用が発生致します。 ※ テクニカルサポートや運用に関しては上記に含みません。 ご要望に応じて別途費用が発生致します。 ※ 本番環境（1環境）のみの導入となります。 ※ 運用監視などが必要な場合は、別途弊社がご提供するマネージドサービス S-Cred+プラットフォームをご紹介可能ですので、別途ご相談ください。 Microsoft Entra ID チャット UI アプリケーション Azure OpenAI Service Microsoft Azure データセンター 構成イメージ 認証・認可 インターネット お客様 信頼できる IPのみ許可 プライベート接続 お客様 VNet 認証連携 カスタム DNS 名 🔧 カスタム構成 お客様 ME-ID 認証・認可 お客様 DNS your.custum.com オンプレミス接続などを構成済みの お客様の Azure 仮想ネットワーク上に アプリケーションのエンドポイントを接続 アカウント連携などを構成済みの お客様の Microsoft Entra ID と アプリケーション認証を連携 お客様独自のドメイン名を使って アプリケーションにアクセス ※いずれのカスタマイズもお客様環境側での作業を伴います
- 8. 7 Copyright © SCSK Corporation Ver2.0_20231031 自社文書検索 対話型生成 AI サービス概要 簡易に 『自社の情報とつなげる』 ために、社内文書 （PDF） をデータソースとして利用可能な対話型の生成 AI 利用環境をご提供します。 • お客様専用の Azure 環境に、専用のチャット用の UI と Azure OpenAI Service を導入しますので安心してご利用頂けます。 • ご要望に応じて 既存 Microsoft Entra ID との認証連携や Azure 仮想ネットワークへの接続などのニーズへも対応可能です。 ご 提 供 範 囲 • Azure 環境の初期セットアップ • Azure Open AI リソース作成 • チャット用 UI およびアプリケーション導入 • 管理用 UI およびアプリケーション導入 ご 提 供 価 格 • 導入費用： 2,000,000 円～ 導 入 期 間 • 契約締結後、利用開始まで最短で 3 週間 ※ Azure OpenAI Service の利用にはお客様から Microsoft 社への 事前申請が必要となります。事前申請承認後に構築開始となります。 ※ 弊社から Azure をご契約いただく前提となります。 ※ Azure 利用料金に関しては上記に含みません。別途費用が発生致します。 ※ テクニカルサポートや運用に関しては上記に含みません。 ご要望に応じて別途費用が発生致します。 ※ 本番環境（1環境）のみの導入となります。 ※ 運用監視などが必要な場合は、別途弊社がご提供するマネージドサービス S-Cred+プラットフォームをご紹介可能ですので、別途ご相談ください。 プライベート接続 認証連携 カスタム DNS 名 🔧 カスタム構成 （STEP1と同じカスタマイズが可能） Microsoft Entra ID Azure OpenAI Service Microsoft Azure データセンター 構成イメージ 認証・認可 インターネット お客様 信頼できる IPのみ許可 会話履歴 管理 UI アプリケーション チャット UI アプリケーション 利用者 管理者 データストア インデックス ドキュメント解析 チャット メンテナンス（ファイル、会話履歴）
- 9. 8 Copyright © SCSK Corporation Ver2.0_20231031 Appendix. データ・プライバシーに関するFAQ 参照ドキュメントより抜粋 💡 重要 Prompt（インプット）、Completion（アウトプット）、Embeddings、トレーニングデータ（ファインチューニング時） は： • 他のお客様は利用できません。 • Open AI 社は利用できません。 • Open AI モデルの改善には利用されません。 • Microsoftや3rd Partyの製品またはサービスを改善するために利用されません。 • お客様の Azure OpenAI モデルの改善にも自動的には利用されません。 （トレーニングデータを使用してモデルを明示的にファインチューニングしない限り、モデルはステートレスです） • お客様のファインチューニングされたモデルは、お客様専用です。 Azure OpenAI Service は Microsoft によって完全に制御されています。 Microsoft Azure 環境内で OpenAI モデルをホストしており、 OpenAI 社が運営するいかなるサービス（ChatGPT や OpenAI API など）とも相互作用しません。 Azure OpenAI Service のデータ・プライバシーについてよくあるご質問 Ｑ．それらのデータがモデルの改善などに利用されてしまうのでは？ Ａ．いいえ、データが二次利用されることはありません。 Ｑ．Azure OpenAI Service ではどのようなデータを処理しますか？ Ａ．次のデータを処理します。 ・ プロンプトと生成されたコンテンツ （拡張プロンプト含む） ・ トレーニングおよび検証データ （ファインチューニング時） Ｑ．それらのデータは保存されますか？ Ａ．それぞれ次の通りとなります。 ・ プロンプトと生成されたコンテンツ Microsoft による不正使用の監視のため 30 日間保持されます。 ※ オプトアウト申請によりオフにすることが可能 ・ トレーニングおよび検証データ お客様専用のストレージに格納され、その目的でのみ利用されます。 保存時に二重暗号化できます。いつでも削除できます。 ※ いずれもその目的以外で利用されることはありません。 本頁記載内容は、2023年10月時点の公式ドキュメント記載の内容に基づきます。 詳細は以下をご確認ください。 Azure OpenAI Service のデータ、プライバシー、セキュリティ - Azure AI サービス |マイクロ ソフト ラーニング (microsoft.com) ここ ここ
- 10. 9 Copyright © SCSK Corporation Ver2.0_20231031 • 自社専用の生成AI「SCSK Generative AI」を構築し、 全役職員が業務での利用を開始 • 安全・安心に利活用できる環境およびガイドラインを整備し、 生成系AIを積極的に活用することで業務の効率化・生産性向上や製品・ サービスへの適用、新規事業創出を目指します • マイクロソフトが提供するAzure OpenAI Serviceを活用してチャット 形式で利用します • 利用者が入力した情報の二次利用や第三者提供がされない仕様となって おり、且つ、社内ネットワークからのみ利用可能としてセキュリティを担保 しています Appendix. SCSKが自社専用の生成AIを利用開始
- 11. 10 Copyright © SCSK Corporation Ver2.0_20231031 • 生成AIの業務への活用により業務効率・生産性の向上が期待されるもの の公開済みの一般的な情報をもとに学習している汎用的な生成AIでは適 切な回答結果が得られないという課題があります。 • 特に社外からの問い合わせ対応業務において生成AIを活用するためには 企業内に保持している多岐にわたる非公開の資料を基にした学習、さらに 質問内容に応じて適切な情報を抽出したうえでの回答作成が必要となり ます。 • 本システムは、経営資料や社内文書などの非公開情報を事前に解析処理し、 専用のデータストアの作成を行います。 • 入力された質問文を解析しそのデータストアと照合し回答作成に必要なテ キスト要素を生成AIに連携します。 • SCSK専用のセキュアなクラウド環境に構築されており情報のセキュリ ティを担保しています。 Appendix. 質疑応答支援システムの概念検証を開始
- 12. 11 Copyright © SCSK Corporation Ver2.0_20231031 • 「AI CoE（Center of Excellence）」ならびに「SCSK AI Integration Lab.」を設立し、自社事業における AI 適用、およびお客様 向けの AI 導入支援を加速いたします。 • AI 活用全般の技術戦略を策定・推進する専門組織として、AI CoE を設 立いたしました。 • AI CoE は、AI に関する社内有識者により構成され、技術戦略の策定、 AI 案件の集約と対応によるノウハウの蓄積、AI 技術に基づく新しい製 品・サービス・ビジネスの創出、および人材育成を主な役割として担います。 Appendix. AIの戦略的専門組織「AI CoE」設立
- 13. 〒135-8110 東京都江東区豊洲3-2-20 豊洲フロント Mail：azure-sales@scsk.jp http://www.scsk.jp/ms 本件に関するお問い合わせ、その他ご用命は右記までお願い致します。 SCSK株式会社 ソリューション事業グループ クラウドサービス事業本部 コミュニケーションサービス第一部 営業担当