Customize Chat-GPT using Azure OpenAI Studio
Download as PPTX, PDF0 likes79 views
We have built a RAG using Azure OpenAI Studio and confirmed that it works, so we will introduce it here. RAG extends ChatGPT to specifications suitable for the target users, enabling more accurate LLM. We pre-trained it on Internet pages and had it analyze IoT data acquired by EnOcean Multisensor to evaluate it.
Customize Chat-GPT using Azure OpenAI Studio
- 1. 株式会社デバイスドライバーズ 日高亜友 Azure OpenAI Studio を活用して Chat-GPT をカスタマイズしよう - 生成 AI 活用法 – その１ 日本を Smart に！
- 2. 今回の内容 - 生成 AI 活用法： IoT で賢く使うポイント - 今どきの IT 技術者と生成 AI - 準備：必要なツールとデータ - データ分析 - 結果とコツ - まとめ
- 3. 今どきの IT 技術者と生成 AI • 生成 AI ブームは知っている • 検索とお絵かき程度にしか使えない • AI プログラミングを使いこなす人は一部 • 実用化レベルの取り組みはわずか • IoT 系企業の取り組み度合いは低い
- 4. 何をすべきか？ • 実務で使える AI • RAG (Retrieval Augmented Generation) • 生成 AI のカスタマイズ、オリジナル化 • 賢い AI の使い方＝嘘を言わせない＝コントロール • 次世代 IoT
- 5. 準備：必要なツールとデータ • AI ツール Azure OpenAI Studio • IoT データ EnOcean IoT オフィス環境測定データ （詳細は別動画で …）
- 6. Azure OpenAI OpenAI の強力な言語モデルに対する、様々な API を提供 → OpenAI Service, OpenAI Studio, … 開発・供給 資本・共同開発
- 7. Azure Open AI が現在提供中のモデ ル • GPT-4o, GPT-4 and GPT-4 Turbo Preview • GPT-3.5 • Embeddings （埋め込み） • DALL-E （画像生成） • Whisper （発話） • Text to speech ( テキスト読み上げ、 Preview) GPT-4o の RAG: 試したところ正常動作せ ず
- 8. ChatGPT のカスタマイズ RAG (Retrieval Augmented Generation) - Azure OpenAI on your data オーケストレーター 大規模言語モデ ル (LLM) 利用者 個別の 検索システム 質問 回答 IoT 実データ プロンプトエンジニアリング 以上の機能を利用可能
- 9. EnOcean IoT オフィス環境測定デー タ • EnOcean センサー ＋ EnOcean IoT ゲートウェ イ • iBRESS Cloud (Skkynet DataHub) 対応 • OPC UA 対応 • Microsoft Azure 対応 • EEP / GP / セキュリティ対応 • ファームウェア更新機能 • ログ機能 • CSV 形式ログで 各種 AI 連携が容易
- 10. ログファイル操作画面
- 11. これまでの ChatGPT 処理内容 • 1 • 2 • 3 • 4 • 5 • 6 • 7 入力： CSV 生データ 入力： CSV 抽出デー タ 入力： CSV 集計デー タ 入力： CSV 集計デー タ 入力： CSV 抽出デー タ 入力： CSV 集計デー タ 入力： CSV 集計デー タ データ加工と抽出（前処理、加工） 出力： CSV 抽出データ 集計（単位時間当たり平均値算出） 出力： CSV 集計データ 集計データのグラフ描画 出力：グラフ画像（ .png ） 集計データの Excel 化（シート、グラフ） 出力： Excel シート（ .xlsx ） CSV 集計プログラム作成 出力：集計プログラム（ .py ） CSV グラフ描画プログラム作成 出力：グラフ描画プログラム （ .py ） 集計データ考察文章の出力 出力：考察文章（ .txt ） ここに注目！
- 12. ChatGPT 出力
- 13. 集計データの評価と考察を出力 出力結果を嘘無くカスタマイズ Hallucination ( 幻覚 ) を防いで IoT 現場で生成 AI を活用する！ 今一つ物足りない
- 14. データ分析： Azure OpenAI on your data サポートされるデータ形式 .txt .md .html .docx .pptx .pdf サポートされるデータソース - Azure AI Search - ファイルのアップロード (Preview) - URL/Web アドレス (Preview) - Azure Blob Storage (Preview) - Azure Cosmos DB - Elasticsearch ベクトル データベース (Preview) 元データ の内容・素性と 日本語処理に問題有り！ 試した手法 Web の適当なデータ活用 データ準備が一番苦労 試行錯誤がカギ
- 16. OpenAI Studio での手順 • GPT-4 モデルをビルド • プレイグラウンドでデータを追加する • Azure OpenAI on your data 指定 • URL 指定 (https://www.iwasaki.co.jp/lighting/support/tech-data/plan/indoor/ 02.html) • 会話開始 • Azure OpenAI on your data 動作確認 • 質問として、集計処理済 CSV データをアップロード • 測定データと参考 URL ページを複合化させた質問
- 22. IoT の RAG 活用のポイント（コ ツ） • 試行錯誤（壁打ち）が重要 • 参照データの方向性の間違い（誤認識）の発見 • 効果的な参照データの発見 • フォーマット、言語の問題、不要情報の除去 • 適切な分析対象データ • 参照データの量と品質向上
- 23. まとめ • 環境とツール • EnOcean IoT 測定ツール , Windows PC, Microsoft Azure • 確認できたこと • Azure OpenAI の利用方法 • RAG を活用することで IoT と生成 AI の嘘が無い連携が可能 • Azure OpenAI Studio に限らず 生成 AI の活用は無限の可能性