SlideShare a Scribd company logo
linkedin.com/in/keita-onabuta/github.com/konabuta
データセットの変化を検知する
Data Drift の機能について説明します。
DataDrift in Azure Machine Learning
Let’s check Data Drift !
DataDrift in Azure Machine Learning
ML
Code
Only a small fraction of real-world ML systems is composed of the ML code, as shown by the small blue box in the
middle. The required surrounding infrastructure is vast and complex.
Configuration
Data Collection
Data
Verification
Feature
Extraction
Machine
Resource
Management
Analysis Tools
Process
Management Tools
Serving
Infrastructure
Monitoring
“Hidden Technical Debt in Machine Learning Systems,” Google NIPS 2015
Monitoring
Azure Machine Learning
Train Models Package &
Validate
Manage ML
Assets
MonitorDeploy &
Serve
CI/CD and model retraining
Azure DevOps & GitHub integration
DataDrift in Azure Machine Learning
DataDrift in Azure Machine Learning
DataDrift in Azure Machine Learning
データ
ゴール設定
制約条件
Optimized model
Feature
Engineering
model
selection
Hyperparameter
Tuning
自動機械学習 Automated ML
DataDrift in Azure Machine Learning
学習データ 推論データドリフト検知
メトリック、アラート、インサイトの取得 アラート可視化
精度改善
データ ドリフトの大きさ
0 から 100 の範囲で示されるドリフト係数。0 は “同一” を表し、
1 は ドリフト用分類モデルで ”完全に識別可能” であることを意味する
特徴量ごとのドリフトへの影響
ターゲット データセット内の各特徴量が、
測定されたドリフトの大きさに与える影響
メトリックの選択
ワッサースタイン距離、平均値、最小値、最大値
特徴量の分布
メトリックの選択
ユークリッド距離、一意の値の数
特徴量の分布
分布をある別分布へ移動させるときの距離
# SciPyコード例
from scipy.stats import wasserstein_distance,beta
wasserstein_distance(stats.beta.pdf(x,5,5), stats.beta.pdf(x,8,5))
Azure Machine Learning イベントを使用する (プレビュー)
イベント ドリブン Machine Learning ワークフローを作成する (プレビュー)
Azure Machine Learning からイベントドリブンなワークフローを作成
DataDrift in Azure Machine Learning
Azure ML Event Grid
Logic Apps メール
アラート
Data Factory
AutoML
Pipeline
再学習
自動化
Functions
Webhook
3rd Party
連携Teams
イベント
+ +
Azure ML Event Grid Logic Apps
DataDrift in Azure Machine Learning
Data Drift Monitoring for Azure ML Datasets
データセットでデータ ドリフトを検出する (プレビュー)
Azure Kubernetes Service (AKS) にデプロイされたモデルのデータの誤差 (プレビュー) を検出する
Analyze data drift in Azure Machine Learning datasets
Monitor data drift on models deployed to Azure Kubernetes Service
DataDrift in Azure Machine Learning
DataDrift in Azure Machine Learning

More Related Content

PDF
MLOps に基づく AI/ML 実運用最前線 ~画像、動画データにおける MLOps 事例のご紹介~(映像情報メディア学会2021年冬季大会企画セッショ...
PDF
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
PPTX
MLflowで学ぶMLOpsことはじめ
PDF
[AC05] マイクロサービスは分割がキモ!基幹システムのためのドメイン駆動設計
PDF
グラフデータ分析 入門編
PDF
TensorFlow計算グラフ最適化処理
PDF
イミュータブルデータモデル(入門編)
PPTX
明治大学理工学部 特別講義 AI on Azure
MLOps に基づく AI/ML 実運用最前線 ~画像、動画データにおける MLOps 事例のご紹介~(映像情報メディア学会2021年冬季大会企画セッショ...
入門 Kubeflow ~Kubernetesで機械学習をはじめるために~ (NTT Tech Conference #4 講演資料)
MLflowで学ぶMLOpsことはじめ
[AC05] マイクロサービスは分割がキモ!基幹システムのためのドメイン駆動設計
グラフデータ分析 入門編
TensorFlow計算グラフ最適化処理
イミュータブルデータモデル(入門編)
明治大学理工学部 特別講義 AI on Azure

What's hot (20)

PPTX
【DL輪読会】ViT + Self Supervised Learningまとめ
PDF
MLflowによる機械学習モデルのライフサイクルの管理
PDF
グラフニューラルネットワーク入門
PDF
AWSではじめるMLOps
PPTX
全部Excelだけで実現しようとして後悔するデータ分析 2nd Edition
PPTX
MLOps入門
PPTX
MLOpsはバズワード
PPTX
距離とクラスタリング
PPTX
ゲームエンジニアのためのデータベース設計
PPTX
[DL輪読会]EfficientDet: Scalable and Efficient Object Detection
PDF
なぜ、いま リレーショナルモデルなのか(理論から学ぶデータベース実践入門読書会スペシャル)
PPTX
DockerコンテナでGitを使う
PDF
Azure Digital Twins 最新事例紹介 ( IoTビジネス共創ラボ 第16回勉強会 )
PPTX
大域的探索から局所的探索へデータ拡張 (Data Augmentation)を用いた学習の探索テクニック
PDF
失敗から学ぶ機械学習応用
PDF
機械学習モデルの判断根拠の説明(Ver.2)
PDF
AWS で Presto を徹底的に使いこなすワザ
PPTX
画像処理AIを用いた異常検知
PDF
【DL輪読会】StyleGAN-T: Unlocking the Power of GANs for Fast Large-Scale Text-to-I...
PDF
SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向
【DL輪読会】ViT + Self Supervised Learningまとめ
MLflowによる機械学習モデルのライフサイクルの管理
グラフニューラルネットワーク入門
AWSではじめるMLOps
全部Excelだけで実現しようとして後悔するデータ分析 2nd Edition
MLOps入門
MLOpsはバズワード
距離とクラスタリング
ゲームエンジニアのためのデータベース設計
[DL輪読会]EfficientDet: Scalable and Efficient Object Detection
なぜ、いま リレーショナルモデルなのか(理論から学ぶデータベース実践入門読書会スペシャル)
DockerコンテナでGitを使う
Azure Digital Twins 最新事例紹介 ( IoTビジネス共創ラボ 第16回勉強会 )
大域的探索から局所的探索へデータ拡張 (Data Augmentation)を用いた学習の探索テクニック
失敗から学ぶ機械学習応用
機械学習モデルの判断根拠の説明(Ver.2)
AWS で Presto を徹底的に使いこなすワザ
画像処理AIを用いた異常検知
【DL輪読会】StyleGAN-T: Unlocking the Power of GANs for Fast Large-Scale Text-to-I...
SSII2021 [OS2-02] 深層学習におけるデータ拡張の原理と最新動向
Ad

Similar to DataDrift in Azure Machine Learning (20)

PDF
Azure Machine Learning アップデートセミナー 20191127
PPTX
Ml.NET
PDF
Part 4: Power Platform 概説 (製造リファレンス・アーキテクチャ勉強会)
PPTX
東北大学AIE - 機械学習中級編とAzure紹介
PDF
[Microsoft Cognitive Toolkit (CNTK) on Azure ハンズオン] Microsoft Azure の AI 関連サービス
PDF
データ仮想化を活用したデータ分析のフローと分析モデル作成の自動化のご紹介
PDF
[AC02] Cloud Robotics Azure Platform って何だ!?~ IoT をもっと簡単に、Cloud AI の活用をもっと気軽にや...
PDF
[Developers Festa Sapporo 2018] Azure AI ~Microsoft AzureでのAI開発のイマ~
PDF
Microsoft Azure で実現するAIとIoT最新情報
PPTX
Data for AI and AI Agent Routing of Multi AI Agent
PPTX
Qiita x Microsoft - 機械学習セミナー Microsoft AI Platform
PDF
AutoML & InterpretML (2019/11/27 Deep Learning Lab 講演資料)
PPTX
Microsoft AI Platform
PPTX
機械学習 - MNIST の次のステップ
PPTX
Open Cloud カンファレンス@札幌 Microsoft AI最前線
PDF
Microsoft Azureのビッグデータ基盤とAIテクノロジーを活用しよう
PPTX
そのデータ、活かせていますか?
PDF
20180627 - DEEP LEARNING LAB / Cognitive Services 最新情報 30 分でズバリ!
PDF
【de:code 2020】 アマダの Azure への取り組みと DevOPS・MLOPS 環境の構築と運用
PDF
AWSで実現するクラウドネイティブなアプリ開発のポイント
Azure Machine Learning アップデートセミナー 20191127
Ml.NET
Part 4: Power Platform 概説 (製造リファレンス・アーキテクチャ勉強会)
東北大学AIE - 機械学習中級編とAzure紹介
[Microsoft Cognitive Toolkit (CNTK) on Azure ハンズオン] Microsoft Azure の AI 関連サービス
データ仮想化を活用したデータ分析のフローと分析モデル作成の自動化のご紹介
[AC02] Cloud Robotics Azure Platform って何だ!?~ IoT をもっと簡単に、Cloud AI の活用をもっと気軽にや...
[Developers Festa Sapporo 2018] Azure AI ~Microsoft AzureでのAI開発のイマ~
Microsoft Azure で実現するAIとIoT最新情報
Data for AI and AI Agent Routing of Multi AI Agent
Qiita x Microsoft - 機械学習セミナー Microsoft AI Platform
AutoML & InterpretML (2019/11/27 Deep Learning Lab 講演資料)
Microsoft AI Platform
機械学習 - MNIST の次のステップ
Open Cloud カンファレンス@札幌 Microsoft AI最前線
Microsoft Azureのビッグデータ基盤とAIテクノロジーを活用しよう
そのデータ、活かせていますか?
20180627 - DEEP LEARNING LAB / Cognitive Services 最新情報 30 分でズバリ!
【de:code 2020】 アマダの Azure への取り組みと DevOPS・MLOPS 環境の構築と運用
AWSで実現するクラウドネイティブなアプリ開発のポイント
Ad

More from Keita Onabuta (8)

PDF
Azure における強化学習への取り組み
PDF
Azure Machine Learning NLP 最新動向 2020/07/02
PDF
Azure Machine Learning Build 2020
PDF
Azure ML - OpenVINO 師走の推論ナイト 20191211 講演資料
PDF
品質管理 & 設備保全のための機械学習入門 2019年9月 (Quality Control and Predictive Maintenance App...
PDF
Neural Network Intelligence 概要 (AutoML Platform)
PDF
[DLLAB Engineer Days 講演資料] Automated ML & Model Interpretability
PDF
Azure machine learning service 最新の機械学習プラットフォーム
Azure における強化学習への取り組み
Azure Machine Learning NLP 最新動向 2020/07/02
Azure Machine Learning Build 2020
Azure ML - OpenVINO 師走の推論ナイト 20191211 講演資料
品質管理 & 設備保全のための機械学習入門 2019年9月 (Quality Control and Predictive Maintenance App...
Neural Network Intelligence 概要 (AutoML Platform)
[DLLAB Engineer Days 講演資料] Automated ML & Model Interpretability
Azure machine learning service 最新の機械学習プラットフォーム

Recently uploaded (9)

PDF
【QYResearch】グローバルコネクタ市場の動向と将来展望に関する詳細な分析報告
PDF
【QYResearch】グローバル農業機械市場の動向分析と成長戦略に関する総合調査報告
PDF
【QYResearch】急拡大する医療機器市場における主要企業の動向と競争環境分析
PDF
【QYResearch】人形ロボット産業の市場構造と今後の発展方向に関する分析レポート
PDF
世界半導体用酸化ハフニウム市場のサプライチェーン解析:上流、下流、収益モデル分析2025-2031
PDF
グローバルロープウェイ用スチールワイヤーロープ市場2025:主要企業のシェア、売上動向、競争戦略
PDF
【QYResearch】グローバル磁性材料産業チェーンの構造分析と市場動向の詳細解説
PDF
XCMSを用いた質量分析データ処理_BioCAsia2021_yamamoto.pdf
PDF
【初心者向け】生成AI SimonW/LLMとOllama・llamafile無料APIでコマンドラインをAI革命するセミナー。CPUでもGPUでも。Ne...
【QYResearch】グローバルコネクタ市場の動向と将来展望に関する詳細な分析報告
【QYResearch】グローバル農業機械市場の動向分析と成長戦略に関する総合調査報告
【QYResearch】急拡大する医療機器市場における主要企業の動向と競争環境分析
【QYResearch】人形ロボット産業の市場構造と今後の発展方向に関する分析レポート
世界半導体用酸化ハフニウム市場のサプライチェーン解析:上流、下流、収益モデル分析2025-2031
グローバルロープウェイ用スチールワイヤーロープ市場2025:主要企業のシェア、売上動向、競争戦略
【QYResearch】グローバル磁性材料産業チェーンの構造分析と市場動向の詳細解説
XCMSを用いた質量分析データ処理_BioCAsia2021_yamamoto.pdf
【初心者向け】生成AI SimonW/LLMとOllama・llamafile無料APIでコマンドラインをAI革命するセミナー。CPUでもGPUでも。Ne...

DataDrift in Azure Machine Learning