Machine Learning Study Framework
Download as PPTX, PDF3 likes1,744 views
本文档探讨了机器学习与人工智能的关系，涵盖了从特征工程到模型评估等建立AI的关键步骤。讨论了强人工智能与弱人工智能的区别，以及机器学习如何在不同领域应用，如金融、医疗与自动驾驶等。进一步分析了特征工程的过程，包括特征提取、特征选择和标准化，以提高模型的效果。
Machine Learning Study Framework
- 1. Machine Learning Study Framework Raymond
- 2. 大綱 • 什麼是AI • 如何用ML建立AI • 特徵工程 • ML設計 • 模型評估 • 應用範例
- 3. 什麼是AI
- 4. 什麼是AI • Artificial Intelligence • 通過電腦程式的手段實現的人類智慧技術(維基百科) – 換句話說就是可以解決人類問題的電腦程式 – 由於定義很廣泛，所以到處可以看到具AI功能的產品
- 7. AI的層次 • 強人工智慧 – 電影在演的，具有意識的電腦程式 • 機械公敵，賈維斯(電影鋼鐵人開發的智慧管家) – 科學家還在努力中 • 弱人工智慧 – 大家主要在用的（後面介紹都是以此為主） – 只可完成特定任務 • Alpha Go和深藍的下棋程式 • Siri，Google翻譯 • 圖片辨識，天氣預測
- 10. AI應用 • 2017年討論度最高的三大殺手級應用(數位時代雜誌) – 以一抵十，AI客服將成企業新武器 – 放開雙手，自駕車上路更安全 – 讓AI分擔醫生工作，診斷效率更高
- 11. AI應用 AI協助專家解決問題
- 12. AI應用 透過AI預測
- 13. AI應用 AI應用在運動比賽
- 14. AI應用 用AI種菜
- 15. AI應用 AI也會創作
- 17. 人工智慧與人類智慧 • 人工智慧是指像人類一樣聰明的電腦？ – 但是人類也有笨的，也會犯錯 • 人工智慧＝電腦做出「有智慧的行為」≠ 電腦做出跟人一樣的行 為？ 跟人類一樣笨的電腦算不算人工智慧？
- 18. 建立AI的方法 18
- 19. 建立AI的方法 • 機器學習(Machine Learning) – 電腦看了大量資料後產生規則，並透過此規則做判斷 • 專家系統/決策支援系統 – 由人類專家定義明確的規則，並透過此規則做判斷 – 大部份程式開發的方式都屬於此類 防毒軟體透過專家定義特徵碼辨識病毒 • 其他
- 20. 建立AI的方法 AI(Artificial intelligence): 透過計算達到有智慧行為 ex: chess playing DM(Data Mining): 從資料中找出有價值的property(特性) 例如: 購物籃分析 ML(Machine Learning): 從資料中計算出判斷規則(建立model,並透過 model做判斷), 例如 stock prediction DM和ML常互相幫助 Statistics: 從資料中計算某些行為的機率統計是實現ML 的一種方法 專家系統/決策支援系統 由人類專家定義明確的規則，並透過此規則做 判斷大部份程式開發的方式都屬於此類 例如：防毒軟體透過專家定義特徵碼辨識病毒
- 21. 機器學習與深度學習歷史 Machine learning是屬於AI的一部分 深度學習是屬於Machine learning的一種 Image from https://technews.tw
- 23. Machine Learning的優勢 專家的瓶頸：人類講不清楚，難定規則 • 人類對物件的描述能力有限，難以精準的描述各種規則， • 但ML可透過演算法從大量資料中推理出精準的規則 專家系統 機器學習 要把動物的特徵列出來，寫成程 式，才有辦法判斷（但人類很難 明確列出各種動物的不同） 將各種動物的照片給演算法，演 算法就會產生明確的規則，有規 則後就可以辨識 以開發動物辨識的程式為例
- 25. 專家的優勢 ML RuleData 特定任務１ ML RuleData 特定任務２ ML RuleData 特定任務3 ML RuleData 特定任務4 目前的ML只能完成單一任務 專家可以運籌帷幄，整合各種單一任務
- 26. Machine Learning的劣勢 • 需要大量的資料 – 大部份ML應用需要標記過的資料 • 換句話說，人類要先知道結果，才有辦法讓機器學習，如果連人類都 不知道結果，就無法讓機器學習 • 有些類型的資料需要正確的特徵 – 日誌類型資料需要相關領域的專家產生正確的特徵 • 因為不同的日誌，格式都不同，這代表背後的物理意也不同 – 圖像文章類型資料比較不需要
- 28. 如何用ML建立AI 28
- 29. ML的應用時機 • 在多個複雜條件的情況下，人類無法在短時間內從中訂義 規則時，就可以讓機器自動去發現和學習規則 • 應用時機可歸納為以下三個關鍵 – 要有潛在規則可以讓機器學 – 有規則，但很難或不知如何把規則寫出 – 要有資料
- 35. Data Condition1 hacker Condition2 normal Condition3 hacker Condition4 normal Condition5 normal ML演算法 Model 將有label的資料放入ML 演算法中產生資料模型 我已經知道什麼data是 hacker ML演算法的用法-建立Model
- 37. 程式碼範例 以下以Scikit-learn的API做最 簡單的範例 37 先把有label的資料準備好（以iris資料集為例） >>> iris = load_iris() 將資料丟進演算法(決策樹)，訓練後產生model >>> model= tree.DecisionTreeClassifier() >>> model.fit(iris.data, iris.label) 只要將沒label的資料給model，就會推出label結果 >>> model.predict(test.data) test.label的值
- 38. 以數學的概念說明 • 機器學習就是給定Input X，透過去學一個函數f(X)能產生我們要的結 果Output Y • 例如 – X(生活照) ->F(X)->Y(將相似照片分到同一群) ,clustering應用 – X( X光照片) ->F(X)->Y(是否得癌症) ,classification應用 – X(財經新聞) ->F(X)->Y(股票指數) ,regression應用
- 39. 如何知道Model訓練後的品質 Training Data ModelAlgorithm Testing Data 2 用Training data訓練model 3 用Testing data驗證model，判斷結果是否符合預期 1 Data會切成Training Data和Testing Data 4 若結果不好，就要改良訓練Model的方式
- 40. 建立AI的過程 原始資料 正確結果 AI開發 不斷測試和改良，找出最 好的特徵和ML設計方式 • 一般的資訊系統，定義好整個運作流程後，就寫程式實作完工 • 但AI的開發，是不斷的改良並提高Model品質，這個過程是不斷循環 Training Data ModelAlgorithm Testing Data
- 45. 特徵工程
- 47. Raw Data
- 48. Concrete Feature Data Upload(GB) Download(GB) Label 172.16.10.1 0 1 0 172.16.10.2 1 0 0 172.16.10.3 1 1 0 172.16.10.4 2 1 0 172.16.10.5 1 2 0 172.16.10.6 2 2 0 172.16.10.7 5 6 1 172.16.10.8 6 5 1 172.16.10.9 6 6 1 172.16.10.10 9 9 0 分析標的 特徵 標記 特徵的內容必須為數值格式， 演算法才有辦法計算 給演算法的Data格式需為Concrete Feature 0=Normal 1=Hacked
- 50. 特徵工程-特徵粹取 • 原始資料格式固定 – 文章 • CountVectorizer • HashingVectorizer • TfidfTransformer • TfidfVectorizer – 圖片 • extract_patches_2d • 原始資料格式不固定 – 日誌（每個欄位代表不同的意義，不同種類日誌不同格式） • 根據domain-knowhow，人工取出有意義的資訊
- 51. 特徵工程-特徵粹取-日誌 • 根據domain know-how，人工取出有意義的資訊 • 常見任務包含 – Data Preprocessing(程式需求量大) • data cleaning:解決dirty data • data integration:將多個來源資料整合 • data transformation:將所有資料轉換成另外一種格式 • data reduction:將相同的資料刪掉,或將資料取樣 – Data Description • 看集中趨勢 • 看離散程度 • 衡量資料位置 • 透過圖形顯示統計描述 – Data Mining(進階的Data description)
- 52. • Measuring the Central Tendency(看集中趨勢) – Mean：求平均 – Median：求中間數 – Mode：求出現頻率最高的數字,只有一個數也稱unimodal,兩個稱bimodal, 三個稱trimodal,多個稱multimodal – Midrange：(min+max)/2 – 其他 特徵粹取-Data Description
- 53. • Measuring the Dispersion of Data(看離散程度) – Range：max-min,最簡單的離散量數 – IQR(inter-quartile range,四分位數距)：Q3-Q1,可克服極端資料值 , ex:若 n=10則IQR=5 – Five number summary：min,Q1,median,Q3,max – Variance：數字越大表示各數據越偏離 – standard deviation：sqrt(variance),用來描述資料點與平均觀查值離多遠 – coefficient of variation(變異係數)：standard deviation/mean*100,標準差佔 平均數之比重 特徵粹取-Data Description
- 54. 特徵粹取-Data Description • 衡量資料位置 – skewness(偏度):和標準常態分配比較的結果 – z-score(z-分數):瞭解觀察值之相對位置
- 56. 特徵粹取-DataMining • frequent pattern analysis • Clustering • 其他
- 57. 特徵工程-特徵挑選(選擇性) • 失真－從多個特徵產生部份特徵/降維 • 實作方式常見有: – PCA – SVD – Auto encoder • 非失真－從多個特徵中挑選部份特徵 • 實作方式常見有二種 – 數學推理 – 演算法內建
- 58. 特徵工程-標準化(選擇性) • 標準化(Normalization)的目的 – 通常會優化ML的計算 • 常見的標準化方法 – Z-Score:將數值變成Z-Score – MinMax:將數值縮小到0到1的範圍 – Normalizer: 讓數值總合為１ – RobustScaler: 將太高或太低的數值刪除
- 59. ＭL設計
- 60. 以資料標記分類ML • Supervised Learning: – 學習的資料來源：全部有明確的label • Unsupervised Learning: – 學習的資料來源：全部沒有label • 其他 – Semi-supervised Learning: • 先做Supervised在做Unsupervised，或交換順序 – Reinforcement Learning: • 學習的資料來源：label是透過數學公式在產生結果後用加減分做為代 表
- 61. 以學習方式分類ML • batch learning: (主流的方法) – 整批資料餵給演算法,學到固定的資料模型, – 當演算法用此資料模型判斷新進來的資料屬於那個label,就輸出結果 • online learning/incremental: – 資料模型可以動態變化, – 當演算法用此資料模型判斷新進來的資料屬於那個label後,我們可以主動 調整資料的label,讓演算法根據新的變動,改變資料模型 • active learning: – 從最有代表性的資料開始訓練模型 – 找出最需要被標記的資料,標記完在餵給資料模型做訓練,然後在找出最需 要被標記的資料,以此類推,逐步讓資料模型在Label少的情況,更有效率的 讓模型學的更好 – Semi-supervised learning其中一種方式
- 62. Regression ML三大類演算法 圖片出處 http://www.csie.ntnu.edu.tw/~u91029/Classification.html#2 根據label(數字) 找出一條代表資 料的線 Clustering Classification 將相似的資料 群聚在一起 根據label（綠 和藍）將資料分 類 Unsupervised Learning Supervised Learning(需要Label才可學習)
- 67. A variety of ML Scenarios Supervised Learning (Classification & Regression) Classification & Regression Multi-label learning Multi-instance learning Cost-sensitive leering Semi-supervised learning Active learning Unsupervised Learning Clustering Learning Data Distribution Reinforcement learning Variations Transfer learning Online Learning Distributed Learning 67
- 70. 缺乏Label的常見解決方案 Active Learning (主動式學習) GAN架構 (Generative Adversarial Network, 生成式對抗網路) 從資料中找出最具代表性的資料,先 從這些資料標記 從有標記的資料中創造相似的資料 舉例來說，假設有資料如下 1+1=2 (加法) 1+2=3(加法) 2+1=3(加法) 此方法創造2+2=4(加法) 但不會創造出2*2=4(乘法) 舉例來說，假設有資料如下 1+1=2 (加法) 2+2=4 (加法) 1*1=1 (乘法) 2*2=4 (乘法) 此方法會先挑出1+1=2(加法)和 1*1=1(乘法)這2個有代表性的資料 讓專家先標記
- 71. 模型評估
- 72. 模型評估架構 72 Training Data ModelAlgorithm Testing Data 2 用Training data訓練model 3 用Testing data驗證model，判斷結果是否符合預期 1 Data會切成Training Data和Testing Data 4 若結果不好，就要改良訓練Model的方式
- 73. 常見切割方式 • 10-Fold – 將資料切依序切割成10份 – 跑10次 – 第1次用第1份當testing data，其他9份是training data – 第2次用第2份當testing data，其他9份是training data – …以此類推 – 第10次用第10份當testing data，其他9份是training data • Holdout – 取部份資料做Training data，其他做testing data – 通常會連續做10次以上看結果
- 74. 模型評估後會有三種結果 圖片出處 https://www.quora.com/Whats-the-difference-between-overfitting-and-underfitting 死讀書，不懂應變，就 像把考試卷答案背的很 熟，但不知舉一反三 還有很多沒學，學習狀 況不佳 避開Under fitting和 Over fitting 追求過度完美正確率太低 建議的模型
- 75. 驗證品質的指標－分類 P(Postive)和N(Negotive)代表系統認為的結果 T(True)和F(False)代表系統認為的結果是否正確 TP 答案=1 預測=1 TN 答案=0 預測=0 FP 答案=0 預測=1 FN 答案=1 預測=0 結合上述共有以下四種狀態 TP=系統認為結果是P, 答對 (抓對幾個) FP=系統認為結果是P, 但結果是錯的 (抓錯幾個/ 誤判/假警報) TN=系統認為結果是N, 答對 FN=系統認為結果是N, 但結果是錯的 (漏抓數 量)
- 76. 驗證品質的指標－分類 accuracy= (TP+TN) / (TP+TN+FP+FN) 答對數量佔全部的比例 TP 答案=1 預測=1 TN 答案=0 預測=0 FP 答案=0 預測=1 FN 答案=1 預測=0
- 77. 驗證品質的指標－分類 precision= TP / (TP+FP) 預測出有問題,實際有問題的比例（不管其他沒抓到的問題） TP 答案=1 預測=1 TN 答案=0 預測=0 FP 答案=0 預測=1 FN 答案=1 預測=0
- 78. 驗證品質的指標－分類 recall = TP / TP+FN = TP佔整個實際數量的機率%(整體來說, 系統抓到幾%病毒,不管誤判的結果) 78 TP 答案=1 預測=1 TN 答案=0 預測=0 FP 答案=0 預測=1 FN 答案=1 預測=0
- 79. 驗證品質的指標－分類 • F1-measure=2*TP/(2*TP+FP+FN)=混合precision和 recall • TPR(命中率)=recall • FPR(錯誤命中率)=FP/FP+TN
- 81. 驗證品質的指標－迴歸 • MAD(mean absolute deviation,平均絕對偏差) • MSE(mean squared error,均方誤差) • MAPE(mean absolute percent error,平均絕對百分比誤差)
- 82. 驗證品質的指標－分群 • adjusted_mutual_info_score • adjusted_rand_score • completeness_score • fowlkes_mallows_score • homogeneity_score • mutual_info_score • normalized_mutual_info_score • v_measure_score
- 83. 應用範例
- 89. Q & A
Editor's Notes
- #7: https://meethub.bnext.com.tw/talk/%E5%AE%8C%E6%95%B4%E8%A7%A3%E6%9E%90ai%E4%BA%BA%E5%B7%A5%E6%99%BA%E6%85%A7%EF%BC%9A3%E5%A4%A7%E6%B5%AA%E6%BD%AE%EF%BC%8B3%E5%A4%A7%E6%8A%80%E8%A1%93%EF%BC%8B3%E5%A4%A7%E6%87%89%E7%94%A8%EF%BD%9C/
- #11: https://www.bnext.com.tw/article/47636/3-killer-apps
- #22: https://technews.tw/2017/10/05/ai-machine-learning-and-deep-learning/
- #52: http://systw.net/note/af/sblog/more.php?id=263
- #88: Refer http://www.trendmicro.tw/cloud-content/us/pdfs/business/datasheets/ds_officescan.pdf