RUTILEA社内勉強会第1回 「転移学習」
- 3. 転移学習とは • Pan and Yang(2010) 適⽤もととなる領域と学習タスクをそれぞれ𝐷"と𝑇"、適⽤対象 である領域とタスクをそれぞれ𝐷$と𝑇$とする。転移学習は 𝐷" ≠ 𝐷$と𝑇" ≠ 𝑇$の時、𝐷"と𝑇"を⽤いて、𝐷$の予測を⾏う機能 の学習の性能を向上させることを⽬的とするもの
- 6. 学習済みモデルの適⽤ • 例：CNN(Convolutional Neural Network)を使った画像認識
- 8. VGG16
- 9. VGG16とは • オックスフォードのVisual Geometry Groupが作った畳み込み層 と全結合層のレイヤーの合計数が16個のCNN • VGGnetモデルの⼀つ
- 10. CNNと画像認識 • 2012年以前は画像認識においてSIFT+Fisher Vector+SVMが主流で、 ⼈が画像から特徴量を設計し抽出していた • 2012年のILSVRCにおいてCNNを使った画像認識モデルである AlexNetが登場し機械が⾃動で特徴量を抽出するのが主流に
- 11. CNNと画像認識 • 2014年のILSVRC にVGGnetやGoogLeNet登場し、⾼い成果をだし た • 2015年のResNetは層をさらに深くし精度をあげることを達成
- 13. VGGnetモデルの基本構造 • 3×3畳み込みフィルタ • 重み減衰によって正則化 • 画像サイズはランダムな位置で（224×224）にトリミング • 活性化関数としてソフトマックスとReLuを使⽤
- 14. VGG16の実装
- 16. ファインチューニングさせるデータセッ ト1回⽬ • 機械部品10種類 • 学習枚数599枚 • 評価枚数856枚
- 18. ファインチューニングさせるデータセッ ト2回⽬ • 機械部品13種類 • 学習枚数777枚 • 評価枚数1003枚
- 21. 機械部品10種類を⽤いたVGG16の学習⽅ 法 • 検証の結果15層から重みを更新するファインチューニングを実 ⾏ • 検証の結果エポック数は150にする • 得られた特徴量を付け加えて、再度学習させる
- 25. 機械部品13種類を⽤いたVGG16の学習⽅ 法 • 検証の結果15層から重みを更新するファインチューニングを実 ⾏ • 検証の結果エポック数は175にする • 得られた特徴量を付け加えて、再度学習させる
- 31. 2クラスSVMによる転移学習の検証結果 • Linear SVCを使⽤ • ネジは学習と評価いずれにおいても正答率100％ • ダイカストのデータセットは1番以外いずれも正答率100％ なぜか1番だけ新たな特徴量を付け加えると学習の正答率100％ 評価の正答率が0.9714285714285714になる