SlideShare a Scribd company logo
深層学習を知ろう
~畳み込みニューラルネットワーク
自己紹介
氏名 渡辺春希
Twitter @haruaya0423
広島市立大学3年知能工学科
出身 静岡
趣味 ポケモン、シャニマス
最近の出来事 多分来年度の研究室はデータ工学
ダンガンロンパにまたハマった
前回までの復習
ニューラルネットワークは
入力値と重みの積に
バイアスの値を
足して値を出力する。
数式にすると以下のとおり、
Y=XW+B
そして、ソフトマックス関数に
通し、値の大きいものを予測結
果として出力した。
𝑦𝑘=
exp(𝑎𝑘)
𝑖=1
𝑛
exp(𝑎𝑖)
前回までの復習2
・適切な重みとバイアスを設定するために、
誤差関数を使用。
・誤差関数を小さくするためには、
勾配降下法を用いる。
W=W-η
𝑑𝐸(𝑤)
𝑑𝑊
, b=b-η
𝑑𝐸(𝑏)
𝑑𝑏
今回学ぶこと
・畳み込み演算
・パディング
・ストライド
・プーリング
フィードフォワードネットワークの欠点
・空間情報を用いていない。
・例えば28*28の画像は最初に28*28=784個の
入力値がある。
・ところが、画素の並べる順番は、
パフォーマンスに影響しない。
・つまり、画素のピクセル値を取り換えても、
全く同じ精度で学習が可能。
つまり
画像を左右に2分割する。
X1を左側、x2を右側とする。
ところがx1を右側、x2を左側
としても、同じように学習
してしまう。
空間の情報を用いるためにはどうすればいいのか?
畳み込み演算
・畳み込み演算とは、フィルターを使用した画像処理
・画像の一部と、フィルターの要素の積の和を、
画像をスライドしながら求める。
画像の領域を右にスライドして、また畳み込み演算を行う。
1行目が終われば次の行へ移動。再度畳み込み演算
最終的な画像はこんな感じになる。
ちなみに最終的な画像は特徴を抽出した画像のため
特徴マップと呼ばれる。
様々なフィルター
・様々なフィルターを用いれば、縦、横、斜め
のエッジの強調など様々な処理が可能となる。
一番左が元の画像。真ん中は横の線が、
右は、縦の線が強調されている。
パディング
畳み込み演算を行うと、画像の大きさが変わってしまう。
そのため、画像サイズを調整するパディングを用いる。
入力画像の周囲を、0で水増しする。
フィルターのサイズによってパディングの幅は変化する。
ストライド
・フィルターをずらす間隔をストライドという。
・赤線の場合はストライドが1、緑の場合はストライドが2。
・ストライドが大きいと特徴マップが小さくなるので
あまり使われない。
プーリング
・分割した範囲で、最大の値を抽出する。
・要するに特徴抽出。
・範囲での平均を利用するAvg Poolingも存在。
全体のネットワーク
・全結合層の前の層で画像の特徴抽出を行い、
それ以降の層で特徴マップを用いて分類を行う。
仮に特徴マップを
5つ作ると、
全結合層の入力値の数は
28*28*5=3920
となる。
なんで精度が上がるのか?
・畳み込みやプーリングで画像の特徴抽出が可能。
・つまり特徴抽出を行い続ければ、全体の特徴から
局所的な部分の特徴も分かる。
・人間もモノを認識するときまず全体の特徴を
捉え、次に局所的な部分を捉える。
・つまり、人間の脳を疑似的に再現している。
・ただ、特徴抽出をやり過ぎると過学習の恐れが
ある。
まとめ
・プーリングや畳み込み→特徴抽出に利用
・パディングやストライド→特徴マップのサイズ調整
・畳み込みニューラルネットワークは、空間情報
を上手く利用し、人間の脳を再現している。
・ニューラルネットワークは画像認識のみならず
様々な分野で応用されている。

More Related Content

PPTX
Bayesian Neural Networks
PDF
Neural networks using tensor flow in amazon deep learning server
PDF
20191123 bayes dl-jp
DOCX
Dnnday1&2
PPTX
畳み込みについて
PPTX
モデル高速化百選
PPTX
Rabbit challenge 3 DNN Day2
PPTX
モデルアーキテクチャ観点からの高速化2019
Bayesian Neural Networks
Neural networks using tensor flow in amazon deep learning server
20191123 bayes dl-jp
Dnnday1&2
畳み込みについて
モデル高速化百選
Rabbit challenge 3 DNN Day2
モデルアーキテクチャ観点からの高速化2019

Similar to Deeplearn4 (15)

PDF
2016 dg2
DOCX
Dnnday1&2
PDF
PDF
ISMB2014読み会 イントロ + Deep learning of the tissue-regulated splicing code
PDF
ラビットチャレンジ 深層学習Day1 day2レポート
PDF
Associative Memory Model について
PPTX
【DL輪読会】Efficiently Modeling Long Sequences with Structured State Spaces
PPTX
深層学習前半
PPTX
卒業研究 角島康太郎
PPTX
NITW_Improving Deep Neural Networks.pptx
PPTX
NITW_Improving Deep Neural Networks (1).pptx
PPTX
PPTX
Nimrita deep learning
PPTX
深層学習前半
PPTX
Rabbit challenge 6_dnn4
2016 dg2
Dnnday1&2
ISMB2014読み会 イントロ + Deep learning of the tissue-regulated splicing code
ラビットチャレンジ 深層学習Day1 day2レポート
Associative Memory Model について
【DL輪読会】Efficiently Modeling Long Sequences with Structured State Spaces
深層学習前半
卒業研究 角島康太郎
NITW_Improving Deep Neural Networks.pptx
NITW_Improving Deep Neural Networks (1).pptx
Nimrita deep learning
深層学習前半
Rabbit challenge 6_dnn4
Ad

More from ssuserf94232 (10)

PDF
research.pdf
PDF
information_fake_2.pdf
PDF
make_information_search.pdf
PDF
Hiro it202105
PDF
Deeplearning3
PDF
Machine&data
PDF
Deep learning2
PDF
Deeplearining1
PDF
Gresult
PDF
python3 エンジニア認定データ分析試験を受けてみた
research.pdf
information_fake_2.pdf
make_information_search.pdf
Hiro it202105
Deeplearning3
Machine&data
Deep learning2
Deeplearining1
Gresult
python3 エンジニア認定データ分析試験を受けてみた
Ad

Recently uploaded (20)

PPTX
Internet Safety for Seniors presentation
PPTX
artificialintelligenceai1-copy-210604123353.pptx
PDF
📍 LABUAN4D EXCLUSIVE SERVER STAR GAMING ASIA NO.1 TERPOPULER DI INDONESIA ! 🌟
PDF
si manuel quezon at mga nagawa sa bansang pilipinas
PPTX
E -tech empowerment technologies PowerPoint
PPTX
Database Information System - Management Information System
PDF
📍 LABUAN4D EXCLUSIVE SERVER STAR GAMING ASIA NO.1 TERPOPULER DI INDONESIA ! 🌟
DOC
Rose毕业证学历认证,利物浦约翰摩尔斯大学毕业证国外本科毕业证
PPTX
Slides PPTX: World Game (s): Eco Economic Epochs.pptx
PDF
Session 1 (Week 1)fghjmgfdsfgthyjkhfdsadfghjkhgfdsa
PPTX
newyork.pptxirantrafgshenepalchinachinane
PPTX
artificial intelligence overview of it and more
PDF
simpleintnettestmetiaerl for the simple testint
PPTX
Power Point - Lesson 3_2.pptx grad school presentation
PPT
Ethics in Information System - Management Information System
PDF
Uptota Investor Deck - Where Africa Meets Blockchain
PDF
Exploring VPS Hosting Trends for SMBs in 2025
PDF
SASE Traffic Flow - ZTNA Connector-1.pdf
PDF
FINAL CALL-6th International Conference on Networks & IOT (NeTIOT 2025)
PDF
The Ikigai Template _ Recalibrate How You Spend Your Time.pdf
Internet Safety for Seniors presentation
artificialintelligenceai1-copy-210604123353.pptx
📍 LABUAN4D EXCLUSIVE SERVER STAR GAMING ASIA NO.1 TERPOPULER DI INDONESIA ! 🌟
si manuel quezon at mga nagawa sa bansang pilipinas
E -tech empowerment technologies PowerPoint
Database Information System - Management Information System
📍 LABUAN4D EXCLUSIVE SERVER STAR GAMING ASIA NO.1 TERPOPULER DI INDONESIA ! 🌟
Rose毕业证学历认证,利物浦约翰摩尔斯大学毕业证国外本科毕业证
Slides PPTX: World Game (s): Eco Economic Epochs.pptx
Session 1 (Week 1)fghjmgfdsfgthyjkhfdsadfghjkhgfdsa
newyork.pptxirantrafgshenepalchinachinane
artificial intelligence overview of it and more
simpleintnettestmetiaerl for the simple testint
Power Point - Lesson 3_2.pptx grad school presentation
Ethics in Information System - Management Information System
Uptota Investor Deck - Where Africa Meets Blockchain
Exploring VPS Hosting Trends for SMBs in 2025
SASE Traffic Flow - ZTNA Connector-1.pdf
FINAL CALL-6th International Conference on Networks & IOT (NeTIOT 2025)
The Ikigai Template _ Recalibrate How You Spend Your Time.pdf

Deeplearn4