SlideShare a Scribd company logo
[DL輪読会]Deep Learning 第9章 畳み込みネットワーク
��
n�� ����������
����������
�����������
���������
���������������������������
�����������������
��������
����������
������������������
�������������������
�����������������������
������������������������
��������������������������������������
•
–
–
•
–
•
•
–
I :
K :
:
2
•
=3
S3 (receptive field)
>
1
1
•
畳畳みみ込込みみ 全全結結合合 畳畳みみ込込みみにによよるる効効率率性性
要要素素数数 2 319*280*320*280 > 80億 1 / 40億
演演算算数数 ((乗乗算算,, 加加算算)) 319*280*3 = 267,960 > 160億 1 / 6万
320x280
319x280
http://www.deeplearningbook.org/slides/09_conv.pdf
•
–
•
•
–
•
•
–
•
–
–
http://cs231n.github.io/convolutional-networks/
•
–
–
•
•
( )
•
–
–
–
��� �����������������������
• ����������������������������������
������������������
– ������ ����������������������������
– ������ ����������������������������
– ����������������������������������������
����������
• �����������������������������������
�����
– �����������������
– ���������������������������������������
��������
•
–
stride=2
•
–
valid:
same:
��� �������������
• �������������������������
– ������� ���������������������
– ���������������������������������������
������� ���������
, =2
-
-
( )
, =2
•
–
–
, 2
-
��� ����
• ��������������������������
– ������������
– ������� ����������������������������
→ 10
��� ������
• ������������������
• �))�������������������������
– (�� ������������������
– )�� �������� �������������������������������
���
単一チャネル 複数チャネル
1次元 音声波形 スケルトンのアニメーションデータ
2次元 フーリエ変換で事前処理された音声データ カラー画像データ
3次元 体積データ カラー動画データ
•
–
–
–
•
(https://qiita.com/yu4u/items/34cd33b944d8bdca142d)
•
•
•
•
���� ������������������
• ������I ������������
• �������C��� ���������� ����
�������� �������������������������
��������� ��������� �������������
�������� ��������� ��������������
������������ �� �������
• �������� ������ ���
– ����C ��������������IC���
���� ������������������
�������������������
• �����������
– ��� ���������������������F
– ����������������������F
– �������������������F
– ������ ������������F
– ��������� ���������������������������������F
• ������� �����������������������������F
• ���
– ����������������������������������� ����vowF
– ���������������������������������������������
•
–
–
–
•
–
�����������������������
• ������������������������������������
• ������������������������������
– ��������������������������
• �������� ��������������������������������������������������
– ������� ����������� ������������
���������������������
• �����������������������������������
– ����� �����������������������������������
– )��� �������� ������� ������
ecdj
• �������������
– ���������������������� �����������������������
– ����
����������������������������������������������������������
��������������������������������
• �����������������������������������������������������������
– ��������������������������� ������������������������������

More Related Content

PDF
[DL輪読会]Deep Learning 第6章 深層順伝播型ネットワーク
PDF
[DL輪読会]Deep Learning 第20章 深層生成モデル
PDF
[DL輪読会]Deep Learning 第17章 モンテカルロ法
PDF
[DL輪読会]Deep Learning 第13章 線形因子モデル
PDF
[DL輪読会]Deep Learning 第10章 系列モデリング 回帰結合型ニューラルネットワークと再帰型ネットワーク
PDF
[DL輪読会]Deep Learning 第8章 深層モデルの訓練のための最適化
PDF
[DL輪読会]Deep Learning 第14章 自己符号化器
PDF
[DL輪読会]Deep Learning 第16章 深層学習のための構造化確率モデル
[DL輪読会]Deep Learning 第6章 深層順伝播型ネットワーク
[DL輪読会]Deep Learning 第20章 深層生成モデル
[DL輪読会]Deep Learning 第17章 モンテカルロ法
[DL輪読会]Deep Learning 第13章 線形因子モデル
[DL輪読会]Deep Learning 第10章 系列モデリング 回帰結合型ニューラルネットワークと再帰型ネットワーク
[DL輪読会]Deep Learning 第8章 深層モデルの訓練のための最適化
[DL輪読会]Deep Learning 第14章 自己符号化器
[DL輪読会]Deep Learning 第16章 深層学習のための構造化確率モデル

What's hot (20)

PDF
[DL輪読会]Deep Learning 第3章 確率と情報理論
PDF
[DL輪読会]Deep Learning 第4章 数値計算
PDF
[DL輪読会]Deep Learning 第12章 アプリケーション
PDF
[DL輪読会]Deep Learning 第7章 深層学習のための正則化
PDF
[DL輪読会]Deep Learning 第11章 実用的な方法論
PDF
[DL輪読会]Deep Learning 第5章 機械学習の基礎
PDF
[DL輪読会]Deep Learning 第19章 近似推論
PDF
DeepLearning 輪読会 第1章 はじめに
PDF
[DL輪読会]Deep Learning 第18章 分配関数との対峙
PPTX
PRML2.4 指数型分布族
PDF
DeepLearning 5章
PDF
StanとRでベイズ統計モデリング 11章 離散値をとるパラメータ
PDF
3分でわかる多項分布とディリクレ分布
PDF
[DL輪読会]Deep Learning 第2章 線形代数
PDF
DeepLearning 10章 回帰結合型ニューラルネットワークと再帰型ネットワーク
PDF
幾何を使った統計のはなし
PDF
PRML上巻勉強会 at 東京大学 資料 第1章前半
PDF
RSA鍵生成脆弱性ROCAの紹介
PPTX
Rで因子分析 商用ソフトで実行できない因子分析のあれこれ
PDF
5分でわかるかもしれないglmnet
[DL輪読会]Deep Learning 第3章 確率と情報理論
[DL輪読会]Deep Learning 第4章 数値計算
[DL輪読会]Deep Learning 第12章 アプリケーション
[DL輪読会]Deep Learning 第7章 深層学習のための正則化
[DL輪読会]Deep Learning 第11章 実用的な方法論
[DL輪読会]Deep Learning 第5章 機械学習の基礎
[DL輪読会]Deep Learning 第19章 近似推論
DeepLearning 輪読会 第1章 はじめに
[DL輪読会]Deep Learning 第18章 分配関数との対峙
PRML2.4 指数型分布族
DeepLearning 5章
StanとRでベイズ統計モデリング 11章 離散値をとるパラメータ
3分でわかる多項分布とディリクレ分布
[DL輪読会]Deep Learning 第2章 線形代数
DeepLearning 10章 回帰結合型ニューラルネットワークと再帰型ネットワーク
幾何を使った統計のはなし
PRML上巻勉強会 at 東京大学 資料 第1章前半
RSA鍵生成脆弱性ROCAの紹介
Rで因子分析 商用ソフトで実行できない因子分析のあれこれ
5分でわかるかもしれないglmnet
Ad

More from Deep Learning JP (20)

PPTX
【DL輪読会】AdaptDiffuser: Diffusion Models as Adaptive Self-evolving Planners
PPTX
【DL輪読会】事前学習用データセットについて
PPTX
【DL輪読会】 "Learning to render novel views from wide-baseline stereo pairs." CVP...
PPTX
【DL輪読会】Zero-Shot Dual-Lens Super-Resolution
PPTX
【DL輪読会】BloombergGPT: A Large Language Model for Finance arxiv
PPTX
【DL輪読会】マルチモーダル LLM
PDF
【 DL輪読会】ToolLLM: Facilitating Large Language Models to Master 16000+ Real-wo...
PPTX
【DL輪読会】AnyLoc: Towards Universal Visual Place Recognition
PDF
【DL輪読会】Can Neural Network Memorization Be Localized?
PPTX
【DL輪読会】Hopfield network 関連研究について
PPTX
【DL輪読会】SimPer: Simple self-supervised learning of periodic targets( ICLR 2023 )
PDF
【DL輪読会】RLCD: Reinforcement Learning from Contrast Distillation for Language M...
PDF
【DL輪読会】"Secrets of RLHF in Large Language Models Part I: PPO"
PPTX
【DL輪読会】"Language Instructed Reinforcement Learning for Human-AI Coordination "
PPTX
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
PDF
【DL輪読会】"Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware"
PPTX
【DL輪読会】Parameter is Not All You Need:Starting from Non-Parametric Networks fo...
PDF
【DL輪読会】Drag Your GAN: Interactive Point-based Manipulation on the Generative ...
PDF
【DL輪読会】Self-Supervised Learning from Images with a Joint-Embedding Predictive...
PPTX
【DL輪読会】Towards Understanding Ensemble, Knowledge Distillation and Self-Distil...
【DL輪読会】AdaptDiffuser: Diffusion Models as Adaptive Self-evolving Planners
【DL輪読会】事前学習用データセットについて
【DL輪読会】 "Learning to render novel views from wide-baseline stereo pairs." CVP...
【DL輪読会】Zero-Shot Dual-Lens Super-Resolution
【DL輪読会】BloombergGPT: A Large Language Model for Finance arxiv
【DL輪読会】マルチモーダル LLM
【 DL輪読会】ToolLLM: Facilitating Large Language Models to Master 16000+ Real-wo...
【DL輪読会】AnyLoc: Towards Universal Visual Place Recognition
【DL輪読会】Can Neural Network Memorization Be Localized?
【DL輪読会】Hopfield network 関連研究について
【DL輪読会】SimPer: Simple self-supervised learning of periodic targets( ICLR 2023 )
【DL輪読会】RLCD: Reinforcement Learning from Contrast Distillation for Language M...
【DL輪読会】"Secrets of RLHF in Large Language Models Part I: PPO"
【DL輪読会】"Language Instructed Reinforcement Learning for Human-AI Coordination "
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
【DL輪読会】"Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware"
【DL輪読会】Parameter is Not All You Need:Starting from Non-Parametric Networks fo...
【DL輪読会】Drag Your GAN: Interactive Point-based Manipulation on the Generative ...
【DL輪読会】Self-Supervised Learning from Images with a Joint-Embedding Predictive...
【DL輪読会】Towards Understanding Ensemble, Knowledge Distillation and Self-Distil...
Ad

[DL輪読会]Deep Learning 第9章 畳み込みネットワーク