20170315 deeplearning from_scratch_ch01

Tomomi Research Inc.
Ch01. Python
(Python入門)
2012/03/13 (Mon)
Seong-Hun Choe

関数
2017/9/11

Class
2017/9/11
class Man:
"""サンプルクラス"""
def __init__(self, name):
self.name = name
print("Initilized!")
def hello(self):
print("Hello " + self.name + "!")
def goodbye(self):
print("Good-bye " + self.name + "!")
m = Man("David")
m.hello()
m.goodbye()
C:/Users/SChoe672007022/Dropbox
/Python/deep-learning-from-
scratch-master/ch01/man.py
Initilized!
Hello David!
Good-bye David!
Process finished with exit code 0

Perceptron -> Neural Network
2017/9/11
中間層：Hidden Layer

Review: Perceptron
2017/9/11

Review: Perceptron : Activate Function
2017/9/11

Activate Function
活性化関数：閾値を境にして出力が切り替わる関数。
2017/9/11
1. Step Function 2. Sigmoid Function

Activate Function : New Star
2017/9/11
3. ReLu Function
ReLU : Rectified Linear Unit
ダイオードのIV特性の似ているから

Multiplying the Matrix
2017/9/11

Neural Network
2017/9/11
[X] [W] [Y]
𝑋 =
𝑋1
𝑋2
𝑊 =
1 3 5
2 4 6
𝑌 =
𝑌1
𝑌2
𝑌3
[X][W] = [Y]
𝑋1
𝑋2
1 3 5
2 4 6
=
𝑌1
𝑌2
𝑌3

3 Layer Neural Network
2017/9/11
Input layer
(Oth layer)
1st hidden layer
(1st layer)
2nd hidden layer
(2nd layer)
Output layer
(3rd layer)

3 Layer Neural Network
2017/9/11
Original Adding bias Adding Activate function

Activate function on output layer
2017/9/11
• 機械学習の問題は、大きく分けて２種類
1. 回帰問題（Regression )
2. 分類問題（Classfication)
活性化関数σ
回帰問題恒等関数
分類問題
分類シグモイド関数
多重分類
ソフトマックス
関数

2017/9/11
活性化関数σ
分類問題
多重分類
関数
回帰問題：入力データから連続的数値を
予測する問題。
例えば、写真に写っている人物の体重
（54.7kg)を予測する。
恒等関数

2017/9/11
活性化関数σ
分類問題
多重分類
関数
ソフトマックス関数
分類問題：被測定物がどのクラスに属している
かを判断する問題。
例：写真の動物をみて、その種類を判別する。
猫：95% , 犬：1% , イルカ：0.5% , 虎：3.5%

Number of neurons at output layer
2017/9/11
In case of reading handwriting numbers.
the # of neurons will be 10. (0,1,2,… 9)

いよいよMNIST
2017/9/11
Handwritten digits :
forward propagation in neural network
https://rstudio.github.io/tensorflow/tutorial_mnist_beginners.html
* Mixed National Institute of Standards and Technology
database

Training with Python
2017/9/11

Summary
1. Activate function at NN : Sigmoid, ReLU function
2. 回帰問題、分類問題
3. 出力層の活性化関数：回帰問題恒等関数、分類問題ソフトマックス関数
4. 分類問題での、出力層のニューロンの数
5. MNIST実装
2017/9/11

20170315 deeplearning from_scratch_ch01

More Related Content

More from Seong-Hun Choe (15)

20170315 deeplearning from_scratch_ch01