5. 5
隨機過程隨機過程隨機過程隨機過程的分布函數的分布函數的分布函數的分布函數
設ξ(t)表示一個隨機過程,則它在任意時刻t1的值ξ(t1)是一個隨機變數,其統計特性可以用分布
函數或概率密度函數來描述
{ }
1 1 1
1 1 1 1 1 1 1
1 1 1
1 1 1 1 1 1
1
2 1 2 1 2 1 1 2 2
2 1 2 1
( , ) ( )
( , ) [ ( ) ], ( )
( , )
( , ), ( , ) ( )
( )
( , ; , ) ( ) , ( )
( )
( ,
,
;
F x t t
F x t P t x t x
F x t
f x t
t
f x t t
x
F x x t t P t x t x
f x x t
t
ξ
ξ ξ
ξ
ξ
ξ ξ
ξ
= ≤ ≤
∂
=
∂
= ≤ ≤
一維分佈函數
偏導存在 一維機率密度函數
隨機過程 的二維分佈函數
若偏導存在 隨機過程 的二維概率密度函
為隨機過程 的
隨機變量 的機率
數
若 為 的
{ }
2
2 1 2 1 2
2
1 2
1 2 1 2 1 1 2 2
1 2 1 2
1 2 1 2
1 2
( , ; , )
, )
( )
( , , , ; , , ) ( ) , ( ) , , ( )
( )
( , , , ; , , , )
( , , , ; , , , )
,
n n n n n
n
n n n
n n n
n
F x x t t
t
x x
F x x x t t t P t x t x t x
F x x x t t t
f x x x t t
x x
t
x
t
n
t
nξ
ξ ξ ξ
ξ
∂
=
∂ ⋅∂
= ≤ ≤ ≤
∂
=
∂ ∂ ∂
⋯ ⋯ ⋯
⋯ ⋯
⋯ ⋯
⋯
隨機過程 的 維分佈函數
若偏導存在 隨機過程 的 維概率密度函數
dimension n越大, 對隨機過程統計特性的描述就越充分!!
6. 6
隨機過程隨機過程隨機過程隨機過程的特徵的特徵的特徵的特徵
[ ]
[ ]
{ }
2
2
1
2
2
2
1
1. (average) or (expectation):
( ) ( , ) ( )
( ): ( ) , ( )
2.
,
(variance) : , (
[ ( ) ( )]
[ ( )] ( ) 2 ( ) ( ) ( )
[ ( )]
)
E t xf x t dx a t
E t t
D E t a t
D t E t a
f x t t
t
t
t a t
E t
ξ
ξ ξ
ξ
ξ ξ ξ
ξ
σ
∞
−∞
= =
= −
= − +
=
∫
均值 期望值 擺動中心
是 的的機率密度函數
方差 偏離程度 常記為
確定函數
2 2
2
2 2
1
2 2
1 2 1 2 1
2
if 0 t
2 ( ) [ ( )] ( )
hen
(auto correla
( , ) [ ([
tion fun
)]
( )
c
( ) [ ( )]
3.
( ,
( )]
tion, ACF):
) [ ( ) (
( ) (
]
) ( )
)
a
a t E t a t
x f x t dx a t
t E t
E
R t t E t t
a t t
x
t
t
ξ
ξ
σ
ξ
σ ξ
ξ
∞
−∞
∞
− −∞
− +
= = −
=
≡
− = −
=
=
=
∫
∫
方均值 均值平方
自相關函數 同一過程的關 程
方
聯
差
度
2 1
2 2 1 2 1 2 1 2
1 2
2 1 2 1 2
1 2 1 1
2
1
1 2 1
2
- ,
( , ; , )
( ) ( ) ( )
( , ; , ):
:
(cross correlation functio
( )
( , ) ( , )
n4.
( , ) [ ( ) ( )]
(
):
)
x f x x t t dx dx
t t t
f x x t t
R t t R t t
R t t E t
t t
t
t
t
t t
ξη
ξ ξ ξ
ξ
τ
ξ η
ξ
τ
η
∞
∞
= +=
=
∫
和 分別是在 和 時刻觀測 得到的隨機變數
的二維機率密度函數
令 則有
互相關函數 兩個過程的關聯程度
和 ( )t 分別表示兩個隨機過程
7. 7
隨機過程隨機過程隨機過程隨機過程的特徵的特徵的特徵的特徵
{ }1 2 1 1 2 2 1 1 2 2 2 1 2 1 2 1 2
1 2 2 1 2 12 21
5.
( , ) [ ( ) ( )][ ( ) ( )] [ ( )][ (
(cova
)] ( , ; , )
( ), ( ): ( )
riance function):
( , ; , ): )(,
B t t E t a t t a t x a t x a t f x x t t dx dx
a t a t t x t tt f x x t t
ξ ξ
ξ
∞ ∞
−∞ −∞
= − − = − −∫ ∫
協方差函數 同一過程的關聯程度
在 和 時刻得到的 的均值 的二維機率密度函數
相關函數和協方差函數
1 2 1 2 1 2
1 2 1 2 1 2
( , ) ( , ) ( ) ( )
if ( ) ( ), then ) ( , )
:
( ,
B t t R t t a t a t
a t a t B t t R t t= =
= −
之間的關係
10. 10
各態歷經各態歷經各態歷經各態歷經性性性性(ergodicity)
隨機過程的數學特徵(均值、相關函數)是對隨機過程的所有樣本函數的統計平均, 但在實際中
常常很難測得大量的樣本.
我們自然會提出這樣一個問題: 能否從一次試驗而得到的一個樣本函數x(t)來決定平穩過程的
數學特徵呢 ?
回答是肯定的. 平穩過程在滿足一定的條件下具有一個有趣而又非常有用的特性,稱為”各態歷
經性”(又稱”遍曆性”).
具有各態歷經性的過程, 其數學特徵(均為統計平均)完全可由隨機過程中的任一次樣本的時間
平均值來代替.
x(t)是平穩過程ξ(t)的任意一次樣本, 則其時間均值和時間相關函數分別定義為:
/2
/2
/2
/2
1
( ) lim ( )
1
( ) ( ) ( ) lim ( ) ( )
)( )
,
(
T
TT
T
TT
a x t x t dt
T
R x t x t x t x t dt
T
a a
R R
τ τ τ
τ τ
−→∞
−→∞
= =
= + = +
=
=
∫
∫
如果平穩過程使下式成立 則稱該平穩過程具有各態歷經性
• 含義是: 隨機過程中的任一次樣本經歷了隨機過程的所有可能狀態.
• 因此, 在求解各種統計平均(均值或自相關函數)時, 無需作無限多次的考察, 只要獲得一次考察,
用一次樣本的”時間平均”值代替過程的”統計平均”值即可, 從而使測量和計算大為簡化.
平穩過程遍曆過程
11. Ex. 設設設設一個隨機相位一個隨機相位一個隨機相位一個隨機相位的的的的余余余余弦弦弦弦波波波波為為為為
其中其中其中其中, A和和和和ωωωωc均為均為均為均為常數常數常數常數, θθθθ是在是在是在是在(0, 2π)內內內內均勻分布的均勻分布的均勻分布的均勻分布的隨機隨機隨機隨機變數變數變數變數, 討論討論討論討論ξξξξ(t)是否具有各態歷經性是否具有各態歷經性是否具有各態歷經性是否具有各態歷經性
11
( ) cos( )ct A tξ ω θ= +
2
0
2
0
2 2
0 0
1 2 1 2 1 2
2
( )
1
( ) [ ( )] cos( )
2
(cos cos sin sin )
2
[cos cos sin sin ] 0
2
2.
( , ) [ ( ) ( )] [ cos( ) cos( )]
{c
2
1.
c
c c
c c
c c
a t E t A t d
A
t t d
A
t d t d
R t t E t t E A t A t
t
A
E
x
π
π
π π
ξ ω θ θ
π
ω θ ω θ θ
π
ω θ θ ω θ θ
π
ξ ξ ω θ ω θ
= = +
= −
= − =
= = + ⋅ +
=
∫
∫
∫ ∫
先求 的統計平均值
自相關函數
2 1 2 1
2 2
2
2 1 2 10
2
2 1
2 1
2
1 2
os ( ) cos[ ( ) 2 ]}
1
cos ( ) cos[ ( ) 2 ]
2 2 2
cos ( ) 0
2
( , ) cos ( )
2
, ,( )
( )
c c
c c
c
c
t t t t
A A
t t t t d
A
t t
t t
A
R t t
t
R
t
t
π
ω ω θ
ω ω θ θ
π
ω
τ
ω τ τ
ξ
ξ
τ
− + + +
= − + + +
= − +
−
=
∴
=
=
∫
∵
令
的期望為常數 而自相關函數與 無關 只與時間間隔 有關
是廣義平穩過程.
2
2
2
2
2
2 2
2 2
2
( )
1
lim cos( ) 0
1
( ) lim cos( ) cos
3.
:
[ ( ) ]
lim { cos cos(
co
2 2 ) }
2
cos
2
, )
s
( ) (
T
cTT
T
c cTT
T T
c c cT TT
c
a A t dt
T
R A t A t dt
T
A
dt t dt
T
A
t
a a R R
ω θ
τ ω θ ω τ θ
ω τ ω ω τ
τ
ξ
θ
ω τ
τ
−→∞
−→∞
− −→∞
= + =
= + ⋅ + +
= + + +
∴
=
= =
∫
∫
∫ ∫
∵
求 的時間平均值
比較統計平均與時間平均
隨機相位 波是各態歷經性
12. 12
平穩過程的自相關函數平穩過程的自相關函數平穩過程的自相關函數平穩過程的自相關函數
2
2 2
2
0
1. (0) [ ( )]: ( )
2. ( ) ( ):
3. ( ) (0): ( ) , ( ) Max
4.
( ) , ( ) [( ( ) ( )]
{[ ( ) ( )] } 0 2 (0) 2 (
( ) [ ( )]
) 0
(
:
) l
( )
R E t t
R R R
R R R R
R E
t R E
t
t t
E t t R R
a
R
t
τ
ξ ξ
τ τ
τ τ τ
ξ τ ξ ξ τ
ξ ξ τ τ
ξ ξ
=
∈ = +
± + ≥ ⇒
=
− =
≤
∞
± ≥
∞
=
=
=
ℝ
∵
∵
的平均功率
為
設 平穩隨機過程 它
偶函數
的上界 自相關函數 有
的
自相關函數
直流功率
2
2
2 2 2
2
5. (0) ( ) :
im [ ( ) ( )] [ ( )] [ ( )] [ ( )]
[ ( )] ( )
if ( ) 0 then (
(
0)
)R R t
E t t E t E t E t
E t a
a t R
τ
σ ξ
ξ ξ τ ξ ξ τ ξ
ξ σ
σ
→∞
+ = + =
− = − =
= =
− ∞ =
∵
的交流功
方均值 均值平方 方差
率
14. 14
計算計算計算計算平穩平穩平穩平穩過程過程過程過程的功率的功率的功率的功率譜譜譜譜密度密度密度密度(PSD)
非週期的功率確知信號自相關函數↔功率譜密度是一對Fourier變換. 這種關係對平穩隨機過程
同樣成立. Review…
2
2
(Wiener-Khinchin theorem)
( ) ( )
or
1
( ) ( )
2
( ) ( )
Wiener-Khinchin
( ) ( )
( ) ( )
1. P
theore :
SD
m
j f
j
j
fj
P R e P f R e d
R P f e
d
R P e d
R P f
df
π τ
ξ
ω
π τ
ξ
τ
ξ
ωτ
ξ
ξ
ω τ τ
τ ω ω
π
τ
τ τ
τ
∞
−
−∞
∞
−
−
∞
−∞
∞
∞
−∞
=
−
=
=
⇔
=
∫
∫
∫
∫
維納 辛欽定
對 積分可得平穩過程
理
根據
平均功率
2
2. PSD PSD.
(0) ( ) ( )
(0) [ ( )]
, .
pf. ACF ACF,
Fo
( )
(
u
) ( )
(rie )r [ ]
R P f df
R E t
R R
F R
ξ
ξ
τ τ
τ
∞
−∞
=
=
=
==
=
∫
∵
也
各態歷經過
就是說 每一樣本函數的譜特性都能很好地表現整個過程的的譜特性
各態歷經過程的 任一樣本的
兩
程
邊
任一樣
頻域角度給出了過程平均功率
時域
取 變換,
本函
角度給出了
數的 過程的
過程平均功率
( )
[ ( )]
( ) ( )
where ( ) ( ) and ( )
f
f
F R
P f P f
R P f R P f
ξ
ξ
τ
τ τ
∴ =
⇔ ⇔
( ) 0
( ) ( )
3. PSD ( )
P f
P f P f
P f
ξ
ξ ξ
ξ
≥
− =
具有非負性和實偶性
15. 15
Ex. 求求求求隨機相位余弦波隨機相位余弦波隨機相位余弦波隨機相位余弦波ξξξξ(t) = Acos(ωωωωct + θθθθ )的的的的ACF和和和和PSD
2
2
2
( )
( ) cos
2
( ) ( )
cos [ ( ) ( )]
PSD : ( ) [
ACF PSD Fourier , i.e.
( ) ( )]
2
1
: (0 ( ))
2 2
c
c c c
c c
A
R
R P
A
P
A
S R P
t
d
ξ
ξ
ξ
ξ
τ ω τ
τ ω
ω τ π δ ω ω δ ω ω
π
ω δ ω ω δ ω ω
ω ω
π
∞
−∞
=
⇔
⇔ − + +
∴ = − + +
= = =∫
∵
隨機相位余弦波 是一個平穩過程
平穩隨機過程的 與 是一對 變換
平均功率
17. 17
高斯隨機高斯隨機高斯隨機高斯隨機過程過程過程過程(正正正正態隨機態隨機態隨機態隨機過程過程過程過程) normal (or Gaussian) distribution
定義: 如果隨機過程ξ (t)的任意n維(n =1,2,...)分布均服從正態分布,則稱它為高斯過程.
n維正態概率密度函數表示式為:
重要性質
1. 廣義平穩的高斯過程也是狹義平穩.
• 因為, 若高斯過程是廣義平穩的(即均值與t無關, 協方差函數只與τ有關), 則它的n維分布也與時間起點無關,
故它也是狹義平穩.
2. 若高斯過程在不同時刻t的取值是互不相關, 則統計獨立.
3. 高斯過程經過線性變換後生成的過程仍是高斯過程.
• input高斯過程 → 線性變換 → output高斯過程.
1 2 1 2 1/2/2
1 11 2
2 2
12 1
21 2
1 2
1 1
( , ,..., ; , ,..., ) exp ( )( )
2(2 ) ...
where [ ( )], [ ( ) ]
1
1
1
| |
,
| |
n n
j j k k
n n n jkn
j k j kn
k k k k k
j
n
j
n
k
n
k
n
x a x a
f x x x t
B
B
t t
a E t E t a
b
b b
b
b
b
B
b
σ σπ σ σ σ
ξ σ ξ
= =
− −−
=
= = −
=
∑∑ B
BB
B
⋯
⋯
⋮ ⋮ ⋮ ⋮
⋯
為歸一化協方差矩陣的行列式
為行列式 中元素 的代數
{[ ( ) ][ ( ]}
,
)
j
j j k k
jkk
j k
E t a t a
bb
ξ ξ
σ σ
− −
=
餘因子
為歸一化協方差函數
2
1 2 1 2 1 1 2 22
1
( )1
( , ,..., ;, 0 , ,..., ) exp ( , ) ( , ) (, ),
22
n
k k
n n n n n
k kk
jk
x a
f x x x t t t f x t f x t f x tj k b
σπσ=
− −
= = ⋅ ⋅ ⋅
= ∏ ⋯對所有 有 其機率密度可以簡化為
線性系統
18. 18
高斯隨機高斯隨機高斯隨機高斯隨機變變變變量量量量
高斯過程在任一時刻上的取值是一個正態分布的隨機變數, 也稱高斯隨機變量, 其一維概率密
度函數為:
性質:
2
2
2
1 ( )
( ) exp
22
:
:
a
a
x
f x
σπσ
σ
− −
=
均值
方差
記為ࣨ(a, σ2)
a : 分布中心
σ : 集中程度
2
1. ( )
( ) ( )
( ) 1
1
( ) ( )
2
3.
1
( ) ex
,
2.
, ,
( ), 0 1 , p
22
a
a
f a x f a
f x x a
a
a
x
f x dx and
f x dx f x dx
x
f x
σ
σ
π
σ
∞
−∞
∞
−∞
+ = −
=
= =
−
=
=
↓ = =
∫
∫ ∫
對稱於直線 即
表示分佈中心 稱為標準差 表示集中程度
圖形將隨著 而變高和變窄 越集中 當 和 時 稱為標準化的正態分佈
19. 19
正正正正態分布函數態分布函數態分布函數態分布函數
常需計算高斯隨機變量ξ ≤某個值x的機率P(ξ ≤ x), 等於機率密度函數f(x)的積分:
2
2
2
2
( )/ 2
0
1 ( )
( ) ( ) exp
22
error function)
( ) / 2
2
1 2 1
, ,
1
( )
2 2 2 2
2
( )
1. ( :
where
2
x
x a
t
x
t
z a
F x P x dz
t z a
dz dt
x a
F x e dt erf
erf x e dt
σ
ξ
σπσ
σ
σ
π σ
π
−∞
−
−
−∞
−
− −
= ≤ =
= −
=
−
= ⋅ = +
=
∫
∫
∫
這個積分的值無法用閉合形式計算 通常利用其他特殊函數 用查表的方法求出
用誤差函數 表示正態分佈函數
2
2
. )
1
( ) 1
2 2
(complementary error function :
wh
2
( ) 1 (ere
2 ,
)
1
( )
t
x
x
x a
F x erfc
erfc x erf x e dt
erfc xx e
x
σ
π
π
∞
−
−
−
= −
= − =
≈>
∫
用補誤差函數 表示正態分佈函數
當 時
(0) 0
( ) 1
( ) ( )
erf
erf
erf x erf x
=
∞ =
− = −
遞 函增 數
(0) 1
( ) 0
( ) 2 ( )
erfc
erfc
erfc x erfc x
=
∞ =
− = −
遞 函數減
20. 20
2
2
, ( ) :
1 ( )
( ) ( ) exp
22
1 1
2 2 2
( )
1
1
2 2
x z a
F x P x dz
x a
erf x a
F x
x a
erf x
F x
c a
ξ
σπσ
σ
σ
−∞
− −
= ≤ =
−
+ ≥
=
− − <
∫
利用誤差函數 可將 表示為
,
,
正正正正態分布函數態分布函數態分布函數態分布函數
常需計算高斯隨機變量ξ ≤某個值x的機率P(ξ ≤ x), 等於機率密度函數f(x)的積分:
21. 21
正正正正態分布函數態分布函數態分布函數態分布函數
常需計算高斯隨機變量ξ ≤某個值x的機率P(ξ ≤ x), 等於機率密度函數f(x)的積分:
2
2
, ( ) :
1 ( )
( ) ( ) exp
22
1 1
2 2 2
( )
1
1
2 2
x z a
F x P x dz
x a
erf x a
F x
x a
erf x
F x
c a
ξ
σπσ
σ
σ
−∞
− −
= ≤ =
−
+ ≥
=
− − <
∫
利用誤差函數 可將 表示為
,
,
2
/2
:
1
( ) , 0
2
1
( )
2 2
( ) 2 ( 2 )
( )
1
( ) 1 1
3.
:
, ( ) :
2 2
t
x
Q x e dt x
x
Q x erfc
erfc x Q x
Q
Q erfc
Q F x
x a
x a x a
F x erfc
P x Q
Q
ξ
π
σ
σσ
∞
−
≡ ≥
=
=
−
− −
= − = −
> =
∫
用 函數表示正態分佈函數
函數和 函數的關係
函數和分佈函數 的關係
常用於表示高斯曲線尾部下的
可以計算
面積函數
1
(0)
2
( ) 0
( ) 1 ( ), 0
Q
Q
Q x Q x x
=
∞ =
− = − ≥
遞 函數減
23. 23
平穩隨機過程通過線性平穩隨機過程通過線性平穩隨機過程通過線性平穩隨機過程通過線性系統系統系統系統
( ) ( )* ( ) ( ) ( ) or ( ) ( )* ( ) ( ) ( )
corresponding
1. ,
( ) ( ) ( )
2. ( ) ( ) ( )
input output convol
,
utio
:
( )
n
o i i o i i
FT
o i
o i
i
v t v t h t v h t d v t h t v t h v t d
V f H f V f
t h t d
tξ
τ τ τ τ τ τ
ξ τ ξ τ τ
∞ ∞
−∞ −∞
∞
−∞
= = − = = −
⇔ =
= −
∫ ∫
∫
確知信號通過線性系統 可由 表示
隨機信號通過線性系
假設 是平
統
穩輸入隨
( )
( ) ( ) ( ) [ ( )] ( ) (
[ (
(1)
, , ( )
) ( ) [ ( )]
[ ( )]
)] ( )
[ (
, ( )
(0
]
)
,
)
w
o
o
o i o i i
i i
i i
t h t d E t E h t d h E t d
E t E t
a R
E t a h a H
a
t
d
P
ξ
ξ τ ξ τ τ ξ τ ξ τ τ τ ξ τ τ
ξ
τ
τ
τ τ
ξ
ξ
ω
∞ ∞ ∞
−∞ −∞
∞
∞
−
−
∞
=
= ⋅
− ⇒ = − = −
− = =
= ⋅
∫ ∫ ∫
∫
輸出過程 的均值:
對下式兩邊取統
機過程 是均值 自相關函數 功率譜密度
計平均
設輸入過程是平穩的 則
1 1 0 1 0 1 1 1
1 1
here (0) 0 freq. response,
( )
( , ) [ ( ) ( )] ( ) ( ) ( ) ( )
( ) ( ) [ (
(2)
) (
[
)]
o
o i i
i i
H f
R t t E t t E h t d h t d
h h E
t
t t d d
E
ξ
τ ξ ξ τ α ξ α α β ξ τ β β
α β ξ α ξ τ β α β
ξ
∞ ∞
−∞ −∞
∞ ∞
−∞ −∞
= ∴
+ ≡ + = − ⋅ + −
= − + −
∫ ∫
∫ ∫
∵
輸出
輸出過程 的自相關函數:
根據輸入過
過程均值是常
程的平穩性
系統 數是線性 處的
1 1
1 1
( ) ( )] ( )
( , ) ( ) ( )
AC
)
. ,
(
,F
) (
i i i
o i o
t t R
R t t h h R d d R
α ξ τ β τ α β
τ α β τ α β α β τ
τ
∞ ∞
−∞ −∞
− + − = + −
∴ + = + − =∫ ∫
輸出過程的 僅是時間間隔 的函數 由上兩式可知 若線性系統的輸入是平穩的 則輸出也是平穩的
24. 24
平穩隨機過程通過線性平穩隨機過程通過線性平穩隨機過程通過線性平穩隨機過程通過線性系統系統系統系統
1 1
:
(3) P
, ( ) , ,
2. ( ) ( ) ( )
( )
( , ) ( ) ( ) ( ) ( )
( ) ( ) ( ) ( )
SD:
(
( ) , ( )
o i
o
o i
i i
o
i
o
j
o i
t h t d
FT R t t h
t a
h R d d R
P f R e h R
P
d
t
R
hωτ
ξ τ ξ τ τ
ξ τ ω
ξ
τ α β τ α β α β τ
τ τ α β τ α
∞
−∞
∞ ∞
−∞ −∞
∞ ∞ ∞
−
−∞ −∞ −∞
= −
+ = + − =
= = +
∫
∫ ∫
∫ ∫ ∫
隨機信號通過線性系統
輸出
假設 是平穩輸入隨機過程 是均值 自相關函數 功率譜密度
過程 的
2
2
*
) ,
( ) ( ) ( ) ( )
( ) ( ) ( )
, : ACF PSD ( ) ( )
(( )
( ) ( ) ( )
PS
4) :
D PSD
j
j j j
o i
o
o i
o
o
i
o
d d e d
P f h e d h e d R e d
H f H f P f
P f
f
t
P f f P
R
H
ωτ
ωα ωβ ωτ
β α β τ τ τ α β
α α β α τ τ
τ
ξ
ξ
∞
−
−∞
∞ ∞ ∞ ′− −
−∞ −∞ −∞
′− = + −
′ ′=
= ⋅ =
=
⋅
∴ ⇔×
∫
∫ ∫ ∫
輸出過程的
輸出過程
輸入過程
令
應用 要快速的 系統頻率
的機率分
響應 先求
佈
得輸出
0
0
( ) ( ) ( )
( ) lim ( ) ( )
) , .
.
,
(
k
i
o k i k k
k
i
t h t d
t h t
t
τ
τ ξ τ τ
ξ τ ξ τ τ
ξ
∞
−∞
∞
∆ →
=
= −
=
∴
⇒
− ∆
∫
∑
∵已假設 是高斯型的 所以上式右端的每一項在任一時刻上都是一個高斯隨機變數
輸出過程在任一時刻上得到的隨機變數就是無限多個高斯隨機
如果線性系統的輸入過程是高斯型的 則系統的輸出過程也是
變數之和
高斯型的
29. 29
運算式運算式運算式運算式::::
( ) cos[ ] , ( )( ) ( 0)ct t aa t t tξξ ξϕξ ω= + ≥
—包絡相位形式包絡相位形式包絡相位形式包絡相位形式
( ) ( )( ) cos sinc s cc t tt t tξ ωξ ξ ω= −
—同相正交形式同相正交形式同相正交形式同相正交形式
隨機包絡隨機包絡隨機包絡隨機包絡 隨機相位隨機相位隨機相位隨機相位
同相分量同相分量同相分量同相分量 正交分量正交分量正交分量正交分量
兩者關係兩者關係兩者關係兩者關係::::
( )tξ
窄帶隨機過程的表示式窄帶隨機過程的表示式窄帶隨機過程的表示式窄帶隨機過程的表示式 ( ) ( )cos[ ( )], ( ) 0
( ) ( )cos ( )sin
( ) ( )cos ( )
where
( ) ( )sin ( )
c
c c s c
c
s
t a t t t a t
t t t t t
t a t t
t a t t
ξ ξ ξ
ξ ξ
ξ ξ
ξ ω φ
ξ ξ ω ξ ω
ξ ϕ
ξ ϕ
= + ≥
= −
=
=
30. 30
ξξξξc(t)和和和和ξξξξs(t)的統計特性的統計特性的統計特性的統計特性
[ ( )] 0,
1.
, ,
( ) ( )cos ( )sin
[ ( )] [ ( )]cos [ ( )]sin
( ) [ ( )] 0
2. ( )
( , ) [ ( ) ( )
[ ( )] 0
]
( , )cos co
ACF:
s ( ) ( ,
c c s c
c c s c
c c c
s
cs
c
t t t t t
E t E t t E t t
t E t
t
R t t E t t
R t t t
E t E
t R t t
t
t
ξ
ξ ξ ω ξ ω
ξ ξ ω ξ ω
ξ ξ
ξ
ξ
τ ξ ξ τ
τ ω ω
ξ
τ
= −
= −
=
∴
+ = +
= + + − +
= =
∵
數學期望:
平穩且均值為零 對於任意時間 都有
的
)cos sin ( ) ( , )sin cos ( ) ( , )sin sin ( )
where
( , ) [ ( ) ( )]
( , ) [ ( ) ( )]
( , ) [ ( ) ( )]
( , ) [ ( ) ( )]
( ) , ), (
c c sc c c s c c
c c c
cs c s
sc s c
s s s
t t R t t t t R t t t t
R t t E t t
R t t E t t
R t t E t t
R t t E t t
t R t tξ
τ ω ω τ τ ω ω τ τ ω ω τ
τ ξ ξ τ
τ ξ ξ τ
τ ξ ξ τ
τ ξ ξ τ
ξ τ
+ − + + + + +
+ = +
+ = +
+ = +
+ =
∴
+
+ =∵ 是平穩的 ( )
( , ) ( ), ( , ) ( )
( ) ( , )cos ( , )sin ( )cos ( )sin
(
, .
(1) 0,
(2) / 2 , ) ( ), ( , ), ( )
( ) ( )cos
c c cs cs
c c cs c c c cs c
s s sc sc
s
c
c sc
R
R t t R R t t R
R R t t R t t R R
R t t R R t t R
t
t
t
R R R
ξ
ξ
τ
τ
τ τ τ τ
τ τ ω τ τ ω τ τ ω τ τ ω τ
τ τπ ω τ τ
τ τ ω τ
+ = + =
= + − + = −
+ = + =
= +
=
=
上式的右端與時間 無關 而僅與 有關
令
令
( ) , ( )
( )sin
( )
c
c st t tξ ξ
τ
ξ
τ ω
若窄帶過程 是平穩的 則 和 也必然是平穩的
31. 31
ξξξξc(t)和和和和ξξξξs(t)的統計特性的統計特性的統計特性的統計特性
( ) ( )cos ( )sin
( ) ( )cos ( )sin
( ) ( ) and ( ) ( )
( ) ( )
( ) ( ), ( )
(0) 0 a
( ) ( )
nd (0) 0
c c cs c
s c sc c
c s cs sc
cs sc
c s
sc sc sc
sc cs
s
R R R
R R R
R R R R
R R
R R R
R R
t
R
t
ξ
ξ
τ τ ω τ τ ω τ
τ τ ω τ τ ω τ
τ τ τ τ
τ τ
τ τ τ
ξ
τ
ξ
= −
= +
= = −
= −
=
∴
− −
=∴ =
⇒
∵
同相分量 和正交分量 具有相同的自
應同時成立
式表明 是 的奇函
數
數
代入
左
相關函
1 1
2 2 2
(0) 0 and (0) 0
( ) ( )cos ( )sin
( ) ( )cos ( )sin
(0) (0) (0)
( ) ( )cos (
( ( ), ( ),
)sin
0, (
( )
,
)
c cs
c c cs c
s c sc c
c
c
c
s s s
s
c c
c
R
R R R
R R R
t t t t t
t
R
t t
R R t t t
t
ξ
ξ
ξ
ξσ σ σ ξ
τ τ ω τ τ ω τ
τ τ ω τ τ ω τ
ξ ξ ω ξ
ξ
ξ
ω
ξ= = ⇒
= =
= −
= +
⇒
= −
= =
= = 具有相同的平均功率
根據平穩性 過程的特性與變
或方差
數
代入
無關
1
2 2 2
1 2
( ),
) ( )
, ( ) ( )
2
(
( )
)
( ), ( )
s
c
s
c
c
t
t t t t
t
t
t
t
t
ξ
π
ξ ξ
ω
ξ
ξ ξ
ξ ξ
=
= = = −
∴
∴
∵ 是高斯過程
一定是高斯隨機變數
也是高斯過程
(0) 0
( ),
( ),
( ) 0
( )
cs
c s
c s
R
t t
t t
τ
ξ
ξ ξ
ξ
=
=
∴
∵
在 處互不相關
它
也
們是高斯型的
是統計獨立
32. 32
同同同同相和正交分量相和正交分量相和正交分量相和正交分量的統計特性的統計特性的統計特性的統計特性
( ) ( )( ) cos sinc s cc t tt t tξ ωξ ξ ω= −
根據上式和窄帶過程的統計特性,可推出:
均值 0、方差 的平穩高斯窄帶過程 ,它的
2 2 2
c sξσ σ σ= =
並且 互不相關
∴統計獨立
∵高斯
∵均值 0
平均功率相同
且均值為0,方差也相同:
結論結論結論結論1
2
ξσ
( )
( )
c
s
t
t
ξ
ξ
→
同樣也是
同相分量
正交分量
平穩、高斯
(0) 0CS
R =
37. 37
窄帶高斯雜訊
( 0, )
合成信號:
cos[ ( )]( ) cz t t tω ϕ= +
( )cos ( )sinc c s cn t t n t tω ω= −
( ) cos( )) (cr A t n tt ω θ= + +
( )cos ( )sinc c S cz t t z t tω ω= −
關心---z(t) 的統計特性的統計特性的統計特性的統計特性:
2
ξσ
常數
隨機相位
[在(0,2π)上均勻分布]
⤷
39. 39
正弦波加窄帶高正弦波加窄帶高正弦波加窄帶高正弦波加窄帶高斯斯斯斯噪聲噪聲噪聲噪聲
( ) cos( ) ( )
( ) ( )cos ( )sin
( ) [ cos ( )]cos [ sin ( )]sin ( )cos ( )sin ( )cos[ (
:
, 0 ~ 2 ,
)]
where
( ) cos
:
(
c
c c s c
c
c c s c c c s c c
c c
r t A t n t
n t n t t n t t
r t A n t t A n t t z t t z t t z t t t
z t A n
A
ω θ
ω ω
θ ω
θ ω θ ω ω ω ω φ
θ
π
= + +
= −
= + − + = − = +
= +
窄帶高斯雜訊
正弦波的隨機相位 均勻分佈在 間 和 確知振幅和角頻率
2 2
1
)
( ) sin ( )
( )
( ) ( ) ( ), 0
( )
( ) tan , (0 2 )
( )
( ) ( ) ( )
s s
c s
s
c
t
z t A n t
r t
z t z t z t z
z t
t
z t
r t z t t
θ
φ φ π
φ
−
= +
= + ≥
= ≤ ≤
包絡和相位分別為
包我們 絡 和關心 相位 統計特性
40. 40
正弦波加窄帶高斯雜訊正弦波加窄帶高斯雜訊正弦波加窄帶高斯雜訊正弦波加窄帶高斯雜訊的的的的”包絡包絡包絡包絡”的的的的統計特性統計特性統計特性統計特性
2 2 2
2 2
2 2
[ ] cos
[ ] sin
1 1
( , / ) exp ( cos ) ( sin )
2 2
c
,
, :
os
sin
c s
c
s
c s n
c s c s c s
n n
c
c s
s
z z
E z A
E z A
z z f z z z A z A
z z
z z
z
z
z
θ
θ
θ
σ σ σ
θ θ θ θ
πσ σ
φ
φ
φ
θ
=
=
= =
= − − + −
=
=
如果 值已給定 則 是相互獨立的高斯隨機變數
給定相位 的條件下 的聯合機率密度函數為
根據 與 之間的隨機變數關係
可以求得在給定相位 的條件
2 2
2 2
2 2
2 2
2 2 20 0
( , ) 1
( , / ) ( , / ) ( , / ) exp 2 cos( )
( , ) 2 2
( / ) ( , / ) exp exp cos( )
2 2
1
exp
2
c s
c s c s
n n
n n n
z z z
f z f z z z f z z z A Az
z
z z A Az
f z f z d d
z
π π
φ
φ θ θ θ θ φ
φ πσ σ
θ φ θ φ θ φ φ
πσ σ σ
π
∂
= = ⋅ = − + − − ∂
+
= = − ⋅ −
∫ ∫
∵
下的 與 的聯合機率密度函數
然後求給定條件下的邊際分布
[ ]
2
00
2
0 0 0 02 20
2 2
02 2 2
cos ( )
1
exp cos( ) where ( ) ( ) and (0) 1
2
1
(
Bessel ,
/ ) exp (
0,
,
)
2
( , ) :) ( (
n n
n n n
x
x d I x
Az Az
d I I x I x I
z Az
f z z A I
r t f zz zf
π
π
φ φ
θ φ φ
π σ σ
θ
σ σ σ
θ θ
=
∴ − = =
= ⋅ − +
≥
∫
∫ 第
的包絡
一類零階
的機
修正
率密
函
度
數
函
當
與 無關 故 數為
遞單調 增
2 2
02 2 2
1
) exp ( ) , 0
2
Rayleigh or Rice
n n n
z Az
z A I z
σ σ σ
= − + ≥
稱廣義 分布 分布
41. 41
2 2
02 2 2
1
( ) : ( ) exp ( ) , 0 Rayleigh or Rice
2n n n
z Az
r t z f z z A I z
σ σ σ
= − + ≥
的包絡 的機率密度函數為 稱廣義 分布 分布
正弦波加窄帶高斯雜訊正弦波加窄帶高斯雜訊正弦波加窄帶高斯雜訊正弦波加窄帶高斯雜訊的的的的”包絡包絡包絡包絡”的的的的統計特性統計特性統計特性統計特性
當信噪比很小時, 即A → 0時, 上式中(Az/σn
2)很小, I0 (Az/σn
2) ≈ 1, 上式的Rice分布退化為Rayleigh分布
當信噪比(Az/σn
2)很大時, 有 , 這時上式近似為高斯分布, 即
2
2 2
Review...
( ) ( , ) exp , 0
2
Rayleigh
a a
f a f a d a
a
ξ ξ
ξ ξ ξ ξ ξ
ξ ξ
ξ
ϕ ϕ
σ σ
∞
−∞
= = − ≥
⇒
∫
服從 分布
0 ( )
2
x
e
I x
xπ
≈
2
2
1 ( )
( ) exp
22 nn
z A
f z
σπσ
−
≈ ⋅ −
包絡機率密度包絡機率密度包絡機率密度包絡機率密度函數函數函數函數f(z)曲線曲線曲線曲線
47. 47
高斯高斯高斯高斯白噪白噪白噪白噪聲和聲和聲和聲和帶限帶限帶限帶限白噪聲白噪聲白噪聲白噪聲
帶限白噪聲
• 定義:白噪聲通過頻寬有限通道或濾波器的情形
• 1. 白噪聲通過LPF: 低通白噪聲
• 2. 白噪聲通過BPF: 帶通白噪聲
0
0
1.
( ) 2
0 others
sin 2
( )
2
/ 2 ( )
1,
( ) 2 2
0,
PSD:
PSD ,
ACF:
,
2.
H
n
H
H
H
H
H
c c
n
f f
P f
f f
f
R n f
f
k f k
B B
f f f
H f
π τ
τ
π τ
τ
≤
=
≤
=
= ∈
− ≤ ≤ +
=
ℕ
低通白噪聲
白噪聲的 被限制在 內 通常把這樣的噪聲也稱為帶限白噪聲
由曲線看出 這種帶限白噪聲只有在 上得到的隨機變數才不相關
帶通白噪聲
0
2 2 20 02 2
2 2
,
other
,
( ) 2 2 2
0, other
( )
: , :
( )
2 2
PSD:
c c
c c
c c
n
B B
f f
j f j f j f
B Bn
f f
c
f
n B B
f f f
P f
f
n n
R P f e d
f B
f e df e dπ τ π τ π τ
τ
∞ − + +
−∞ − − −
− ≤ ≤ +
=
= = +∫ ∫ ∫
中心頻率 帶寬
0
0
2
0
sin
cos2
ACF ( ) sin ( )cos:
:
2
c
c
n
B
f n B f
B
R n B c B f
N n B
π τ
π τ
π τ
τ π τ π τ
σ
=
= ⋅
= =平均功率
窄帶高斯白噪聲
通常, BPF的B << fc , 因此稱窄帶濾波器,
相應地把帶通高斯白噪聲稱為
窄帶高斯白色噪聲.
50. 50
Ex: 0 0( ) sinc(2 )cos2 , 20, 100,R B f B f PSDτ τ π τ= = =已知噪聲的自相關函數為 求
%use octave plot
clear all;
ts=0.00002;
tau=-1:ts:1;
B=20;
f0=100;
R=sinc(2*B*tau).*cos(2*pi*f0*tau);
fs=1/ts;
df=fs/length(tau);
f=-fs/2:df:fs/2-df;
PSD=fft(R)/fs;
subplot(2,1,1);plot(tau,sinc(2*B*tau),'b');axis([-0.5,0.5,-1,1]);
hold on;
subplot(2,1,1);plot(tau,R,'r');title('ACF');xlabel('tau');ylabel('ACF');axis([-0.5,0.5,-1,1]);
hold off;
subplot(2,1,2);plot(f,fftshift(abs(PSD)));title('PSD');xlabel('f');ylabel('PSD');axis([-300,300,0,0.014]);
51. 51
Ex: 0.6 , 0
, ( )
0, 0
0 1 , ,
:
( ) 0.6 ( 1) ( ), 1, ( 1) 0
n
n
h n
n
ACF PSD
sol
y n y n x n n y
≥
=
<
= − + ≥ − =
白躁聲序列 通過濾波器產生序列此濾波器脈衝響應為
輸入序列是均值 方差 的高斯分布隨機變量 求輸出
輸入輸出遞推方程可表示成
%octave code
clear all
N1=2000;
N2=100;
tt=1:N1;
x=randn(N2,N1);
for i=1:N2
y(i,1)=x(i,1);
for j=2:N1
y(i,j)=0.6*y(i,j-1)+x(i,j);
end
[Ry(i,:),lags]=xcorr(y(i,:),50,'coeff'); %calculate ACF
Sf(i,:)=fftshift(abs(fft(Ry(i,:)))); %calculate PSD
end
Ry_av=sum(Ry)/N2;
Sf_av=sum(Sf)/N2;
subplot(4,1,1);plot(tt,x(1,:));title('x(t)');
subplot(4,1,2);plot(tt,y(1,:));title('y(t)');
subplot(4,1,3);plot(lags,Ry_av);title('ACF');axis([-50 50 0 1]);
subplot(4,1,4);plot(lags,Sf_av);title('PSD');axis([-50 50 0 5]);
52. 52
0.6 , 0
, ( )
0, 0
0 1 , ,
:
( ) 0.6 ( 1) ( ), 1, ( 1) 0
n
n
h n
n
ACF PSD
sol
y n y n x n n y
≥
=
<
= − + ≥ − =
白躁聲序列 通過濾波器產生序列此濾波器脈衝響應為
輸入序列是均值 方差 的高斯分布隨機變量 求輸出
輸入輸出遞推方程可表示成