1. 1
Metodos de Solución Iterativos
Empezar con una aproximación inicial para
el vector solución (x0
)
Actualizar en cada iteración el vector x
usando el sistema Ax=b
Cada iteración involucra el producto matriz-
vector.
Si A es esparcida este producto es realizado
eficientemente.
2. 2
Procedimiento de solución
Iterativa
Escribir el sistema Ax=b en una forma
equivalente x=Tx+c
Empezando con x0
, genere una secuencia de
aproximaciones {xk
} iterativamente por
xk+1
=Txk
+c
Representación de T y c dependen del tipo
de método usado.
Pero para cada método T y c son obtenidas a
partir de A y b.
3. 3
Convergencia
Cuando k, la secuencia {xk
} converge a un
vector solución bajo algunas condiciones en
la Matriz T.
Esto impone condiciones diferentes en la
matriz A para diferentes métodos.
Para la misma matriz A, un método puede
converger mientras que otro puede divergir.
Por lo tanto para cada método la relación
entre A y T deben ser encontradas para
decidir la convergencia.
4. 4
Diferentes metodos Iterativos
Iteración de Jacobi
Iteración de Gauss-Seidel
Successive Over Relaxation (S.O.R)
SOR es un método usado para acelerar la
convergencia.
La iteración de Gauss-Seidel es un caso especial
del método SOR.
6. 6
Método de Jacobi. Forma Matricial
Descomponiendo A = D - L - U.
-L=tril(A)-D
-U
-L
D
D=diag(diag(A))
=
-U=triu(A)-D
7. 7
xk+1
=Txk
+c - iteración por el método de
Jacobi
Se puede escribir como A=D-L-U (No es una
factorización)
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
23
13
12
32
31
21
33
22
11
33
32
31
23
22
21
13
12
11
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
n
i
j
k
j
ij
i
j
k
j
ij
i
ii
k
i x
a
x
a
b
a
x
1
1
1
1 1 xk+1
=D-1
(L+U)xk
+D-1
b
T=D-1
(L+U)
c=D-1
b
Ax=b (D-L-U)x=b Dxk+1
= (L+U)xk
+b
k
k
Ux
Lx
Dxk+1
9. 9
x(k+1)
=Tx(k)
+x iteración de Gauss-Seidel
1
1 1
1
1 1 i
j
n
i
j
k
j
ij
k
j
ij
i
ii
k
i x
a
x
a
b
a
x
xk+1
=(D-L)-1
Uxk
+(D-L)-1
b
Tgs=(D-L)-1
U
cgs=(D-L)-1
b
Ax=b (D-L-U)x=b
(D-L)xk+1
=Uxk
+b
k
1
k
Ux
Lx
Dxk+1
10. 10
Comparación
İteración de Gauss-Seidel converge más
rápidamente que la iteración de Jacobi
desde que este usa la última actualización.
Pero existen algunos casos que la iteración
de Jacobi converge pero Gauss-Seidel no.
El método de sobre relajación sucesiva es
usada para acelerar la convergencia del
método de Gauss-Seidel.
11. 11
Metodo Sobre Relajación Sucesiva
(SOR)
Puede ser escrita como sigue
k
i
k
i
k
i
i
j
n
i
j
k
j
ij
k
j
ij
i
ii
k
i
k
i
x
x
x
a
x
a
b
a
x
x
1
1
1
1
1 1
término Corrector
0
i
x
1
i
x
2
i
x
3
i
x
0
i
1
i
2
i
0
i
1
i
2
i
1
Multiplicando por
Converge más
rápido
12. 12
SOR
1
1
1
1 1
1
1
1
1
1
1
1
~
)
1
(
1
)
1
(
1
k
i
k
i
k
i
i
j
n
i
j
k
j
ij
k
j
ij
i
ii
k
i
k
i
i
j
n
i
j
k
j
ij
k
j
ij
i
ii
k
i
k
i
k
i
k
i
k
i
x
x
x
x
a
x
a
b
a
x
x
x
a
x
a
b
a
x
x
x
x
Donde el ultimo termino es la estimación de Gauss-
Seidel
1<<2 Sobre-relajación (convergencia rápida)
0<<1 Sub-relajación (convergencia más lenta)
Existe un valor óptimo para
13. 13
x(k+1)
=Tx(k)
+c iteración para SOR
1
1 1
1
1 1
)
1
(
i
j
n
i
j
k
j
ij
k
j
ij
i
ii
k
i
k
i x
a
x
a
b
a
x
x
Dxk+1
=(1-)Dxk
+b+Lxk+1
+Uxk
(D- L)xk+1
=[(1-)D+U]xk
+b
T=(D- L)-1
[(1-)D+U]
c= (D- L)-1
b
14. 14
Convergencia de los métodos
iterativos
x̂
Define el vector solución como
Define el vector error como k
e
x
e
x k
k
ˆ
k
k
k
Te
c
x
T
c
x
e
T
x
e
ˆ
)
ˆ
(
ˆ
1
0
)
1
(
2
1
1
e
T
TTTe
TTe
Te
e k
k
k
k
k
Substituye esto en c
Tx
x k
k
1
15. 15
Convergencia de los Métodos
Iterativos
0
)
1
(
0
)
1
(
1
e
T
e
T
e k
k
k
Condición de Convergencia
0
Lim
s
0
Lim )
1
(
1
k
k
k
k
T
i
e
iteración potencia
El método iterativo convergería para cualquier vector
inicial arbitrario si la siguiente condición es satisfecha
16. 16
Norma de un vector
La norma de un vector debe satisfacer estas
condiciones:
y
x
y
x
α
ara
x
αx
x
i
x
x
ara
x
escalar
un
P
nulo
un vector
es
si
solo
y
s
0
nulo
no
vector
cualquier
P
0
Las normas Vectoriales pueden ser definidas de
diferentes formas en tanto que la definición de
norma sea satisfecha.
17. 17
Normas de vectores
Comunmente usadas
n
x
x
x
x
2
1
1
norma Suma o norma ℓ1
norma Euclideana ó norma ℓ2
2
2
2
2
1
2 n
x
x
x
x
norma Máxima o norma ℓ
i
i x
x max
18. 18
Norma de una matriz
La norma de una matriz debe
satisfacer estas condiciones:
B
A
B
A
α
ara
A
αA
A
si
solo
y
i
A
A
escalar
p
nula
matriz
una
es
s
0
0
Importante identidad
un vector
es
x
x
A
Ax
19. 19
Normas de matrices mas usadas
Norma Máxima suma_columna o norma ℓ1
Norma Espectral o norma ℓ2
m
i
ij
n
j
a
A
1
1
1
max
A
A
A T
de
propio
valor
maximo
2
n
j
ij
m
i
a
A
1
1
max
Norma Maxima suma_fila o norma ℓ
20. 20
Ejemplo
Calcule las normas ℓ1 y ℓ de la matriz
1
8
6
4
2
7
5
9
3 17
13
15
A
16 19 10
1
A
21. 21
Condición de Convergencia
0
lim
s
0
lim )
1
(
1
k
k
k
k
T
i
e
Expresar T en terminos de matriz modal P y
: Matriz Diagonal con valores propios de T en la diagonal
1
)
1
(
)
1
(
1
1
1
)
1
(
1
P
P
T
P
P
P
P
P
P
T
P
P
T
k
k
k
1
1
2
1
1
1
k
n
k
k
k
,...,n
,
i
P
P
T
i
k
i
k
k
k
k
k
k
k
2
1
for
1
0
lim
0
lim
0
lim
0
lim
1
)
1
(
1
)
1
(
)
1
(
22. 22
Condición Suficiente para
convergencia
Si la magnitud de todos los valores propios de la
Matriz de iteración T es menor que 1 entonces la
iteración es convergente
T
T
T
x
T
x
x
T
Tx
x
Tx
x
Tx
)
(
Los valores propios son mas fácil de calcular que
la norma de una matriz
1
)
(
T
condición suficiente para convergencia
23. 23
Convergencia de la iteración de
Jacobi
T=D-1
(L+U)
0
0
0
1
1
1
1
1
22
2
22
23
22
21
11
1
11
12
nn
nn
nn
n
n
n
n
n
n
n
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
T
24. 24
Convergencia de la iteración de
Jacobi
n
j
i
j
ij
ii
n
j
i
j ii
ij
a
a
a
a
T
1
1
n
1,2,...,
i
Para
1
1
Evaluar la norma infinita (suma máxima fila) de T
Matriz Diagonal
estrictamente
Dominante
Si A es una matriz con diagonal estrictamente
dominante, entonces la iteración de Jacobi
converge para cualquier valor inicial
25. 25
Criterios de Parada
Ax=b
En cualquier iteración k, el término residual es
rk
=b-Axk
Verificar la norma del término residual
||b-Axk
||
Si esto es menor que la cota del valor de
parada
30. 30
Convergencia de la iteración de
Gauss-Seidel
Iteración GS converge para cualquier vector
inicial si A es una matriz diagonal
estrictamente dominante
Iteración GS converge para cualquier vector
inicial si A es una matriz simétrica y definida
positiva – La matriz A es definida positiva si
xT
Ax>0 para cualquier vector x no nulo.
33. 33
Convergencia del método SOR
Si 0<<2, método SOR converge para
cualquier valor inicial si A es una matriz
simétrica y definida positiva.
Si >2, método SOR diverge
Si 0<<1, SOR método converge pera la
velocidad de convergencia es mas lenta que
el método de Gauss-Seidel.
34. 34
Conteo de operaciones
El # de operaciones para la Eliminación gaussiana o
la descomposición LU es de 0 (n3
), orden de n3
Para los métodos iterativos, el número de
multiplicaciones escalares es 0 (n2
) en cada
iteración.
Si el número total de las iteraciones requeridas para
la convergencia es mucho menos que n, entonces
los métodos iterativos son más eficiente que
métodos directos.
Los Métodos iterativos también se satisfacen bien
para las matrices esparcidas.
35. 35
Formas Matriciales. Resumen
La solución del sistema
La solución del sistema A x = b
A x = b se obtiene
se obtiene
mediante la siguiente expresión recursiva:
mediante la siguiente expresión recursiva:
x
x ( k )
( k )
= Tx
= Tx ( k-1 )
( k-1 )
+ c
+ c
A= D - L - U
A= D - L - U
Método
Jacobi
Gauss-Seidel
SOR
T c
D-1
(L+U) D-1
b
( D -L)-1
U ( D -L)-1
b
(D-w L)-1
[(1-w) D + w U ] w(D-w L)-1
b
36. 36
Problema 1
Resolver el siguiente sistema por el método SOR,
considere ω=1.25.
0
0
0
2
4
6
4
2
4
0
3
0
2
0
1
3
2
3
2
1
2
1
x
x
x
x
x
x
x
x
x
x
1
1 ~
)
1
(
k
i
k
i
k
i x
x
x
Aplicamos el metodo de SOR:
37. 37
Problema 1
5
2419726562
.
1
0
25
.
1
1
017578125
.
1
25
.
1
1
~
017578125
.
1
4
0703125
.
2
2
4
2
~
0703125
.
2
0
25
.
1
1
65625
.
1
25
.
1
1
~
65625
.
1
4
0
625
.
0
6
4
6
~
625
.
0
0
25
.
1
1
5
.
0
25
.
1
1
~
5
.
0
4
0
2
4
2
~
0
3
1
3
1
3
1
2
1
3
0
2
1
2
1
2
0
3
1
1
1
2
0
1
1
1
1
1
0
2
1
1
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
x
39. 39
Problema 2
Sea el sistema A x = b :
Para k=-1, es la matriz A definida positiva?
Para que valores de k el sistema converge, al usar el método de Gauss-Seidel?
Hacer 03 iteraciones de Gauss-Seidel para k=-3
9
6
3
1
2
2
1
x
x
k
40. 40
Problema 2
A es definida positiva si:
nulo.
no
x
todo
para
0
2
)
(
2
3
1
1
2
nulo
no
columna
vector
todo
para
,
0
2
2
2
2
1
2
1
2
1
2
1
x
x
x
x
x
x
x
x
x
Ax
xT
Observese que también satisface el criterio
de Silvester