SlideShare una empresa de Scribd logo
Métodos iterativos

           Damián Ginestar Peiró

        Departamento de Matemática Aplicada
         Universidad Politécnica de Valencia


              Curso 2009-2010




(UPV)              Métodos iterativos          Curso 2009-2010   1 / 17
Índice




1   Introducción


2   Conceptos básicos


3   Métodos iterativos estacionarios




         (UPV)                Métodos iterativos   Curso 2009-2010   2 / 17
Introducción


Dada una matriz invertible de tamaño n × n y un vector b ∈ Rn la única
solución del sistema
                                Ax = b
es
                              x = A−1 b


     Nosotros trabajaremos con matrices vacías (sparse) es decir
     matrices con un número de elementos no nulos (nz(A)) del orden

                                 nz(A) = c · n

     con c independiente de n.



         (UPV)                Métodos iterativos       Curso 2009-2010   3 / 17
Introducción



No se puede hacer la inversión de A ya que:
 1   A−1 puede dejar de ser vacía, es decir se llena, =⇒ no se puede
     almacenar.
 2   Cálculo de A−1 puede costar O(n3 ) operaciones (tiempo de CPU:
     años).

     Buscaremos métodos aproximados para la resolución del sistema
     que se basan esencialmente en el producto matriz-vector.




         (UPV)                Métodos iterativos       Curso 2009-2010   4 / 17
Conceptos básicos


   Un método iterativo obtiene una solución aproximada de Ax = b
   construyendo una sucesión de vectores:

                                x1 , x2 , . . . , xk

   desde un vector inicial arbitrario x0 .
   Un método iterativo se dice convergente si

                                 lim xk = x .
                                k →∞

   El vector error, en cada iteración, se define como

                                ek = x − xk .



        (UPV)                  Métodos iterativos      Curso 2009-2010   5 / 17
Conceptos básicos




   El vector residuo, en cada iteración, se define como

                            rk = b − Axk .

   Se puede probar

       lim xk = x    ⇐⇒     lim ek = 0           ⇐⇒   lim rk = 0
      k →∞                 k →∞                       k →∞




       (UPV)                Métodos iterativos          Curso 2009-2010   6 / 17
Conceptos básicos

   Un método iterativo nunca da la solución exacta incluso en
   precisión infinita.
   Los métodos directos teóricamente producen la solución exacta;
   pero en un ordenador dan errores numéricos.
   Se da a priori una precisión para nuestra solución. Sea TOL el
   error máximo permitido.

                                                         ek
    ek < TOL, (error absoluto)              o                 < TOL (error relativo)
                                                         x

   Pero x, y ek no son conocidos el criterio de parada no es útil.
   Se utiliza el criterio del residuo
                                                    rk
                rk < TOL (absoluto) o                    < TOL (relativo)
                                                    b

        (UPV)                  Métodos iterativos                    Curso 2009-2010   7 / 17
Conceptos básicos



   La relación entre el error y el residuo es

                    rk = b − Axk = Ax − Axk = Aek .

   Usando normas matriciales:

               rk ≤ A ek (1a);                  ek ≤ A−1   rk (1b)

   Notar además

       x ≤ A−1       b (2a);            b ≤ A A−1 b = A x (2b)




       (UPV)                   Métodos iterativos           Curso 2009-2010   8 / 17
Conceptos básicos



   Combinando (1a) con (2a) y (1b) con (2b) obtenemos

                  1        rk           ek                      rk
                                 ≤                ≤ A A−1
                A A−1      b            x                       b

   Finalmente, recordando que κ(A) = A A−1 :

                     1 rk              ek                  rk
                                 ≤                ≤ κ(A)
                    κ(A) b             x                   b

   Conclusión: Test del residuo es fiable si κ(A) no es muy grande.




       (UPV)                 Métodos iterativos                  Curso 2009-2010   9 / 17
Métodos iterativos estacionarios

Sea A la matriz del sistema Ax = b. Podemos considerar la partición
(splitting)
                             A=M −N
donde M = A es una matriz invertible.

Se construye el sistema iterativo

          xk +1 = M −1 Nxk + M −1 b = Hxk + q,       k = 0, 1, . . .

donde H es la matriz de iteración y x0 el vector inicial.

Definición
Se dice que un método iterativo es estacionario si la matriz de
iteración H es constante en todo el proceso.


         (UPV)                  Métodos iterativos           Curso 2009-2010   10 / 17
Métodos iterativos estacionarios
     Sea A tal que aii = 0 y consideremos la partición

                                 A=L+D+U


         L es la parte estrictamente triangular superior de A,
         D es la parte diagonal de A,
         U es la parte estrictamente triangular superior de A.

 1   Método de Jacobi: M = D y N = − (L + D)

                 xk +1 = −D −1 (L + U)xk + D −1 b,    k = 0, 1, . . .

 2   Método de Gauss-Seidel: M = D + L y N = −U

            xk +1 = −(D + L)−1 Uxk + (D + L)−1 b,        k = 0, 1, . . .

         (UPV)                   Métodos iterativos           Curso 2009-2010   11 / 17
Métodos iterativos estacionarios

   Una iteración de Jacobi es muy barata. Sólo hay que hacer
   multiplicación matriz-vector “vacía”. El número de multiplicaciones
   es del orden nz(A)) además de invertir los elementos diagonales
   de A.

      k             1        k        k                k
     x1 +1 =           −a12 x2 − a13 x3 − · · · − a1n xn + b1
                   a11
      k             1        k        k                k
     x2 +1 =           −a21 x1 − a23 x3 − · · · − a2n xn + b2
                   a22
               .
               .
               .
      k             1          k        k                   k
     xn +1 =             −an1 x1 − an3 x3 − · · · − an,n−1 xn−1 + bn
                   ann



       (UPV)                     Métodos iterativos         Curso 2009-2010   12 / 17
Métodos iterativos estacionarios




   Una iteración Gauss-Seidel es barata. Además tiene que resolver
   un sistema triangular inferior (D + L)xk +1 = b − Uxk “vacío”.
   Recordar que hay que evitar invertir matrices.
   En el método de Gauss-Seidel las componentes de xk +1 que ya
   conocemos se utilizan en la propia iteración k + 1.




       (UPV)               Métodos iterativos      Curso 2009-2010   13 / 17
Métodos iterativos estacionarios

Teorema
Sea A invertible. Un método iterativo estacionario converge, para
cualquier vector inicial x0 ∈ Rn , a la solución exacta del sistema lineal,
si y sólo si,
                                  ρ(H) < 1
es decir, el mayor valor propio en valor absoluto de la matriz de
iteración es menor que uno.

Definición
Una matriz A = [aij ] de tamaño n × n se dice que es estrictamente
diagonal dominante si
                        n
             |aii | >   j=1, j=i   |aij |,    para todo i = 1, 2, . . . , n.


         (UPV)                          Métodos iterativos             Curso 2009-2010   14 / 17
Métodos iterativos estacionarios




Teorema
Si la matriz A es estrictamente diagonal dominante entonces el
método de Jacobi y de Gauss-Seidel son convergentes.


    Se llama radio de convergencia a R = − log10 (ρ(H)). Cuanto más
    pequeño sea ρ(H) mayor será la convergencia.




        (UPV)                Métodos iterativos       Curso 2009-2010   15 / 17
Métodos iterativos estacionarios
Podemos definir otra descomposición de la matriz A de la forma

                   ωA = (D + ωL) − (−ωU + (1 − ω)D) ,

que da lugar al método ietrativo conocido como el método SOR
(successive over relaxation)

                (D + ωL)x k +1 = (−ωU + (1 − ω)D)x k + ωb ,

Análogamente, se puede definir otro método SOR de la forma

                (D + ωU)x k +1 = (−ωL + (1 − ω)D)x k + ωb .

Un método SOR simétrico, SSOR, viene definido por las ecuaciones

                (D + ωL)x k +1/2 = (−ωU + (1 − ω)D)x k + ωb ,
                (D + ωU)x k +1 = (−ωL + (1 − ω)D)x k +1/2 + ωb .


        (UPV)                    Métodos iterativos      Curso 2009-2010   16 / 17
Métodos iterativos estacionarios




Lema de Kahan
Sea A ∈ Cn×n con elementos diagonales no nulos. Entonces el
método SOR converge solamente si

                            0<ω<2




        (UPV)               Métodos iterativos     Curso 2009-2010   17 / 17

Más contenido relacionado

PDF
PDF
Bitácora n° 7 (19 mar a 23 mar)
PDF
PDF
Al ap 02
PDF
Diagonalización de matrices
PDF
Re escrita charla-tfor_ma09
PDF
Jacobi y gauss
PDF
Problemas1 (algunas soluciones)
Bitácora n° 7 (19 mar a 23 mar)
Al ap 02
Diagonalización de matrices
Re escrita charla-tfor_ma09
Jacobi y gauss
Problemas1 (algunas soluciones)

La actualidad más candente (19)

PDF
Tema03res
PDF
PDF
Capitulo01
PDF
Diagonalizacion matrices
PDF
Antenas lineales balumm y gamma
PDF
Bitácora n° 5 (05 mar a 09 mar)
PDF
Hidrostatica unidad ii; iii en pdf
PPT
1 algebra lineal y vectores aleatorios
PDF
Tema 1 el espacio r^n-2011-20121
PPTX
Matematicas en farmacocinética
PDF
Aplicaciones del Control Estocástico al Análisis Semiclásico
PDF
DOC
Fis c examen parcial 2006-iit
PDF
Problemas
PPT
-algebra lineal y vectores aleatorios
PDF
PDF
1 estructuras
Tema03res
Capitulo01
Diagonalizacion matrices
Antenas lineales balumm y gamma
Bitácora n° 5 (05 mar a 09 mar)
Hidrostatica unidad ii; iii en pdf
1 algebra lineal y vectores aleatorios
Tema 1 el espacio r^n-2011-20121
Matematicas en farmacocinética
Aplicaciones del Control Estocástico al Análisis Semiclásico
Fis c examen parcial 2006-iit
Problemas
-algebra lineal y vectores aleatorios
1 estructuras
Publicidad

Similar a Met iterativos (20)

DOCX
CALCULO
PDF
072 076-fracciones algebraicas unidad 6
PDF
Mr1i 753-2007-2
PDF
clases de programacion lineal algebra avanzado
PDF
Solucionario 3er sumativo cepunt 2010 - i
PPT
Metodos iterativos
PPTX
White y Box-Cox.pptx
PPT
3 SEL Métodos_Directos.opóppópópópópópóp
PDF
Ecuacion de laplace
PDF
PPT
sistemas_lineales_iterativos. jesusparadappt
PDF
funciones cuadraticas y raiz cuadrada.pdf
PDF
2 integracion
PDF
Talk-001-Grupo - Gauss Siedel, Jacobi y Gradientes C.
PPT
Transformaciones en regresion
PDF
Practica Nº 1
PDF
Apuntes algebra 2019_a_r05 (2)
PPTX
Métodos numéricos
PDF
PDF
Practica Nº 1
CALCULO
072 076-fracciones algebraicas unidad 6
Mr1i 753-2007-2
clases de programacion lineal algebra avanzado
Solucionario 3er sumativo cepunt 2010 - i
Metodos iterativos
White y Box-Cox.pptx
3 SEL Métodos_Directos.opóppópópópópópóp
Ecuacion de laplace
sistemas_lineales_iterativos. jesusparadappt
funciones cuadraticas y raiz cuadrada.pdf
2 integracion
Talk-001-Grupo - Gauss Siedel, Jacobi y Gradientes C.
Transformaciones en regresion
Practica Nº 1
Apuntes algebra 2019_a_r05 (2)
Métodos numéricos
Practica Nº 1
Publicidad

Met iterativos

  • 1. Métodos iterativos Damián Ginestar Peiró Departamento de Matemática Aplicada Universidad Politécnica de Valencia Curso 2009-2010 (UPV) Métodos iterativos Curso 2009-2010 1 / 17
  • 2. Índice 1 Introducción 2 Conceptos básicos 3 Métodos iterativos estacionarios (UPV) Métodos iterativos Curso 2009-2010 2 / 17
  • 3. Introducción Dada una matriz invertible de tamaño n × n y un vector b ∈ Rn la única solución del sistema Ax = b es x = A−1 b Nosotros trabajaremos con matrices vacías (sparse) es decir matrices con un número de elementos no nulos (nz(A)) del orden nz(A) = c · n con c independiente de n. (UPV) Métodos iterativos Curso 2009-2010 3 / 17
  • 4. Introducción No se puede hacer la inversión de A ya que: 1 A−1 puede dejar de ser vacía, es decir se llena, =⇒ no se puede almacenar. 2 Cálculo de A−1 puede costar O(n3 ) operaciones (tiempo de CPU: años). Buscaremos métodos aproximados para la resolución del sistema que se basan esencialmente en el producto matriz-vector. (UPV) Métodos iterativos Curso 2009-2010 4 / 17
  • 5. Conceptos básicos Un método iterativo obtiene una solución aproximada de Ax = b construyendo una sucesión de vectores: x1 , x2 , . . . , xk desde un vector inicial arbitrario x0 . Un método iterativo se dice convergente si lim xk = x . k →∞ El vector error, en cada iteración, se define como ek = x − xk . (UPV) Métodos iterativos Curso 2009-2010 5 / 17
  • 6. Conceptos básicos El vector residuo, en cada iteración, se define como rk = b − Axk . Se puede probar lim xk = x ⇐⇒ lim ek = 0 ⇐⇒ lim rk = 0 k →∞ k →∞ k →∞ (UPV) Métodos iterativos Curso 2009-2010 6 / 17
  • 7. Conceptos básicos Un método iterativo nunca da la solución exacta incluso en precisión infinita. Los métodos directos teóricamente producen la solución exacta; pero en un ordenador dan errores numéricos. Se da a priori una precisión para nuestra solución. Sea TOL el error máximo permitido. ek ek < TOL, (error absoluto) o < TOL (error relativo) x Pero x, y ek no son conocidos el criterio de parada no es útil. Se utiliza el criterio del residuo rk rk < TOL (absoluto) o < TOL (relativo) b (UPV) Métodos iterativos Curso 2009-2010 7 / 17
  • 8. Conceptos básicos La relación entre el error y el residuo es rk = b − Axk = Ax − Axk = Aek . Usando normas matriciales: rk ≤ A ek (1a); ek ≤ A−1 rk (1b) Notar además x ≤ A−1 b (2a); b ≤ A A−1 b = A x (2b) (UPV) Métodos iterativos Curso 2009-2010 8 / 17
  • 9. Conceptos básicos Combinando (1a) con (2a) y (1b) con (2b) obtenemos 1 rk ek rk ≤ ≤ A A−1 A A−1 b x b Finalmente, recordando que κ(A) = A A−1 : 1 rk ek rk ≤ ≤ κ(A) κ(A) b x b Conclusión: Test del residuo es fiable si κ(A) no es muy grande. (UPV) Métodos iterativos Curso 2009-2010 9 / 17
  • 10. Métodos iterativos estacionarios Sea A la matriz del sistema Ax = b. Podemos considerar la partición (splitting) A=M −N donde M = A es una matriz invertible. Se construye el sistema iterativo xk +1 = M −1 Nxk + M −1 b = Hxk + q, k = 0, 1, . . . donde H es la matriz de iteración y x0 el vector inicial. Definición Se dice que un método iterativo es estacionario si la matriz de iteración H es constante en todo el proceso. (UPV) Métodos iterativos Curso 2009-2010 10 / 17
  • 11. Métodos iterativos estacionarios Sea A tal que aii = 0 y consideremos la partición A=L+D+U L es la parte estrictamente triangular superior de A, D es la parte diagonal de A, U es la parte estrictamente triangular superior de A. 1 Método de Jacobi: M = D y N = − (L + D) xk +1 = −D −1 (L + U)xk + D −1 b, k = 0, 1, . . . 2 Método de Gauss-Seidel: M = D + L y N = −U xk +1 = −(D + L)−1 Uxk + (D + L)−1 b, k = 0, 1, . . . (UPV) Métodos iterativos Curso 2009-2010 11 / 17
  • 12. Métodos iterativos estacionarios Una iteración de Jacobi es muy barata. Sólo hay que hacer multiplicación matriz-vector “vacía”. El número de multiplicaciones es del orden nz(A)) además de invertir los elementos diagonales de A. k 1 k k k x1 +1 = −a12 x2 − a13 x3 − · · · − a1n xn + b1 a11 k 1 k k k x2 +1 = −a21 x1 − a23 x3 − · · · − a2n xn + b2 a22 . . . k 1 k k k xn +1 = −an1 x1 − an3 x3 − · · · − an,n−1 xn−1 + bn ann (UPV) Métodos iterativos Curso 2009-2010 12 / 17
  • 13. Métodos iterativos estacionarios Una iteración Gauss-Seidel es barata. Además tiene que resolver un sistema triangular inferior (D + L)xk +1 = b − Uxk “vacío”. Recordar que hay que evitar invertir matrices. En el método de Gauss-Seidel las componentes de xk +1 que ya conocemos se utilizan en la propia iteración k + 1. (UPV) Métodos iterativos Curso 2009-2010 13 / 17
  • 14. Métodos iterativos estacionarios Teorema Sea A invertible. Un método iterativo estacionario converge, para cualquier vector inicial x0 ∈ Rn , a la solución exacta del sistema lineal, si y sólo si, ρ(H) < 1 es decir, el mayor valor propio en valor absoluto de la matriz de iteración es menor que uno. Definición Una matriz A = [aij ] de tamaño n × n se dice que es estrictamente diagonal dominante si n |aii | > j=1, j=i |aij |, para todo i = 1, 2, . . . , n. (UPV) Métodos iterativos Curso 2009-2010 14 / 17
  • 15. Métodos iterativos estacionarios Teorema Si la matriz A es estrictamente diagonal dominante entonces el método de Jacobi y de Gauss-Seidel son convergentes. Se llama radio de convergencia a R = − log10 (ρ(H)). Cuanto más pequeño sea ρ(H) mayor será la convergencia. (UPV) Métodos iterativos Curso 2009-2010 15 / 17
  • 16. Métodos iterativos estacionarios Podemos definir otra descomposición de la matriz A de la forma ωA = (D + ωL) − (−ωU + (1 − ω)D) , que da lugar al método ietrativo conocido como el método SOR (successive over relaxation) (D + ωL)x k +1 = (−ωU + (1 − ω)D)x k + ωb , Análogamente, se puede definir otro método SOR de la forma (D + ωU)x k +1 = (−ωL + (1 − ω)D)x k + ωb . Un método SOR simétrico, SSOR, viene definido por las ecuaciones (D + ωL)x k +1/2 = (−ωU + (1 − ω)D)x k + ωb , (D + ωU)x k +1 = (−ωL + (1 − ω)D)x k +1/2 + ωb . (UPV) Métodos iterativos Curso 2009-2010 16 / 17
  • 17. Métodos iterativos estacionarios Lema de Kahan Sea A ∈ Cn×n con elementos diagonales no nulos. Entonces el método SOR converge solamente si 0<ω<2 (UPV) Métodos iterativos Curso 2009-2010 17 / 17