 
        
        ЛЕКЦИЯ 7. Итерационные методы решения СЛАУ.
ЛИТЕРАТУРА. Учебник [1] §6.1. §6.2, §6.3
§7.1 Методы простой итерации и Зейделя. Геометрическая интерпретация методов.
Постановка задачи о нахождении приближенного решения СЛАУ.
Найти
такой вектор 
 ,
который удовлетворяет неравенству:
,
который удовлетворяет неравенству: 
 .
.
Метод простой итерации.
Приведем систему к виду, удобному для итераций.
Для этого систему Ax=b приведем к эквивалентному виду x=Bx+c.
 (7.1)
                          (7.1)
Будем
предполагать, что все диагональные
элементы ненулевые. Выразим из 1-го
уравнения 
 ,
из второго
,
из второго
 ,…из
последнего
,…из
последнего 
 .
.
 
Введем матрицу B и вектор c :
 ,
,
  
 ,
    ,  
 ,
    i,j=1,…m
,
    i,j=1,…m
Теперь система (7.1) приведена к виду: x=Bx+c. Это преобразование называется преобразованием Якоби. Будем проводить итерации по формуле:
    
                                                 
 (7.2)
                                                              (7.2)
Формула (7.2)называется расчетной формулой метода простой итерации.
Выберем
начальное
приближение    
 .
Подставим его в правую часть системы
(7.2):
.
Подставим его в правую часть системы
(7.2): 
 .
  Получим вектор
.
  Получим вектор 
 ,
называемый первым приближением к корню.
затем  получим вектор
,
называемый первым приближением к корню.
затем  получим вектор 
 и т.д. Запишем метод в покоординатной
форме:
и т.д. Запишем метод в покоординатной
форме:
    
     
 (7.3)
                                                (7.3)
Возникает вопрос о критерии окончания и условиях сходимости метода.
Теорема 6.3. Пусть выполнено условие:
    
                                                        
 (7.4)
                                              (7.4)
Тогда
при произвольном начальном приближении
 метод
простой итерации сходится и справедливы
оценки:
метод
простой итерации сходится и справедливы
оценки:
    
                                                
 (7.5)
                     (7.5)
    
                                                          
 (7.6)
           (7.6)
Следствие. (Критерий окончания итераций). Из неравенства (7.6) вытекает критерий окончания итераций.
    
                                                                
 (7.7)
  (7.7)
Замечание
1. Из оценки
(7.5) следует, что метод простой итерации
сходится со скоростью геометрической
прогрессии со знаменателем 
 .
Чем меньше норма матрицы В,  тем быстрее
   сходится метод.
.
Чем меньше норма матрицы В,  тем быстрее
   сходится метод.
Замечание 2.
Если  
 ,
то можно использовать более простой
критерий окончания итераций:
,
то можно использовать более простой
критерий окончания итераций: 
    
                                                  
 
Метод Зейделя.
   
Метод Зейделя
можно рассматривать как модификацию
метода Якоби. Основная идея состоит в
том, чтобы при вычислении очередного
n+1
приближения к неизвестному
 при
i>1
используют уже найденные (n+1)
приближения к неизвестным 
,
,
…
при
i>1
используют уже найденные (n+1)
приближения к неизвестным 
,
,
… .
.
Выясним условия применимости метода и критерий окончания.
Представим матрицу B в виде суммы двух матриц:
 ,где:
,где:
 ,
,
   
 
Тогда расчетные формулы метода Зейделя можно записать в таком виде:
    
                            
 
Теорема.6.4 (Достаточное условие сходимости). Пусть выполнено условие:
    
                                                         
 (7.8)
                                               (7.8)
Тогда при произвольном начальном приближении метод Зейделя сходится и справедливы оценки:
    
                                                
 (7.9),
                     (7.9),
    
            где 
 
    
                                                          
 (7.10)
           (7.10)
    
                                                 
 (7.11)
                                              (7.11)
 
 
 
§7.2 Метод релаксации.
Метод релаксации является еще одной модификацией теперь уже метода Зейделя. Суть его состоит в том, что после вычисления i-ой компоненты (n+1) приближения по формуле Зейделя производят смещение этой компоненты на малую величину в направлении корня.
Вот как вычисляется i-ая компонента методов.
Метод Зейделя:
    
  
 
Метод релаксации
Делают шаг по методу Зейделя:
    
         
 
    
   А затем смещают компоненту на величину:
 ,
где
,
где 
 -
параметром релаксации.
-
параметром релаксации.
Таким образом, новая компонента считается по формуле:
    
       
 
Метод релаксации можно записать в матричной форме записи:
    
                   
 (7.12)
                            (7.12)
При
 метод релаксации совпадает с методом
Зейделя. При
метод релаксации совпадает с методом
Зейделя. При 
 его
называли методом верхней релаксации,
при
его
называли методом верхней релаксации,
при 
 - методом нижней релаксации. Сейчас
метод принято называть SOR-
методом.
- методом нижней релаксации. Сейчас
метод принято называть SOR-
методом.
(successive over relaxation).
Применяется метод в основном для симметричных положительно определенных матриц.
Теорема
7.1
.(без
доказательства).  Пусть матрица A-
симметрична и положительно определена.
Тогда метод релаксации сходится при 
 .
.
Геометрическая интерпретация метода релаксации.
 
§ 7.3. Вторая постановка задачи о нахождении приближенного решения.
    
Дана СЛАУ
Ax=b.
 Требуется
найти такой вектор 
 ,
который удовлетворяет
неравенству:
,
который удовлетворяет
неравенству:      
    
                                                          
 .
                                              (7.13)
.
                                              (7.13)
Будем называть это первой постановкой задачи о нахождении приближенного решения
ОПРЕДЕЛЕНИЕ.
Вектором невязки на n-ой
итерации называется вектор  
 равный
равный
    
                             
 
Пусть
 
 - начальное приближение к корню
- начальное приближение к корню 
 ,
 тогда
,
 тогда 
 - первоначальная невязка.
- первоначальная невязка.
2-ая постановка задачи о нахождении приближенного решения СЛАУ. Найти такой
вектор 
,
что норма невязки    
 будет  меньше нормы невязки нулевого
 приближения
   будет  меньше нормы невязки нулевого
 приближения 
 в заданное количество раз. То
есть  должно быть справедливо соотношение:
в заданное количество раз. То
есть  должно быть справедливо соотношение:
  
 ,
где K-
заданное целое число.
,
где K-
заданное целое число.
Пример.
 .
 Решением системы является вектор
.
 Решением системы является вектор 
 
Приведем систему к виду, удобному для итераций:
 Применяя метод простой итерации,
получим расчетные формулы:
     Применяя метод простой итерации,
получим расчетные формулы: 
 
Заметим, что итерационная матрица B имеет вид:
    
 
 ,
,
          
 - условие сходимости выполнено. Вектор
- условие сходимости выполнено. Вектор
  
 - примем
- примем 
его в качестве начального приближения . Выполним 3 итерации метода.
 ,
,
         
 
    
 
 ,
,
 
 
 
 
     
 
  
 
Вычислим первоначальную невязку:
 
Если взять теперь отношение бесконечной нормы вектора невязки на нулевой итерации к бесконечной норме невязки на третьей итерации, то получим отношение:
    
                        
 
Первоначальная
невязка уменьшилась в 13 раз. Если сравнить
вектор 
 c вектором точного решения,
то  получим:
c вектором точного решения,
то  получим:    
    
                 
 
Необходимость введения такого критерия связана с тем, что сформулированное в предыдущей лекции условие сходимости является достаточным и часто не выполняется
для сходящихся методов. Также не работает критерий окончания итераций.
