Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Обратные и некорректные задачи. Учебник
.pdf
1.8. Дискретизация некорректных задач. Регуляризованные методы анализа…
x
−
=
−
=
−
=
=
Строим конечномерную аппроксимацию функционала
α
],[uM
исполь-
зуя квадратурные формулы, для чего вводим равномерные сетки по пере-
менным
и s с шагами
()
.1
hicx −+=
Обозначив
xi
,)( nabh
s
usu
x
,)(
jj
fxf=)(
,
ii
;)( mcdh
asxk =
()
+=
,),(
использу-
ijji
,1sjhjas
ем квадратурную формулу прямоугольников для вычисления интегралов,
uu
−
1
аппроксимируя производную конечной разностью
′
su
+
=
jj
.)(
Таким
h
s
образом, конечномерная аппроксимация функционала (1.8.2) имеет вид
n
m
α
⎛
⎜
∑∑∑
⎜
j
i
11
1
===
⎝
Используя необходимое условие минимума функции
α
∂
uM
][
j
m
∑∑
∂
u
k
==
j
n
⎛
⎜
⎜
i
11
⎝
2
⎞
⎟
−=
ijijsxi
⎟
⎠
n
[]
j
22
′
.)(
+α+
huuhfuahhuM
jjs
s
n
переменных
(1.8.3)
⎞
⎟
−=
ijisx
2
⎟
+
ahfuahh
jksj
⎠
n
1
⎡
uh
⎢
ks
⎢
⎣
−
−
uu
jj
1
+
+⋅α+
∑
j
h
1
=
()
1
2
s
+
⎤
δ−δ
=
⎥
jkkj
⎥
⎦
приходим к линейной алгебраической системе с симметричной матрицей
α
,FuB =
(1.8.4)
где
α
,CBB α+=
},{ikbB
=
n
,
aahhb
jkjisxik
1∑=
j
(1.8.5)
m
},{
fF =
k
⎛
⎜
⎜
=
j
1∑=
11
−
22
hh
ss
⎜
⎜
−−
⎜
,
CEC +=
1
С
=
1
⎜
⎜
⎜
⎜
⎜
⎜
⎝
,
afhf
jkjxk
⎞
0...0
⎟
⎟
121
222
hhh
sss
............
.........
−
⎟
0...
⎟
⎟
.
...............
⎟
1
⎟
−
2
⎟
h
s
⎟
11
⎟
22
⎟
hh
ss
⎠
(1.8.6)
,022
71
Модуль 1. Прямые и обратные задачи. Понятие о некорректных задачах
α
B
T
α
B
Для решения системы линейных уравнений (1.8.4) можно использовать
различные численные методы. При этом следует учитывать, что матрица
системы является симметричной и положительно определенной. Одним
из наиболее эффективных методов решения таких систем является метод
квадратного корня [28–29].
В этом методе симметричная положительно определенная матрица
представляется в виде произведения верхней и нижней треугольных мат-
ααα
риц
= TTB
T
⎛
⎜
T
⎜
⎜
α
=
⎜
⎜
⎝
причем элементы матрицы
ααα
tbt
11111
j
1
i
⎛
⎜
⎜
α
⎝
t
=
ij
−
−
∑
1
k
=
α
t
ii
где
,)(
ααα
⎞
ttt
...
11211
n
⎟
αα
⎟
tt
...0
222
n
,
⎟
............
⎟
α
⎟
t
...00
nn
⎠
α
находятся по формулам
α
b
1
j
α
t
11
⎞
ααα
⎟
ttb
kjkiij
⎟
⎠
);1(,,
>==
j
<
);(,
ji
⎛
⎜
⎜
⎝
ij
i
−
1
−=
∑
k
=
1
).(,0 jit
>=
1
2
⎞
ααα
2
⎟
kiiiii
⎟
=
);...,,2(,)(
nitbt
⎠
(1.8.7)
Таким образом, от системы (1.8.4) приходим к решению системы
αα
T
α
,)( FuTT
=
или, введя соответствующее обозначение, к решению двух систем с треугольными матрицами
⎧
⎪
⎨
α
⎪
⎩
=
α
,)(
FyT
=
.
yuT
(1.8.8)
T
α
Следует заметить, что при выборе параметра регуляризации по принци-
α
пу обобщенной невязки приходится неоднократно при различных
ре-
шать системы вида (1.8.4), при этом правая часть системы F и матрица
не зависят от
.α
Это позволяет строить специальные экономичные методы
многократного решения систем такого вида. Представим один из вариантов
72
1.8. Дискретизация некорректных задач. Регуляризованные методы анализа…
α
×
α
C
α−α
α
−
−
=
×
R
P
α
P
P
=
M
M
R
таких схем. Пусть для различных
0>
необходимо решить систему (1.8.4),
или
**
,)(
fAuCAА
=α+
hhh
nm
), транспонированная к
где
α
*
A
— матрица размерности (
h
m
,
Rf ∈
а матрица C определяется согласно (1.8.6).
При помощи метода квадратного корня (формулы (1.8.7)) матрицу
*
,
SSС =
представим в виде
замену в (1.8.9)
−
=α+
αα
= Suy
*1*
fAySCAА
hhh
Умножим это уравнение слева на
α
Представим матрицу D в виде
тогональные матрицы,
где S — двухдиагональная матрица. Сделав
.)(
==α+ SADfDyEDD
1
= ySu
1**
.,)(
hh
),(
S
получим
*1
,)(
получим
,QPRD
где
),( mmQ
×
— правая двухдиагональная матрица [29].
Теперь в уравнении (1.8.11) сделаем замену переменных
,hA
(1.8.10)
(1.8.11)
)( nn
α
(1.8.9)
n
Ru ∈
— ор-
= Ryx
,
1 α−α
= xRy
в результате получим
),(
α−
*1***
,)(
fDxREQPRQPR
=α+
h
или
α
здесь матрица
**
h
*
— трехдиагональная и матричное уравнение (1.8.12)
,)(
FfRDxEPP
==α+
(1.8.12)
без труда решается, например методом прогонки [29]. Исходный неизвест-
11
α−−α
ный вектор
к вектору
ловие
u
h
= xRSu
α
,
так как, например, если ,0
α
fuA
,δ=−
которое эквивалентно условию
,
однако часто нет необходимости возвращаться
h то нужно лишь проверить ус-
α
*
fQPx
.
δ=−
2. Конечномерная аппроксимация некорректных задач на компактных
множествах
Рассмотрим несколько типичных в практике решения некорректных за-
дач способов выбора компакта
,
описанных в п. 1.6.
1.
— ограниченное множество в
n
.
Эта ситуация встречается, когда
исходное операторное уравнение, сформулированное как задача отыска-
73
Модуль 1. Прямые и обратные задачи. Понятие о некорректных задачах
R
)
ния решения в некотором функциональном пространстве, может быть
параметризовано конечным числом параметров. Тогда метод квазире-
шений в этой ситуации будет аналогом метода наименьших квадратов.
В ряде ОЗ в качестве априорной информации обычно существует ин-
2.
формация о характере решения, такая как:
положительность,
а)
монотонность,
б)
выпуклость решения.
в)
Процедура выбора соответствующих компактных множеств описана
в п. 1.6.
Для отыскания квазирешений на компактных множествах обычно прибегают к процедуре дискретизации, и ее техника имеет свою специфику.
Перейдем к конечномерной аппроксимации задачи, вводя конечномерные
)(xu
пространства. Тогда, например, функции
n-мерный вектор
,nz
а множеству cM↓ — некоторый многогранник в
будет соответствовать
n
[9, 28]:
n
,},{
MMzu
n
n
c
↓
→→
cc
↓↓
≤≤≤=
1 jjjn
+
},,0|{
zzсzzM
(1.8.13)
относительно которого можно доказать его выпуклость. Таким образом, за-
n
дача сводится к минимизации функции
переменных на выпуклом много-
граннике, которую можно эффективно решить одним из методов выпуклого программирования (например, методом Франка — Вольфа). Подобные
выпуклые многогранники строятся и для других компактных множеств,
описанных в п. 1.6. Таким образом, задача сводится к минимизации квадратичного функционала невязки на одном из следующих многогранников:
n
c
)
n
↓
c
zzzсzzM
−+
jjjjn
},02,0|{
≤+−≤≤=
11
}.02,,0|{
≤+−≤≤≤=
zzzzzсzzM
111
−++
jjjjjjn
При численной реализации этого подхода можно использовать любые
итерационные методы, гарантирующие сходимость лишь по функционалу
невязки (например, метод сопряженных градиентов).
74
1.9. Методы решения обратных конечномерных задач на основе ГА
R
1.9. Методы решения обратных конечномерных задач
на основе генетических алгоритмов
В настоящем параграфе рассматриваются методы решения обратных
конечномерных задач на основе генетических алгоритмов [8]. Как было
подчеркнуто ранее, решение обратных конечномерных задач может быть
сведено к задаче минимизации функционала невязки на некотором подпро-
.
странстве в
использовать методы нахождения минимума функции многих переменных.
При этом необходимо решать сложные нелинейные системы трансцендентных уравнений либо использовать итерационные процессы для нахождения минимального значения функционала невязки, что требует нахождения его градиента. Существует широкий класс градиентных методов опти-
Естественно, что для нахождения такого решения можно
мизации, способных определить
ствии с информацией о частных производных функции. Эти методы, именуемые градиентными, используют на каждом шаге поиска минимума
функционала операцию вычисления его градиента, что не всегда приводит
к цели для широкого класса операторов. В то же время возможно использовать некие альтернативные подходы, связанные либо с
бального случайного поиска, либо с неким промежуточным гибридным вариантом, который позволяет находить минимум функции многих переменных со сложным рельефом. Изложим далее основные идеи построения таких алгоритмов поиска, которые не используют нахождение градиента.
Пусть дана некоторая функция, далее именуемая целевой функцией, зависящая от нескольких переменных,
ременных, при которых значение функции минимально. Задачи такого рода
называются задачами оптимизации и встречаются на практике очень часто.
Например, для рассматриваемого класса задач на этапе параметрической идентификации случае в качестве целевой функции выступает не-
направление поиска оптимума в соответ-
процедурой гло-
и требуется найти такие значения пе-
квадратичный функционал невязки, минимум которого требуется определить. Надо отметить
ражистый характер (линии уровня сильно вытянуты и похожи на извилистые овраги, имеются локальные минимумы).
Известны такие классические численные методы поиска решения многомерной задачи оптимизации, как методы градиентного и координатного
, что неквадратичный функционал невязки имеет ов-
75
Модуль 1. Прямые и обратные задачи. Понятие о некорректных задачах
спуска, метод оврагов, метод сопряженных градиентов, метод Гаусса —
Ньютона, метод Левенберга — Марквардта, метод глобального случайного
поиска или простого перебора — Монте-Карло. Такие методы имеют теоретическое обоснование и оценки скорости сходимости. Однако, наряду
с достоинствами, они имеют также и ряд недостатков, таких как, требование дифференцируемости или непрерывности целевой функции
, наличие
у нее одного экстремума (или его предварительная локализация). Также надо отметить, что на сходимость перечисленных методов влияет выбор начального приближения. Заметим также, что при увеличении числа неизвестных, доставляющих минимум целевой функции, значительно возрастает объем вычислений. Альтернативой же классических методов решения
многомерных оптимизационных задач, где целевая
функция, например,
имеет сложный рельеф и не имеет аналитического представления, являются
эволюционные алгоритмы, в частности ГА, получившие широкую популярность в последнее время.
Генетический алгоритм (англ. genetic algorithm) — это эвристический
алгоритм поиска, используемый для решения задач оптимизации и моделирования путем последовательного подбора, комбинирования и вариации
искомых параметров с использованием механизмов, напоминающих
биологическую эволюцию. Этот алгоритм является разновидностью эволюционных вычислений (англ. evolutionary computation). Отличительной особенностью ГА является акцент на использование оператора скрещивания, который производит операцию рекомбинации решений-кандидатов, роль которой аналогична роли скрещивания генов в живой природе.
Неоспоримым достоинством ГА является отсутствие ограничений
на целевую функцию, перечисленных выше
при описании классических
методов, кроме тех, которые естественным образом вытекают из постановки оптимизационной задачи.
В настоящее время ГА получили широкое распространение при решении многомерных задач оптимизации. Впервые основные принципы ГА
сформулированы Дж. Холландом в начале 1960-х гг. Целью оптимизации
с помощью ГА является лучшее возможное решение задачи по одному
или нескольким критериям. Приведем описание работы ГА и основные
процедуры, используемые при его работе.
76
1.9. Методы решения обратных конечномерных задач на основе ГА
P
=
=
∈
Пусть стоит задача минимизации целевой функции
сящей от
n
непрерывных переменных, причем
n
Схема работы простого ГА представлена на рис. 1.12.
Создание
начальной
популяции
Рис. 1.12.
Схема одного шага работы генетического алгоритма
Скрещивание
Переход к новому поколению
Можно выделить следующие этапы ГА:
→
Ответ
Отбор Мутация
1 n
.: RRF
xxF
),...,,(
зави-
Создание начальной популяции.
1.
Вычисление функций приспособленности для особей популяции
2.
(оценивание).
Начало цикла:
3.
Выбор индивидов из текущей популяции (селекция).
а)
Скрещивание и/или мутация.
б)
Вычисление функций приспособленности для всех особей.
в)
Формирование нового поколения.
г)
Если выполняются условия останова, то (конец цикла), иначе (на-
д)
чало цикла).
Опишем подробно этапы работы ГА.
1. Создание начальной популяции
На этом этапе случайным образом генерируется начальная популяция
),0(
состоящая из m особей (векторов)
,ix
....,,1 mi
Популяция — совокупность особей, каждая из которых представляет
возможное решение поставленной задачи.
Значение элемента
x
для каждой особи
j
,ix
mi ...,,1
устанавливается
случайно методом равномерного распределения на интервале
,],[ Rba
jj
77
Модуль 1. Прямые и обратные задачи. Понятие о некорректных задачах
Φ
≡
ν
N
∈
ν
÷
ba <
— область поиска переменных
jj
x
— устанавливается пользова-
j
телем и является важнейшей априорной информацией при решении ОЗ
(см. пример 1, п. 1.5 ).
2. Оценка решения
Каждая особь
x
определяет функцию соответствия —
i
),(ix
в качестве
которой зачастую принимают целевую функцию или функцию приспособленности (fitness)
Φ
.F
Далее происходит отбор лучших особей в следующую популяцию путем селекции. Существует несколько видов селекции; опишем, например,
случайную, или турнирную селекцию. Такая селекция выполняется по соревновательному принципу, согласно которому каждый родитель или потомок попарно сравнивается с
противниками, причем
,
1≥ν
явля-
ется параметром ГА, устанавливается пользователем и обычно принимает
значения
=ν
,1.005.0 mm
где m — размер популяции. Противники выби-
раются случайно с помощью закона равномерного распределения. Победитель определяется путем попарного сравнения функций соответствия.
Особь побеждает в соревновании, если ее функция соответствия по меньшей мере не хуже, чем у ее противника. После этого все особи сортируются
по убыванию числа побед. Лучшие особи образуют новую
родительскую
популяцию. При одинаковом числе побед преимущество получает особь
m
с лучшим значением функции соответствия. Совокупность из
особей об-
разует множество родителей, необходимых для следующего этапа ГА.
3. Формирование нового поколения
На этом этапе происходит генерация потомков с помощью генетических
операторов. Отметим, что для решения задач оптимизации необходимо
представить каждый объект в форме, подходящей для использования в ГА.
Для кодирования объекта можно использовать самый простой вариант —
битовое значение этого объекта. Но, к сожалению, такое кодирование
не лишено недостатков. Основной недостаток заключается в
том, что соседние числа отличаются в значениях нескольких битов, так например числа 7 и 8 в битовом представлении различаются в четырех позициях, что затрудняет функционирование ГА и увеличивает время, необходимое для его
сходимости. Для того, чтобы избежать этой проблемы, лучше использовать
кодирование, при котором соседние числа отличаются меньшим количест-
78
1.9. Методы решения обратных конечномерных задач на основе ГА
вом позиций, в идеале — значением одного бита. Таким кодом является
код Грея, который целесообразно использовать в реализации ГА.
Как известно, в теории эволюции важную роль играет способ, которым
признаки родителей передаются потомкам. В ГА за передачу потомкам
признаков родителей отвечает оператор, который называется скрещиванием
(его также называют кроссовер или
кроссинговер). Действует он следу-
ющим образом:
Из популяции выбираются две особи, которые будут родителями.
1.
Случайным образом определяется точка разрыва. Здесь описан прин-
2.
цип действия так называемого одноточечного кроссовера, также известен двухточечный, n-точечный, однородный.
Потомок определяется как «склеивание» части первого и второго ро-
3.
дителя.
Рассмотрим функционирование этого оператора.
Родитель 1
0000000000
Родитель 2 1111111111
Допустим, разрыв происходит после 3-го бита хромосомы. В итоге получим следующую схему.
Родитель 1
0000000000 >> 000 1111111 Потомок 1
Родитель 2 1111111111 >> 111 0000000 Потомок 2
Следующий генетический оператор предназначен для того, чтобы поддерживать разнообразие особей популяции. Он называется оператором му-
тации. В каждой строке, которая подвергается мутации, каждый бит с вероятностью
назначаемой пользователем, изменяется на противополож-
,mP
ный. Кроме того, используется еще и так называемый оператор инверсии,
действие которого заключается в том, что хромосома делится на две части и затем они меняются местами. Схематически это можно представить
следующим образом.
000 1111111 >> 1111111 000
Популяция, полученная после мутации, записывается поверх старой,
и этим цикл одного поколения завершается. Последующие поколения обрабатываются таким же образом: отбор, кроссовер и мутация.
79
Модуль 1. Прямые и обратные задачи. Понятие о некорректных задачах
В принципе, для функционирования ГА достаточно этих двух генетиче-
ских операторов, но на практике применяют и некоторые дополнительные
операторы или модификации этих двух операторов. Например, кроссовер
может быть не одноточечный (как было описано выше), а многоточечный,
когда формируется несколько точек разрыва (чаще всего две). Кроме того,
в некоторых реализациях алгоритма
оператор мутации представляет собой
инверсию только одного случайно выбранного бита хромосомы.
После применения генетических операторов происходит оценка потом-
ка путем определения значения его функции соответствия, после чего потомок добавляется в новую популяцию.
4. Критерий останова
Критерием останова могут быть следующие заданные пользователем со-
бытия:
достижение в ходе эволюции заданного числа поколений
а)
б)
достижение заданного уровня качества, когда, например, значение
P
max
;
функций соответствия всех особей в популяции превысило некоторое
пороговое значение;
достижение заданного уровня сходимости, когда особи в популяции
в)
настолько подобны, что дальнейшее их улучшение происходит чрезвычайно медленно.
ГА являются очень перспективными методами при решении многих ОЗ
идентификации коэффициентов дифференциальных операторов, дефектов,
параметризуемых конечным числом параметров, а также при определении
начального приближения в итерационных процессах среди функций простой структуры — линейных
, квадратичных, кусочно-постоянных). При
этом необходимо знание области, в которой находятся искомые параметры
(см. методы решения ОЗ на компактных множествах).
Эффективность ГА сильно зависит от таких деталей, как метод кодировки решений, который упоминался выше, применяемые генетические
операторы, настройки параметров алгоритма, частный критерий успеха.
К сожалению, теоретическая обоснованность ГА пока
оставляет желать
лучшего. Теоретические результаты, отраженные в научной литературе,
посвященной ГА, на сегодняшний день не дают оснований говорить о выработке каких-либо строгих механизмов для четких предсказаний поведе-
80
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]