Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Системы искусственного интеллекта и машинное обучение. Учебное пособие
.pdf
3. Из входных данных вычитается полученная оценка тренда:
x
x
x
x
x
x
x
E
() () ().
txtTt
4. На основе ()
5. Из ()
6. Полученный набор данных
уточнения моделей тренда и сезонности. При необходимости уточнения
соответствующие пункты алгоритма повторяются.
Мультипликативная или комбинированные модели строятся сходным образом.
На практике нередко есть возможность, а в некоторых случаях и необходимость описывать весь набор данных не одной моделью, а несколькими. Например, статистические свойства сигнально-шумовой
добавлении к ней неслучайного сигнала на входе радиоприемника изменяется. На интервале времени существования сигнала заметно возрастает
значение математического ожидания. В контексте анализа временных рядов это эквивалентно двум участкам изменения тренда. В момент прибытия сигнала наблюдается увеличение тренда. От момента окончания сигнала и далее наблюдается уменьшение
такого временного ряда приходится применять несколько моделей.
Способы построения множественных моделей временных рядов довольно подробно рассмотрены в литературе. Например, для разбиения
входных данных перед построением моделей могут применяться критерии Чоу или Гуджарати (Гуйарати), позволяющие найти критические
точки изменения линейного тренда.
Основной критерий качества модели
лированность остатков.
Пусть () () () ()
() () () () ()
tetxtTtCt
а
ных были с большой точностью исключены все неслучайные компо-
ненты, то
лирован-ности ()
и дельта-коррелированным.
t исключается оценка цикличности:
() ().
tEt
t строится модель цикличности
() () ().
()xt
проверяется на необходимость
тренда. Для эффективного анализа
временного ряда – это корре-
tTtCtEt – набор входных данных,
Из требований к стационарности и дельта-корре-
t следует, что ряд
– остатки модели. Если из входных дан-
()xt
должен быть стационарным
().Ct
txtCt
смеси при
41
Способы определения коррелированности остатков:
построение корреляционных функций с последующей визуальной
или расчетной оценкой зависимостей остатков;
критерий Дарбина–Уотсона.
Алгоритм выявления автокорреляции может быть представлен следующим набором шагов.
Выдвигается три гипотезы:
– автокорреляции нет;
H
0
ция;
*
H – есть отрицательная автокорреляция.
1
Вычисляется статистический критерий Дарбина–Уотсона:
d
– есть положительная автокорреля-
H
1
N
()
ee
∑
tt
t
2
N
∑
t
2
1
(61)
,
2
e
t
2
где N – количество элементов временного ряда; e – вектор остатков
модели.
Определяются критические значения критерия для интервалов не-
определенности, например, по таблицам согласно априорной информации об измеряемых показателях объекта.
На основе всех рассчитанных параметров выносится решение
о достоверности моделирования.
Алгоритм выполняется при условии большого количества наблюдений и при оценке только автокорреляции первого порядка. Не выполняется для методов авторегрессии.
При оценке коррелированности элементов временного ряда могут
возникнуть следующие проблемы.
Невозможность отличить ложную корреляцию от истинной.
Оценка взаимосвязи может быть завышена за счет сходных трен-
довых или периодических компонентов (разновидность ложной корреляции), определяющих форму временной зависимости элементов ряда.
Для решения этих проблем применяются модели с временными лагами или модели авторегрессии, которые довольно подробно рассмотрены в литературе.
42
3. АЛГОРИТМЫ ОПТИМИЗАЦИИ
В дисциплине систем искусственного интеллекта и машинного обучения алгоритмы оптимизации относятся к категории интеллектуального поиска – формулирования интеллектуальной системой или устройством с известным алгоритмом работы оптимального решения поставленной задачи на основе входных данных.
Формально задача поиска решения интеллектуальной системой может быть представлена следующим образом.
1. Определяются или
состояния: точки, моменты, в которых система приступает к работе,
и в которых завершает работу.
2. Выбирается или разрабатывается функция определения состояния-преемника: описание возможных действий, доступных системе
в виде пары действие–последствие.
3. Формируется пространство состояний задачи: набор состояний
и связывающих их действий. Каждая связь или
стоимость.
4. Оценка стоимости пути или стоимости этапа.
Интеллектуальная система реализует поиск пути из начального состояния в целевое с учетом стоимости пути, в условиях ограниченности
ресурсов и в рамках разрешенных действий. Поиск прекращается, когда
достигается целевое состояние.
Оптимизация заключается, как правило, в поиске такого пути
начального в целевое состояние, чтобы стоимость этого пути была
наименьшей. В стоимость пути может входить как сумма стоимостей
переходов из одного состояния в другое на протяжении всего пути,
так и сумма стоимости достижения новых состояний относительно
начального.
принимаются заданные начальное и конечное
путь имеет свой вес или
из
43
Поиск подразделяют на неинформированный и информированный.
При неинформированном поиске нет дополнительной информации
о поставленной задаче, кроме ее определения. При информированном
(или эвристическом) – такая информация есть или может быть получена
в процессе поиска.
К неинформированному поиску относятся различные методы перебора состояний: в ширину, в глубину, их итерационные вариации и модификации с ограничением памяти, двунаправленный перебор и т. д.
Очевидно, что поиск перебором, хоть и позволяет найти целевое состояние, если оно присутствует в пространстве состояний задачи, но требует при этом больших объемов памяти для хранения информации
о пройденном системой пути (об уже перебранных состояниях и стоимости их достижения
) с целью выбора наименее затратного из них
и мощных вычислительных систем для осуществления большого количества операций перебора за как можно меньшее время.
Информированный поиск позволяет сократить объемы вычислений
и требуемой памяти для хранения информации о пройденном пути
за счет дополнительной информации о расположении в пространстве
состояний задачи целевого состояния
или его признаков, если явная ин-
формация о таком состоянии отсутствует.
При информированном поиске информация о целевом состоянии заложена в функции оценки или функции стоимости, которая характеризует состояние или связь между двумя состояниями. Функция оценки
может содержать информацию об удаленности от целевого состояния
или, наоборот, его приближенности. Таким образом
, при расчете пути
система формирует решение, соответствующее минимальному или максимальному значению функции оценки.
Среди способов информированного поиска получили широкое распространение методы локального поиска, имеющие характерные особенности.
Путь к цели не рассматривается. Таким образом, путь может
не храниться в памяти и даже не быть задействованным в вычислениях.
Производится работа с одним состоянием, а не с набором состоя-
ний. Рассматривается только переход из текущего состояния в соседнее
или модификация текущего состояния.
44
Поиск ведется не по функции стоимости, а по некой целевой
функции, которая может отражать характеристики практически из любой предметной области.
Это означает, что методы локального поиска по сравнению с методами систематического поиска имеют меньшие требования к ресурсам
памяти для вычислений. Практика показывает, что алгоритмы локального поиска позволяют за
приемлемое время находить удовлетворительные решения даже в больших и бесконечных (как по количеству,
так и по непрерывности) пространствах состояний.
Существует множество методов локального поиска. Ознакомиться
с ними можно в специальной литературе. Приведем примеры алгоритмов, получивших широкое распространение в радиотехнике и смежных
областях технических наук.
Метод поиска с восхождением к вершине (или обратный ему ме-
тод спуска в яму).
Поиск с имитацией отжига.
Локальный лучевой поиск.
Генетический алгоритм.
Метод роя частиц.
Поиск с восхождением к вершине представляет собой цикл, в котором осуществляется перемещение в сторону возрастания значения
целевой функции. Спуск в яму – это восхождение к вершине со знаком «–», т. е. выполняется перемещение в сторону уменьшения значения целевой функции. Работа алгоритма идентичная. Например, метод
градиентного спуска.
с восхождением к вершине останавливается, когда перемеще-
Поиск
ние в любом из возможных направлений приводит к уменьшению целевой функции (увеличению для спуска). Таким образом, считается,
что достигнут ее максимум.
Состояния дальше соседнего не анализируются. Планирование
также отсутствует. Это приводит к ряду недостатков: невозможности
преодоления уступов (областей постоянных значений целевой функции), локальных экстремумов, гребней – областей локальных экстремумов – для многомерных целевых функций. Поэтому, как правило, метод
дополняется модификациями, позволяющими преодолеть эти недостатки.
45
При поиске с имитацией отжига цикл работы аналогичен циклу из
метода восхождения к вершине. В результате работы цикла находится
экстремум целевой функции.
После нахождения локального экстремума (обычно минимума) каждое соседнее состояние будет расцениваться как «более плохое»
по сравнению с экстремумом. В таком случае происходит случайное изменение состояния системы в
заданных пределах с заданной вероятностью. Изменение должно быть достаточно сильным, чтобы поиск вышел
из локального экстремума, но недостаточно сильным, чтобы он вышел
из глобального или чтобы вообще мог не найти решения.
Локальный лучевой поиск представляет собой адаптацию систематического алгоритма поиска по стоимости пути к локальному поиску
с целью
сокращения объемов памяти.
Алгоритм отслеживает сразу несколько состояний, а не одно.
На каждом шаге формируются состояния-преемники для отслежи-
ваемого набора. Если поиск стохастический, то преемники формируются случайным образом, если классический, то, например, по стоимости пути. При этом вероятность случайного выбора также имеет прямую
связь со значениями функции оценки
или целевой функции.
Поиск прекращается, если среди отслеживаемых состояний есть це-
левое. В ином случае «лучшие» из преемников перезаписывают отслеживаемый набор и становятся исходными состояниями.
Методы локального лучевого поиска часто реализуются алгорит-
мами, называемыми эволюционными. К ним относят генетический алгоритм, метод роя частиц, метод пчелиной колонии и другие.
Эволюционные алгоритмы позволяют осуществлять поиск даже в оперативном
режиме, т. е. при условии изменения целевой функции с течением времени.
Генетический алгоритм в настоящее время имеет большую популярность при решении задач численной математики, оптимизации и при
обучении интеллектуальных систем.
Генетический алгоритм является вариантом стохастического лучевого поиска. Принцип работы
алгоритма следующий.
Состояние-преемник формируется путем комбинирования значений
нескольких состояний-предшественников (родителей или предков). Родительские состояния при этом могут разделяться на категории, пред-
46
ставляющие собой разный пол, с целью контроля формирования групп
предков.
Отслеживаемый набор особей называется популяцией. Каждое состояние – индивид или особь. Для каждой группы, задействованной для
воспроизводства нового индивида, задаются параметры скрещивания,
определяющие доли родителей в формировании потомка.
Каждое новое состояние подвергается случайному изменению – мутации с задаваемой вероятностью, что позволяет
преодолевать локальные экстремумы целевой функции. Мутация может интерпретироваться
как частный случай имитации отжига.
Каждая популяция проходит через процедуру отсеивания, имитирующую естественный отбор. Для дальнейших шагов алгоритма отбираются только особи, которым соответствуют, как правило, наибольшие
в популяции значения целевой функции.
Допускаются схематические формы записи состояний, оставляющие возможность
имитировать и корректировать естественный отбор.
Группы предков могут задаваться по функции пригодности, по каким-то табличным значениям (по инструкции пользователя), а также и
случайным образом.
Работа алгоритма заключается в последовательной смене популяций
и оценке состояния особей. Циклы смены популяции называются поколениями.
Поиск завершается при достижении целевого состояния или при
смене определенного количества популяций.
На протяжении всей работы алгоритма в памяти хранится наилучшее с точки зрения значения целевой функции состояние. Это позволяет
фиксировать наиболее удовлетворительное решение алгоритма поиска
даже при невозможности достигнуть целевого состояния за заданное количество поколений.
При методе роя частиц каждое отслеживаемое состояние закрепляется за
простым агентом – частицей. Частицы способны общаться
между собой, т. е. для всего роя присутствуют глобальные параметры,
к которым каждая частица имеет доступ.
Частицы перемещаются в случайных направлениях с задаваемыми
пределами и значениями скорости. Наилучшее с точки зрения значения
целевой функции положение среди частиц сообщается остальным.
47
На новом шаге алгоритма направление и амплитуда вектора скорости каждой из частиц корректируются с учетом информации о наилучшем среди них положении на этом шаге.
Эволюционные алгоритмы оптимизации получили широкое распространение в радиотехнике и смежных областях технических наук.
Они применяются для получения численных значений параметров,
обеспечивающих требуемые характеристики сложных
радиотехнических систем, для обучения интеллектуальных систем (в том числе
нейросетей) и др. Некоторые примеры применения эволюционных алгоритмов: определение конфигурации антенной решетки заданной
апертуры, формирующей диаграмму направленности с минимальным
уровнем бокового лепестка и требуемым значением ширины луча; обучение сверточной нейронной сети для задач обнаружения и классификации радиолокационных
целей на фоне шумов и помех; расчет оптимальных значений коэффициентов цифроаналогового преобразователя
для компенсации ошибок установки фазы в фазовращателях антенных
решеток.
При выборе алгоритма поиска и оптимизации следует помнить одно
важное правило, сформулированное в виде теоремы, доказанной
Д. Вольпертом и У. Макреди: «При применении алгоритмов оптимизации по бесконечно большому
классу задач каждый из них в среднем
имеет одинаковую эффективность».
48
4. ФУНКЦИИ MatLab
ДЛЯ ЛАБОРАТОРНЫХ РАБОТ
И ПРАКТИЧЕСКИХ ЗАНЯТИЙ
В табл. 1 приведены полезные для выполнения лабораторных работ
и заданий на практических занятиях функции программного пакета
MatLab актуальной на момент выпуска этого учебного пособия версии
второй половины 2023 года.
Таблица 1
Перечень функций MatLab
№
Имя функции Описание
п/п
random
1
2
3
normrnd
figure
Функция возвращает случайные значения. Тип и параметры распределения случайных чисел, их количество и размерность задаются в аргументах функции
при ее вызове
Функция возвращает случайные значения, имеющие
нормальное распределение. Математическое ожидание, среднеквадратическое отклонение и размерность
возвращаемого набора чисел задаются в аргументах
функции при вызове
Функция создает новое окно для построения графика
или вывода изображения, если вызывается без аргумента. Вызов с аргументом позволяет установить фокус на соответствующем ранее созданном и еще не закрытом окне
49
№
Имя функции Описание
п/п
plot
4
Функция построения одномерных графиков в системе
двух координат. Существуют разновидности функции, выводящие на экран трехмерные зависимости.
Функции этого вида имеют обширные возможности
по спецификации отображаемых линий графиков, разметке осей координат и сортировке отображаемых
данных
hold on
5
hold off
Функция позволяет осуществлять построение на одном и том же элементе figure нескольких зависимо-
стей с применением функции plot или другой. Команда on фиксирует элемент figure для построения
множества зависимостей, а команда off – снимает
фокус. В режиме off каждый вызов функции plot
строит график, заменяющий предыдущий. В режиме
on точки строятся на одном графике независимо
и не замещают друг друга
drawnow
6
limitrate
Команда drawnow обновляет график на элементе
figure, находящемся в фокусе. Спецификация
limitrate ограничивает частоту обновлений
до 20 Гц
image
7
Функция выводит на экран изображения, представленного трехмерным массивом в цветовой схеме
RGB. Дополнительный способ применения – построение цветовых диаграмм, характеризующих значения
во входном трехмерном массиве данных
disp
8
Функция вывода значения аргумента в командную
строку. Применяется для вывода численных значений, текстовых данных, гиперссылок и др.
size
9
Функция возвращает размерности переменной, заданной в аргументе
length
10
Функция возвращает значение наибольшей размерности переменной, заданной в аргументе
Продолжение табл. 1
50
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]