Нейронная сеть с прямой связью как классификатор

Поскольку сети с прямой связью являются универсальным средством ап­проксимации функций, с их помощью можно оценить апостериорные веро­ятности в данной задаче классификации. Благодаря гибкости в построении отображения можно добиться такой точности аппроксимации апостериор­ных вероятностей, что они практически будут совпадать со значениями, вы­численными по правилу Байеса (так называемые оптимальные процедуры классификации).

13.6. Применение нейронных сетей для анализа временных рядов задача анализа временных рядов

Временной ряд - это упорядоченная последовательность вещественных чисел Xr, = 1,2, ..., Т, представляющих собой результаты наблюдений неко­торой величины. Эти значения обычно получают как результаты измерений в некоторой физической системе. Если нас интересуют зависимости между текущими и прошлым и значениями, то нужно рассматривать вектор задерж­ки ( Xr- 1, Xr- 2, ..., Х (- 11) В n-мерном пространстве сдвинутых во времени значений, или пространстве задержки.

Цель анализа временных рядов - извлечь из данного ряда полезную ин­формацию. Для этого необходимо построить математическую модель явле­ния. Такая модель должна объяснять существо процесса, порождающего данные, в частности - описывать характер данных (случайные, имеющие тренд, периодические, стационарные и т.п.). После этого можно применять различные методы фильтрации данных (сглаживание, удаление выбросов и др.) с конечной целью - предсказать будущие значения.

Таким образом, этот подход основан на предположении, что временной ряд имеет некоторую математическую структуру (которая, например, мо­жет быть следствием физической сути явления). Эта структура существует в так называемом фазовом пространстве, координаты которого - это не­зависимые переменные, описывающие состояние динамической системы. Поэтому первая задача, с которой придется столкнуться при моделирова­нии - это подходящим образом определить фазовое пространство. Для этого нужно выбрать некоторые характеристики системы в качестве фазо­вых переменных. После этого уже можно ставить вопрос о предсказании или экстраполяции. Как правило, во временных рядах, полученных в ре­зультате измерений, в разной пропорции присутствуют случайные флук­туации и шум. Поэтому качество модели во многом определяется ее спо­собностью аппроксимировать предполагаемую структуру данных, отделяя ее от шума.

Статистический анализ временных рядов

Подробное описание методов статистического анализа временных рядов выходит за рамки этой книги. Мы вкратце рассмотрим традиционные подхо­ды, выделяя при этом обстоятельства, которые имеют прямое отношение к предмету нашего изложения. Начиная с пионерской работы Юла, централь­ное место в статистическом анализе временных рядов заняли линейные мо­дели ARlMA. Со временем эта область оформилась в законченную теорию с набором методов - теорию Бокса-Дженкинса.

Присутствие в модели ARlMA авторегрессионного члена выражает то обстоятельство, что текущие значения переменной зависят от ее прошлых значений. Такие модели называются одномерными. Часто, однако, значения исследуемой целевой переменной связаны с несколькими разными времен­ными рядами.

­

а]	а2	ар	Ь]	Ь2	bq
	..... ..
Xt-]	Xt-2	Xt-p	1:: t-]	I::t-2	I::t.q

Рис. 13.7.Реализация АШМА (p,q) модели на простейшей нейронной сети

Так будет, например, если целевая переменная - курс обмена валют, а другие участвующие переменные - процентные ставки (в каждой из двух валют).

Соответствующие методы называются многомерными. Математическая структура линейных моделей довольно проста, и расчеты по ним могут быть без особых трудностей выполнены с помощью стандартных пакетов числен­ных методов. Следующим шагом в анализе временных рядов стала разра­ботка моделей, способных учитывать нелинейности, присутствующие, как правило, в реальных процессах и системах. Одна из первых таких моделей была предложена Тонгом и называется пороговой авторегрессионной моде­лью (Т AR).

В ней, при достижении определенных (установленных заранее) порого­вых значений, происходит переключение с одной линейной АR-модели на другую. Тем самым в системе выделяется несколько режимов работы.

Затем предложены ST AR-, или «гладкие» ТАR-модели. Такая модель представляет собой линейную комбинацию нескольких моделей, взятых с коэффициентами, которые являются непрерывными функциями времени.

МОДЕЛИ, ОСНОВАННЫЕ НА НЕЙРОННЫХ СЕТЯХ С ПРЯМОЙ СВЯЗЬЮ

Любопытно заметить, что все описанные в предыдущем пункте модели могут быть реализованы посредством нейронных сетей. Любая зависимость вида

Х! = f(X_t-l.Х_{t_2}………………………… , x_t_p) +е!

с непрерывной нелинейной функцией f может быть воспроизведена на мно­гослойной сети. Вместо того, чтобы отображать поверхность во входном (фазовом) пространстве, образованную данными посредством одной гиперп­лоскости (AR), нескольких гиперплоскостей (Т AR), или нескольких гиперп­лоскостей, гладко соединенных друг с другом (ST AR), нейронная сеть может осуществить произвольное нелинейное отображение.

Недавние исследования показали, что нейронные сети имеют по срав­нению с классическими моделями более высокие потенциальные возмож­ности при анализе сложной динамической структуры, но при этом дают лучшие результаты и на таких известных типах временных рядов, как ста­ционарные, периодические, трендовые и некоторые другие. Перед оконча­тельным формированием нейронной сети необходимо проделать модели­рование на основе модельного подхода с выделением тренда и сезонных колебаний.

Нейронные сети можно также применять для одномерного и многомер­ного анализа, должным образом сформировав миножество независимых вхо­дов и зависящих от них выходов. Как правило, модель строится для того, чтобы предсказывать значения временного ряда для одной целевой перемен­ной, однако, в принципе, модель может предсказать значения и нескольких переменных (например, доходы по акциям на некоторое время вперед), если в сеть добавить дополнительные выходные элементы.

При этом, однако, исследования в области моделирования временных ря­дов при помощи сетей продолжаются и в настоящее время, и никаких стан­дартных методов здесь пока не выработано. В нейронной сети многочислен­ные факторы взаимодействуют весьма сложным образом, и успех здесь при­носит пока только эвристический «(кустарный») подход. Типичная последо­вательность действий при решении задачи прогнозирования финансовых показателей с помощью нейронных сетей показана на рис. 13.8

Действия на первом этапе- этапе предварительной обработки дан­ных - очевидно, сильно зависят от специфики задачи. Нужно правильно

выбрать число и вид показателей, характеризующих процесс, в том числе, ­

структуру задержек. После этого надо выбрать топологию сети. Если приме­няются сети с прямой связью, нужно определить число скрытых элементов. Далее, для нахождения параметров модели нужно выбрать критерий ошибки и оптимизирующий (обучающий) алгоритм. Затем, используя средства диаг­ностики, следует проверить различные свойства модели. Наконец, нужно проинтерпретировать выходную информацию сети и, может быть, подать ее

Сбор данных Архивация данных Фильтрация данных Выбор показателей

на вход какой-то другой системы поддержки принятия решений. Далее мы рассмотрим вопросы, которые приходится решать на этапах предваритель­ной обработки, оптимизации и анализа (доводки) сети.

Доводка

Сценарии торговых операций

Торговля

Анализ и предсказание

Торговля

Предварительная

обработка

Рис. 13.8.Блок-схема финансового прогнозирования при помощи нейронных сетей