13.2. Нейросетевые технологии и области их применения

На рынке коммерческих программных продуктов наряду с аналитическими инструментами нового поколения, основанными на применении логики нечетких множеств — от электронных таблиц (Fuyy Calc) до экспертных систем (Cubi Calc) корпорации Hyper Jodic (США), все больший интерес для финансово-экономической деятельности представляют информационные технологии, основанные на использовании нейронных сетей.

Нейронные сети — обобщенное название групп алгоритмов, которые умеют обучаться на примерах, извлекая скрытые закономерности из потока данных. Это одна из сфер приложения идей эволюционного моделирования. Под эволюционным моделированием понимается процесс обучения нейронной сети или её адаптация к новым внешним условиям, что можно рассматривать как процесс развития или совершенствования. Каждое новое состояние нейросети, рассматриваемое как «потомок», оценивается по результатам эволюционного отбора. Компьютерные технологии, получившие название нейросетевых, работают по аналогии с принципами строения и функционирования нейронов головного мозга человека и позволяют решать чрезвычайно широкий круг задач: распознавание человеческой речи и абстрактных образов, классификацию состояний сложных систем, управление технологическими процессами и финансовыми потоками, решение аналитических, исследовательских, прогнозных задач, связанных с обширными информационными потоками. Являясь мощным технологическим инструментом, нейросетевые технологии облегчают специалисту процесс принятия важных и неочевидных решений в условиях неопределенности, дефицита времени и ограниченных информационных ресурсов.

Одним из основных понятий, используемых в процессе по­строения и применения нейросетевых технологий, является по­нятие порогового элемента. Пороговый элемент представляет собой устройство с несколькими двоичными входами и одним двоичным выходом. Каждому входу поставлено в соответствие вещественное число, называемое весом. Сигнал на выходе по­рогового элемента равен 0 до тех пор, пока взвешенная сумма входных сигналов не превысит или не станет равной некоторому числу-порогу. Математически это можно представить так:

P=1, если

P=0, если

где Р — сигнал на выходе;

Х — сигнал на входе;

W — вес входа;

i — число входов;

Q — порог (некоторое число).

Пример. Предположим, необходимо распознать определенные комбинации затемнённых полей в карте с тремя полями. Причём, вес входа для каждого из трёх распознающих элемента разный. Пороговый элемент показан графически на рис. 13.2.

Полный перечень возможных комбинаций и требуемых при этом значений на выходе порогового элемента представлен в табл. 13.2.

Манипулируя порогом, можно подобрать такое его значение, которое обеспечит распознавание требуемой комбинации затем­нений на карте.

Переменная X является логической переменной, сопоставимой с i-м синаптическим входом нейрона. Она может принимать два значения: X_i=1, если синапс возбужден, и X_i = 0 — синапс не возбужден. Сово­купность значений X_i i= 1,n образует синаптический вектор Х=(Х₁,Х₂,...Х_n);

Wj — весовой коэффициент синаптической связи от i-го к j-му нейрону.

Если Wj со знаком «плюс», то связь является возбуждающей, если же со знаком «минус» — тормозящей. Совокупность всех весов всех нейронов, представленная в виде матрицы, образует синаптическую карту.

Qj — пороговое значение функции возбуждения j-го нейрона.

Рис. 13.2. Пороговый элемент для распознавания комбинаций из трёх элементов

Таблица 13.2

Значения порогового элемента

Входы			Веса				Порог Q	Выход P
X1	X2	X3	W1	W2	W3	∑WiXi
0	0	0	1	2	1	0	2	0
0	0	1	1	2	1	1	2	0
0	1	0	1	2	1	2	2	1
1	0	0	1	2	1	1	2	0
1	0	1	1	2	1	2	2	1
1	1	0	1	2	1	3	2	1
1	1	1	1	2	1	4	2	1

Наиболее часто в научных исследованиях и на практике используются следующие функции возбуж­дения: ступенчатая пороговая, кусочно-линейная пороговая, сигмоидная, гиперболический тангенс, радиально-симметричная и другие.

Реальный нейрон обладает непрерывно меняющимся выход­ным сигналом в зависимости от входного, поэтому предпочти­тельней является нелинейная функция не ступенчатого, а сигмоидного вида.

Формальное (аналитическое) и графическое представление демонстрируют двухтактную работу нейрона:

1) нахождение скалярного произведения векторов, первый из которых отражает состояние синаптического входа нейрона Х = (Х₁, X₂, ..., Хn), а второй — соответствующие синаптические веса W=(W₁, W₂,..., Wn);

2) вычисление выхода нейрона в соответствии с заданным порогом и функцией возбуждения.

Нейроны объединяются, образуя сеть. Простейшая нейрон­ная сеть состоит из входа, слоя нейронов и выхода (рис. 12.2).

С середины 1980-х годов нейронные сети начали использоваться на Западе преимущественно в финансовых и военных приложениях. Однако, несмотря на успех, инструмент оказался слишком сложным и дорогостоящим.

Ситуация изменилась в начале 1990-х годов, когда на рынке появилось новое поколение нейросетевых технологий — мощных, недорогих, простых в использовании. Одним из лидеров рынка стал нейросетевой пакет Brain Maker американской фирмы California Scientific Software.

Разработанный по заказу военных пакет был адаптирован для бизнес- приложений и с 1990 года удерживает лидерство среди самых продаваемых нейросетевых пакетов США.

Свой путь на российский рынок нейронные сети начали с финансово-кредитной сферы, где заинтересованные в совершенствовании аналитической работы банки стали интенсивно включать нейронные сетевые технологии в состав финансовых приложений.

Рис. 13.3. Простейшая нейронная сеть

В настоящее время пользователями Brain Marker Pro стали уже более 200 банков и торговых компаний, а последнее время — и аналитические учреждения верхних эшелонов власти.

Отличительной чертой нейронных сетей является их способность менять свое поведение (обучаться) в зависимости от изменения внешней среды, извлекая скрытые закономерности из потока данных. При этом алгоритмы обучения не требуют каких-либо предварительных знаний о существующих в предметной области взаимосвязях — необходимо только подобрать достаточное число примеров, описывающих поведение моделируемой системы в прошлом. Основанная на нейросетях технология не предъявляет повышенных требований к точности входных данных как на этапе обучения, так и при ее использовании (после настройки и обучения), например при распознавании симптомов приближения критических ситуаций, для краткосрочных, а иногда и долгосрочных прогнозов. Таким образом, нейросетевая технология обладает двумя чрезвычайно полезными свойствами.

1. Способностью обучаться на конкретном множестве примеров.

2. Умением стабильно распознавать, прогнозировать новые ситуации с высокой степенью точности, причем в условиях внешних помех, например появления противоречивых или неполных значений в потоках информации.

Взяв за основу работу мозга, нейросетевые технологии включили в себя и ряд биологических терминов, понятий, параметров, а метод получил название генетического алгоритма.

Генетический алгоритм реализован в популярных версиях нейропакетов — широко известном в России Brain Maker Professional и менее известном, но более профессиональном Neurofo-rester. В этих пакетах генетический алгоритм управляет процессом общения на некотором множестве примеров, а также стабильно распознает (прогнозирует) новые ситуации с высокой степенью точности даже в условиях внешних помех, например появления противоречивых или неполных знаний. Причем обучение сводится к работе алгоритма подбора весовых коэффициентов, который реализуется автоматически без непосредственного участия пользователя-аналитика. В отличие от Brain Maker Professional в пакете Neuroforester для решения прогнозных задач ряд процедур выполняется автоматически. В частности, автоматически выбирается оптимальное число дней, обеспечиваемых прогнозом. Пакет имеет также инструменты для предварительной обработки данных: корреляционный анализ, позволяющий определять значимость входных параметров прогноза; анализ с помощью масштабных преобразований и экспоненты Хёрста (rescaled range analysis Hurstexponent) для выявлений скрытых циклов данных: диаграмма-распределение зависимости прогнозируемой величины от входных параметров. Эти методы позволяют уже на этапе подготовки данных выделять наиболее существенные для прогноза параметры. Все результаты обработки представляются в графическом виде, удобном для анализа принятия решений.

При использовании нейросетевой технологии работа строится в несколько этапов.

Первым этапом является четкое определение проблемы, т.е. того, что пользователь-аналитик собирается получить от нейросетевой технологии на выходе. Это может быть некоторый вектор, характеризующий систему или процесс. Например, кривая доходности акций, цена отсечения первичного аукциона, показатель целесообразности реструктуризации инвестиционного портфеля, точки перелома тренда и т.п.

Вторым этапом является определение и подготовка исходных данных для реализации нейросетевой технологии. При этом отбирается вся необходимая, адекватно и полно описывающая процесс информация. Для наиболее успешного решения проблемы формирования наборов информации для последующего прогнозирования ситуаций рекомендуется привлекать хорошо знающих данную конкретную область специалистов.

Сложность выполнения второго этапа заключается в том, что должен быть соблюден баланс между стремлением увеличить количество входных параметров и вероятностью получить плохо обучаемую сеть, которая может исказить ожидаемые прогнозы. Дело в том, что число дней ретроспективы и прогноза, которые зависят от свойств исследуемых данных, сильно влияют на точность прогноза. Поэтому выбор несоответственно большого числа дней для прогноза или их малого числа ретроспективы может привести к тому, что сеть будет не в состоянии обучаться.

Ввод данных в систему, подготовка данных, создание файлов для тренировки и тестирования можно считать самостоятельным третьим этапом. Основной целью работы на этом этапе является формирование необходимого набора ситуаций, с которыми придется работать аналитику, а затем распределение исходных данных по этим ситуациям. При этом нейросетевая технология автоматически реализует задачу классификации, в основе которой лежит нечеткая логика (fuzzy logic). В качестве входных параметров могут быть использованы искусственно созданные характеристики системы, в частности для фондового рынка это могут быть различные индикаторы технического анализа.

На этапе подготовки данных анализируется степень их информационной насыщенности, для чего выявляется степень влияния конкретного параметра на прогнозируемую величину. Достигнув равномерного наполнения всех степеней зависимости, выявляется соответствие между прогнозируемой величиной и параметром в виде “Если..., то...; иначе...”, что близко к реализации алгоритма нечеткой логики и экспертным системам.

Выбор типа нейросетевой технологии и метода ее обучения можно выделить в самостоятельный этап. Сеть может быть построена с помощью Net Maker в интерактивном режиме, пользуясь его подсказками, или создать файлы Brain Maker, пользуясь текстовым редактором. Для прогнозирования временных рядов, которыми описываются финансовые рынки, предпочтительно воспользоваться генетическим алгоритмом Genetik Algorithms, а для решения задач распознавания образов и классификации — сетевыми технологиями Hopfield и Kohonen. Наиболее трудоемким процессом является настройка нейросети на обучающую выборку данных, ибо здесь определяется оптимальное количество параметров, свойств исследуемых данных, оптимальное число дней ретроспективы и прогноза. Хорошо продуманные способы задания тестовых множеств в сочетании с несколькими вариантами обучающих алгоритмов (от стандартных до скоростных) и заданием различных критериев остановки обучения предоставляют широкие возможности для экспериментов.

Облегчает процесс работы и то, что все современные нейросетевые технологии содержат ту или иную систему конвертеров, позволяющих пользоваться данными, подготовленными в популярных исходных форматах. В частности, Word System может импортировать текстовые файлы, таблицы, подготовленные в Excel, a также данные в формате Meta Stock. Следует подчеркнуть, что Meta Stock не только программный продукт, но и формат деловой ин­формации, отличающийся высокой компактностью данных в сочетании с надежностью их передачи.

Современные нейросетевые продукты позволяют работать как с числовыми, так и с текстовыми данными, т.е. преобразовывать набор символов (слово, фраза) в уникальный набор чисел. Ward System делает возможной также обратную операцию, т.е. представление результатов работы нейросети в виде не только чисел, но связного текста, что позволяет генерировать результаты в виде различных информационных сообщений. Правила для обучения нейросети могут задаваться посредством их ввода в готовом виде, а также в виде чисел, требующих дополнительных преобразований данных. Причем эти ограничивающие и разрешающие правила и условия могут задаваться в процессе решения задачи. Другим мето­дом задания правил в Wand System является работа с индикаторами технического анализа. Включение индикаторов в процесс обучения существенно повышает не только точность прогнозов, но и их стабильность и статистическую достоверность. Для решения этой же проблемы в Ward System с большей эффективностью можно воспользоваться специальным блоком, который содержит полный список процедур с возможностью автоматического подбора параметров и переноса выбранных значений в подготовленный набор входных данных, что значительно облегчает работу аналитика.

Последними этапами можно считать проведение тестирования нейросети и ее запуск для получения прогноза. Работоспособность первоначально обученных сетей проводится на тестовой выборке данных. По результатам тестов отбираются наиболее перспективные варианты. При этом руководствуются тем, что точность и надежность прогноза прежде всего зависят от типа прогнозируемой величины, состояния, в котором находится система (стационарное, вблизи критической точки и т.п.), типа системы (управляемая она извне или замкнутая). Например, наиболее точен и надежен прогноз локального изменения тренда в стационарном состоянии рынка.

Если результаты тестирования не удовлетворяют, то просматривают набор входных данных, изменяют некоторые учебные программы или перестраивают сеть.

После завершения полного цикла решения задачи возможны два пути: пользоваться в дальнейшей работе созданной системой, что вполне приемлемо для одного специалиста, решающего определенный круг задач, или создать для каждой задачи независимые приложения в виде отдельного файла, который может использоваться другими программами. В этом случае полученный вариант нейросетевой технологии представляет собой упакованную нейросеть с описанными функциями передачи данных и команд управления.

Гибкость и мощность нейронных сетей открывает перед ними практически неограниченные возможности применения, особенно в качестве аналитических инструментов в таких плохо формализуемых и многокритериальных областях, как анализ финансовой и банковской деятельности. Любая задача, связанная с использованием финансовых средств на валютном рынке или рынке ценных бумаг, сопряжена с риском и требует тщательного анализа и прогноза. Точность прогноза, устойчиво достигаемая нейросетевыми технологиями при решении реальных задач по некоторым данным превышает 95%. Поэтому количество примеров успешного применения нейросетевых программных продуктов стремительно растет.

Среди перспективных направлений использования нейросетевых технологий можно назвать создание компьютерных моделей поведения клиента для оценки риска или перспективности работы с конкретными клиентами. Например, можно проанализировать прежние сделки и на этой основе оценить вероятность того, согласится ли конкретный клиент на то или иное предложение.

На мировом рынке аналитического программного обеспечения представлен широкий спектр нейросетевых технологий, начиная от систем, ориентированных на суперкомпьюторы, стоимость которых превышает 50 тыс. долларов до недорогих (несколько сотен долларов) нейропакетов, работающих на платформе персональных компьютеров и рабочих станций. Это делает доступной технологию нейронных сетей для приложений практически любого уровня.

Вопросы для самопроверки

1. Что называют экспертной системой?

2. Почему в экспертной системе выделяют интерфейс пользователя и интерфейс эксперта?

3. Какую функцию выполняет машина вывода?

4. Каковы преимущества экспертных систем по сравнению со специалистами?

5. В чём состоит отличие экспертной системы от других информационных систем?

6. Назовите типовые категории применения экспертных систем.

7. Назовите основные недостатки экспертных систем.

8. Назовите предметные области применения экспертных систем в экономике.

9. Что такое экспертная система и эволюционное моделирование?

10. В чём состоит основная идея нейронных сетей?

11. Назовите два чрезвычайно полезных свойства нейронных сетей.

12. Назовите основные преимущества нейронных сетей по сравнению с другими известными методами программирования.

13. Назовите основные этапы подготовки нейросети к работе.