Экономическая информация часто характеризуется совокупностями многомерных данных, когда для каждого объекта регистрируется целый набор признаков.

В таких ситуациях высокую эффективность демонстрируют многомерные статистические методы анализа. К таким методам относятся: кластерный анализ, факторный анализ, дискременантный анализ и т.д.

Одним из перспективных средств, дающих новые подходы к исследованию многомерных задач, являются нейронные сети.

Нейронные сети – это раздел искусственного интеллекта, в котором для обработки сигналов используется явление аналогичные происходящим в нейронах живых существ.

В России сформировались три научные школы в области нейротехнологий.

1. Центр Нейрокомпьютеров РАН (А.И. Галушкин)

2. Научная школа нейротехнологий МГУ (А.В. Чечкин)

3. Красноярские научные школы нейротехнологий в КГУ (А.Н. Горбань)

Нейросетевое моделирование находит широкое применение в самых разнообразных областях:

Распознавание областей речи, распознавание ассоциативной памяти, обработка изображений, обработка зашумленных данных, системы управления реального времени, система безопасности, классификация, составления расписаний, оптимизация прогноз, выявления интересов пользователей интернет, моделирование сложных процессов и другие.

В настоящее время для реализации нейроносетевых технологий разработаны программные средства: MatLab, Deductor, Statistica, Viscovery Sorine.

Нейросетевой анализ данных, является свободным от модельных ограничений. Он может применяться для линейных и нелинейных зависимостей.

Существует множество искусственных нейронных сетей разных типов, что связано с различными способами объединение нейронов между собой и организацией их взаимодействия.

Среди множества типов нейронных сетей в качестве важнейших, можно выделить многослойные сети прямого распространения, сети радиальных базисных функций(RBF-сети), самоорганизующиеся нейронные сети, рекуррентные нейронные сети.

При решение задач в условии хаотических финансовых рынках используют нечеткие нейронные сети. Их функционирование основано на принципах нечетной логики и использовании нечетких экспертных систем.

Начиная с середины 20 века, искусственные нейронные сети развиваются вместе с вычислительной техникой и появлением новых знаний о биологической структуре головного мозга.

Методы теории нейронных сетей основаны на моделировании структуры головного мозга.

Нейронная сеть – это громадный распределенный параллельный процессор, состоящий из элементарных единиц обработки информации, накапливающих экспериментальные знания и предоставляющих их для последующей обработки.

Нейронная сеть сходна с мозгом с двух точек зрения:

1.Знания поступают в нейронную сеть из окружающей среды и используются в процессе обучения

2.Для накопления знаний применяются связи между нейронами, называемые синоптическими весами.

В случаях, когда нужно подчеркнуть вычислительные возможности нейронных сетей, а не биологическое соответствие, искусственные нейронные сети называют: нейрокомпьютерами, сетями связей, коннекциями, параллельными распределенными процессорами.

Идея создания искусственных нейронных сетей, по образу устройства нервной системы живых существ, возникла в 1943 году, когда учёный МакКаллок и Питс создали модели нервной клетки называемой нейроном, который является основным элементом нервной системы.

Различные вида нейронов взаимодействуют между собой и собраны в популяции – нейронные сети.

Теории нейронных сетей является алгоритмическим базисом развития нейрокомпьютеров подобно тому, как булева алгебра более 50 лет является алгоритмическим базисом однопроцессорных и многопроцессорных ЭВМ

Биологический нейрон.

Представление о детальном устройстве головного мозга появилось около 100 лет назад. В 1888 Раймони Кайал экспериментально доказал, что мозговая ткань состоит из большого числа, связанных друг с другом однотипных узлов – нейронов.

Нервная клетка или нейрон, является основным элементом нервной системы, нейроны соединены нервными волокнами. Нервные волокна способны передавать электрические импульсы между нейронами. Все процессы передачи раздражений от нашей кожи, ушей, глаз к мозгу, к процессу мышления и управления нашими действиями, реализованы в живом организме как передачи импульсов между нейронами. Объем информации хранящийся в мозге человека и других млекопитающих, превышает объем генетической информации, закодированной в ДНК. Строение мозга отображает его эволюцию.

Наиболее древние участки мозга, доставшиеся человеку от рыб и амфибий, ответственны за поддержания жизнедеятельности и размножения.

Рептильный комплекс – это отделы мозга, которые возникли несколько сот миллионов лет назад. Они обеспечивают ориентацию в пространстве.

Лимбическая система – третий слой, сформировавшийся около 150 миллионов лет назад. Он отвечает за эмоциональную сферу.

Кара больших полушарий – возникшая несколько миллионов лет назад, обеспечивает функции речи и логического мышления.

Обычно лишь 2-3% нейронов мозга являются активными, поэтому мозг обладает огромным запасом прочности и пластичности, которые позволяют ему работать даже при серьезных повреждениях, так же приспосабливаться к значительно меняющимся внешним условиям.

Полушария мозга человека имеют разные назначения:

Левое полушарие – отвечает за работу с абстрактными представлениями, математические вычисления и логический вывод, речь, письмо, восприятие времени. Эти процессы связаны с пошаговой обработкой информации.

Правое полушарие – оперирует с образами конкретных объектов.

Все видимое нами в жизни хранится в правом полушарии, а все имена в левом. Правое полушарие способно учиться узнавать предметы при их предъявлении, а левое по их описаниям. У правого полушария данные и метод составляют единое целое. Оно также отвечает за воображение и интуицию – это более древние механизмы мозга, по сравнения с логическим мышлением. Правое полушарие поддерживает параллельную обработку информации, оно же отвечает за творчество.

Изучение механизмов функционирования отдельных нейронов и их взаимодействия важно для того, чтобы знать как в нервной системе проникают процессы поиска, передачи и обработки информации. По этому необходимо изучить модель биологического нейрона.

Общая структура головного мозга очень сложна. Мозг человека содержит 10 в 11 степени нейронов различных видов, которые участвуют в 10 в 15 степени передающих связях, а каждый нейрон имеет 10 в 4 степени синаптических связей.

Несмотря на огромное количество нейронов, их тела занимают всего несколько % объема мозга. Почти все остальное пространство мозга занимаю межнейронные связи.

Исследования с помощью электронного микроскопа показали, что все нейроны независимо от типа имеют схожую организационную структуру.

С биологической точки зрения у нейрона имеется тело, называемое сомой, внутри которого располагается ядро.

Ядро содержит информацию о наследственных свойствах и плазму, которая обладает молекулярными средствами для производства необходимых нейрону материалов.

Из сомы нейрона выходят многочисленные ветвящиеся тонкие отростки – дендриты.

Входные сигналы поступают в клетку через синапсы. Синапсы могут располагаться непосредственно на теле клетки, либо на дендритах.

Выходной сигнал нейрона отводится более длинным (иногда больше метра) отростком (аксоном), через его многочисленные нервные окончания, называемые колатералами.

Колатералы контактируют с сомами и дендритами других нейронов, образуя очередные синапсы, которые подключают к клетке выходы других нейронов.

20.02.12 Лекция №2

Дендриты играют роль рецепторов – сигналов от других нейронов.

Синапс представляет собой место соединения коллатералов аксона с дендритами других нейронов – это промежуток порядка 200 нано метров(н.м.). Нано(10 в -9 степени)

Задача аксона – самого крупного отростка заключается в том, чтобы передавать сигнал активности аксона другим нейронам.

В центральной нервной системе человека насчитывается от 100 до 1000 нервных клеток, которые отличаются картиной дендритов, наличием и длиной аксона и распределением синапсов около клетки. Среди этих клеток отметим шванновские клетки. Это специфические клетки почти целиком состоящие из миелина.

Миелин – это органическое изолирующие вещество. Шванновские клетки обматывают нервное волокно 250 слоями миелина. Не изолированные места нервного волокна между шванновскими клетками называется перехватами Ранвье. За счёт миелиновой изоляции скорость распространения нервных импульсов возрастает в 5-10 раз.

При это уменьшаются затраты энергии на проведение импульсов.

Миелинизированные нервные волокна встречаются только у высших животных. Клетки сильно связаны между собой. Близкие по функциям клетки образуют шаровидные или параллельные слоистые скопления. В мозгу выделены сотни скоплений.

Кора головного мозга – это тоже скопление клеток. Толщина коры 2 мм, а площадь около 930 квадратных см.

Нервный импульс(Спайк) – это процесс распространения возбуждения по аксону от тела клетки до окончания аксона. Спайк представляет собой основную единицу информации, которая передается по нервному волокну. Поэтому в теории нейронных сетей модель генерации и распространения нервных импульсов является одной из важнейших. Упрощенно считается, что нервный импульс между двумя нейронами передается путём выделения особых химических субстанций(нейро медиаторов), которые формируются под влиянием раздражителей, поступающих от синапсов.

Типичная форма нервного импульса.

Нейромедиаторы воздействуют на клеточную мембрану вызывая изменения энергетического потенциала нейрона. Величина этого изменения пропорционально количеству нейромедиатора попадающего на мембрану. Мембрана поддерживает постоянный состав цитоплазмы внутри клетки и обеспечивает проведение нервных импульсов.

Цитоплазма – это внутренняя среда клетки. Отличается концентрацией ионов (Ca ++, Na+, K+)Кальция, Натрия, Калия и других веществ по сравнению с вне клеточной средой. Суммарное количество нейромедиатора выделенного на всех синапсах , определяет уровень поляризации мембраны, которые считаю мерой возбуждения нейрона.

Если она увеличивается, то синоптическую связь называют возбуждающей, а если уменьшается, то тормозящей. Таким образом импульсы по нервному волокну передаются в виде скачков потенциала внутриклеточной среды, по отношению к внешней среде. Скорость передачи от 1 до 100 м/с(метров в сек). Для миеленизированных волокон скорость передачи примерно в 5 – 10 раз выше. При распространение импульсы не затухают и форма нервного импульса не меняется. Она является фиксированной, определяется свойствами нервного волокна и не зависит от способа создания импульса. Возможно стремительные нарастания порога активации нейрона до значения «+~», Когда сразу после генерации импульса нейрон теряет способность вырабатывать очередной сигнал даже при сильном возбуждении. Этот процесс запускается одновременно с генерацией нервного импульса и сохраняется в течение времени, которое называется периодом абсолютной рефракции. По окончании этого периода наступает период относительной рефракции за который порог срабатывания возвращается к первоначальному значению. В это время клетку можно активировать, однако с приложением более сильных возбуждений. Таким образом нейрон может находиться в трёх основных состояниях:

1. Состояние активности – при котором он передает нервные импульсы соседним нейронам;

2. Состояние ожидания нервных импульсов от соседних нейронов;

3. Состояние глубокого сна – при котором он не реагирует не на какие импульсы и сам не генерирует нервных импульсов

Каждый нейрон выполняет достаточно примитивные функции суммирования весовых коэффициентов входных сигналов и сравнения полученной суммы с пороговым значением. Он сколько свои веса и своё пороговое значение, которые определяются место нахождением нейрона и решаемой им задачей. Поскольку имеется огромное количество нейронов и меж нейронных связей ( до 1000 входов в каждый нейрон), то ошибка в срабатывание отдельного нейрона остаётся не заметной в общей массе взаимодействующих нейронов. В связи с этим нейронная сеть проявляет высокую устойчивость к помехам – отдельные сбои не оказывают существенного влияния на результаты её функционирования. Другой важной особенностью нервных систем, является высокая скорость их функционирования, при относительно длительном цикле срабатывания каждой отдельной клетки, измеряемых в миллисекундах.

Она достигается путём параллельной обработки информации в мозге и огромным количеством нейронов, которые соединены многочисленными меж нейронными связями.

Модели искусственного нейрона.

Искусственный нейрон имитирую свойства биологического нейрона имеет похожее строение. Чтобы подчеркнуть различия биологических и искусственных нейронов, искусственные нейроны называют нейроноподобными элементами, формальными нейронами или узлами.

Детерминированные модели нейрона.

Модель искусственных нейронов представленные на Рис.2 можно выделить 3 основных элемента:

А) Набор синапсов или связей, каждая из которых характеризуется своим синоптических коэффициентом или весом (W i). В отличии от синапсов мозга, синоптический вес искусственного нейрона может иметь как положительное так и отрицательное значение. Синоптические связи с положительными весами называются возбуждающими, а с отрицательными весами тормозящими.

Б) Сумматор, который складывает входные сигналы, взвешенные относительно соответствующих синапсов нейрона. Эта операция может быть описана как линейная комбинация (Е).

В) Функция активации (передаточная функция или функция сжатия), которая ограничивает амплитуду выходного сигнала нейрона. (F)

Обычно нормализованные диапазон амплитуд выхода нейрона находится в интервале

[0,1] ,[-1,1].

В математичкой модели нейрона на вход искусственного нейрона поступает некоторое количество сигнала. Каждый входной сигнала умножается на соответствующий коэффициент, который моделирует силу синоптической связи и все произведения суммирует, определяя уровень активации нейрона. Взвешенная сумма (V) входных величии X i :

(1)

Здесь n - это размерность пространства входных символов.

Затем полученная сумма сравнивается с пороговой величиной W 0 (называемой смещение, сдвигом или порогом) , после чего вступает в действие не линейная функция активации F в результате получается выходной сигнал нейрона. Коэффициенты {W i} в сумме (1) обычно называют синоптическими коэффициентами или весами. Выходной сигнал нейрона «y», есть функция его состояния (F(V)). Величину порогового барьера можно рассматривать как ещё один коэффициент при постоянном входном сигнале, эта величина отражает увеличение или уменьшение входного сигнала подаваемового на функцию активации. В этом случае говорят о расширенном входном пространстве: нейрон с n-мерным входом имеет n+1 весовой коэффициент.

При этом соотношение (1) для потенциала нейрона имеет вид:

n

V = ∑ Wi xi + W0 = *; (2)

i = 1

Здесь V называется потенциалом активации или индуцированным локальным полем. В зависимости от способа преобразования сигнала и характере функции активации возникают различные виды нейронных структур.

Рассматривают детерминированные нейроны и вероятностные нейроны. Состояние которых в момент времени t, есть случайная функция потенциала и состояния в момент t -1. Различают статические нейроны, такие в которых сигнал передаётся без задержки и динамические нейроны, где учитывается возможность таких задержек( Синапсы с запаздыванием).

В случае, когда функция активации одна и та же для всех нейронов, нейронная сеть называется однородной или гомогенной, если же функция активации зависит ещё от одного или нескольких параметров, значение которых меняется от нейронов к нейрону, то нейронная сеть называется не однородной или гетерогенной.