- •Лекция №1
- •Биологические нейрон
- •Лекция №2
- •Модели иссукственного нейрона.
- •Лекция №3 01.03.2012г
- •Статистическая теория веротности
- •Архитектура нейронных сетей.
- •Топология нейронных сетей.
- •3.Слабосвзяные сети.
- •Лекция №4 05.03.12г
- •Обучение нейронных сетей
- •Парадигмы обучение нс.
- •Лекция №6 19.03.12г
- •Задачи обучения.
- •Распознавание образов
- •Нс прямого распространения сигмоидального типа.
- •Лекция №11 12.04.12
- •Лекция №12 16.04.2012г
- •Самоорганизующиеся нс
- •Отличительные особенности самоорганизующиеся нс на основе конкуренции.
- •Алгоритмы обучения сок
Статистическая теория веротности
Является детерминированной, это значит что преобразование входного сигнала в выходной точно определено для всех значений выходного сигнала, однако в некоторых случаях стахостические нейро-сетевые модели в которых функция активация имеет вероятностную интерпритацию. В стахостической модели нейрон может находится в 2 состояниях +1 или -1 решение. Решение о переключении состояния нейрона принимается в учетом вероятности этого события. Обозначив состояние нейрона символом y а вероятность функции V – индуцированное локальное поле нейрона будем иметь с вероятностью . Вероятность описывается синуидальной функцией вида. где T аналог тепмературы который используется для умпавлением уровнем шума, а следовательно не определьностью переключения. При этом необходимо заметить что параметр T не описывает физическую температуру нейронной сети, не биологической не исскуственной. Это параметр управляет термальными флуктуациями представляющими эффект синаптического шума. В случаи когда паремтр T стремится к нулю. Страхостический нейрон описанные выражением (*) принимает детерминированную форму нейрона МакКалака Пицца без включения шума.
Архитектура нейронных сетей.
Нейрон это составная часть нейронной сети. Исскуственная нейронная сеть строятся и нейронов которые связанны. Они могут реализованы в виде быстрых аппаратных устройств, и такие реализации существуют. Однако большинство исследований выполняется в использованием программного моделирования на ПК. Как правило активационные функции всех нейронов в сети являются фиксированными, а веса параметрами сети и могут изменятся. Работа нейро-сети состоит в преобразовании входного вектора (Х) задаваемые весами сети выходными в (Y). Что бы построить нейронную сеть нужно выполнить следующие этапы:
1. Выбрать архитектуру.
2.Осуществить подбор весов в сети. Задача является не тривиальной.
На этапе выбора архитектуры нейронной сети нужно совершить следующие вопросы.
1. Какие нейроны(число входов, функции активации)
2.Как их соединить.
3.Какие входы и выходы.
При этом не обязательно строй сеть в нуля, существует множество нейро-сетевых архитектур, причем эффективность доказана математически. Наиболее изученные популярные архитектуры, это многослойный пейсерптрон, нейро-сеть с общей эгресении, сети Кохонина. Входные нейроны это нейроны на которые подается входной вектор, кодириющей входное вохздействие или образ внешней среды, в них обычно не производится вычислительных процедур информация передается с входа на выход путем изменения его активации. Выходные нейроны – это нейроны выходные значения которых представляют выход сети. Промежуточные нейроны – это нейроны которые состоявляют основу исскуственных сетей.Во многих модолей сетей тип нейрона зависит от его расположения в сети. Если у нейрона имеются только выходные связи то это входной нейрон, наоборот выходной нейрон. В процессе функцирования сети когда входной вектор преобразуется в выходной происходит некоторая переработка информации. Конкретный вид этой информации зависит не только от функций активации, но и от особенностей ее архитектурны. Существуют бинарные и аналоговые нейронные сети. Бинарные сети опериркют с двоичгыми сигналами, при это выход каждого нейрона принимает только два значения, логический 0 состветвующий заторможенному и логическая 1 сответсвующая возбужденному состоянию. Нейронные сети бывают:
1.Статические, часто называемые сетями с прамой связью или сетями прямого распространияния.
2. Динамические или рекуррентные. Существуют три фундаментальных класса нейро-сетевых архитектур, одно слойные сети прямого распространия. Много слойные сети прямого распространия, рекурентрые сети.