1. Модель Персептрона.

Исторически первой моделью нейрона была модель Мак-Каллока и Питтса. Это была самая простая модель. Они назвали свою модель Персептроном. Как у нейрона у него несколько входов и один выход (входы синапсы, а выход – аксон).

Синапсы получают сигналы от аксонов других нейронов, а аксоны соединяются с синапсами других нейронов, и образуется многослойная сеть.

Так же как в природе у каждого синапса есть весовой коэф-т и сигнал , то сумма сигналов с разным весом образует 1 сигнал – вх-й:

W_i

x_i

Т.о. в персептроне входной сигнал – это сумма сигналов разного веса.

Персептрон может генерировать выходной сигнал, если

. Т.о. персептрон обладает пороговым эффектом, т.е. сигнал на выходе получается только при достижении порога . Поэтому персептрон называют пороговым нейроном.

Т. к. вход связан с другим нейроном , то зав-т от 2-х величин: i – номер входа данного нейрона и j – др нейрон, с которым связан данный, тогда оценивая влияние на j-й вход др нейрона, вводят y_i: .

Как правило, в моделях рассматривается вес , - номер входа у данного нейрона,- номер входа другого нейрона, x и y – значения только 0 или 1.

Если рассмотреть сеть из персептронов, то она похожа на двоичный автомат. Существуют методы анализа такого автомата с пом булевых ф-ций. Поэтому модель Мак-Каллока-Питтса стала самой распространенной.

2. Сигмоидальный нейрон.

В этом нейроне перешли от дискретной модели к непрерывной, где порог непрерывный( т.е. не только 0 и 1), сигнал непрерывный. Нужно было подобрать ф-цию. Нашли такую:

Чем больше , тем быстрее дойдем до единицы. Т. е. при мы стремимся к персептрону. Когда =10; 12 рез-ты ничем не огтличаются от персептрона. . В персептроне параметры : веса и U₀, здесь еще U_вх. сигмоидальный более четкий. Но ни персептрон, ни сигмоидальный не похожи на настоящий нейрон, их исследуют с целью получения более высокого соот-я с нейронной сетью.

3. Модель Видроу.

У этой модели две особенности: адаптивный подбор весовых коэффициентов и деление нейронов на два вида: аутстар и инстар.

- instar (в звезду)

- austar

В инстаре как у персептрона 1 выход, много входов. Аутстар – много выходов, 1 вход.

Получили нейроны разных типов, но в природе все нейроны одинаковы, одного типа, но они переплетены. Такое переплетение можно отразить с пом outstar’ов.

Замечание. Известно, что в природе нейрон может менять проводимость своих дендритов.

В видроу возможность самообразовываться введена в саму модель.

Этот алгоритм адаптивный и существует попытка приблизится к устойчивому состоянию сети. В аутстаре вводится не вес входящий, а вес выходящий, т. е. этот нейрон работает в обратном режиме.

Аутстары и инстары в видроу наз. Adaptive Linear Neuron (адаптивный линейный нейрон).

Очень часто с помощью адалайна моделируют процессы самообразования, самосагласования и даже появился термин: Many ADALINE (MADALINE) - сеть, состоящая из элементов типа ADALINE.

Причем характеристика ADALINE необычна: она пороговая, нет 0, на выходе либо +1 либо -1:

Т. о. Видроу формировал адалайны на основе логических операций no, and, or и мажоритарных соединений (когда сигналы равны на входе и на выходе).

Гроссберг был автором инстара и аутстара. У Видроу был просто адалайн с +1 и -1. Гроссберг придумал для своих инстар, аутстаров спец методы обучения, которые наз методы обучения Гроссберга.