17. Нейронные сети.

Нейронная сеть – раздел иск-го интеллекта, в к-м для обработки сигналов исп-ся явления, аналогичные происходящим в нейронах живых существ. История: 1943-Уильям Маккалок, У.Питтс предлож модель нейрона (нерв клеек мозга, 1949- Хебб. способы обуч нейр сети, 1969-М.Минский, С.Пейперт напис книгу «Персептроны», вней они похорон все перспект НС, нач 80х – новый рассвет НС.(нов мод нейтронов, нов структ НС, нов спос обуч).

Биол основ. (рис нейрона:тело, аксон-выход, дендриты-входы, синапс.Из тела выходят 2 вида отростков:тонкие-дендриты,долее толстые аксон,входные сигнала поступают ч/з синапсы,наход-ся на дендритах или теле.Выходной сигнал передается аксону ч/з колатералы). Принцип действ: электрохим сигн попад в тело клетки ч/з синапсы на дендритах, измен велич его энегет потенц. Один и тот-же сигн прох ч/з разн синапсы м оказ разн дейсв-е на клетку (увел или уменьш потенциал) возбужд или тормозящ дейс-е. если накопл потенц клетки превыш некотор порогов зн-е, на вых (аксоне) появл сигн, перед другим клеткам. (t_сраб=1-2 мс: Е=-70 мв...+3мв). Мн-во клеток работают параллельно - быстродействие. В мозге чела – 10¹¹ нейронов, каждый связан еще с 1000-10000 других. Поэтому несмотря на на малое быстродействие нейронов, паралелльная обработка инф-ии множеством элементовведет к горомной скорости решения задач.Большое число нейронов и свзей м/у ними увелич. надежность нейронной сети.

Обобщенная модель:

W – вес нейтрона, f – фу-я активац, х₀- сигн поляриз, определ-й порог срабат.

Входные сигналы х_i суммир-ся в нейроне с учетом весовых коэф-тов W_ij Сумма поступает на вход функционального блока f (U), вход к-го явл-ся выходным сигналом нейрона. Работа нейрона м.б. описана ф-лой:

. В зав-ти от вида ф-и активации f, различают неск моделей нейронов.

Модели: 1) персептрон f(u)={0,u<0; 1,u>=0. (пороговая ф-я активации). 2) сигмоидальный (ф-я актив-и непрерывная). М.б.униполярной f(u)=1/(1+e^-u) и биполярной f(u)=tanh (u).

Преимущества – дифференцируемость, к-я исп-ся при обуч-и. 3) WTA-нейрон. Здесь реализ-ся простое суммирование с учетом весовых коэф-тов. На выходе группа конкурир-х нейронов имеет блок сравнения. У кого сумма больше, тот получает1, остальн – 0.

Отдельные нейроны объед-т в сети. Слой – это несколько несвяз м/у собой, нейронов, располож в одной плоск.

Однослойные сети Двуслойная сеть

может реал ф-ю XOR. Сети с 3 и более слоев могут реализов люб ф-ю.

Способы обучения-это такое измен-ие весовых коэф-ов при к-ом реал-ые сигналы на выходах сети отлич-ся от треб-х.

Виды обучения: с учителем – производится путем предъявления сети нескольких наборов сигналов, для к-х известны требуемые выходы (веса уточняются после каждого набора). 1) при нальном случ выбранном зн-ии весов W_ij на вход нейрона подается обуч вектор х и расчитыв зн-е вых сигн. У_i. 2) если зн-е у_i совпало с ожид-м знач d_i , то весов коэф W_ij не изменяются. 3) если У_i не совпало, то значен весов уточняются по формуле. W_ij(k+1)= W_ij(k)+x_j*(d_i-y_i), k – номер цикла обучения. 4) переход к пункту 1.. Без учителя - нужный выходной сигнал неизвестен, сети пред-ся т-ко входы, веса опред-ся сетью самотоят.

Проблемы: 1) переобучения – сложно обобщить результат на новые наблюдения. 2) сеть учится тому, чему проще обучиться. Пример: система машинного зрения – автомат распозн-е танков. Сеть обучалась на картинках с танками (фото в пасмурный день) и без (солнечный день). Пока перечень картинок не менялся- -100% результат. Дали новые картинки – провал. Вместо танков сеть научилась опред-ть освещенность. Поэт при обучении след-т учитывать все особенности.

Области применения: 1) апроксимация и интерполяция (идентиф-я и распознавание) 2) Классификация и распознавание образов 3) прогнозирование (по предыдущему сост-ю предск-ся будущее) 4) системы упр-я динамическими объектами. 5) экспертные системы.