Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Сборник методов нейроинформатики.DOC
Скачиваний:
98
Добавлен:
10.12.2013
Размер:
3.85 Mб
Скачать

4. Погрешности весов синапсов

В [6,7] описан метод обратного распространения точности для сигналов нейронных сетей. Он состоит в функционировании сети с той же системой связей, но от выходов к входам и с заменой элементов на двойственные. Эта двойственность принципиально отличается от той, которая используется в классическом методе вычисления градиентов оценки с помощью обратного распространения ошибок (back propagation of errors). В ходе процесса сигнал, проходящий по связи в обратном направлении, является допустимой погрешностью сигнала, проходящего по этой связи в прямом направлении.

В методе обратного распространения точности были получены формулы для вычисления погрешностей входных и внутренних сигналов сети при заданных погрешностях ее выходных сигналов. В работах [6,7] для элементов стандартного нейрона при известной погрешности выходного сигнала гарантированная интервальная оценка погрешности входного сигнала вычисляется следующим образом:

1) точка ветвления. Если погрешности выходных сигналов точки ветвления равны, то погрешность входного сигнала точки ветвления не должна превышать;

2) нелинейный преобразователь. Если погрешность выходного сигнала нелинейного преобразователя равняется, то погрешность его входного сигнала не должна превышать, где– выходной сигнал нелинейного преобразователя,– его функция активации иили в линейном приближении, где–входной сигнал нелинейного преобразователя при прямом функционировании сети;

3) адаптивный сумматор. Если при обратном распространении погрешность выходного сигнала адаптивного сумматора равняется, то погрешность каждого входа сумматора не должна превышать, гдедля равномерного распределения идля пропорционального распределения.

Для среднеквадратических оценок погрешностей входных сигналов при известных погрешностях выходных сигналов формулы имеют вид:

1) точка ветвления. Если дисперсии погрешностей выходных сигналов точки ветвления равны, то в качестве погрешности входного сигнала точки ветвления выбирается;

2) нелинейный преобразователь. Если среднеквадратическое отклонение погрешности выходного сигнала нелинейного преобразователя равняется, то погрешность его входного сигнала не должна превышать, где– входной сигнал нелинейного преобразователя при прямом функционировании и– его функция активации;

3) адаптивный сумматор. Если среднеквадратическое отклонение погрешности выходного сигнала адаптивного сумматора равняется, то погрешность каждого входа сумматора не должна превышать, гдедля равномерного распределения идля пропорционального распределения.

При вычислении погрешностей сигналов предполагалось, что веса синапсов погрешностей не имеют и погрешности выходных сигналов сети образуются за счет погрешностей входных сигналов. Теперь рассмотрим противоположную задачу. Будем предполагать, что веса синапсов имеют некоторые погрешности, а входные сигналы сети погрешностей не имеют. В этом случае погрешности выходных сигналов сети образуются лишь за счет погрешностей, вносимых весами синапсов. Требуется оценить допустимые погрешности весов синапсов. Их оценка полезна при решении задачи упрощения нейронной сети. В частности, зная погрешности весов синапсов, мы можем заменять сумматоры более простыми, но менее точными элементами так, чтобы в итоге ошибка не превышала заданную.

Пусть нам дана обученная нейронная сеть слоистой структуры, веса синапсов и сигналы которой не имеют погрешностей. Будем называть сигналы и веса синапсов этой сети точными.

Предположим теперь, что веса синапсов данной сети имеют некоторые погрешности, а входные сигналы сети не имеют погрешностей. Нам задана допустимая погрешность выходных сигналов сети. Требуется вычислить величины допустимых погрешностей весов синапсов и сигналов такие, что погрешность выходного сигнала при них не превышает заданную.

Будем вычислять допустимые погрешности весов синапсов, начиная с последнего слоя сети, продвигаясь от слоя к слою в обратном порядке.

Единственный элемент стандартного нейрона, в работе которого принимают участие веса синапсов, это адаптивный сумматор. Для вычисления допустимых погрешностей весов синапсов мы будем рассматривать именно его. При вычислении допустимых погрешностей сигналов остальных элементов стандартного нейрона мы будем пользоваться формулами, полученными в методе обратного распространения точности для сигналов сети.

Мы будем рассматривать два типа оценки погрешностей: интервальные оценки погрешностей весов синапсов и среднеквадратические оценки.