Лаб. 5 НС

МОСКОВСКИЙ ИНСТИТУТ ЭЛЕКТРОННОЙ ТЕХНИКИ

Институт системной и программной инженерии и информационных технологий (Институт СПИНТех)

Лабораторная работа № 5

Изучение нейронной сети Хопфилда.

Информационная емкость ассоциативной памяти.

Выполнил:

Фамилия И.О. гр. ???-??

Проверил преподаватель:

проф., д.ф.-м. н. Рычагов М.Н.

Москва, 2026

Задание №1

Ответ:

Подставим (5.2) в (5.1):

Получаем:

Задание №2

Вывод:

Рисунок 1. Выходной сигнал системы с обратной связью при различных значениях коэффициента

Комментарии:

Случай <1:

При значении коэффициента обратной связи <1 наблюдается сходимость выходного сигнала к конечному значению.

Это объясняется тем, что вклад предыдущих значений уменьшается по геометрической прогрессии, поскольку →0 при увеличении l.

Следовательно, система является устойчивой.

Случай = 1:

При выходной сигнал возрастает линейно.

Это связано с тем, что каждое новое значение является суммой всех предыдущих входных значений. При постоянном входном сигнале получаем:

Данный режим соответствует граничному случаю устойчивости.

Случай > 1:

При наблюдается экспоненциальный рост выходного сигнала.

Это обусловлено тем, что вклад предыдущих значений увеличивается с каждым шагом, так как .

Система в этом случае является неустойчивой.

Задание №3

Ответ:

Исходный вектор: x = [1 −1 1], но так как размерность сети должна быть 4:

x = [1 −1 1 −1]

:

Обнуление диагонали:

Вывод:

Задание №4

Вывод:

Комментарии:

Матрица весов формируется как сумма внешних произведений всех запоминаемых образцов:

После вычисления суммарной матрицы весов диагональные элементы обнуляются, так как в сети Хопфилда отсутствуют связи нейрона с самим собой.

Формула максимальной ёмкости носит оценочный характер и может давать заниженные значения при малом числе нейронов, поэтому в ряде случаев допускается превышение данного ограничения.

Задание №5

Вывод:

Рисунок 2. Ёмкость сети Хопфилда: теория и эксперимент

Комментарии:

Для проверки теоретической оценки был проведён численный эксперимент, в ходе которого определялось максимальное количество образов, которые сеть способна корректно восстановить при наличии шума.

Эксперимент проводился для различных значений числа нейронов . Для каждого значения последовательно увеличивалось количество запоминаемых образов до тех пор, пока сеть переставала корректно восстанавливать хотя бы один из них.

В результате эксперимента было установлено, что экспериментальная ёмкость сети Хопфилда оказывается ниже теоретической оценки.

Это расхождение объясняется рядом факторов. Во-первых, теоретическая формула определяет предельную ёмкость при идеальных условиях, тогда как в эксперименте рассматривалась задача восстановления зашумлённых образов. Наличие шума существенно снижает способность сети к корректному извлечению сохранённых паттернов.

Во-вторых, в эксперименте использовался строгий критерий успешности, требующий точного восстановления всех образов, тогда как теоретическая оценка допускает корректное распознавание лишь большинства из них.

Кроме того, эксперимент носит вероятностный характер и не учитывает усреднение по множеству запусков, что также влияет на полученные результаты.

С увеличением числа нейронов разница между теоретической и экспериментальной ёмкостью становится больше. Это связано с тем, что при большем количестве нейронов сеть чаще допускает ошибки и начинает путать сохранённые образы между собой.

Задание №6

Вывод:

Комментарии:

Качество восстановления оценивалось по точному совпадению восстановленного образа с исходным. Для определения максимального допустимого уровня шума проводилась серия экспериментов с постепенным увеличением доли искажённых элементов. Для каждого уровня шума выполнялось несколько попыток восстановления, что позволило учесть случайный характер искажений.