Лекции по МРРиИ, Геппенер В.В. / lecture3 / slides / slide8

Метод обучения Уидроу-Хоффа

Если Z^TZ – сингулярная матрица или нахождение

Z^# затруднительно можно решать задачу

минимизации J(w) c использованием градиентной

процедуры :

1. Берем произвольное w(0)

2. Изменяем весовой вектор так , что

w(k+1)=w(k) - _kJ(w) _w=w(k)

или

w(k+1)=w(k) - _kZ^T[ w(k)Z – b]

Если _k = ₁/k , то имеет место сходимость к предельному весовому вектору , удовлетворяющему условию :

J(w) = Z^T[ wZ – b] = 0

Этот метод дает существенную экономию вычислительных ресурсов по сравнению с прямым вычислением Z^#