ML - Коротков (2 сем, мага) / Lecture_6

Следует избегать больших начальных значений весовых коэффициентов, поскольку использование функции активации в этой области значений может приводить к насыщению сети и снижению способности сети обучаться на лучших значениях. Один из возможных вариантов — прибегнуть к выбору значений из случайного равномерного распределения чисел в диапазоне от –1,0 до +1,0.