Назовите 2 преимущества сигмоидальной передаточной функции и функции гиперболического тангенса над линейной и пороговой передаточными функциями. [вверх]
Сигмоидальная передаточная функция
Один из самых часто используемых, на данный момент, типов передаточных функций. Введение функций сигмоидального типа было обусловлено ограниченностью нейронных сетей с пороговой функцией активации нейронов — при такой функции активации любой из выходов сети равен либо нулю, либо единице, что ограничивает использование сетей не в задачах классификации. Использование сигмоидальных функций позволило перейти от бинарных выходов нейрона к аналоговым. Функции передачи такого типа, как правило, присущи нейронам, находящимся во внутренних слоях нейронной сети.
Математическая функция показана справа:
Здесь t — это параметр функции, определяющий её крутизну. Когда t стремится к бесконечности, функция вырождается в пороговую. При t = 0 сигмоида вырождается в постоянную функцию со значением 0,5. Область значений данной функции находится в интервале (0,1). Важным достоинством этой функции является простота её производной.
Передаточная функция гиперболический тангенс
Использование функции гиперболического тангенса отличается от рассмотренной выше сигмоидальной (логистической) кривой тем, что его область значений лежит в интервале (-1;1).
Оба графика отличаются лишь масштабом осей. Производная гиперболического тангенса, разумеется, тоже выражается квадратичной функцией значения; свойство противостоять насыщению имеет место точно также.
Изобразите нейрон реализующий операцию дизъюнкции. [вверх]
Нейрон с пороговой передаточной функцией может моделировать различные логические функции.
Изображения, показанные справа, иллюстрируют, каким образом можно, задав веса входных сигналов и порог чувствительности, заставить нейрон выполнять конъюнкцию(логическое «И») и дизъюнкцию(логическое «ИЛИ») над входными сигналами, а также логическое отрицание входного сигнала. Этих трех операций достаточно, чтобы смоделировать абсолютно любую логическую функцию любого числа аргументов.
Перечислите 4-ре категории инс характеризующие способ взаимосвязи нейронов. [вверх]
Хотя один нейрон и способен выполнять простейшие процедуры распознавания, сила нейронных вычислений проистекает от соединений нейронов в сетях.
Искусственные нейронные сети различаются своей архитектурой : структурой связи между нейронами, числом слоев, функцией активации нейронов, алгоритмом обучения. С этой точки зрения среди известных ИНС можно выделить статические, динамические сети и fuzzy – структуры (последнее – термин теории нечетких множеств); однослойные и многослойные сети. Различия вычислительных процессов в сетях часто обусловлены способом взаимосвязи нейронов, поэтому выделяют следующие виды сетей :
Сети прямого распространения – сигнал проходит по сети от входа к выходу в одном направлении;
Сети с обратными связями;
Сети с боковыми обратными связями;
Гибридные сети;
На какие два основных класса разделяют инс. Опишите эти классы. [вверх]
В целом, по структуре связей ИНС могут быть сгруппированы в два класса:
сети прямого распространения – без обратных связей в структуре. В первом классе наиболее известными и чаще используемыми являются многослойные нейронные сети, где искусственные нейроны расположены слоями. Связь между слоями однонаправленная и в общем случае выход каждого нейрона связан со всеми входами нейронов последующего слоя. Такие сети являются статическими, т.к. не имеют в своей структуре ни обратных связей, ни динамических элементов, а выход зависит от заданного множества на входе и не зависит от предыдущих состояний сети.
рекуррентные сети – с обратными связями. Сети второго класса являются динамическими, т.к. из-за обратных связей состояние сети в каждый момент времени зависит от предшествующего состояния.