
- •Оглавление
- •Искусственные нейронные сети (инс) Строение биологического нейрона
- •Биологический нейрон и его состав.
- •Искусственный нейрон и его состав.
- •Как работают нейросети (почему они могут решать задачи) 2 2 2
- •Синапсы
- •Уровень сложности нейросетей
- •6. Возможности компьютерного моделирования нейронных сетей.
- •7. Скорости обработки информации реализациями инс и мозгом человека
- •Классификация проблем по сложности
- •8. Типы задач, решаемых с помощью искусственных нейронных сетей (инс). Задачи, решаемые с помощью инс
- •12. Преимущества и недостатки нейронных сетей
- •Устойчивость к шумам входных данных
- •Адаптация к изменениям
- •3. Отказоустойчивость
- •Сверхвысокое быстродействие
- •Недостатки нейронных сетей
- •Ответ инс всегда приблизительный
- •Невозможно многошаговое принятие решений
- •27. Решение задачи принятия решения с помощью инс
- •3. Неспособность решать вычислительные задачи
- •3.Разновидности функций активации искусственного нейрона
- •1. Единичная ступенчатая функция
- •Сигмоидальная функция
- •4.Логистическая функция активации и ее преимущества.
- •3. Гиперболический тангенс
- •9. Виды инс
- •10. Инс со свойством кратковременной памяти.
- •60. Искусственные нейронные системы со свойством кратковременной памяти
- •Обучение нейронной сети
- •11. Обучение инс с учителем и без учителя
- •13. Состав персептрона Розенблатта
- •14. Значения выходов сенсоров, r-элементов, s-a и a-r связей в персептроне.
- •5. Нейронная сеть человека и ее оценки.
- •Разновидности персептронов.
- •19. Классификация персептронов
- •16. Отличие однослойного персептрона от искусственного нейрона
- •17. Задачи, решаемые с помощью персептронов.
- •18. Теоремы Розенблатта и условия их выполнения. Теорема Розенблатта.
- •Вторая теорема Розенблатта.
- •20. Линейная разделимость
- •22. Прикладные возможности нейронных сетей
- •23. Решение задач классификации и распознавания образов с помощью инс
- •24. Решение задач прогнозирования с помощью инс
- •25. Решение задач идентификации и управления динамическими процессами
- •26. Решение задач ассоциации с помощью инс
- •28. Черты искусственного интеллекта в нейронных сетях.
- •Модели нейронов и методы их обучения
- •29. Персептрон МакКаллока-Питса
- •30. Обучение персептрона. Правило Видроу-Хоффа
- •31. Сигмоидальный нейрон
- •32. Нейрон типа «адалайн»
- •33. Сеть мадалайн
- •34. Инстар и аутстар Гроссберга
- •35. Нейроны типа wta
- •36. Нейронная сеть типа wta и ее обучение
- •37. Проблема мертвых нейронов
- •38. Модель нейрона Хебба
- •39. Коэффициент забывания при обучении по правилу Хебба
- •40. Обучение линейного нейрона по правилу Ойя
- •41. Однонаправленные многослойные сети сигмоидального типа
- •42. Однослойная сеть. Ограниченность возможностей однослойных сетей
- •43. Решение проблемы нелинейного разделения применением двух линейных разделителей
- •44. Структура инс, выполняющей функцию xor
- •45. Многослойный персептрон
- •46. Алгоритм обратного распространения ошибки
- •47. Этапы алгоритма обратного распространения ошибки
- •48. Градиентные алгоритмы обучения сети
- •50. Математические основы теории радиальных инс
- •51. Простейшая нейронная сеть радиального типа
- •49. Радиальная нейронная сеть
- •52. Отличия радиальной инс от сигмоидальной
- •53. Сравнение радиальных и сигмоидальных инс
- •74. Алгоритм нейронного газа
- •75. Сети с самоорганизацией корреляционного типа
- •76. Нейронные сети рса
- •77. Нейронные ica-сети Херольта-Джуттена
- •Литература
- •Свёрточные нейронные сети
- •54. Сверточные нейронные сети (снс), их особенности и структура
- •Слои свёрточной нейронной сети
- •57. Преимущества снс
- •56. Параметры сверточного слоя в снс
- •55. Алгоритмы обучения снс
Искусственные нейронные сети (инс) Строение биологического нейрона
Биологический нейрон и его состав.
Рис.1. Строение биологического нейрона
Искусственный нейрон и его состав.
Рис.2. Искусственный нейрон
Искусственный нейрон (Artificial neuron) – упрощенная модель биологического нейрона
Искусственная нейронная сеть (ИНС)
Рис.3. Искусственная нейронная сеть как совокупность взаимодействующих между собой искусственных нейронов
Искусственная нейронная сеть (ИНС) – совокупность взаимодействующих между собой искусственных нейронов
Как работают нейросети (почему они могут решать задачи) 2 2 2
Все нейроны работают по одному алгоритму. Другими словами, внутри любого нейрона сигнал обрабатывается всегда одинаково. Но тогда, казалось бы, нет никакого индивидуального преобразования, а значит, ответ сети всегда будет одинаковым. На самом деле, вся суть кроется в так называемых синапсах (Synapsis).
У каждого биологического нейрона тысячи входов. Каждый из них соединен с выходами других нейронов. Получается на каждый нейрон тысячи синапсов. Помножим это число на миллиарды нейронов в биологических нейросетях (в головном мозге 85 миллиардов нейронов1) и получим огромное число синапсов2.
Суть в том, что каждый синапс индивидуален. Он может либо усиливать, либо ослаблять проходящей через него сигнал. Более того, с течением времени синапсы могут меняться, а значит, будет меняться характер изменения сигнала. Если правильно подобрать параметры синапсов, то входной сигнал, после прохода через нейронную сеть, будет преобразовываться в правильный выходной сигнал.
Синапсы
Синапс (Synapsis) – место стыка выхода одного нейрона и входа другого, в котором происходит усиление или ослабление сигнала.
Рис.4. Синапсы в структуре биологического нейрона
На рисунке 4 цветом выделены синапсы (в центре сверху – один из синапсов в деталях). Красный цвет – главный нейрон на картинке. Желтый цвет – выходы соседних нейронов. Длинный отросток главного нейрона справа (аксон) является его выходом. Можно заметить, что конец этого отростка соединен с двумя входами другого нейрона, которого уже не видно на рисунке.
Уровень сложности нейросетей
6. Возможности компьютерного моделирования нейронных сетей.
7. Скорости обработки информации реализациями инс и мозгом человека
В искусственных нейронных сетях (ИНС) количество нейронов необходимо уменьшить, поскольку миллиарды нейронов моделировать невозможно. Для того, чтобы понять, насколько сильно при моделировании уменьшается это количество, обратимся к рисунку 5.
Рис.5. Зависимость скорости обработки информации от количества синапсов
Серый квадрат слева внизу – возможности обычных компьютеров (но не компьютерных реализаций нейронных сетей). Далее идут два эллипса. Они представляют собой современные программные (а иногда и аппаратные) реализации искусственных нейронных сетей. До человека еще далеко!
Классификация проблем по сложности
Рис. 6. Зависимость сложности проблемы от степени незнания алгоритма ее решения
А. Проблемы, которые точно известно, как решать:
решить простое уравнение
вывести на экране окно программы
распечатать документ на принтере
Б. Проблемы, которые частично известно, как решать:
прогнозирование
расчет погрешностей
приближенное решение уравнений
В. Проблемы высокой сложности, которые непонятно, как решать:
распознавание образов
распознавание речи
сложные прогнозы