- •Ответы на зачет по из (Питолин)
- •1. Классы задач, решаемые искусственными нейронными сетями
- •2. Биологический нейрон как прототип искусственного нейрона
- •3. Математическая модель искусственного нейрона
- •4. Функция активации. Сигмоидальная функция активации.
- •5. Основные этапы нейросетевого анализа
- •6. Топологии инс
- •7. Многослойные сети. Классификация многослойных инс
- •8. Классификация инс по различным признакам.
- •9 Математическая постановка нейросетевого анализа данных
- •10 Оценка количества нейронов в скрытых слоях инс. Теорема о полотне.
- •11. Общая схема процесса обучения инс.
- •15. Алгоритм обратного распространения ошибки. Общее описание.
- •16. Математическое описание алгоритма обратного распространения ошибки для однослойной сети.
- •17. Математическое описание алгоритма обратного распространения ошибки для двухслойной сети.
- •18. Особенности функционирования алгоритма обратного распространения ошибки.
- •19. Геометрическая интерпретация алгоритма обратного распространения ошибки.
- •20. Переобучение и обобщение.
- •21. Обучение без учителя. Алгоритм Хебба.
- •22. Обучение без учителя. Алгоритм обучения Кохонена.
- •23. Геометрическая интерпретация алгоритма обучения Кохонена.
- •24. Персептроны
- •25. Проблема «исключающее или» и пути ее решения
- •26. Инс встречного распространения. Функционирование сети.
- •27. Инс встречного распространения. Обучение сети.
- •28. Инс Хопфилда.
- •29. Инс Хемминга.
- •30. Классификация и сравнительный анализ пакетов прикладных программ нейросетевого моделирования
- •31. Общие принципы построения нейрокомпьютеров
- •32. Элементная база нейровычислений
31. Общие принципы построения нейрокомпьютеров
В настоящее время принята следующая классификация вычислительных систем (рис 3.1.)
Вычислительную систему с одним потоком команд и данных (однопроцессорная ЭВМ - SISD).
Вычислительную систему с общим потоком команд (SIMD - одиночный поток команд и множественный поток данных).
Вычислительную систему множественным потоком команд и одиночным потоком данных (MISD - конвейерная ЭВМ).
Вычислительная система с множественным потоком команд и данных (MIMD).
На сегодня можно выделить три основных направления развития вычислительных систем с массовым параллелизмом (ВСМП):
|
Наименование направления |
Описание |
1 |
ВСМП на базе каскадного соединения универсальных SISD, SIMD, MISD микропроцессоров. |
Элементная база - универсальные RISC или CISC процессоры: Intel, AMD, Sparc, Alpha, Power PC, MIPS и т.п. |
2 |
На базе процессоров с распараллеливанием на аппаратном уровне. |
Элементная база - DSP процессоры: TMS, ADSP, Motorola |
3 |
ВСМП на специализированной элементной базе |
Элементная база от специализированных однобитовых процессоров до нейрочипов. |
32. Элементная база нейровычислений
Элементной базой нейровычислительных систем второго и третьего направлений являются соответственно заказные кристаллы (ASIC), встраиваемые микроконтроллеры (mС), процессоры общего назначения (GPP), программируемая логика (FPGA - ПЛИС), транспьютеры, цифровые сигнальные процессоры (DSP) и нейрочипы.
Транспьютероподобные элементы являются важным для построения вычислительных систем с массовым параллелизмом, а их применение постепенно сдвигается в сторону коммутационных систем и сетей ЭВМ, хотя еще остаются примеры реализации на них слоев некоторых ЭВМ с массовым параллелизмом в виде решеток процессорных элементов. DSP (Digital Signal Processor-цифровой сигнальный процессор), обладая мощной вычислительной структурой, позволяют реализовать различные алгоритмы обработки информационных потоков.
Для оценки производительности нейровычислителей используются следующие показатели:
CUPS (connections update per second) - число измененных значений весов в секунду (оценивает скорость обучения).
CPS (connections per second) - число соединений (умножений с накоплением) в секунду (оценивает производительность).
CPSPW = CPS/Nw, где Nw - число синапсов в нейроне.
CPPS - число соединений примитивов в секунду, CPPS=CPS*Bw*Bs, где Bw, Bs - разрядность весов и синапсов.
MMAC - миллионов умножений с накоплением в секунду.