Искусственные нейронные сети и нейрокомпьютеры

Цель работы.

Обучаемый должен знать:

1. Основные теории строения нейронных сетей (НС).

2. Основы компартментной модели НС.

3. Основы работы искусственных НС.

Обучаемый должен уметь:

1. Объяснить основы работы НС.

2. Объяснить основы моделирования НС и распознания типа НС по результатам расчетов.

3. Проводить обучение НС и анализ значимости признаков НС используя в качестве инструментария нейросетевой имитатор "Multineuron 2.0" .

Практическое значение.

Разработка вычислительных машин с использованием принципов построения биологических нейронных сетей позволяет обрабатывать неполные наборы данных и придавать работе машин свойства адаптивности, присущие живому. Это повышает общую скорость работы и позволяет применить их в областях с низкой алгоритмизацией задач и большим переменным количеством информации.

Литература

1. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере.- Новосибирск: Наука, 1996.- 276 с.

2. Еськов В.М. Введение в компартментную теорию респираторных нейронных сетей.- М.: Наука, 1994.- 167 с.

3. Еськов В.М., Филатова О.Е. Компьютерная идентификация респираторных нейронных сетей.- Пущино, 1994.- 92 с.

Методические указания по 1- му этапу

"Самоподготовка"

Цель этапа.

1. Повторить исходную информацию из школьного курса.

2. Изучить и проверить свои знания по новой информации из лекционного курса.

Для изучения темы необходимо возобновить старые знания, связанные с понятиями о нервной ткани и высшей нервной деятельности (ВНД), а так же выучить новый материал, используя конспект лекций и вспомогательную литературу.

Для самоконтроля необходимо ответить на вопросы:

1. Обозначить круг задач решаемых искусственными НС. Привести несколько примеров.

2. Указать сходные и отличительные признаки биологического и искусственного нейронов.

3. Указать назначение обучающей выборки.

4. Назначение внешней выборки. Может ли она выполнять функции обучающей?

5. Что понимается под значимостью обучаемых параметров (вопросов)?

6. В чем смысл расчета значимости?

7. Чем нужно руководствоваться при начальном отборе признаков?

Методические указания по 2-МУ этапу

"Выполнение работы"

Рассмотрим один из примеров применения НС для решения задачи классификации. В качестве инструментария будет использован нейросетевой имитатор Multineuron 2.0.

Задача: спроектировать прототип экспертной системы выполняющей идентификацию (классификацию) следующих форм сифилиса:

1. Первичный скрытый.

2. Вторичный рецидивный.

3. Вторичный свежий.

4. Первичный серонегативный.

5. Первичный серопозитивный.

Этапы решения задачи:

A) Определение признаков (вопросов) для обучения

В качестве стартовой обучающей выборки возьмем данные из истории болезни 50 пациентов больных сифилисом. Определим набор признаков, характерных для больных сифилисом. В качестве таких признаков предлагается использовать следующие*¹:

1. Пол пациента женский?

2. Имелись ли ранее высыпания на половых органах?

3. Имеются ли в данный момент высыпания на половых органах?

4. Имеются ли высыпания на ладонях и стопах?

5. Наблюдается ли выпадения волос?

6. Увеличены ли паховые лимфоузлы?

7. Имеются ли эрозии на половых органах?

8. Имеются ли язвы на половых органах?

9. Наблюдается ли общая слабость?

10. Наблюдается ли температура до 37.2 С, которая держится несколько дней?

11. Реакция RW положительна?

12. Реакция ИФА положительна?

13. Реакция М/P положительна?

14. Наблюдается ли головная боль с появлением сыпи?

15. Наблюдается ли недомогание с появлением сыпи?

16. Наблюдается ли потеря аппетита с появлением сыпи?

17. Наблюдается ли повышенная раздражительность с появлением сыпи?

18. Наблюдается ли с появлением сыпи боль в костях по ночам ?

19. Имеются ли обильные высыпания на коже туловища?

20. Имеются ли обильные высыпания вокруг ануса?

21. Имеются ли папулы на больших половых губах?

22. Имеются ли на внутренней поверхности малых половых губ эрозивные папулы?

23. Наблюдается ли постепенное исчезновение сыпи без лечения?

24. Имеются ли язвы во рту?

25. Наблюдается ли увеличение подчелюстных лимфоузлов?

26. Анализ на ВИЧ положителен?

27. Наблюдается ли изменение пигментации кожи?

28. Наблюдается ли наличие твердого шанкра на венечной борозде?

29. Наблюдается ли наличие твердого шанкра на внутреннем листке крайней плоти?

30. Наблюдается ли наличие твердого шанкра на наружном листке крайней плоти?

31. Наблюдается ли наличие твердого шанкра на головке полового члена?

32. Наблюдается ли наличие твердого шанкра на клиторе?

33. Наблюдается ли наличие твердого шанкра на шейке матки?

34. Наблюдается ли наличие твердого шанкра в области наружного отверстия цервикального канала?

35. Наблюдается ли наличие твердого шанкра в области заднего прохода?

36. Сохранился ли твердый шанкр или его остатки в виде пигментации, атрофии или рубца на коже?

37. Наблюдается ли осиплость голоса?

Для каждого из 50 пациентов в истории болезни были зафиксированы ответы на данный набор из 37 вопросов, которые определялись в момент поступления в стационар. Также врачом был поставлен диагноз, а именно один из 5 вариантов указанных ранее. Вся совокупность ответов на вопросы и реальный диагноз пациента в виде базы данных составляют обучающую выборку.

B) Определение параметров НС

Основой нейронной сети является совокупность нейронов. Выберем один из параметров НС - количество нейронов. Для задач классификации минимальный набор нейронов определяется количеством классов. В нашем случае пять форм сифилиса – пять классов – пять нейронов.

С) Проведение обучения НС

На основе обучающей выборки проводится обучение нейронной сети.

D) Тестирование НС на обучающей выборке

Обучение считается законченным если по всей обучающей выборке (37 пациентов) НС ставит диагноз (классифицирует) совпадающий с реальным диагнозом. В случае когда НС остается необученной, проводится изменение ее параметров и попытка обучения (пункт С) повторяется.

E) Анализ значимости и отбор существенных признаков

После обучения НС проводится вычисление и анализ значимости, т.е. определение важности каждого из вопросов. Может оказаться, что некоторые из вопросов не влияют на постановку диагноза (значимость равна нулю) или мало влияют (значимость менее 20% от максимально значимого вопроса). В таких случаях, с целью сокращения набора вопросов, проводится исключение малозначащих признаков из обучающей выборки и повторяется обучение НС (пункт С). Пункты С, D, E выполняются последовательно до тех пор, пока, с одной стороны в обучении будут участвовать минимальный набор параметров, с другой стороны, сеть будет обучаться полностью на этом наборе параметров.

F) Тестирование НС на внешней выборке

Совокупность пациентов и ответов на вопросы из пункта А не входящих в обучающую выборку будут являться внешней выборкой. Правильность постановки диагноза по внешней выборке будет говорить о способности НС ставить диагноз в реальных условиях.

Выполнение работы:

1. Загрузить нейроимитатор MultiNeuron 2.0: выбрать файл mn_train.exe

2. Загрузить обучающую выборку: нажать F3, выбрать файл class.db. Ознакомиться с данными в таблице – выборка состоит из (2+37) столбцов и 50 строк. Первый (слева направо) столбец обозначает номер пациента в выборке. Второй столбец представляет реальный диагноз. Следующие 37 столбцов – это ответы на вопросы в следующей интерпретации – утвердительный ответ соответствует единице (1), отрицательный ответ минус единице (-1), ответ "неизвестно" нулю (0). Строки в данной таблицы обозначают пациентов.

3. Загрузить нейронную сеть: нажать F10, выбрать пункт меню "Сеть", выбрать подпункт меню "Читать", выбрать файл class.nn.

4. Ознакомиться с параметрами НС. Обратить внимание на количество нейронов, число классов и входную схему НС. Наличие знака "Х" обозначает, что данный вопрос участвует в обучении НС. Отсутствие – что данный вопрос исключен. Убедиться, что первоначально на НС подаются все вопросы без исключения.

5. Провести обучение НС: нажать F10, выбрать пункт меню "Обучение", выбрать подпункт меню "Текущие сеть и задачник". На экране можно будет наблюдать процесс обучения НС. Если обучение пройдет успешно, то значение элемента отображающего функцию будет равно Finish !. Записать обученную сеть на диск: нажать F10, выбрать пункт меню "Сеть", выбрать подпункт меню "Записать".

6. Тестирование НС на обучающей выборке: нажать F10, выбрать пункт меню “Тест”, выбрать подпункт меню "Текущие сеть и задачник". В появившейся таблице показаны диагнозы, поставленные клинически (вторая колонка), НС (третья), коэффициент уверенности в ответе в процентах (четвертая), результаты для каждого из пяти классов (пятая- девятая). Обратите внимание на выделение цветом: красный цвет- цвет ошибки, когда сеть ставит свой диагноз, отличный от клинического с высокой уверенностью, зеленый цвет - уверенное совпадение, возможен желтый – НС ставит диагноз с уверенностью около 50%. Проверить, что НС обучена полностью.

7. Провести расчет значимости параметров: нажать F10, выбрать пункт меню “Сеть”, выбрать подпункт меню "Подсчет значимости". Появившаяся диаграмма дает численное и графическое представление о значимости каждого из 37 параметров для постановки диагноза (классификации). Запишите номера вопросов значимость которых: а) равна нулю; б) значимость которых менее 0.1; с) значимость которых более 0.3. Сделайте выводы.

8. Проведение отбора существенных признаков: на основе номеров вопросов из пункта 7 (а и б) провести сокращение набора признаков, оставляя тем самым только существенные. Нажать F10, выбрать пункт меню "Сеть", выбрать подпункт меню "Читать", выбрать файл class.nn. Ставим подсветку (с помощью стрелок Вверх, Вниз) на номер вопроса, который необходимо отключить и нажимаем клавишу “Del". Повторяем данную процедуру для всех малозначащих номеров из пункта 7 (а и б).

9. Повторить обучение НС: См. пункт 5.

10. Повторить тест по обучающей выборке: См. пункт 6. Убедиться, что сеть уверенно ставит диагноз и при меньшем числе обучающих параметров, что минимизирует размерность фазового пространства.

11. Тест на внешней выборке: нажать F3, выбрать файл ext.db. Нажать F10, выбрать пункт меню “Тест”, выбрать подпункт меню "Текущие сеть и задачник". Проверить, имеются ли случаи, когда НС ставит диагноз неверно. Сделать выводы.

12. Выйти из программы, одновременно нажав клавиши "Alt+X"