Алгоритм перцептрона

Заданы два обучающих множества, представляющие классы ₁ и ₂ соответственно. Пусть w(1) – начальный вектор весов, который выбирается произвольно. В таком случае k-ый шаг обучения выглядит следующим образом

где с – корректирующее приращение.

Т.е. алгоритм вносит изменения в вектор весов w в том и только в том случае, если образ, предъявленный на k-ом шаге обучения, был при выполнении этого шага неправильно классифицирован с помощью соответствующего вектора весов. Корректирующее приращение должно быть положительным, и в данном случае, предполагается, что оно постоянно.

3. Задание

Для двух заданных множеств, представляющих классы ₁ и ₂ применить алгоритм обучения перцептрона с тем, чтобы с его помощью определить весовой вектор решения d(у)=w^Ty=w₁y₁+w₂y₂+w₃. Принять во внимание, что с=1 и w(1)=0. Рассмотреть несколько образов с целью отнесения их к одному из представленных классов.

1. ₁ = {у1=(0,0), у2=(0,1)}; ₂ = {у3=(1,0), у4=(1,1)}

2. ₁ = {у1=(0,0), у2=(1,0)}; ₂ = {у3=(0,1), у4=(1,1)}

3. ₁ ={у1=(-1,0), у2=(0,1)}; ₂ = {у3=(0,-1), у4=(1,0)}

4. ₁ = {у1=(-1,0), у2=(0,-1)}; ₂ = {у3=(1,0), у4=(0,1)}

5. ₁ = {у1=(0,0), у2=(1,1)}; ₂ = {у3=(1,-1), у4=(2,0)}

6. ₁ = {у1=(0,0), у2=(1,-1)}; ₂ = {у3=(1,1), у4=(2,0)}

7. ₁ = {у1=(0,0), у2=(0,2)}; ₂ = {у3=(2,0), у4=(2,2)}

8. ₁ = {у1=(0,0), у2=(0,2)}; ₂ = {у3=(2,0), у4=(2,2)}

9. ₁ = {у1=(-2,0), у2=(0,-2)}; ₂ = {у3=(2,0), у4=(0,2)}

10. ₁ = {у1=(-2,0), у2=(0,2)}; ₂ = {у3=(2,0), у4=(0,-2)}

Полученный результат представить графически.

4. Порядок выполнения работы

1. Получить у преподавателя задание.

2. Решить задачи с использованием математического пакета, табличного процессора, системы программирования или вручную.

3. Показать решение преподавателю.

4. Составить отчет о лабораторной работе, включая постановку задачи, математическую модель, этапы решения и вывод. Отчет должен быть представлен к защите в письменном или электронном виде в конце семестра.

5. Отчет необходимо хранить до сдачи экзамена по данному курсу.

5. Литература

1. Фомин Я.А. Диагностика кризисного состояния предприятия. – М.: Юнити-Дана, 2003. - 349 с.

2. Горелик А.Л., Скрипкин В.А. Методы распознавания: Учебное пособие для вузов. Изд. 4-е, испр. – М: Высшая Школа, 2004г. – 261 с.

3. Ту Дж., Гонсалес Р. принципы распознавания образов. – М.: Мир, 1978. – 411 с.

4. Дуда Р., Харт П. Распознавание образов и анализ сцен. – М.: Мир, 1976. – 511 с.

5. Орехов Ю.В. Распознавание образов. Учебное пособие. УГАТУ. Уфа, 1995. – 45 с.

Лабораторная работа №4. Классификация для случая нескольких классов (принцип подкрепления-наказания)

1. Цель работы

Целью работы является изучение алгоритма определения решающих функций при разбиении на несколько классов, закрепление навыков по разработке, редактированию и отладке программы, основанной на принципе «подкрепление-наказание».

2. Теоретические сведения

Обобщенный алгоритм обучения перцептрона

Пусть на k-ом шаге итерации процедуры обучения системе

предъявляется образ y(k), принадлежащий классу w_i. Вычисляются значения М решающих функций

d_j[у(k)]=w_j^T(k)y(k), j=1,2,…,M.

Затем, если выполняются условия

d_i[у(k)] > d_j[у(k)] j=1,2,…,M; для всех j¹i,

то векторы весов не изменяются, т.е.

w_j(k+1)=w_j(k), j=1,2,…,M.

Допустим, с другой стороны, что для некоторого l

d_i[у(k)] £ d_l[у(k)].

В этом случае производятся следующие коррекции весов:

w_i(k+1)=w_i(k)+cy(k)

w_l(k+1)=w_l(k) – cy(k)

w_j(k+1)=w_j(k), j=1,2,…,M; j¹i, j¹l

где с – положительная константа.