Задание 4. Постройте дендрограмму, соответствующую исходным данным Задания 2. Сделайте чертеж.

Данную дендрограмму, я строила в программе Statistica:

С данными, указанными выше на рисунке, я получила следующую дендрограмму:

Задание 5. Для заданных значений параметров нормальных законов распределения (m1, σ1) и (m2, σ2), характеризующих два класса объектов наблюдения С1 и С2:

Вариант	m1	σ1	m2	σ2	p1	p2
5	--3	1	--1	0.5	0.9	0.1

1)определите условные по классу плотности вероятности результатов наблюдений

2) постройте решающее правило по критерию максимального правдоподобия;

3) рассчитайте теоретические величины вероятностей ошибок распознавания первого и второго рода по этому критерию;

4) для заданных значений априорных вероятностей p1 и p2 появления классов С1 и С2 определите условные плотности полной вероятности результатов наблюдений и апостериорные вероятности классов С1 и С2;

5) постройте решающее правило по критерию максимальной апостериорной вероятности;

6) рассчитайте теоретические величины вероятностей ошибок распознавания первого и второго рода;

7) сравните эффективности решающих правил, построенных по критериям максимального правдоподобия и максимальной апостериорной вероятности.

Решение:

1. Исходные данные: число классов объектов – 2, закон распределения признаков объектов – нормальный. Параметры распределения (математическое ожидание m и среднеквадратическое отклонение σ):

m₁=-3; σ₁=1 (класс 1); m₂=--1; σ₂=0.5 (класс 2);

2. Для построения графиков условных по классу а_к(к=1,2) плотностей вероятности признаков х:

Определим пользовательскую функцию трех аргументов:

Сформируем массив N точек N=200, по оси Ох, располагающихся с равным шагом в диапазоне [x_min,x_max]. Верхнюю x_max и верхнюю x_min границы диапазона определим по правилу «трех сигм», согласно которому случайная величина х, распределенная по нормальному закону, находится на интервале значений m3 σ с вероятностью более 0,997. Считаем, что случайные значения параметра х будут лежать в диапазоне [x1min, x1max], если наблюдается класс 1 , и в диапазоне [x2min, x2max], если наблюдается класс 2 , где

x1min=m1-3*σ1=3-3=0, x1max=m1+3*σ1=3+3=6

x2min=m2-3*σ2=1-1.5=-0.5, x2max=m2+3*σ2=1+1.5=2.5

Определим нижнюю и верхнюю границы значений параметра х:

xmin:=min(x1min,x2min);

xmax:=max(x1max,x2max).

Для заданных данных xmin=-0.5, xmax=6.

Разделим интервал [xmin,xmax] на (N-1) часть и определим координаты точек разделения:

Сформируем массивы значений условных по классу плотностей вероятности , соответствующие точкам x_i:

fx1_i:=f(x_i,m1,σ1), fx2_i:=f(x_i,m2,σ2).

Построим графики условных плотностей вероятности

3. Для определения порогов принятия решения по критерию максимального правдоподобия, нужно решить уравнение:

Отсюда

.

Обозначим:

d1=1, d2=0.25, a=0.75, b=-0.5, c=2.35

Вычислим пороги принятия решения xg1 и xg2, xg1< xg2^

Получим: xg1=2.07 xg2=1.41

3. Изобразим на графике полученные границы раздела между классами xg1 и xg2. Если какой-либо из порогов лежит в областях маловероятных значений параметра х для всего множества классов , то следует переопределить нижнюю и (или) верхнюю границы х.

4. Для оценки эффективности решающего правила, рассчитаем теоретические величины вероятностей ошибок распознавания.

Вероятность отнести наблюдаемый признак к классу а₁, когда он в действительности принадлежит классу а₂:

.

Вероятность принятия решения в пользу класса а₂, когда в действительности наблюдается класс а₁:

Получим Р21=0,056 и Р12= 0,127

Вероятность правильного распознавания определим как:

P:=1-0.5*(P21+P12)

Получим Р=0,908

3. Для построения решающего правила по критерию максимальной апостериорной вероятности зададим априорные вероятности р1 и р2 появления классов а1 и а2, р1+р2=1:

р1:=0,9. р2:=0,1

3. По алгоритму, построим в интервале [xmin, xmax] график плотностей полных вероятностей появления класса а1 и а2.

fx1_i=p1*f(x_i,m1,σ1), fx2_i=p2*f(x_i,m2,σ2), и график апостериорных вероятностей классов а1 и а2.

3. Для определения порогов принятия решения о классе объекта по критерию максимальной апостериорной вероятности, решим квадратное уравнение:

Приведем его к виду:

x²(σ₂²- σ₁²)+x(2m₂ σ₁²-2m₂ σ₁²)+m₁² σ₁²- m₂² σ₂²-2 σ₁² σ₂²Ln()=0.

Обозначим:

d1= σ₁², d2= σ₂², a=d2-d1, b=2*m2*d1-2*m1*d2, c=m1²*d2-m2²*d1-2*d1*d2*ln()

d1=1, d2=0.25, a=0.75, b=0.5, c=0.5

Вычислим пороги принятия решения xg1 и xg2, xg1<xg2:

Получим xg1=0,41 xg2=-1,08

3. Для визуализации границ раздела между классами, переопределим границы области признака x: xmin, xmax.

3. Рассчитываем теоретические вероятности ошибок распознавания первого и второго рода:

.

Получим: Р21=0,035 и Р12=0,115

Вероятность правильного распознавания для случая, когда априорные вероятности классов известны и р1р20,5:

Р:=1(-р1*Р12+р2*Р21)

Р:=0,893

3. На основании полученных теоретических оценок вероятностей правильного распознавания можно сделать следующие выводы:

• если сведения об априорных вероятностях классов отсутствуют, то это равносильно предположению о равных вероятностях появления классов:

где -априорная вероятность класса a_i; K-количество классов;

• случай, когда априорные вероятности классов одинаковы, является наихудшим для статистического (при прочих равных условиях).