- •1(Часть 1) Разделы дисциплины.
- •1.1Биометрия
- •1.2Этапы истории
- •2Предмет и основные понятия биометрии
- •2.1Группировка первичных данных
- •2.2Признаки и их свойства.
- •2.3Классификация признаков
- •2.4Причины варьирования результатов наблюдений
- •2.5Точность измерений и действия над приближенными числами
- •2.6Способы группировки первичных данных
- •2.7Статистические ряды.
- •2.8Графики вариационных рядов
- •2.9Особенности биообъекта и экспериментальных данных о его свойствах и состоянии. Основные источники медико-биологических данных.
- •3Общая характеристика биологических сигналов и медико-биологических данных
- •3.1Случайный сигнал и случайная величина
- •3.2Одномерные случайные сигналы. Функция распределения и плотность вероятности
- •3.3Усреднение. Моменты случайной величины
- •3.4Равномерное распределение случайной величины
- •3.5Гауссово (нормальное) распределение
- •3.6Статистические характеристики систем случайной величины (Многомерные сигналы)
- •3.7Функция распределения и плотность вероятности.
- •3.8Вычисление моментов
- •3.9Корреляция
- •3.10Статистическая независимость случайных величин.
- •3.11Многомерное Гауссово распределение.
- •3.12Случайные процессы.
- •3.12.1Предварительная обработка сигналов.
- •3.12.2Моментальные функции случайных процессов.
- •3.12.3Взаимная функция корреляции двух случайных процессов.
- •3.13Помехи и их математические модели.
- •3.13.1Виды аддитивных помех.
- •3.13.2Законы распределения помех.
- •3.13.3Отношение сигнала помехи на прмере гауссовских помех.
- •4Основные понятия теории обнаружения сигнала
- •4.1Проверка статистических гипотез.
- •4.2Критерий Неймана-Пирсона.
- •4.3Алгоритмы обнаружения.
- •5Фильтрация сигналов
- •5.1Временная фильтрация.
- •5.2Частотная фильтрация.
- •5.3Связь между фильтрацией и сверткой.
- •5.4Физически реализуемые линейные фильтры частоты.
- •5.5Идеальный фильтр.
- •5.6Реализуемые непрерывные аналоговые фильтры.
- •5.7Узкополосные фильтры.
- •5.8Оптимальная фильтрация.
- •6(Часть 2) Корреляционный анализ
- •6.1Функциональная зависимость и корреляция
- •6.2Параметрические показатели связи. Коэффициент корреляции
- •6.3Вычисление коэффициента корреляции при малых выборках
- •6.4Минимальный объем выборки для точной оценки коэффициента корреляции
- •6.5Вычисление коэффициента корреляции при больших выборках
- •6.6Оценка разности между коэффициентами корреляции
- •7Качественное описание задач распознавания
- •7.1Основные задачи построения системы распознавания
- •7.2Параметрические и непараметрические методы и критерии
- •7.3Параметрические критерии
- •7.4Непараметрические критерии
- •7.5Статистические методы классификации многомерных наблюдений
- •7.6Минимаксный критерий
- •8Вопросы планирования исследований
- •8.1Приближенные оценки основных статистических показателей
- •8.2Определение необходимого объема выборки
- •9Типы медицинских изображений. Способы их обработки
- •9.1Иднтификация пространственных объектов. Схема этапов распознавания
- •9.2Обработка точечных изображений
- •9.3Моделирование процесса идентификации точечных изображений на эвм
- •9.4Основные принципы цифровых операций над изображениями
- •9.5Операции над изображениями. Хранение и представление изображений.
- •9.6Цветные изображения
- •9.7Окружающие и примыкающие пиксели
- •9.8Основные требования к аппаратуре
- •9.9Устройства ввода изображений
- •9.9.1Видеокамеры
- •9.9.2Насадки
- •9.9.3Другие устройства ввода изображений
- •9.10Устройства вывода изображений на дисплей
- •9.11Процессоры
- •9.12Критерий полезности признаков при распознавании объектов
- •9.13Геометрическая модель биологических данных. Система геометрических признаков при распознавании объектов
- •9.14Простые методы обработки изображений
7.5Статистические методы классификации многомерных наблюдений
Байесовское решающее правило. Функции потерь, характеризующие потери при совершении ошибок первого и второго рода, а так же потери при совершении правильных решений образуют платежную матрицу:
,
где и – потери связанные соответственно с правильными решениями и ошибками первого и второго рода.
Критерий Байеса – это правило, в соответствии с которым стратегия решений выбирается таким образом, чтобы обеспечить минимум среднего риска. Минимум риска, усредненного по множеству решений задач распознавания неизвестных объектов, обеспечивается тогда, когда решение о принадлежности объектов классу Ω1 или Ω2 принимается в соответствии со следующим правилом:
Если измеренное значение признака у данного объекта относится или расположено в области R1, то объект принадлежит классу Ω1, если в области R2 – классу Ω2.
Стратегию, основанную на этом правиле, называют Байесовской стратегией, а минимальный средний риск – Байесовским риском.
Байесовская стратегия описывается следующим образом:
Пусть в результате опыта установлено, что значение признака у распознаваемого объекта ω1 составляет величину х=х0. Тогда условная вероятность принадлежности объекта к классу Ω1 (условная вероятность первой гипотезы) будет равна:
а условная вероятность принадлежности объекта к классу Ω2 (условная вероятность второй гипотезы) будет равна:
,
где – это совместная плотность распределения плотностей вероятностей значений признака х по классам.
Величины и – апостериорные вероятности принадлежности распознанного объекта классам Ω1 или Ω2 соответственно.
Условные риски, связанные с решениями принадлежности объекта первому или второму классу будут соответственно равны:
и
с1 и с2 – элементы платежной матрицы. Система распознавания, основанная на Байесовской стратегии, должна решать задачу с минимальным условным риском, т.е. предпочтение решению, когда ω принадлежит Ω1 следует отдавать тогда, когда
Подставим в это выражение значение и , определение .
В этом случае неравенство
или
определяют, в каких условиях необходимо принять решение о том, что распознаваемый объект (ω) принадлежит первому классу (Ω1).
Т.о. Байесовский подход к решению задачи распознавания состоит в вычислении условных апостериорных (полученных) вероятностей и принятия решений на основании сравнения их значений. Такой подход обеспечивает минимум среднего риска и минимум ошибочных решений.
Если число классов больше двух и равно какому-то m , то апостериорная вероятность отнесения объекта класса Ω к этому классу будет равна:
Когда объект характеризуется n признаков, xi (i=1…n) и признаки распознанного объекта принимают значения x1=x10, x2=x20, … , xn=xn0, при этом вероятность того, что при выполнении события an=(x10, x20,…,xn0) объект относится к i-классу равна:
7.6Минимаксный критерий
При наличии систем распознавания возможны такие ситуации, когда априорные вероятности появляющихся объектов соответствующего класса неизвестны. Минимальность значения среднего риска принятия решений на основе Байесовой стратегии в этом случае невозможно.
В этой ситуации рационально использовать критерий, который минимизирует максимально возможные значения среднего риска. Этот критерий называют минимаксным критерием.
Минимаксная стратегия состоит в том, что решения о принадлежности соответствующего объекта классу принимается на основе Байесовой стратегии, соответствующей такому значению вероятности , при котором средний риск максимален. если значения вероятности неизвестны, то при наличии классов 1 и 2 Байесов риск с учетом того, что
; C11=C22=0; C12=C1; C21=C2;
в таком случае минимальный риск будет равен:
.
График функции при =0 и =1, Rmin=0, будет выглядеть следующим образом
П усть Rmin достигает максимального значения при = .
Этот риск представляет собой максимальное значение минимума Байесова риска ( ).
Применение минимаксного критерия означает, что при отсутствии данных относительно априорных вероятностей появляющихся объектов следует ориентироваться на равенство = . Средние потери при равенстве = определяются касательной кривой в точке, соответствующей . При этом , где и – ошибки первого и второго рода, при априорной вероятности = .
Т.к. при средние потери достигают максимума, то касательная (см. рис.) параллельна оси абсцисс, следовательно средние потери неизменны, когда действительное значение отличается от выбранного значения .
Минимаксная стратегия обеспечивает то, что при меньшем и большем средние потери не будут больше максимального значения минимальных средних (Байесовых) потерь.
Для определения алгоритма принятия решения, соответствующего минимаксной стратегии, продифференцируем уравнение по и производную приравняем к нулю. В результате получится:
это соотношение – равенство условных значений средних рисков при ошибках первого и второго рода, – позволяет определить х0 и построить следующий алгоритм классификации:
Если измеренное значение признака х у объекта равно х0, то объект принадлежит классу 1; если х=х0 , х0≤х0 и ω принадлежит Ω х=х0>х0.
Минимаксная стратегия, предлагающая значение полагать равным , приводит к следующему пороговому значению коэффициента правдоподобия
.
Определение позволяет записать алгоритм классификации следующим образом:
если С1=С2 , то (из ) следует минимаксная стратегия приводит к равенству условных вероятностей ошибок первого и второго рода.
Минимаксная стратегия есть байесовская стратегия для наихудших значений априорных вероятностей, дающая хотя и осторожное, но гарантированное значение среднего риска.