Ответы к контрольной ТиАРО

1. Объясните понятие образа в интеллектуальных информационных системах и приведите примеры образов?

Образ — систематизированная совокупность данных о реальном или абстрактном объекте, позволяющая выделять его среди других и группировать с другими объектами

Примеры: вектор параметров, конфигурация (граф), логическое высказывание.

(Лекция 1, стр. 1).

2. Что называется классом образов?

Класс — множество образов с идентичными признаками

(Лекция 1, стр. 1).

3. Дайте определение алгоритма распознавания как формальной системы, проинтерпретируйте ее компоненты.

R=⟨A,S,P⟩, где:

A — перечень классов,

S — набор признаков,

P — правило отнесения образа к классу

(Лекция 1, стр. 2).

4. Опишите взаимосвязь способа описания класса образов с принципом работы алгоритма распознавания.

Описание класса определяет принцип распознавания:

Способ описания класса	Принцип алгоритма
Перечисление образов	сравнение с эталоном
Область в n-мерном пространстве	кластеризация
Правила конструирования	принцип общности свойств

(Лекция 1, стр. 2).

5. Перечислите и опишите основные методические подходы к принятию решения в алгоритмах распознавания.

• Эвристические — личный опыт аналитика

• Математические — формализация правил принятия решения средствами мат. аппарата.

• Синтаксические — теория формальных грамматик

(Лекция 1, стр. 2).

6. Перечислите основные требования к автоматизированной системе распознавания.

• Точность распознавания

• Минимальные временные затраты

• Минимальные затраты на разработку системы и обучение операторов

(Лекция 1, стр. 3).

7. Перечислите основные этапы построения системы распознавания.

1. Сбор данных (об объектах исследования)

2. Выбор признаков, определяемых классов и метода распознавания

3. Проверка соблюдения требований к данным

4. (опционально) Декомпозиция системы

5. Тестирование и оценка точности

(Лекция 1, стр. 4–5).

8. Что такое распознавание без обучения и распознавание с обучением?

С обучением (контролируемая классификация): предполагаются конкретные определяемые классы, используются размеченные обучающие выборки

Без обучения (неконтролируемая классификация): предполагается лишь количество классов, размеченные данные отсутствуют.

(Лекция 1, стр. 6).

9. Перечислите основные характеристики цифровых данных ДЗ, имеющих значение для построения системы автоматизированного дешифрирования.

• Пространственное разрешение.

• Радиометрическое разрешение.

• Спектральное разрешение

(Лекция 1, стр. 7).

10. Что называют спектральным образом участка земной поверхности, соответствующего пикселю изображения?

Кривая спектральной яркости для данного пикселя, представленная с различным уровнем дискретизации

(Лекция 1, стр. 9).

11. Чем определяется точность и достоверность автоматизированного тематического дешифрирования?

• Точность зависит от выбранного метода принятия решения.

• Достоверность зависит от типичности спектрального образа для данного класса объектов

(Лекция 1, стр. 9).

12. Какие требования предъявляются к цифровым растровым данным, полученным из различных источников, при их совместном использовании в задаче автоматизированного дешифрирования?

1. Схожее пространственное разрешение.

2. Высокая точность пространственной привязки (в пределах одного пикселя).

3. Точность измерений выше требований задачи.

4. Отсутствие процедур улучшения качества (поднятие контраста и т.п.).

5. Приведение к единому диапазону значений

(Лекция 1, стр. 10).

13. Что представляют собой образ и класс в задачах многомерного статистического анализа?

Образ — точка в n-мерном пространстве признаков (ПП).

Класс — область в ПП

(Лекция 1, стр. 11).

14. От каких факторов зависит точность разделения классов?

• Возможность описания классов компактными областями в ПП.

• Форма и положение границы

(Лекция 1, стр. 12).

15. Какие методы классификации называются непараметрическими?

Непараметрические методы определяют принадлежность образа к классу основываясь лишь на описаниях границ областей классов, а не на статистических параметрах классов

(Лекция 1, стр. 13).

16. Перечислите основные подходы к построению оптимальных границ между классами.

• Метод корректирующих приращений.

• Метод потенциальных функций.

• Метод опорных векторов (SVM)

(Лекция 1, стр. 13).

17. Какая функция называется разделяющей и какая – решающей, как они взаимосвязаны?

Разделяющая функция равна нулю на всей границе между классами.

Решающая функция конкретного класса принимает максимальное (минимальное) значение в области данного класса.

Взаимосвязь: разделяющая функция для классов А и В равна модулю разности между решающими функциями данных классов

(Лекция 1, стр. 15).

18. Как принимается решение об отнесении образа к классу в случае использования разделяющих и в случае использования решающих функций?

Для разделяющих функций: проверка принадлежности точки (образа) одной из областей, описанных функцией.

Для решающих функций: поиск максимума (минимума)

(Лекция 1, стр. 15).

19. Какие методы классификации называют параметрическими?

Методы, в которых границы между классами определяются через поведение образов внутри классов (анализ параметров решающих функций, расчет статистических характеристик и т.п.)

(Лекция 1, стр. 16).

20. Что такое метрические классификаторы?

Классификаторы, использующие только вектор средних координат m, решение о принадлежности образа x к k-му классу принимается по минимуму расстояния (метрики)

(Лекция 1, стр. 17).

21. Перечислите наиболее распространенные виды метрик, используемых в метрических классификаторах; запишите формулы для этих метрик.

• Евклидово расстояние

• Угловое (косинусное расстояние)

• Расстояние Хэмминга (манхэттенское расстояние, используется редко)

• Расстояние Чебышева (используется редко)

(Лекция 1, стр. 17).

22. Что такое спектральная сигнатура пикселя и спектральная сигнатура класса?

Сигнатура пикселя — вектор яркостей в пространстве признаков (ПП), соответствующий спектральному образу.

Сигнатура класса — множество спектральных образов, репрезентативно описывающих область класса в ПП

(Лекция 1, стр. 18).

23. Как спектральная сигнатура пикселя связана с его спектральным образом (кривой спектральной яркости)?

Сигнатура пикселя — это дискретное представление кривой спектральной яркости

(Лекция 1, стр. 18).

24. Какие классы выделяются на мультиспектральных и гиперспектральных изображениях: а) по евклидову расстоянию; б) по спектрально-угловому расстоянию?

По евклидову расстоянию: однородные по спектральной яркости во всех каналах (разные виды песка).

По спектрально-угловому расстоянию: классы с характерной формой спектральной кривой (растительность и почва)

(Лекция 1, стр. 18).

25. Чем обусловлена популярность статистических классификаторов при тематическом дешифрировании мультиспектральных изображений?

Популярность статистических классификаторов обусловлена возможностью достоверно оценить и минимизировать ожидаемую ошибку

(Лекция 1, стр. 20).

26. Какая гипотеза о статистическом распределении образов внутри классов используется при тематической классификации данных ДЗ?

Предполагается нормальное распределение признаков внутри классов

(Лекция 1, стр. 16).

27. Что такое «проклятие размерности»?

Очень быстрый рост размера выборки для расчёта ковариационной матрицы с увеличением размерности пространства признаков

(Лекция 1, стр. 20).

28. Что такое кластер?

Множество точек n-мерного пространства, компактно группирующихся внутри ограниченной области

(Лекция 2 (кластерный анализ), стр. 1).

29. Каким основным свойством обладают кластеры?

Основное свойство кластеров

где d— диаметр области или расстояние до центра кластера

(Лекция 2, стр. 1).

30. Какая метрика обычно используется в качестве меры сходства и что в этом случае представляют собой границы между кластерами?

Чаще всего используется евклидова метрика. Границы — гиперсферы

(Лекция 2, стр. 1).

31. Назовите два основных подхода к задаче кластеризации.

1. Выращивание кластеров (задан радиус кластеров, их число неизвестно).

2. Кластеризация (задано число кластеров и исходные центры)

(Лекция 2, стр. 1).

32. Какой метод Вы бы предпочли для «выращивания» кластеров и почему?

комментарий от автора: напишите только один из них

Метод “ближайшего соседа”, потому что некоторые реальные объекты (сетевые топологии, космические образования) могут иметь большую протяженность и малую связанность (т.е. образовывать цепочки)

Метод «самого удаленного соседа» (макcминное расстояние), т.к. он менее подвержен образованию «цепных» кластеров, чем метод «ближайшего соседа»

(Лекция 2, стр. 3).

33. Перечислите основные шаги алгоритма k внутригрупповых средних.

1. Задать число кластеров K.

2. Выбрать исходные центры m1, m2, ..., mk на множестве образов

3. Распределить все образы по минимуму расстояния до центров.

4. Найти средний образ для каждого кластера.

5. Сравнить центры со средними; если изменения малы ( , где — порог остановки) — конец алгоритма, иначе заменить центры на X_k и повторить

(Лекция 2, стр. 4).

34. Чем отличается полный алгоритм ISODATA от алгоритма k средних?

ISODATA ограничивает размеры кластеров снизу и сверху; использует операции расщепления и слияния кластеров в зависимости от входных параметров.

(Лекция 2, стр. 6–7).

35. Перечислите входные параметры алгоритма ISODATA.

- N — исходное число кластеров, K — требуемое число кластеров.

- — минимальное число точек в кластере.

- — минимальное среднеквадратическое отклонение для расщепления.

- — максимальное расстояние между центрами для слияния.

- L — максимальное число пар для слияния на итерации.

- — порог согласованности (%).

- — допустимое число итераций

(Лекция 2, стр. 7).

36. Для каких целей используется неконтролируемая классификация при тематическом дешифрировании мультиспектральных изображений?

- Определение количества спектрально-однородных интерпретируемых классов.

- Выбор однородных эталонных участков для контролируемой классификации.

- Составление карт-гипотез

(Лекция 2, стр. 9).

37. В чем преимущество алгоритма ISODATA перед алгоритмом k средних при неконтролируемой классификации?

ISODATA лучше справляется со слабо выраженной тенденцией к группировке, так как может удалять маленькие кластеры и расщеплять крупные

(Лекция 2, стр. 10).

38. Что представляют собой классы, выделяемые при неконтролируемой классификации?

Спектрально-однородные группы пикселей, которые могут не совпадать с тематическими классами

39. Как можно определить подходящее количество кластеров по статистике изображения?

Можно анализировать гистограммы по каналам, искать моды (пики яркости)

(Лекция 2, стр. 18).

40. Предложите способ, которым можно выполнить более детальную кластеризацию однородных по спектральным яркостям классов, таких как почвы, вода и т.п.?

Использовать кластеризацию по маске (например, выделить только воду или почвы из всего изображения) после предварительного сглаживания изображения

41. Перечислите основные факторы, от которых будет зависеть результат неконтролируемой классификации?

- Спектральное разрешение изображения.

- Количество каналов.

- Однородность объектов (энтропия изображения).

- Выбор алгоритма и его параметров

(Лекция 2, стр. 13–14).

42. Почему при увеличении размерности ПП возрастает вероятность получить не интерпретируемые классы?

Из-за роста числа возможных кластеров, образующих смешанные классы

(Лекция 2, стр. 14).

43. Какие данные необходимы для решения задачи классификации по байесовскому решающему правилу?

- Функции плотности распределения для каждого класса.

- Априорные вероятности

- Матрица штрафов (опционально)

(Лекция 3 (статклассификация), стр. 1–3).

44. Что такое ошибки первого и второго рода?

- Ошибка первого рода для класса 1 (α): отнести образ класса 1 к классу 2.

- Ошибка второго рода для класса 1 (β): отнести образ класса 2 к классу 1

(Лекция 3, стр. 1).

комментарий от автора: картинка для ответа не обязательна

45. Что подразумевается под «средним риском»?

Средняя условная плата при многократном принятии решения: , где ri – условная плата в i-м случае, pi – полная вероятность такого случая

(Лекция 3, стр. 2).

46. Что такое «априорные вероятности»?

Вероятности появления классов 1 и 2 до измерения признаков ( )

(Лекция 3, стр. 3).

47. Запишите математической выражение для полного среднего риска.

где c_11, c_12... — условные платы, P_1, P_2 — априорные вероятности, f_1, f_2 — функции плотности распределения

(Лекция 3, стр. 3).

48. Что называется функцией правдоподобия и отношением правдоподобия?

• Функции правдоподобия: — решающие функции для Байеса

• Отношение правдоподобия: — разделяющая функция для Байеса

где P - априорные вероятности, f — функции плотности распределения

(Лекция 3, стр. 5).

49. Запишите формулу Байеса для K классов и объясните ее смысл.

— это решающая функция для класса A_k и для каждой классифицируемой точки ее класс определяется максимумом среди вероятностей всех классов (отсюда название алгоритма - максимум правдоподобия)

50. В чем заключается основное достоинство байесовского классификатора?

Позволяет разделять классы с произвольными функциями распределения признака и минимизировать средний риск

(Лекция 3, стр. 8).

51. Запишите формулу и объясните геометрический смысл расстояния Махаланобиса.

, где x — вектор координат точки, m — вектор средних координат класса, C — ковариационная матрица

(Лекция 3, стр. 6)

Расстояние Махаланобиса рассчитывает вероятнсть вхождения точки в класс путем построения эллипсоида рассеяния вокруг “центра” области класса (если точка в него входит — вероятность высока, иначе — нет)

52. Чем отличается классификация по расстоянию Махаланобиса от классификации по евклидову расстоянию?

Махаланобис учитывает ковариационную матрицу и корреляции между признаками, евклидово — нет (Лекция 3, стр. 6).

53. Чем отличается байесовский классификатор от расстояния Махаланобиса при нормально распределенных образах в классах?

Байесовский классификатор (максимум правдоподобия) позволяет различать классы с близкими центрами, но разными ковариационными матрицами

(Лекция 3, стр. 7).

54. Запишите выражение для «расстояния между пикселем и классом» в байесовском классификаторе.

, где

r_k(x) — решающая функция k-го класса

x — вектор координат (признаков) пикселя

m_k — вектор средних координат класса

P_k — априорная вероятность класса k

С_k — ковариационная матрица класса k

(Лекция 3, стр. 7).

55. В каком случае границы между классами вырождаются в гиперплоскости?

При равных ковариационных матрицах

(Лекция 3, стр. 7).

56. С какой целью при классификации изображений используются равные априорные вероятности?

Позволяет лучше выделять небольшие, но однородные классы

(Лекция 3, стр. 9).

57. К чему приводит нарушение гипотезы о нормальном распределении обучающих выборок?

К дополнительным ошибкам классификации

(Лекция 3, стр. 9).

58. Объясните содержательно понятие корреляции.

Статистическая связь между двумя случайными величинами, при которой изменение одной приводит к изменению другой

(Лекция 4, стр. 1).

59. Какие значения принимает коэффициент корреляции?

(Лекция 4, стр. 1).

60. Запишите формулу для расчета коэффициента корреляции, объясните ее содержание.

N - общее число измерений

x_i, y_i - координаты i-го измерения в пространстве признаков

- мат ожидания x, y

- среднеквадратическое отклонение x, y

(Лекция 4, стр. 1).

61. Как выглядят изображения, для которых ⍴=1 и как выглядят изображения, для которых ⍴=-1?

• ⍴=1: изображения абсолютно одинаковы.

• ⍴=-1: строгая отрицательная корреляция («позитив-негатив»)

(Лекция 4, стр. 3).

62. При каких значениях корреляция между изображениями считается сильной?

При р > 0,99

63. Что такое корреляционная матрица и каковы ее свойства?

Матрица , где - коэффициент парной корреляции признаков j и k, n — общее число признаков

Свойства: симметричная ( ), диагональ заполнена единицами

(Лекция 4, стр. 5).

64. Что такое нормализованная матрица данных и каковы ее свойства.

Матрица в которой мат ожидание m=0 и среднеквадратичное отклонение =1

(Лекция 4, стр. 6).

65. Опишите процедуру расчета корреляционной матрицы на заданном наборе образов.

1. Составить матрицу исходных данных (каждая строка - вектор признаков для i-го образа)

2. Нормализовать её.

3. Рассчитать коэффициенты корреляции как нормированные скалярные произведения столбцов

(Лекция 4, стр. 5–6).

66. В чем состоит задача факторного анализа?

Замена исходных признаков их линейными комбинациями (факторами) с минимизацией потерь информации (сокращение размерности ПП)

(Лекция 4, стр. 7).

67. Сформулируйте постановку задачи анализа главных компонент, объясните, к чему сводится ее решение.

Найти такие линейные комбинации исходных признаков (ортогональные преобразования), которые максимизируют дисперсию и обеспечивают статистическую независимость новых признаков.

Решение такой задачи сводится к решению уравнение , где R — корр. матрица, I — собственные векторы, — дисперсии по направлениям векторов I

(Лекция 4, стр. 7).

68. Опишите итеративную процедуру расчета первой главной компоненты.

Умножение корреляционной матрицы на произвольный единичный вектор много раз с последующей нормировкой; сходится к собственному вектору с наибольшим собственным значением

(Лекция 4, стр. 8).

69. Как располагаются главные компоненты относительно диаграммы рассеяния образов?

Собственные векторы направлены вдоль осей наибольшего разброса точек

(Лекция 4, стр. 7).

70. Какому условию задачи анализа главных компонент отдается приоритет при обработке изображений?

Ортогональность главных компонент

(Лекция 4, стр. 9).

или по устной версии Чабан

Ортогональность векторов нового базиса

71. Почему при PCA преобразовании данных ДЗ может использоваться ковариационная матрица?

Для учёта реальных дисперсий признаков, а не только их нормированных корреляций. Актуально, если самым информативным каналом является самый яркий из них (в среднем)

72. Будет ли результат PCA преобразования одинаков для разных участков изображения? Объясните ответ.

Нет, результат зависит от характера диаграммы рассеяния образов в ПП, которая различается на разных сценах

(Лекция 4, стр. 10).

73. Что такое «гиперкуб яркостей»?

Трёхмерная структура данных гиперспектрального изображения, его стороны: x,y - координаты местности, - длина волны

(Лекция 4, стр. 11).

74. Перечислите причины актуальности сокращения размерности гиперспектральных изображений.

1. Высокая корреляция между каналами.

2. Локальные особенности спектров сосредоточены в узких спектральных диапазонах.

3. «Проклятие размерности» при классификации

(Лекция 4, стр. 12).

75. Поясните понятия «контролируемый отбор каналов» и «неконтролируемый отбор каналов».

- Контролируемый: при наличии эталонов классов.

- Неконтролируемый: на основе статистического анализа всей сцены

(Лекция 4, стр. 12).

76. Что подразумевается под последовательной отбраковкой и под проекционными преобразованиями?

- Отбраковка: отбор/исключение каналов по координате .

- Проекционные преобразования: переход к другим базисам пространства признаков (PCA и аналоги)

(Лекция 4, стр. 12).

77. Перечислите основные методические подходы к последовательной отбраковке.

- Дифференциальный анализ производных.

- Статистические (дисперсия, энтропия).

- Анализ парной идентичности (корреляция, взаимная информация).

- Вейвлет-разложение

(Лекция 4, стр. 13).

78. Назовите наиболее популярные статистические критерии отбора.

Дисперсия и информационная энтропия

(Лекция 4, стр. 13).

79. Каков основной недостаток статистических критериев отбора?

Не учитывают содержательную информативность каналов для конкретных классов

80. Объясните понятие «взаимная информация» и запишите соответствующее математическое выражение.

Взаимная информация — взаимная условная энтропия

p( ) – вероятность того, что значению xi в первом канале соответствует значение yi во втором канале

p( ) – вероятность появления значения xi в первом канале,

p( ) – вероятность появления значения yi во втором канале

m – число ненулевых значений в первом канале

n – число ненулевых значений во втором канале

(Лекция 4, стр. 13).

81. Что такое средняя взаимная информация и относительная взаимная информация?

Средняя — сумма энтропии по каналам минус взаимная информация

Относительная — взаимная информация, нормированная к энтропии канала

82. На каких сценах применение взаимной информации наиболее эффективно?

Сцены близких по форме спектра классов (например, вода)

(Лекция 4, стр. 17).

83. На каких сценах наиболее эффективно использование PCA преобразования?

Неоднородные сцены, т.е. сцены с многообразием различных кривых образов — (например, город с различными типами застройки)

(Лекция 4, стр. 10).

84. В чем недостаток PCA преобразования?

Значительная потеря информации (особенно для однородных данных, например, гиперспектральных изображений)

(Лекция 4, стр. 18).

85. Информацию из какого диапазона преимущественно содержит первая главная компонента?

Преимущественно информация из диапазона с наибольшей общей дисперсией (часто видимый и ближний ИК)

86. Как можно увеличить информативность результата PCA преобразования?

Выбирать для преобразования лишь каналы, дающие наибольший вклад в главные компоненты

(Лекция 4, стр. 18).

87. Чем отличается преобразование MNF от PCA?

MNF использует ковариационную матрицу шума для коррекции шумовой составляющей

PCA – Principal Component Analysis (Метод главных компонент)