- •11. Многомерные методы экспериментальной оптимизации.
- •12. Симплекс-метод экспериментальной оптимизации. Последовательный симплексный метод Этот метод требует проведения минимально возможного числа опытов при определении направления движения.
- •13. Метод Бокса-Уилсона.
- •14. Анализ главных компонент. Вычислительная процедура.
- •15. Анализ главных компонент. Геометрическая интерпретация.
- •16. Модель и основная теорема факторного анализа.
- •17. Основные этапы факторного анализа
- •18. Меры близости и различия в кластерном анализе. Функции расстояния и сходства Неотрицательная вещественная функция называется функцией расстояния (метрикой), если:
- •19. Метод k-средних в кластерном анализе.
- •20. Иерархический кластерный анализ. Проблема индексации.
- •21. Графическое представление результатов кластерного анализа.
- •22. Многомерное шкалирование. Метрический и неметрический подходы.
- •23. Многомерное шкалирование. Теорема Янга-Хаусхолдера. Метрическое шкалирование в метрическом шкалировании укажем два метода: ординация Орлочи и метод главных проекций Торгерсона.
- •24. Ортогональные методы многомерного шкалирования.
- •25. Неметрическое шкалирование. Схема алгоритма Каскала.
- •26. Критерии качества шкалирования.
22. Многомерное шкалирование. Метрический и неметрический подходы.
Кроме таблиц «объект-признак» источником данных могут служить таблицы «объект-объект», содержащие данные о связях объектов. Математический образ подобных таблиц – квадратная матрица, элемент которой на пересечении i-й строки иj-го столбца содержит сведения о попарном сходстве либо различии анализируемых объектов. Задача состоит в том, чтобы представить эти объекты в виде точек некоторого координатного пространства невысокой размерности. При этом связи объектов должны быть переданы расстояниями между точками. Такая простая геометрическая модель приводит к содержательно интерпретируемому решению: каждая ось порождаемого пространства является одномерной шкалой и соответствует некому латентному признаку. Тем самым объекты наделяются признаками, интерпретация которых связывается с расположением объектов в искомом пространстве.
Формальная постановка задачи шкалирования
Дана симметричная матрица различий между объектами .
Требуется построить пространство возможно меньшей размерности rи найти в нем координаты точек-объектов
так, чтобы матрица расстояний
между ними, вычисленная по введенной на Хметрике, была, в смысле некоторого критерия, близка к исходной матрицеGпопарных различий.
При решении поставленной задачи возможны два подхода: метрический, при котором матрица различийGизначально является искомой матрицей расстоянийD, инеметрический (монотонный, ранговый), ориентированный на сохранение того же порядка попарных расстояний, что и в исходной матрице различий: → .
Неметрический этап
На этом этапе данные о различиях и стандартизированные оценки расстояний из предыдущей итерации используются для вычисления отклонений.
Этап состоит из нескольких шагов.
1. Упорядочить по возрастанию данные о различиях по исходной матрице G. Получившийся порядок пар объектов задает и порядок оценок расстояний или отклонений.
2. Серия проходов: в начале первого прохода на конкретной итерации отклонениями являются текущие оценки расстояний из предыдущей итерации или стартовой конфигурации. В начале каждого последующего прохода на той же итерации отклонения берутся из предыдущего прохода. Проход начинается с разбиения оценок отклонений на блоки равных значений. Пусть m=(1,...,M) будет индексом, обозначающим блоки от самого верхнего (m=1) до самого низкого (m=M). Начиная сm=1, элементыm-го блока сравниваются с элементами (m+1)-го блока. Если элементыm-го блока меньше элементов (m+1)-го блока, необходимо перейти к сравнению двух следующих блоков. Как только элементыm-го блока окажутся больше элементов (m+1)-го блока, то все элементыm-го и (m+1)-го блоков приравниваются среднему арифметическому обоих блоков. Эти два блока объединяют в один, который становится новымm-ым блоком. Затем опять сравниваютm-й и (m+1)-й блоки; проход заканчивается после сравнения всех соседних блоков. Результат прохода – новый набор оценок отклонений. После завершения проходов отклонения будут удовлетворять условию монотонности (12.1). Пример работы алгоритма дается в табл.27.
Таблица 27
№ п/п |
Различие |
До объединения |
После 1-го прохода |
После 2-го прохода | |||
Откло- нение |
Блок |
Откло-нение |
Блок |
Откло-нение |
Блок | ||
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
1 |
0,19 |
0,11 |
1 |
0,11 |
1 |
0,11 |
1 |
2 |
0,22 |
0,12 |
2 |
0,12 |
2 |
0,12 |
2 |
3 |
0,23 |
0,16 |
3 |
0,15 |
3 |
0,15 |
3 |
4 |
0,25 |
0,14 |
4 |
0,15 |
3 |
0,15 |
3 |
Продолжение табл.27
№ п/п |
Различие |
До объединения |
После 1-го прохода |
После 2-го прохода | |||
Откло- нение |
Блок |
Откло-нение |
Блок |
Откло- нение |
Блок | ||
5 |
0,26 |
0.21 |
5 |
0.21 |
4 |
0.21 |
4 |
6 |
0,27 |
0,23 |
6 |
0,23 |
5 |
0,23 |
5 |
7 |
0,28 |
0,25 |
7 |
0,25 |
6 |
0,24 |
6 |
8 |
0,29 |
0,23 |
8 |
0,23 |
7 |
0,24 |
6 |
9 |
0,32 |
0.27 |
9 |
0.27 |
8 |
0,27 |
7 |
В столбце 3 нет подряд идущих одинаковых чисел, так что каждая строка образует блок. Просматривая этот столбец сверху вниз, обнаруживаем, что в строках 3 и 4 имеет место инверсия (нарушение монотонности –– 0,16>0,14). Блоки 3 и 4 объединяются в один со значением (0,16+0,14)/2=0,15. Просматривая теперь столбец 5, убеждаемся в необходимости слияния блоков 6 и 7. Как видно из 7-го столбца нарушений условия монотонности не осталось, что позволяет считать элементы столбца 7 искомыми отклонениями.
Метрический этап
На этом этапе решают задачу математического программирования, в результате чего получают новые оценки координат, по которым рассчитывают новые оценки расстояний. Исходными данными являются отклонения, рассчитанные на неметрическом этапе, оценки координат и расстояний предыдущей итерации. В качестве целевой функции выступает S1(12.2).
Минимизация S1проводится одним из градиентных методов.