- •2) Определение линейной зависимости системы векторов линейного пространства
- •Размерность и базис линейного пространства, координаты вектора
- •Подпространство
- •[Править]Свойства подпространств
- •3) Базис линейного пространства
- •6) Линейные преобразования линейного пространства
- •7) Собственные значения и собственные векторы
- •Определение
- •Симметричные матрицы, статистики и моделирования
- •Собственные значения и собственные векторы симметричной матрицы
- •Собственные значения и собственные векторы симметричной матрицы реальные
- •Собственных векторов симметричной матрицы, ортогональны
- •Спектральное разложение симметричной матрицы
- •Проекция матрицы
- •Положительный (полу-) определенных матриц
Определение
Квадратной матрицы А = [IJ] называется симметричным, если для всех, и все у:
IJ = ц
Два элемента, которые являются симметричными по отношению к первой диагонали равны: симметричная матрица, следовательно, равна его перенести.
Семейство симметричных матриц особенно богат в «хороших» свойств. В частности, собственные (реальная) матрица симметрична реальны, как и его собственные. Кроме того, эти векторы образуют базу ортонормированной (см. ниже) ..
Симметричные матрицы, статистики и моделирования
Статистики и моделирования данных призываем симметричных матриц во многих случаях:
* Ковариационная матрица симметрична по определению (и, кроме того является неотрицательно, см. ниже).
* Матрицу проекции (см. ниже) проецирует данные на пространстве линейное подпространство. Анализ главных компонентов ( PCA ) и линейной регрессии могут быть интерпретированы как с точки зрения проекции на подпространства, и, следовательно, с точки зрения проекции матрицы.
* Ridge регрессии можно интерпретировать как изменение регрессии на главных компонент, который работает на спектральное разложение (см. ниже) ковариационной матрицы данных.
* Создание свойств квадратичных форм в нормальных случайных величин также зависит от проекции матрицы.
Собственные значения и собственные векторы симметричной матрицы
Симметричные матрицы пользоваться многими важными свойствами. В учебник ниже, мы будем создавать некоторые из этих свойств, которые будут необходимы в других местах этого сайта.
Собственные значения и собственные векторы симметричной матрицы реальные
* Собственных значений симметричной матрицы, являются реальными. Напомним, что только потому, что коэффициенты матрицы реального, конечно, не означает, что собственные значения этой матрицы являются реальными.
* (Реальный) собственное значение может быть связан с комплексом собственного. Но это то всегда можно найти реальный собственный, связанные с этим собственное. Мы будем рассматривать только эти реальные векторы, и мы поэтому считаем, что собственные векторы симметричной матрицы, являются реальными.
Собственных векторов симметричной матрицы, ортогональны
Мы покажем, что две собственные, связанные с двумя различными значениям, ортогональны. Следствием является то, что, если все собственные значения матрицы различны, нормированные собственные векторы образуют ортонормированный отсчета.
Этот результат остается в силе, даже если есть несколько собственных, но затем немного сложнее, и мы вынуждены констатировать, без доказательства.
-----
Таким образом, вполне обычно:
Собственных векторов симметричной матрицы образуют ортонормированный базис. |
Спектральное разложение симметричной матрицы
Обозначим через U, квадратная матрица порядка р, столбцами которой являются собственные векторы симметричной матрицы. Мы покажем, что:
= UDU " |
где D = Diag ( 1, 2, ... , п)-диагональная матрица собственных значений.
Это фундаментальное выражение называется спектральное разложение симметричной матрицы.
В собственных форм базы ортонормированной, матрица U является ортогональной матрицей.
-----
Расширение этого выражения приводит к:
= я I U I U я "
где {и г} есть множество векторов.
Обратите внимание на формальное сходство с расширением сингулярного разложения матрицы.
Мы видим , что оно может быть истолковано с точки зрения проекторы на собственные векторы.
-----
Этот результат является центральным для многих вопросов, связанных с ковариационной матрицы, в частности:
* В анализ главных компонент,
* В гребневой регрессии.
---------------------------------------------
Две семьи под-семейства симметричных матриц имеют свойства и интерпретаций, которые являются полезными для статистики:
* Матрицы проекции,
* И положительный (полу-) определенных матриц.