Симметричная положительно определенная матрица

Квадратная матрица А называется симметрической (симметричной), если А = А, т. е. ау = а^_у / = 1. п j = 1. п.

Симметрическая матрица А /?-го порядка называется положительно (неотрицательно) определенной, если для любого ненулевого вектора х = (jq, *2. *п)’ выполняется неравенство

Например, матрица А А неотрицательно определена, так как для любого вектора хх'(А’Л)х = (х’А) Ах = <Ах)’Ах= у’у > 0, ибо у у представляет скалярный квадрат вектора у = Ах.

Понятие положительно (неотрицательно) определенной симметрической матрицы А тесно связано с понятием положительно определенной (полуопределенной) квадратичной формы.

Для положительно (неотрицательно) определенных матриц используется запись А > О (А > 0).

Соотношение А >В (А > В) означает, что матрица А— В положительно (неотрицательно) определена.

Свойства положительно (неотрицательно) определенных матриц.

• 1. Если А >В, то ац >Ьц, / = 1. п, т. е. диагональные элементы матрицы А более соответствующих диагональных элементов матрицы В.
• 2. Если А >В, С > 0, то А + С >В.
• 3. Если А > В, где А и В — невырожденные матрицы, то В

1 .

4. Если А > 0 (А > 0), то все собственные значения матрицы А положительны (неотрицательны), т. е. X,- >0 (X,- >0), / = 1. п.

Свойства симметрической положительно определенной матрицы А п-го порядка.

• 1. Если п > /я, rang (В_п,_т) = /и, то В’АВ— положительно определенная матрица.
• 2. Матрица А

1 , обратная к А, также симметрическая и положительно определенная.

3. Определитель |л| > 0, а значит, и все главные миноры матрицы А (получаемые для подматриц, образованных из матрицы А вычеркиванием строк и столбцов с одинаковыми номерами) положительны.

4. След матрицы А равен сумме ее собственных значений:

Квадратная матрица С называется ортогональной, если

Свойства ортогональной матрицы С:

• 1. С С—Е.
• 2. Определитель С = 1 или |С| = -1.
• 3. В ортогональной матрице как строки, так и столбцы образуют ортонормированную систему векторов (§ 13.6).
• 4. С помощью ортогональной матрицы С симметричная матрица А может быть приведена к диагональному виду

5. Симметричная матрица А может быть представлена через ортогональную и диагональную матрицу в виде

Х1Д2»—Лл — собственные значения матрицы >4. Симметрическая [1] матрица А называется идемпотентной, если она совпадает со своим квадратом, т. е.

Свойства идемпотентных матриц:

• 1. А к =А, где к — натуральное число.
• 2. Собственные значения идемпотентной матрицы А равны либо нулю, либо единице: Х= 0 или А = 1.
• 3. Все идемпотентные матрицы неотрицательно определены.
• 4. Ранг идемпотентной матрицы равен ее следу, т. е. числу ненулевых собственных значений.

В линейной алгебре, положи́тельно определённая ма́трица — это эрмитова матрица, которая во многом аналогична положительному вещественному числу. Это понятие тесно связано с положительно определённой симметрической двулинейной формой (или полуторалинейной формой в случае с комплексными числами).

Формулировки

Пусть $ M $ будет эрмитовой матрицей размерности $ n imes n $ . Обозначим транспонированный вектор $ a $ посредством $ a^ $ , а сопряжённый транспонированный вектор — посредством $ a^ <*>$ .

Матрица $ M $ является положительно определённой, если она удовлетворяет любому из следующих равнозначных критериев:

1.	Для всех ненулевых комплексных векторов $ z in mathbb^n $ , $ extbf^ <*>M extbf > 0. $

Отметим, что величина $ z^ <*>M z $ всегда вещественна, поскольку $ M $ — эрмитова матрица.

2. Все собственные значения $ M $ , $ lambda_i, i = 1, 2, dots, n $ , положительны. Вспомним, что любая эрмитова матрица по теореме о спектральном разложении может быть представлена как вещественная диагональная матрица $ D $ , переведённая в другую систему координат (то есть $ M = P^<-1>DP $ , где $ P $ — унитарная матрица, строками которой являются ортонормальные собственные векторы $ M $ , образующие базис). По этому определению $ M $ — положительно определённая матрица, если все элементы главной диагонали $ D $ (или, другими словами, собственные значения $ M $ ) положительны. То есть в базисе, состоящем из собственных векторов $ M $ , действие $ M $ на вектор $ z in mathbb^n $ равносильно покомпонентному умножению $ z $ на положительный вектор. 3. Полуторалинейная форма $ langle extbf, extbf
angle = extbf^ <*>M extbf $

определяет внутреннее произведение в $ mathbb^n $ . Обобщая сказанное, любое внутреннее произведение в $ mathbb^n $ образуется из эрмитовой положительно определённой матрицы.

4. $ M $ — матрица Грама, образованная из множества линейно независимых векторов $ extbf_1,ldots, extbf_n in mathbb^k $

для какого-то $ k $ . Другими словами, элементы $ M $ определены следующим образом

$ M_ = langle extbf_i, extbf_j
angle = extbf_i^ <*> extbf_j. $

Таким образом, $ M = A^<*>A $ , где $ A $ инъективная, но не обязательно квадратная матрица.

5. Определители всех угловых миноров матриц положительны (критерий Сильвестра).

В соответствии с этим критерием у положительно полуопределённых матриц все угловые миноры неотрицательны, что, тем не менее, не является достаточным условием для положительной полуопределённости матрицы, как видно из следующего примера

$ egin 1 & 1 & 1 \ 1 & 1 & 1 \ 1 & 1 & 0 end. $

Для вещественных симметричных матриц в вышеприведённых свойствах пространство $ mathbb^n $ может быть заменено на $ mathbb^n $ , а сопряжённые транспонированные векторы на транспонированные.

Квадратичные формы

Также можно сформулировать положительную определённость через квадратичные формы. Пусть $ K $ будет полем вещественных ( $ mathbb $ ) или комплексных ( $ mathbb $ ) чисел, а $ mathbb $ будет векторным пространством над $ K $ . Эрмитова форма

$ B : V imes V
ightarrow K $

является двулинейным отображением, притом числом, сопряженным $ Bleft(x, y
ight) $ , будет $ Bleft(y, x
ight) $ . Такая функция $ B $ называется положительно определённой, когда $ Bleft(x, x
ight) > 0 $ для любого ненулевого $ x in V $ .

Отрицательно определённая, полуопределённая и неопределённая матрицы

Эрмитова матрица $ M $ размерности $ n imes n $ будет называться отрицательно определённой, если

для всех ненулевых $ x in mathbb^n $ (или, эквивалентным образом, для всех ненулевых $ x in mathbb^n $ ).

$ M $ будет называться положительно полуопределённой, если

для всех $ x in mathbb^n $ (или, эквивалентным образом, для всех $ mathbb^n $ ).

$ M $ будет называться отрицательно полуопределённой, если

для всех $ x in mathbb^n $ (или, эквивалентным образом, для всех $ mathbb^n $ ).

Таким образом, матрица будет отрицательно определённой, если все её собственные значения отрицательны, положительно полуопределённой, если все её собственные значения неотрицательны, и отрицательно полуопределённой, если все её собственные значения неположительны.

Матрица $ M $ будет положительно полуопределённой тогда и только тогда, когда она является матрицей Грэма какого-нибудь множества векторов. В отличие от положительно определённой матрицы данные векторы не обязательно линейно независимы.

Для любой матрицы $ A $ выполняется следующее: $ A^<*>A $ — положительно полуопределённая, а $ operatornameleft(A
ight) = operatornameleft(A^<*>A
ight) $ . Обратное утверждение также верно: любая положительно полуопределённая матрица $ M $ может быть выражена как $ M = A^<*>A $ (разложение Холеского).

Эрмитова матрица не являющаяся ни положительно, ни отрицательно полуопределённой называется неопределённой.

Дополнительные свойства

Введём обозначение $ M succeq 0 $ для положительно полуопределённых матриц и $ M succ 0 $ — для положительно определённых матриц.

Для произвольных квадратных матриц $ M, N $ будем писать $ M succeq N $ , если $ M — N succeq 0 $ , то есть $ M — N $ положительно полуопределённая матрица. Таким образом, отношение $ succeq $ определяет частичный порядок на множестве квадратных матриц. Подобным образом можно определить отношение полного порядка $ M succ N $ .

Любая положительно определённая матрица обратима, а её обратная матрица также положительно определённая. Если $ M succeq N succ 0 $ , то $ N^ <-1>succeq M^ <-1>succ 0 $ .

2. Если $ M $ — положительно определённая матрица и $ 0 , то $ r cdot M $ положительно определённая матрица.

Если $ M $ and $ N $ — положительно определённые матрицы, то их сумма $ M + N $ и произведения $ MNM $ и $ NMN $ тоже положительно определённые. Если $ M N = N M $ , то $ M N $ тоже положительно определённая.

3. Если $ M $ — положительно определённая матрица, то элементы главной диагонали $ m_ $ положительны. Следовательно, $ operatornameleft(M
ight) > 0 $ . Более того, $ | m_ | leq sqrt m_> leq frac+m_> <2>$ . 4. $ M $ — положительно определённая матрица тогда и только тогда, когда существует положительно определённая $ B succ 0 $ такая, что $ B^2 = M $ . Обозначим $ B = M^<frac<1><2>> $ . Такая матрица $ B $ единственна при условии, что $ B succ 0 $ . Если $ M succ N succ 0 $ , то $ M^<frac<1><2>> > N^<frac<1><2>>>0 $ . 5. Если $ M $ and $ N $ — положительно определённые матрицы, то $ Motimes N succ 0 $ (где $ otimes $ обозначает произведение Кронекера). 6. Если $ M $ and $ N $ — положительно определённые матрицы, то $ Mcirc N succ 0 $ (где $ circ $ обозначает произведение Адамара). Когда $ M,N $ вещественные матрицы, выполняется также следующее неравенство (неравенство Оппенхейма):

$ det(Mcirc N) geq (det N) prod_ m_ $ .

7. Если $ M $ — положительно определённая матрица, а $ N $ — эрмитова матрица и $ MN + NM succeq 0 $ $ left( MN+NM succ 0
ight) $ , то $ N succeq 0 $ $ left( N succ 0
ight) $ . 8. Если $ M $ and $ N $ — положительно полуопределённые вещественные матрицы, то $ operatornameleft(MN
ight)succeq 0 $ . 9. Если $ M $ — положительно определённая вещественная матрица, то существует число $ delta>0 $ такое, что $ Msucceq delta I $ , где $ I $ — единичная матрица.

Неэрмитовы матрицы

Вещественные несимметрические матрицы тоже могут удовлетворять неравенству $ x^T M x > 0 $ для всех ненулевых вещественных векторов $ x $ . Такой, к примеру, является матрица

поскольку для всех ненулевых вещественных векторов $ x = (x_1, x_2)^T $

$ egin x_1 & x_2 end egin 1 & 1 \ -1 & 1 end egin x_1 \ x_2 end = x_1^2 + x_2^2 > 0 . $

Обобщая, $ x^T M x > 0 $ для всех ненулевых вещественных векторов $ x $ тогда и только тогда, когда симметрическая часть $ frac <2>$ положительно определённая.

Для комплексных матриц существет несколько обобщений неравенства $ x^ <*>M x > 0 $ . Если $ x^ <*>M x > 0 $ для всех ненулевых комплексных векторов $ x $ , тогда матрица $ M $ эрмитова. То есть если $ x^ <*>M x > 0 $ , то $ M $ эрмитова. С другой стороны, $ operatornameleft(x^ <*>M x
ight) > 0 $ для всех ненулевых комплексных векторов $ x $ тогда и только тогда, когда эрмитова часть $ frac> <2>$ положительно определённая.

Литература

• R. A. Horn, C. R. Johnson. Matrix Analysis, Cambr > См. также

Эта страница использует содержимое раздела Википедии на русском языке. Оригинальная статья находится по адресу: Положительно определённая матрица. Список первоначальных авторов статьи можно посмотреть в истории правок. Эта статья так же, как и статья, размещённая в Википедии, доступна на условиях CC-BY-SA .

Определение. Симметричная пхп матрица А называется неотрицательно определенной, если для каждого вектора х выполняется неравенство

Пример. Матрица А’А неотрицательно определена для любой матрицы А. В самом деле, для любого вектора х

х'(А’А)х = (Ах)'(Ах) = у’у ^ 0.

Здесь вектор у = Ах, а скалярный квадрат любого вектора, конечно, неотрицателен.

Для симметричных матриц можно ввести отношение порядка.

Определение. Будем говорить, что А р 0, если А — неотрицательно определена, и А > 0, если А положительно определена. Будем говорить, что А ^ В (А > В), если матрица А—В неотрицательно определена (положительно определена).

Предложение. Если А ^ В, то оц ^ Ьц для всех і.

(Для доказательства достаточно рассмотреть х(А — В)ХІ при = (Sn, Si-2, . Si„)’.)

Предложение. Если А>ВиС^0,тоА + С>В.

Предложение. Бели А > В и обе матрицы обратимы, то В"1 > А

Предложение. У положительно определенной (неотрицательно определенной) матрицы А все собственные числа положительны (неотрицательны).

В самом деле, пусть х — собственный вектор, соответствующий собственному числу А, т. е. Ах = А®. Так как матрица положительно определена, то х’Ах > 0. Но х’Ах — х’х = А®’® > 0, следовательно, А > 0 (®’® > 0, как скалярный квадрат ненулевого вектора).

Для положительно определенных матриц можно определить дробные степени и другие функции от матриц следующим образом. Представим положительно определенную симметричную матрицу А в виде разложения на ортогональную и диагональную (ЛА.13):

Диагональные элементы Л являются собственными числами матрицы А, следовательно, неотрицательны (см. выше). Тогда можно определить

А1’2 = ОЛ1/2^, (А1/2)2 = 0А>’2а0А>’20’ = ОА>’2А>’2а = ОАО’ = л,

и аналогично для любой другой дробной степени (в том числе отрицательной). Здесь, конечно, га>/2 о . о

. о . о a?/2j 16. Идемпотентные матрицы

Определение. Матрица М называется идемпотентной, если она совпадает со своим квадратом: М = Af2. Мы далее будем считать матрицу М также и симметричной, так как именно такие матрицы встречаются в эконометрике. Однако многие приведенные ниже результаты верны и без предположения симметричности матрицы М. Часто требование симметричности включают в определение идемпотентной матрицы.

Предложение. Собственные числа идемпотентной матрицы могут принимать значения только 0 или 1.

В самом деле, если ® — собственный вектор идемпотентной матрицы М, а А — соответствующее собственное значение, то А® = Мх = М2® = Мх — AM® = А2®, или (А — А2)® = 0, откуда А(1 — А) = 0.

Предложение. Ранг идемпотентной матрицы равен ее следу.

Пусть М — идемпотентная (симметричная) матрица. В силу (JIA.13) се можно представить в виде М = ОАО7, где на диагонали Л стоят пули и единицы (собственные числа матрицы М). Из свойств ранга матрицы (см. JIA, п. 10) следует, что rank(M) = гапк(Л), т. к. ортогональная матрица О невырождена (det(O) = ±1). Ранг матрицы Л равен, очевидно, числу ненулевых элементов на диагонали, т. е. числу собственных значений матрицы М, равных 1. След матрицы М равен tr(М) = tr(OAO’) = tr(O’OA) = tr(A), также равен числу собственных значений матрицы М, равных 1, что и требовалось показать.

Пример. Обозначим через inxl — вектор-столбец, состоящий из одних единиц. Рассмотрим матрицу М = I — Проверим, что она идемпотентная. п

Эта матрица обладает следующим свойством (вычисление отклонений от среднего значения): Хі — х

ТІ t—1 t=I С геометрической точки зрения идемпотентная матрица соответствует оператору проектирования на векторное подпространство. Так, например, матрица М = I — гг’ является проектором на подпространство, ортогональное вектору t = (l. 1)’.