正定矩阵

定义

正定矩阵是对称矩阵(或者更一般的厄米矩阵)的一种特殊形式, 满足：

1. 对称性：矩阵 $A$ 是对称的，即 $A=A^T$。
2. 所有特征值均为正：矩阵 $A$ 的所有特征值 ${\lambda }_i$ 都大于零。
   正定矩阵的性质类似复数中的正实数。与正定矩阵相对应的线性算子是对称正定双线性形式（复域中则对应厄米正定双线性形式）

二次型

所有特征值均为正这一性质使得正定矩阵在优化问题中特别重要，因为它对应于严格凸的二次型。一个 $n\times n$ 的实对称矩阵 $A$ 被称为正定矩阵，如果对于所有非零向量 $x\in {\mathbb{R}}^n$，都有：

$$x^{T}Ax>0$$

如果二次型同时包含了等于零的情况, 这时$A$称为半正定矩阵.

在线性代数中，正定矩阵的性质类似复数中的正实数。与正定矩阵相对应的线性算子是对称正定双线性形式（复域中则对应埃尔米特正定双线性形式）。

性质

1. 所有特征值都为正。
2. 正定矩阵都是对称矩阵 $A=A^T$。
3. 正定二次型：对于任意非零向量$x$，$x^{T}Ax>0$。
4. 行列式 $\text{det}(A)>0$
5. 正定矩阵都可逆，并且其逆矩阵也是正定矩阵。
6. Cholesky分解：
   任意正定矩阵$A$可以进行Cholesky分解，即存在一个下三角矩阵$L$，使得$A=L{L}^T$，其中$L$是唯一的并且所有对角线元素均为正。
7. 正定性保持：
   如果$A$是正定矩阵，且$B$是非零矩阵，则$B^{T}AB$也是正定矩阵。
8. Schur补性：
   若$A$是正定矩阵，可以通过Schur补来证明部分子矩阵也具有正定性。
9. 最小特征值界限：
   正定矩阵的最小特征值提供了其矩阵范数的下界，即$\Vert A\Vert \ge {\lambda }_{\min }(A)$，其中${\lambda }_{\min }(A)$是矩阵$A$的最小特征值。

判断

判断一个矩阵是否为正定矩阵，可以通过以下几种方法：

1. 特征值法：
   如果矩阵$A$的所有特征值都为正，则$A$是正定矩阵。特征值可以通过求解矩阵的特征多项式得到。

2. 主子矩阵法（Leading Principal Minors）：
   如果矩阵$A$的所有主子矩阵（即从左上角开始的所有子矩阵）的行列式都大于零，则$A$是正定矩阵。具体步骤如下：

   • 对于$1\times 1$的主子矩阵，其行列式必须大于零。
   • 对于$2\times 2$的主子矩阵，其行列式必须大于零。
   • 对于$3\times 3$的主子矩阵，其行列式必须大于零。
   • 以此类推，直到$n\times n$的主子矩阵。

3. 矩阵形式法：
   对于任意非零向量$z$，若$z^{T}Az>0$，则矩阵$A$是正定的。

示例

让我们应用这些方法判断矩阵$A=\left[\begin{array}{cc}3& 1\\ 1& 3\end{array}\right]$是否为正定矩阵：

特征值法

求矩阵$A$的特征值：

$$\text{det}(A-\lambda I)=\left|\begin{array}{cc}3-\lambda & 1\\ 1& 3-\lambda \end{array}\right|=(3-\lambda )(3-\lambda )-1\cdot 1={\lambda }^2-6\lambda +8=0$$

解特征方程：

$${\lambda }^2-6\lambda +8=0$$ $$\lambda =\frac{6\pm \sqrt{36-32}}{2}=\frac{6\pm 2}{2}=4\text{ or }2$$

由于特征值$4$和$2$都大于零，所以矩阵$A$是正定矩阵。

主子矩阵法

考虑矩阵$A$的主子矩阵：

• $1\times 1$的主子矩阵：$\left[\begin{array}{c}3\end{array}\right]$，行列式为$3>0$。
• $2\times 2$的主子矩阵：$\left[\begin{array}{cc}3& 1\\ 1& 3\end{array}\right]$，行列式为$3\cdot 3-1\cdot 1=9-1=8>0$。

由于所有主子矩阵的行列式都大于零，所以矩阵$A$是正定矩阵。

矩阵形式法

对于任意非零向量$z=\left[\begin{array}{c}{z}_1\\ z_2\end{array}\right]$，我们计算$z^{T}Az$：

$$z^{T}Az=\left[\begin{array}{cc}{z}_1& z_2\end{array}\right]\left[\begin{array}{cc}3& 1\\ 1& 3\end{array}\right]\left[\begin{array}{c}{z}_1\\ z_2\end{array}\right]=3z_1^2+2z_1{z}_2+3z_2^2$$

这是一个严格的二次形式，因为对任意非零向量$z$，$3z_1^2+2z_1{z}_2+3z_2^2>0$。

综上所述，矩阵$A=\left[\begin{array}{cc}3& 1\\ 1& 3\end{array}\right]$是正定矩阵。