正定二次型

正定二次型是指一个二次型 $Q(x)=x^{T}Ax$, 其中矩阵 $A$ 是正定矩阵. 这意味着对于所有非零向量 $x$, 二次型 $Q(x)>0$. 正定矩阵的特征值全为正数, 且其行列式也大于零.

二次型

一个二次型可以表示为形式:

$$f(\mathbf{x})={\mathbf{x}}^{T}A\mathbf{x}$$

这里 $\mathbf{x}$ 是一个 $n$ 维向量, $A$ 是一个与之相对应的 $n\times n$ 实对称矩阵.

在几何上, 二次型可以表示椭圆 (二维) 、椭球 (三维) 或更高维空间的超曲面. 如果矩阵 $A$ 是正定的, 则该二次型表示的几何形状是一个椭圆或椭球体.

正定二次型

二次型 $f(\mathbf{x})={\mathbf{x}}^{T}A\mathbf{x}$ 被称为正定的, 如果对于所有非零向量 $\mathbf{x}$, 都有:

$${\mathbf{x}}^{T}A\mathbf{x}>0$$

此外, 矩阵 $A$ 被称为正定矩阵. 还有其他几种判断正定性的方法:

1. 特征值判定法: 矩阵 $A$ 是正定的当且仅当其所有特征值都是正的. 特征值描述了椭圆在主轴方向上的拉伸程度.
2. 主子式判定法: 矩阵 $A$ 的所有顺序主子式 (从左上角开始的子矩阵的行列式) 必须都是正的.
3. Cholesky 分解: 如果实对称矩阵 $A$ 可以分解为 $A=L{L}^T$, 其中 $L$ 是下三角矩阵, 那么 $A$ 是正定的.

几何解释: 椭圆与椭球体

在二维情况下, 正定二次型对应于椭圆方程:

$${\mathbf{x}}^{T}A\mathbf{x}=1$$

通过特征分解 $A=Q\Lambda Q^T$, 将方程变换到主轴方向, 得到:

$${\lambda }_1{x}^2+{\lambda }_2{y}^2=1$$

其中 ${\lambda }_1,{\lambda }_2$ 是矩阵 $A$ 的特征值. 椭圆的主轴方向由特征向量给出, 而椭圆的半轴长度由 $a=\frac{1}{\sqrt{{\lambda }_1}},b=\frac{1}{\sqrt{{\lambda }_2}}$ 决定.

面积扩展与椭圆变换

如果椭圆面积被扩大, 例如:

$$\frac{x^2}{a^2}+\frac{y^2}{b^2}=8$$

右侧的 $8$ 表示椭圆的面积扩大了 $8$ 倍, 对应的半轴长度扩大 $\sqrt{8}$ 倍. 椭圆的面积与半轴长度的平方成正比, 因此当面积扩大 $8$ 倍时, 半轴长度扩大 $\sqrt{8}$ 倍.

具体计算:
假设 $a=\frac{1}{\sqrt{{\lambda }_1}},b=\frac{1}{\sqrt{{\lambda }_2}}$, 那么面积扩展后的半轴长度为:

$$a^{\prime }=a\sqrt{8}=\frac{1}{\sqrt{8{\lambda }_1}},b^{\prime }=b\sqrt{8}=\frac{1}{\sqrt{8{\lambda }_2}}$$

特征分解

矩阵 $A$ 可以进行特征分解:

$$A=Q\Lambda Q^T$$

其中 $Q$ 是由特征向量构成的正交矩阵, $\Lambda$ 是特征值构成的对角矩阵. 通过坐标变换 $x^{\prime }=Q^{T}x$, 椭圆在新坐标系下主轴对齐, 二次型简化为:

$$(x^{\prime }{)}^T\Lambda x^{\prime }=1$$

当椭圆面积扩展时, 方程变为:

$$(x^{\prime }{)}^T\Lambda x^{\prime }=8$$

此时新的半轴长度为:

$$a^{\prime }=a\sqrt{8},b^{\prime }=b\sqrt{8}$$

几何含义

在物理学中, 正定二次型常用于描述系统的稳定性和势能. 例如, 一个物理系统的势能通常被建模为一个正定的二次型, 表示系统处于稳定状态.

在优化和机器学习中, 正定二次型的矩阵保证了目标函数是凸的, 从而使问题可以找到全局最优解. 此外, 协方差矩阵通常假设为正定, 这保证了数据的分布具有良好的数学性质.

应用

正定二次型在多个领域具有重要应用, 包括:

• 优化: 目标函数是凸函数时, 二次型表示了系统的最优解.
• 统计学: 协方差矩阵的正定性确保了模型的稳定性和合理性.
• 物理学: 描述势能和稳定性, 确保系统不会出现不稳定的行为.

正定二次型的研究和应用涵盖了矩阵理论、优化、统计分析以及物理学等众多领域, 对理解和解决实际问题具有重要意义.