0%

线性代数学习笔记(搬运)

非常重要的数学基础知识。

参考教材:《代数学引论》柯斯特利金。

基础知识

线性组合

对于一组向量 $X_i$,$X=\sum a_iX_i$ 是它带有系数 $a_i$ 的线性组合

我们把一组给定向量的所有线性组合构成的集合称为这组向量张成线性包。记为 $\left$。它对于数乘和加法封闭。

一个集合 $S$ 的线性包 $\left$ 是从 $S$ 中任取有限个元素的线性组合构成的集合。

一个线性包的线性包是它本身。

线性相关

如果存在不全为 0 的 $a_i$ 使得

那么就称 $X_i$ 线性相关,上式为不平凡的。

一些显然的性质:

  • 如果 $X$ 线性相关,那么至少有一个 $X_i$ 是其他向量的线性组合。

(此处并非全部:反例如 $(1,0),(2,0),(0,1)$)

  • 如果存在 $X_i$ 是其他向量的线性组合,那么 $X$ 线性相关。

  • 如果 $X$ 的一部分线性相关那么 $X$ 也线性相关。

  • 如果 $X$ 线性无关那么 $X$ 的任何一部分也线性无关。

  • 如果 $X_1,X_2,…,X_n$ 线性无关而 $X_1,X_2,…,X_n,X_{n+1}$ 线性相关,那么 $X_{n+1}$ 是 $X_1,X_2,…,X_n$ 的线性组合。

  • 如果 $X_1,X_2,…,X_n$ 线性无关而 $X_{n+1}$ 不能表示为它们的线性组合,那么 $X_1,X_2,…,X_n,X_{n+1}$ 也线性无关。

基,维数

如果 $V$ 是一个非零的线性包,而 $X_i$ 线性无关且 $\left=V$,那么说 $X_i$ 是 $V$ 的一个

那么 $V$ 中的任何元素 $X$ 都可以被表示为 $X=\sum a_iX_i$,$a_i$ 称为它相对于该基的坐标

(在指出一个向量的坐标前必须先指出基。坐标为 $(1,0,…,0),(0,1,…,0),…,(0,0,…,1)$ 的向量并非坐标恰好很特殊,而是它们定义了坐标。)

(下面我们可能会混淆一个向量和它的坐标,但请记住坐标总是也和基有关。否则学习基变换的时候可能会遇到一些困难。)

可以证明:如果有 $n$ 个元素的向量组 $X_i$ 与有 $m$ 个元素,且线性无关的向量组 $Y_i$ 张成的线性包同等于 $V$,则有 $m\le n$。

于是显然这样的 $n$ 总是相等,因为显然有 $n_1\ge n_2,n_2\ge n_1$,所以我们把 $n$ 称作 $V$ 的维数,记作 $\dim_{\mathbb R} V$ 或 $\dim V$,也是 $X$ 的,记作 $\text{rank}\ X$。

一个矩阵的定义为将其拆为一组行向量或列向量(可以证明与行还是列无关,且有 $\text{rank}\ A=\text{rank}\ (A^T)$,其中 $^T$ 表示转置,即交换某矩阵的行和列),这组向量的秩。

线性变换

线性映射的定义

一个 $n$ 行 $m$ 列的矩阵 $A$ 左乘一个 $m$ 列的列向量 $X$ 会得到一个 $n$ 列的列向量 $Y$,这样的 $A$ 称为线性映射,特别地,当 $n=m$ 称其为线性变换

线性变换的概念非常直观:一个线性变换 $A$ 会把向量 $(1,0,…,0),(0,1,…,0),…,(0,0,…,1)$ 分别映射到 $A^{(1)},A^{(2)},…,A^{(n)}$(其中 $A^{(i)}$ 是 $A$ 的第 $i$ 列),空间的其他部分也被光滑地映射。旋转,剪切,拉伸等都是线性变换。

(此处灵魂画手了,原来的网格映射后还是平行的。)

连续应用的两个变换相当于它们的乘积。$(G\cdot F)(x)=G(F(x))$。一些关于乘积的结论:

  • $(XY)^T=Y^TX^T$
  • $\text{rank} (XY)\le \min(\text{rank}\ X,\text{rank}\ Y)$

线性变换环

$n$ 相等的所有线性变换构成一个环。

线性变换不总是有乘法逆元:$AA^{-1}=A^{-1}A=I$。注意这不表明矩阵乘法有交换律。

可以证明,某个线性变换有乘法逆元等价于它满秩。下面也称不满秩/无乘法逆元为退化。关于退化有如下结论:

  • 如果 $A$ 不退化那么它的转置也不退化。

  • 如果 $B$ 不退化,那么 $\text{rank}(AB)=\text{rank}(BA)=\text{rank}\ A$。

  • 如果 $A_i$ 均不退化,那么 $(A_1A_2…A_n)^{-1}=A_n^{-1}A_{n-1}^{-1}…A_1^{-1}$。

线性变换 $A$ 的解空间,或称零空间,是所有使得 $AX=0$ 的 $X$ 构成的集合。记作 $V_A$。

显然这样一个解空间是一个线性包。而且可以证明,$\dim V_A+\text{rank}\ A=n$。

行列式

直观地讲,$A$ 的行列式 $\det A$ 表示的是,如果对单位立方体应用 $A$,它的像的“有向”体积。

以 $n=2$ 来举例子。此时单位立方体即所有的 $(x,y),x,y\in[0,1]$。一个线性变换 $A$ 会将它变换到一个平行四边形上,这个平行四边形的面积就是 $\det A$ 的绝对值;而如果在映射过程中单位立方体“翻转”了,那么就要加一个负号。例如

就可以理解为沿直线 $y=x$ 翻转单位立方体。它的行列式是 $-1$。

对于 $n=3$,一个立方体有没有被翻转取决于左手定则,不展开讲了。

行列式的形式化定义如下。

其中 $\sigma$ 是 $1,2,…,n$ 的一个置换。$\varepsilon_{\sigma}$ 定义为 $(-1)^k$,其中 $k$ 是 $\sigma$ 的对换数,即如果把 $\sigma$ 拆成对换(即 swap)那么应当有 $k$ 个对换。也等价于逆序对数。

关于行列式有以下结论:

  • $\det A=\det (A^T)$

  • 交换 $A$ 的任意两行,行列式变号。(斜对称性

  • 可以把行列式运算看成一个对 $A$ 的 $n$ 个行向量/列向量的函数。对于任意一个行向量/列向量它都是线性的。(多重对称性)具体来说:

  • 如果某一行/列 $A_i$ 全为 0,那么 $\det A=0$。如果某两行/列相同,那么 $\det A=0$。(从现实意义上可以很容易看出,一个被“拍扁”的立方体体积显然是 0)

  • 上两条的推论:如果使 $A_u=A_u+\lambda A_v$ 而生成一个新的矩阵 $A’$(也被称为在 $A$ 上进行行/列初等变换),有 $\det A’=\det A$。($\det A’$ 可以拆成 $\det A+\lambda \det B$,其中 $B_u=B_v$ 所以 $\det B=0$。)

  • 如果将 $A$ 是一个上三角矩阵,那么它的行列式就是对角线元素之积。(这提供了我们一个 $O(n^3)$ 计算行列式的方法。)

  • $\det AB=\det A\det B$。

事实上行列式不仅具有斜对称性和多重线性性,而且斜对称性和多重线性性和 $\det I=1$(规范性)唯一地确定了行列式这个函数。

行列式的应用

  • 一个矩阵不退化等价于其行列式不为 0。

  • Cramer 法则)线性方程组

的解为:(其中 $A^{(i)}$ 是 $A$ 的第 $i$ 列)

特征值,特征向量,可对角化

很草的是这本教材里并没有讲这些内容,接下来几章和多项式环有关,讲回线代就是第二卷的事情了,讲的是抽象向量空间而且还是没讲特征值相关的东西……

所以我只好去看了3b1b的这期视频,再加一点自己的理解写了这一节。

特征值,特征向量,特征多项式

一个线性变换 $A$,如果存在一个非零向量 $v$ 使得 $A$ 作用于 $v$ 后 $v$ 只收到了拉伸,那么 $v$ 就是
一个 $A$ 的特征向量

显然有 $Av=\lambda v$。此处 $\lambda$ 即为特征值

做一些推导:

因为 $v$ 非零,所以这个等式不平凡,这意味着 $A-\lambda I$ 的列线性相关,而线性相关的 $A-\lambda I$ 也一定能找到对应的 $v$,于是上式等价于

这个式子现在只关于 $\lambda$ 了。我们把 $F(\lambda)=\det(A-\lambda I)$ 称为特征多项式

对角化

一个对角矩阵只在其对角线上有值,意味着它对任何向量只有拉伸效果(只有拉伸效果的矩阵也显然一定是对角矩阵),其特征向量即 $(1,0,…,0),(0,1,…,0),…,(0,0,…,1)$ ,它的幂也非常容易计算。所以对角矩阵非常具有研究价值。

介绍对角化之前,先来介绍一下基变换。即如果把基从 $(1,0,…,0),(0,1,…,0),…,(0,0,…,1)$ 变为给定的 $E^{(1)},E^{(2)},…,E^{(n)}$,某个线性变换 $A$ 该如何重新表示。

显然某个向量 $v$ 会表示为:

线性变换 $A$ 把原来的 $E^{(i)}$变为 $AE^{(i)}$,在新的语言下,它把 $E^{-1}E^{(i)}=(0,…,1,…,0)$(仅在第 $i$ 位为 1)映射到 $E^{-1}AE^{(i)}$,所以,$A$ 应当表示为:

接下来继续介绍对角化。我们知道 $A$ 对其特征向量只有拉伸效果,所以如果选取它的一组线性无关的特征向量为基,$A$ 一定会被表示为一个对角矩阵,而且对角线上的元素就是特征值,这就是对角化。

一个矩阵可对角化等价于其特征多项式的实根数(包括重根)与 $A$ 的秩相等。

后记

完结撒花~