线代基本概念

基础概念

方程组的集合解释
将方程的系数和未知数分离出来，用矩阵的方式表示：
公式：$Ax=b$

• 左乘矩阵: 方程系数项
  • 行
    • 行向量：不同基方向 代表 同一方程式上的 不同未知数的系数项
      • 与 x 的数量积乘积 — 左乘(将不同基方向上的值 线性变化后，相加)
      • 得到 该行向量的方程式右侧值
    • 行数：方程式的个数 — 几何：(参与数量积的)向量的个数
    • 行值：同一方程式，不同未知数的系数项 — 几何：向量在不同维上(基方向上)的值，即，对右乘矩阵的 行向量 进行长度的线性变换
  • 列
    • 列向量：不同基方向 代表 不同方程式上的 同一未知数的系数项
      • 乘以对应的未知数值 所得到的向量
      • 代表所有方程的整体在 该未知数维度上的 线性变换
    • 列数：方程式包含未知数的数量 — 几何：维数
    • 列值：不同方程式, 同一未知数的系数项 — 几何：同一维度的向量值(x 或 y 或 z 或… 维上的向量)
• 右乘矩阵：方程未知数
  • 行
    • 行向量：不同基方向 代表 同一未知数 取不同具体值的情况
    • 行数：取不同值的次数 — 几何：进行线性变换的次数
    • 行值：同一未知数的 不同值 — 几何：对一基方向的值，进行不同大小的 放缩
  • 列
    • 列向量：不同基方向 代表 不同未知数的具体取值 — 几何：对不同基方向上的模，进行不同值的放缩
    • 列数：同一未知数 取不同具体值时的情况 — 几何：对左乘矩阵的 列向量 进行线性变换的次数; 得到的列向量个数
    • 列值：某一未知数的具体值 — 几何：某一维上的单位量 进行放缩的 乘数, 即，对该维度上的向量(左乘列向量)进行 长度的线性变换 乘积矩阵：方程带入未知数具体值后，得出的积的集合

\[\begin{aligned} a_1x + b_1y = c_1 \\ a_2x + b_2y = c_2 \\ \end{aligned} = \begin{bmatrix} a_{1} & b_{1} \\ a_{2} & b_{2} \end{bmatrix} \times \begin{bmatrix} x\\y \end{bmatrix} = \begin{bmatrix} c_1\\c_2 \end{bmatrix}\] \[A= \begin{bmatrix} a_{1} & b_{1} \\ a_{2} & b_{2} \end{bmatrix};\ x= \begin{bmatrix} x\\ y \end{bmatrix};\ b= \begin{bmatrix} c_1\\ c_2 \end{bmatrix};\]

矩阵消元

消元法（也称为高斯消元法）是一种用于求解线性方程组的算法，其具体步骤如下：

1. 构建增广矩阵：将线性方程组的系数矩阵和常数项合并，形成增广矩阵。

2. 进行行变换：通过初等行变换将增广矩阵化为行阶梯形（或简化行阶梯形）：

   • 交换两行：可以交换任意两行的位置。
   • 数乘一行：可以将某一行的所有元素乘以一个非零常数。
   • 行加法：可以将一行的倍数加到另一行上。

3. 消元过程：

   • 从第一行开始，确保主对角线上的元素为1（如果不是，可以通过数乘调整）。
   • 利用第一行消去下面所有行中对应列的元素，使得该列下方的元素为0。
   • 继续对第二行、第三行等进行相同的操作，直到将增广矩阵化为行阶梯形。

4. 回代求解：一旦增广矩阵处于行阶梯形，可以从最后一行开始，逐步向上回代求解未知数。

5. 检查解的情况：根据最终的行阶梯形矩阵，判断方程组的解的情况：

   • 如果有一行变为 ( 0 = k )（其中 ( k ) 是非零常数），则无解。
   • 如果有自由变量，则有无穷多解。
   • 如果每个变量都有唯一的解，则有唯一解。

同时，可以将消元过程进行的行变换，写成一个左乘矩阵

矩阵乘法

前置知识：

• 行向量右乘列向量 — 即标量积，按点乘的方法，元素相乘相加
• 矩阵A 右乘一个向量 — 即等价A中列的线性组合，每一列放缩量的大小 由所乘向量的元素决定
• 矩阵A 左乘一个向量 — 即等价A中行的线性组合，每一列放缩量的大小 由所乘向量的元素决定
• 列向量右乘行向量
  • $\vec{u}\times\vec{v}=C(矩阵)$
  • C的行是行向量$\vec{v}$的线性组合，因为只有一个向量，所以是其倍数
  • C的列是列向量$\vec{u}$的线性组合，因为只有一个向量，所以是其倍数

小结：$A\times B=C$两矩阵A、B的相乘得到矩阵C

• C的行，是右乘矩阵B中行的线性组合
• C的列，是左乘矩阵A中列的线性组合

四种方法：

$A是一个 m\times n的矩阵，B是一个 n\times p的矩阵$ 计算：$A\times B=C$

1. 常规方法 出发点：单个元素
   • 求乘积矩阵C的 i 行，j 列的元素$C_{ij}$，
   • 取左乘矩阵A的 i 行元素，与右乘矩阵B的 j 列元素，分别相乘相加
   • $C_{ij}=\sum_{k=1}^{n}{a_{i\ k}\times b_{k\ j}}$
2. 列方法 出发点：列向量
   • 求乘积矩阵C的 j 列 [向量]
   • 视右乘矩阵的列，为一个个向量，独立排列在一起
   • 这些向量左乘矩阵A，得到线性组合后的列向量
   • $\overrightarrow{C_{col\ j}}=A\times \overrightarrow{B_{col\ j}}$
3. 行方法 出发点：行向量
   • 求乘积矩阵C的 i 行 [向量]
   • 视左乘矩阵的列，为一个个向量，独立排列在一起
   • 这些向量右乘矩阵B，得到线性组合后的行向量
   • $\overrightarrow{C_{row\ i}}=A_{row\ i}\times \overrightarrow{B}$
4. 列乘以行 出发点：矩阵
   • 列乘以行所得矩阵，为乘积矩阵的加数
   • 所有的 列乘以行所得的矩阵 的和，即为乘积矩阵
   • 求乘积矩阵C
   • $\sum_{i=1}^{n}{\overrightarrow{A_{col\ i}}\times\overrightarrow{B_{row\ i}}}$
5. 块乘块 出发点：分部计算
   • 将相乘矩阵 划分乘一个个小矩阵方块，并确保对应方块可以相乘
   • 按第一种常规方法，按照矩阵乘法 相乘并相加，即可得到 乘积矩阵 C

逆矩阵

矩阵的乘法性质：

• 乘法结合律
• 乘法左分配律
• 乘法右分配律

将线性变换后的矩阵，还原回原矩阵 例如：$A\times B=C,\ D\times C=B$, 即，称D和A，互为逆矩阵 $A\times D=E$，互为逆矩阵相乘，结果为单位矩阵 含义：矩阵相乘是对矩阵进行线性变换: 右乘一个矩阵是列变换，左乘一个矩阵是行变换
逆矩阵便是一个线性变换的逆过程。

左/右乘逆矩阵

方阵：左逆 $=$ 右逆
非方阵：左逆 $\neq$ 右逆

不可逆矩阵/奇异矩阵

不可逆矩阵和奇异矩阵是同一个概念。

如果一个矩阵是不可逆的，那它就是奇异矩阵。这意味着它的行列式（determinant）为零，所以没有逆矩阵。简单来说，没法通过它恢复原来的向量。

判断是否可逆：

1. 行列式是否为零
2. 行向量或列向量是否有重合

Gauss-Jordan elimination

$E[A\ I]=[I\ A^{-1}]$

• $EA\rightarrow I$
• $EI\rightarrow A^{-1}$
• E — 一系列的行/列变换
• A — 矩阵
• I — 单位矩阵