什么是线性

从代数的角度来说：两个变量是线性关系，即两个变量间存在一次函数关系。

从几何的角度来说：以二维空间举例，可以想象二维直角坐标系上的一个向量。我们对这个向量进行拉伸，旋转等操作，最终它的形态还是一条线段。我们施加的这些操作就是线性的。而如果对这个向量的操作会使其发生弯曲，这就不是线性的。

解线性方程组

通过对增广矩阵进行高斯消元和回代，来求得线性方程组的解。

矩阵乘法

$$ \left[ \begin{matrix} a_1 & a_2 \\\\ a_3 & a_4 \end{matrix} \right] \times \left[ \begin{matrix} b_1 & b_2 \\\\ b_3 & b_4 \end{matrix} \right] = \left[ \begin{matrix} c_1 & c_2 \\\\ c_3 & c_4 \end{matrix} \right] $$

代数角度理解

矩阵 $A$ 中每一行是一个方程，$a_i$ 表示第 $i$ 个未知数的系数。$B$ 中每一列对应 $A$ 中每一行未知数的取值。最后实际上就是 $A$ 中的每一行点乘 ($dot$) $B$ 中的每一列。

几何的角度理解

$C$ 中的每一列代表一个向量，它是由 $A$ 中每列的向量线性组合而来。即 $A$ 表示的是一个空间的基向量。

也可以理解为：对于 $C$ 中的每行，都是 $B$ 中每行的一个向量线性组合。

矩阵的逆

我们称可逆的矩阵为非奇异矩阵，不可逆的矩阵为奇异矩阵。

如何理解逆？

可以理解为逆变换。想象方阵 $A$ 表示空间中的一组基，现在我想将 $A$ 变成标准正交基，所需要做一些初等变换 $A^{-1}$ 就称为 $A$ 的逆。

什么情况不可逆？

当 $A$ 本身并不是基时，即它不能表示其空间所有的向量（存在某两行或两列线性相关）。

如何求解逆矩阵：

[A I] -> [I $A^{-1}$]

LU分解

$A = LU$

$U$ 代表上三角，$L$ 代表下三角。实际上是在将 $A$ 的主元分解出来。

$L$ 的对角线都为 $1$。