【线性代数】7-2:线性变化的矩阵(The Matrix of a Linear Transformation)

title: 【线性代数】7-2:线性变化的矩阵(The Matrix of a Linear Transformation)

categories:

Mathematic
Linear Algebra

keywords:
Matrix
Matrix for the Derivate
Matrix for the Integral
Construction of the Matrix
ABABAB Match TSTSTS
Multiplication
Change of Basis Matrix
Wavelet Transform
Fourier Transform(DFT)

toc: true

date: 2017-12-04 12:52:03

Abstract: 本篇有点长，内容及其丰富，包括线性变换的矩阵形式以及相关例子（导数和积分），然后详细的讲解了下怎么构造矩阵，也就是矩阵的来源，之后是矩阵相乘的原理，基的变换，最后一波大应用，小波变换和离散傅里叶变换

Keywords: Matrix,Matrix for the Derivate,Matrix for the Integral,Construction of the Matrix,ABABAB Match TSTSTS,Multiplication,Change of Basis Matrix,Wavelet Transform,Fourier Transform(DFT)

开篇废话

今天没啥废话，感觉之前废话多就是总是对一些事有看法，现在一个是事少了，尽量躲开那些扯淡的人和扯淡的事，第二可能是习惯了，蓝老师说过人要过百形形色色（saisai三声），确实是这样，子非鱼焉知鱼之乐。

线性代数过了今天可能就剩下下一篇的一点剩下的基础理论了，从开始写到现在，已经三个月了，速度确实太慢了；而且没什么人看，但是我觉得我敢自称会线性代数了，当然考试的话可能还得不了几分，但起码我能说出来一些很关键的知识，下一步就是机器学习最关键也是我之前完全没学会的概率了，概率和数理统计对于机器学习可能更重要一些，所以后面的博客继续更新概率论，矩阵分析可能要提上日程了，但是目前不确定什么时候写。

注意：下文中线性变换和线性组合是有区别的，请区分对待

The Matrix of a Linear Transformation

如果我们不去回想第一张的矩阵乘法，矩阵向量相乘，我们只从上一篇的思路继续，当时我们假定线性变换TTT 对v1∈ℜnv_1 \in \Re^nv1∈ℜn 的变换结果是 w1∈ℜmw_1 \in \Re^mw1∈ℜm ，如果w1≠v1w_1 \neq v_1w1̸=v1，那么就是空间发生了变换，我们假定存在矩阵A满足这个变换，也就是 T(v1)=Av1=w1T(v_1)=Av_1=w_1T(v1)=Av1=w1 那么矩阵规模是 m×nm\times nm×n 的，等等，如果v1v_1v1 所在的空间V和 w1w_1w1 所在的空间W 已经确定知道，那么能确定矩阵AAA么？答案是不确定的，也就是说输入空间输出空间即便确定了，我们也不能肯定之间的对应关系，那么还需要什么条件呢？答案是空间的基向量，我们知道基向量可以确定出整个空间（子空间）但是已知空间，却可以对应无数组各种各样的基向量，所以同样的空间，不同的基应该对应着不同的线性变换矩阵AAA 。

线性代数的另一个重要任务就是通过找到最完美的基来得到最完美的矩阵 AAA 。

下面我们研究一下基，我们假设空间V有n个线性独立的向量组成的一组基

v1⃗,v2⃗,…,vn⃗\vec{v_1},\vec{v_2},\dots ,\vec{v_n}v1,v2,…,vn

，那么空间内任一向量均可表示为 v⃗=c1v1⃗+c2v2⃗+⋯+cnvn⃗\vec{v}=c_1\vec{v_1}+c_2\vec{v_2}+\dots +c_n\vec{v_n}v=c1v1+c2v2+⋯+cnvn

Key idea of this section：

Suppose we know T(v1⃗),…,T(vn⃗)T(\vec{v_1}),\dots,T(\vec{v_n})T(v1),…,T(vn) for the basis vectors v1,…,vnv_1,\dots,v_nv1,…,vn

Then linearity produces T(v⃗)T(\vec{v})T(v) for every other input vector vvv

翻译一下，也就是我们知道，空间中的任一向量都是通过基向量的线性组合出来的，经过线性变换TTT 会得到新空间的一组向量然后进行线性组合就能得到结果：

T(v⃗)=T(c1v1⃗+c2v2⃗+⋯+cnvn⃗)=c1T(v1⃗)+c2T(v2⃗)+⋯+cnT(vn⃗)
T(\vec{v})=T(c_1\vec{v_1}+c_2\vec{v_2}+\dots +c_n\vec{v_n})=c_1T(\vec{v_1})+c_2T(\vec{v_2})+\dots +c_nT(\vec{v_n})
T(v)=T(c1v1+c2v2+⋯+cnvn)=c1T(v1)+c2T(v2)+⋯+cnT(vn)

也就是线性组合的线性变换等于线性变换后的线性组合，由于上式的表示的是输入空间的任一向量，所以从输入空间到输出空间的映射就此完成，有点拗口但是看上面的公式一目了然，彪悍的逻辑，不需要解释。

这里会举一个