「学习笔记」Fast Fourier Transform

前言

快速傅里叶变换（\(\text{Fast Fourier Transform,FFT}\) ）是一种能在\(O(n \log n)\)的时间内完成多项式乘法的算法，在\(OI\)中的应用很多，是多项式相关内容的基础。下面从头开始介绍\(\text{FFT}\)。

前置技能：弧度制、三角函数、平面向量。

多项式

形如\(f(x)=a_0+a_1x+a_2x^2+...+a_nx^n\)的式子称为\(x\)的\(n\)次多项式。其中\(a_0,a_1,...,a_n\)称为多项式的系数。

系数表达法

上面定义中的表示就是系数表达法。其系数可看成\(n+1\)维向量\(\vec a=(a_0,a_1,...,a_n)\)。

点值表达法

把多项式看成一个函数，点值表示就用它图像上的\(n+1\)个不同的点\((x_0,y_0),...,(x_n,y_n)\)来确定这个多项式。多项式有不止一个点值表示，可以证明每个点值表示确定唯一的系数表达多项式。

复数

虚数单位

\(i\)被称为虚数单位。规定\(i=\sqrt {-1}\)。

复平面

复数的平面由\(x,y\)轴组成。\(x\)轴称为实轴，\(y\)轴称为虚轴。平面内的每一个从原点到某个点\((a,b)\)的向量\(\vec a=(a,b)\)表示复数\(a+bi\).

复数的模长：\(\sqrt {a^2+b^2}\).实轴到复数向量的转角\(\theta\)称为幅角。

复数的基本运算

复数的加（减）法：\((a+bi)+(c+di)=(a+c)+(b+d)i\)
复数的乘法：\((a+bi)(c+di)=(ac-bd)+(bc+ad)i\)
一个结论：复数乘法，模长相乘，幅角相加。可以用下面将提到欧拉公式证明。

共轭复数

\(a+bi\)与\(a-bi\)互为共轭复数。

单位根

\(n\)次单位根是满足\(z^n=1\)的\(n\)个复数，它们均分复平面的单位圆。

这些复数满足模长为\(1\)，幅角的\(n\)倍是\(2\pi\)的倍数

根据欧拉公式：

欧拉公式：\(e^{xi}=\cos x+i \sin x\)，其中\(e\)为自然对数的底数，\(i\)为虚数单位。

（欧拉公式的证明可以使用泰勒级数）

可得\(n\)次单位根为\(e^{\frac{2\pi ki}{n}},k\in [0,n-1]\)

得：记\(\omega_n=e^{\frac{2\pi i}{n}},\)则\(n\)次单位根为\(\omega_n^0,...,\omega_n^{n-1}\)

单位根的性质

性质\(1\)：根据定义得到：\(\omega_{2n}^{2k}=\omega_{n}^{k}\)（被叫做折半定理，是消去定理的特殊情形）

性质\(2\)：\(\omega_{n}^{\frac{n}{2}+k}=-\omega_n^k\)

证明：

\(\omega_{n}^{\frac{n}{2}}=e^{\frac{2\pi i}{n} \frac{n}{2}}=e^{\pi i}=\cos \pi+i \sin \pi=-1\)

\(\omega_{n}^{\frac{n}{2}+k}=\omega_{n}^{\frac{n}{2}}\omega_{n}^{k}=-\omega_n^k\)

Fast Fourier Transform

多项式乘法

系数表达的多项式乘法：\(c(x)=a(x)b(x)\)，则\(c(x)=\sum_{i=0}^{2n} c_i x^i\)

其中\(c_i=\sum_{j=0}^{n}a_jb_{i-j}\).

时间复杂度\(O(n^2)\)

点值表达的多项式乘法：

时间复杂度\(O(n)\)

因此多项式乘法的基本思路是先插值得到点值表达，再\(O(n)\)乘，最后求值得到系数表达。

DFT

把\(n\)次单位根\(\omega_n^0,...,\omega_n^{n-1}\)带入多项式\(A(x)=a_0+a_1x+...+a_nx^n\)，

得到点值向量\(\vec y=(A(\omega_n^0),A(\omega_n^1),...,A(\omega_n^{n-1}))\)，

称为系数向量\(\vec a=(a_0,a_1,...,a_n)\)的离散傅里叶变换（\(\text{Discrete Fourier Transform, DFT}\)），写作\(\vec y=\text{DFT}_n(\vec a)\)。

直接求\(\text{DFT}\)是\(O(n^2)\)的。\(\text{FFT}\)的常用算法\(\text{Cooley-Tukey}\)使用分治方法做到\(O(n\log n)\).

以下讨论基于\(n=2^m,m \in N^*\)，若不足则高位系数补\(0\).

考虑点值向量的第\(k+1\)维：（注意这里最高次是\(n-1\)）

\(A(\omega_{n}^{k})=\sum_{i=0}^{n-1}a_i(\omega_{n}^{k})^{i}=\sum_{i=0}^{n-1}a_i\omega_{n}^{ki}\)

\(=\sum_{i=0}^{\frac{n}{2}-1}a_{2i}\omega_{n}^{2ki}+\sum_{i=0}^{\frac{n}{2}-1}a_{2i+1}\omega_{n}^{2ki+k}\)

\(=\sum_{i=0}^{\frac{n}{2}-1}a_{2i}\omega_{n}^{2ki}+\omega_{n}^{k}\sum_{i=0}^{\frac{n}{2}-1}a_{2i+1}\omega_{n}^{2ki}\)

利用性质1：\(\omega_{2n}^{2k}=\omega_{n}^{k}\)

当\(k<\frac{n}{2}\)时：

\(A(\omega_{n}^{k})=\sum_{i=0}^{\frac{n}{2}-1}a_{2i}\omega_{\frac{n}{2}}^{ki}+\omega_{n}^{k}\sum_{i=0}^{\frac{n}{2}-1}a_{2i+1}\omega_{\frac{n}{2}}^{ki}\)

利用性质2：\(\omega_{n}^{\frac{n}{2}+k}=-\omega_n^k\)

可以推出：

\(A(\omega_{n}^{k+\frac{n}{2}})=(-1)^{\frac{n}{2}}\sum_{i=0}^{\frac{n}{2}-1}a_{2i}\omega_{\frac{n}{2}}^{ki}+(-1)^{\frac{n}{2}}\omega_{n}^{k+\frac{n}{2}}\sum_{i=0}^{\frac{n}{2}-1}a_{2i+1}\omega_{\frac{n}{2}}^{ki}\)

\(A(\omega_{n}^{k+\frac{n}{2}})=\sum_{i=0}^{\frac{n}{2}-1}a_{2i}\omega_{\frac{n}{2}}^{ki}-\omega_n^k\sum_{i=0}^{\frac{n}{2}-1}a_{2i+1}\omega_{\frac{n}{2}}^{ki}\)

上面把求和分成\(0,2,...,n-2\)与\(1,3,...,n-1\)两部分，把大小为\(n\)的问题转化成两个规模为\(\frac{n}{2}\)的子问题，可以进行分治求解了。

IDFT

求值过程使用离散傅里叶逆变换（\(\text{Inverse Discrete Fourier Transform, IDFT}\)）

结论：只要把\(\text{DFT}\)的\(\omega_n\)都取倒数（共轭复数），最后除以\(n\)即可。

证明：

设\(\vec Y=(y_0,y_1,...,y_n)\)为\(\vec A = (a_0,a_1,...,a_n)\)的离散傅里叶变换。

考虑一个向量：\(\vec C=(c_0,c_1,...,c_n)\)满足\(c_k=\sum_{i=0}^{n-1}y_i(\omega_n^{-k})^i\)

（即\(\vec C\)是多项式\(\vec Y\)在\(\omega_n^0,\omega_n^{-1},...,\omega_n^{-(n-1)}\)处的点值）

将上式展开：

\(c_k=\sum_{i=0}^{n-1}y_i(\omega_n^{-k})^i\)

\(=\sum_{i=0}^{n-1}(\sum_{j=0}^{n-1}a_j(\omega_n^i)^j)(\omega_n^{-k})^i\)

\(=\sum_{i=0}^{n-1}(\sum_{j=0}^{n-1}a_j(\omega_n^j)^i)(\omega_n^{-k})^i\)

\(=\sum_{i=0}^{n-1}\sum_{j=0}^{n-1}a_j(\omega_n^j)^i(\omega_n^{-k})^i\)

\(=\sum_{i=0}^{n-1}\sum_{j=0}^{n-1}a_j(\omega_n^{j-k})^i\)

\(=\sum_{j=0}^{n-1}a_j(\sum_{i=0}^{n-1}(\omega_n^{j-k})^i)\)

考虑一个前缀和\(S(\omega_n^k)=1+\omega_n^k+(\omega_n^k)^2+...+(\omega_n^k)^{n-1}\)。

当\((\omega_n^k)\not = 1\)即\(k\not = 0\)时，使用等比数列求和方法：

\(\omega_n^kS(\omega_n^k)=\omega_n^k+(\omega_n^k)^2+(\omega_n^k)^3+...+(\omega_n^k)^{n}\)

\(\omega_n^kS(\omega_n^k)-S(\omega_n^k)=(\omega_n^k)^{n}-1\)

\(S(\omega_n^k)=\frac{(\omega_n^k)^{n}-1}{\omega_n^k-1}\)

分母不为\(0\)，分子\((\omega_n^k)^{n}-1=(\omega_n^n)^{k}-1=1^{k}-1=0\)

因此\(k\not = 0\)时，\(S(\omega_n^k)=0\)

\(k=0\)时，\(S(\omega_n^k)=n(\omega_n^k)^0=n\)

继续考虑刚刚那个式子

\(c_k=\sum_{j=0}^{n-1}a_j(\sum_{i=0}^{n-1}(\omega_n^{j-k})^i)\)

只有\(j-k=0\)时\(\sum_{i=0}^{n-1}(\omega_n^{j-k})^i\)才为\(n\)，否则为\(0\)。

\(c_k=a_kn\)

得到结论：\(a_k=\frac{c_k}{n}\)。

再次总结一下，离散傅里叶逆变换就是先求出多项式在\(\omega_n^0,\omega_n^{-1},...,\omega_n^{-(n-1)}\)处的点值表示，再每一项除以\(n\)。

递归版代码

按照如上所述的方法可以轻松写出一份递归代码。

//Luogu P3803 多项式乘法
#include <complex>
#include <cstdio>
using namespace std;

typedef complex<double> comp;

const int N = (1 << 20) + 10 << 1;
const double PI2 = 2.0 * acos(-1.0);

int read() {
    int x = 0; char c = getchar();
    for(; c < '0' || c > '9'; c = getchar()) ;
    for(; c >= '0' && c <= '9'; c = getchar())
        x = x * 10 + (c & 15);
    return x;
}

int n, m;
comp a[N], b[N];

void fft(int n, comp * a, int type) {
    if(n == 1) return ;
    comp a1[n >> 1], a2[n >> 1];
    for(int i = 0; i < n; i += 2)
        a1[i >> 1] = a[i], a2[i >> 1] = a[i + 1];
    fft(n >> 1, a1, type), fft(n >> 1, a2, type);
    comp w(1, 0), wn(cos(PI2 / n), type * sin(PI2 / n));
    for(int i = 0; i < n >> 1; i ++, w *= wn)
        a[i] = a1[i] + w * a2[i],
        a[i + (n >> 1)] = a1[i] - w * a2[i];
}

int main() {
    n = read(), m = read();
    for(int i = 0; i <= n; i ++) a[i] = read();
    for(int i = 0; i <= m; i ++) b[i] = read();

    int lim = 1;
    for(; lim <= n + m; lim <<= 1) ;

    fft(lim, a, 1), fft(lim, b, 1);
    for(int i = 0; i <= lim; i ++) a[i] *= b[i];
    fft(lim, a, -1);

    for(int i = 0; i <= n + m; i ++)
        printf("%d ", (int)(0.5 + a[i].real() / lim));
    return 0;
}

迭代优化

本来\(\text{double}\)常数就大，加上递归就卡爆了啊（\(qwq\)，因此考虑使用迭代写法。

通过观察得到：多项式的\(i\)次项到分治边界时下标为\(r[i]\),\(r[i]\)为\(i\)二进制翻转后的数

然后就可以自底向上迭代做，常数大概是递归版的\(1/4\)

//Luogu P3803 多项式乘法 - 迭代FFT
#include <complex>
#include <cstdio>
using namespace std;

typedef complex<double> comp;

const int N = (1 << 21) + 10;
const double PI = acos(-1);

int read() {
    int x = 0; char c = getchar();
    for(; c < '0' || c > '9'; c = getchar()) ;
    for(; c >= '0' && c <= '9'; c = getchar())
        x = x * 10 + (c & 15);
    return x;
}

int n, m, lim, r[N];
comp a[N], b[N];

void fft(comp * a, int type) {
    for(int i = 0; i < lim; i ++)
        if(i < r[i]) swap(a[i], a[r[i]]);
    for(int i = 1; i < lim; i <<= 1) {
        comp x(cos(PI / i), type * sin(PI / i));
        for(int j = 0; j < lim; j += (i << 1)) {
            comp y(1, 0);
            for(int k = 0; k < i; k ++, y *= x) {
                comp p = a[j + k], q = y * a[j + k + i];
                a[j + k] = p + q; a[j + k + i] = p - q;
            }
        }
    }
}

int main() {
    n = read(), m = read();
    for(int i = 0; i <= n; i ++) a[i] = read();
    for(int i = 0; i <= m; i ++) b[i] = read();

    int l = 0;
    for(lim = 1; lim <= n + m; lim <<= 1) ++ l;
    for(int i = 0; i < lim; i ++)
        r[i] = (r[i >> 1] >> 1) | ((i & 1) << (l - 1));

    fft(a, 1), fft(b, 1);
    for(int i = 0; i <= lim; i ++) a[i] *= b[i];
    fft(a, -1);

    for(int i = 0; i <= n + m; i ++)
        printf("%d ", (int)(0.5 + a[i].real() / lim));
    return 0;
}

结语

我可能有些过程写的比较详细和冗长，因为dalao们的博客总是省略一些步骤让我思考半天qwq

参考博客：