CUDA学习笔记3：CUFFT（CUDA提供了封装好的CUFFT库）的使用例子

一、FFT介绍

　　傅里叶变换是数字信号处理领域一个很重要的数学变换，它用来实现将信号从时域到频域的变换，在物理学、数论、组合数学、信号处理、概率、统计、密码学、声学、光学等领域有广泛的应用。离散傅里叶变换(Discrete Fourier Transform，DFT)是连续傅里叶变换在离散系统中的表示形式，由于DFT的计算量很大，因此在很长一段时间内其应用受到了很大的限制。20世纪60年代（1965年）由Cooley和Tukey提出了快速傅里叶变换(Fast Fourier Transform，FFT)算法，它是DFT的快速算法，使得离散傅里叶变换和卷积这类难度很大的计算工作的复杂度从N2量级降到了Nlog2N量级，大大提高了DFT的运算速度，从而使DFT在实际应用中得到了广泛的应用。

　　传统上，GPU只负责图形渲染，而大部分的处理都交给了CPU。自二十世纪九十年代开始，GPU的发展迅速。由于GPU具有强大的并行计算能力，加之其可编程能力的不断提高，GPU也用于通用计算，为科学计算的应用提供了新的选择。

　　2007年6月，NVIDIA公司推出了CUDA (Compute Unified Device Architecture)，CUDA 不需要借助图形学API，而是采用了类C语言进行开发。同时，CUDA采用了统一处理架构，降低了编程的难度，同时，NVIDIA GPU引入了片内共享存储器，提高了效率。这两项改进使CUDA架构更加适合进行GPU通用计算。

二、快速傅里叶变换（FFT）

快速傅里叶变换（英语：Fast Fourier Transform, FFT），是快速计算序列的离散傅里叶变换（DFT）或其逆变换的方法^[1]。傅里叶分析将信号从原始域（通常是时间或空间）转换到頻域的表示或者逆过来转换。

FFT会通过把DFT矩阵分解为稀疏（大多为零）因子之积来快速计算此类变换。因此，它能够将计算DFT的复杂度从只用DFT定义计算需要的 O（n²），降低到O（nlog n），其中n为数据大小。

快速傅里叶变换广泛的应用于工程、科学和数学领域。这里的基本思想在1965年才得到普及，但早在1805年就已推导出来。1994年美國數學家吉尔伯特·斯特朗把FFT描述为“我们一生中最重要的数值算法”，它还被IEEE科学与工程计算期刊列入20世纪十大算法。

三、FFT的CPU实现

一维FFT基2算法的实现

我们使用按频率抽取的方法实现了一维FFT基2算法。算法的关键代码如下：

(1) 声明双精度复数的结构体：

struct Complex
{
    double re;  //复数的实部
    double im;  //复数的虚部
};

(2) 通过幂数获得快速傅里叶变换的长度，并初始化：

count =  << power; //power为幂数，count为快速傅里叶变换的长度
a = new Complex[count];  //a为初始化的数组，用来存放时域复数的值
b = new Complex[count];  //b为变换后存放结果的数组
memcpy(a, t, sizeof(Complex)*count); //初始化，将时域数据存放在a中，t为时域数据

(3) 计算旋转因子：

w = new Complex[count / ];
for (i = ; i<count / ; i++)
{
    angle = -i*pi *  / count;
    w[i].re = cos(angle);
    w[i].im = sin(angle);
}

(4) 采用频率分解法进行蝶形运算：

for (k = ; k<power; k++)
{
    for (j = ; j< << k; j++)
    {
        bfsize =  << (power - k);
        for (i = ; i<bfsize / ; i++)
        {
            p = j*bfsize;
            b[i + p] = Add(a[i + p], a[i + p + bfsize / ]); //Add()函数实现复数的加法
            b[i + p + bfsize / ] = Mul(Sub(a[i + p], a[i + p + bfsize / ]), w[i*( << k)]);//Mul()函数实现复数的乘法，Sub()函数实现复数的减法
        }
    }
    x = a;
    a = b;
    b = x;
}

(5) 蝶形运算全部完成后，对结果进行整序，从而得到正确的输出顺序：

for (j = ; j<count; j++)
{
    p = ;
    for (i = ; i<power; i++)
    {
        if (j&( << i))
            p +=  << (power - i - );
    }
    f[j] = a[p];
}

二维FFT基2算法的实现

通过两次调用一维快速傅里叶变换即可实现二维快速傅里叶变换。关键代码如下：

(1) 计算进行傅里叶变换的宽度、高度，以及垂直方向上、水平方向上的迭代次数：

while (w *  <= width)  //计算进行傅立叶变换的宽度（2的整数次方）
{
    w *= ;    //w为变换的宽度
    wp++;    //wp为垂直方向上的迭代次数
}
while (h *  <= height)//计算进行傅立叶变换的高度（2的整数次方）
{
    h *= ;    //h为变换的高度
    hp++;    //hp为水平方向上的迭代次数
}

(2) 两次调用一维快速傅里叶变换：

for (j = ; j<h; j++)    //在垂直方向上进行快速傅立叶变换
{
    FFT1D(&t[w*j], &f[w*j], wp);
}
for (j = ; j<h; j++)     //转换变换结果
{
    for (i = ; i<w; i++)
    {
        t[j + h*i] = f[i + w*j];
    }
}
for (j = ; j<w; j++)    //水平方向进行快速傅立叶变换
{
    FFT1D(&t[j*h], &f[j*h], hp);
}

四、FFT的GPU实现

　　对一维或多维信号进行离散傅里叶变换的FFT变换自身具有可“分治”实现的特点，因此能高效地在GPU平台上实现。CUDA提供了封装好的CUFFT库，它提供了与CPU上的FFTW库相似的接口，能够让使用者轻易地挖掘GPU的强大浮点处理能力，又不用自己去实现专门的FFT内核函数。使用者通过调用CUFFT库的API函数，即可完成FFT变换。

　　常见的FFT库在功能上有很多不同。有些库采用了基2变换，只能处理长度为2的指数的FFT，而其他的一些可以处理任意长度的FFT。CUFFT4.0提供了以下功能：

(1) 对实数或复数进行一维、二维或三维离散傅里叶变换；

(2) 可以同时并行处理一批一维离散傅里叶变换；

(3) 对任意维的离散傅里叶变换，单精度最大长度可达到6400万，双精度最大长度可达到12800万（实际长度受限于GPU存储器的可用大小）；

(4) 对实数或复数进行的FFT，结果输出位置可以和输入位置相同（原地变换），也可以不同；

(5) 可在兼容硬件（GT200以及之后的GPU）上运行双精度的变换；

(6)支持流执行：数据传输过程中可以同时执行计算过程。

一维FFT算法的CUDA实现

关键代码如下：

#include <cufft.h>          //CUFFT文件头
#define NX 1024
#define BATCH 1

cufftDoubleComplex *data;   //显存数据指针

//在显存中分配空间
cudaMalloc((void**)&data, sizeof(cufftDoubleComplex)*NX*BATCH);

//创建CUFFT句柄
cufftHandle plan;
cufftPlan1d(&plan, NX, CUFFT_Z2Z, BATCH);

//执行CUFFT
cufftExecZ2Z(plan, data, data, CUFFT_FORWARD);  //快速傅里叶正变换

//销毁句柄，并释放空间
cufftDestroy(plan);
cudaFree(data);

二维FFT算法的CUDA实现

二维FFT算法实现中，同一维FFT不同的是：

(1) 输入参数：没有BATCH，增加了NY。NX为行数，NY为列数；

(2) FFT的正变换的输入位置和输出位置不同。

关键代码如下：

#include <cufft.h>          //CUFFT文件头

#define NX 1024
#define NY 1024

cufftDoubleComplex *idata, *odata;   //显存数据指针

//在显存中分配空间
cudaMalloc((void**)&idata, sizeof(cufftDoubleComplex)*NX*NY);
cudaMalloc((void**)&odata, sizeof(cufftDoubleComplex)*NX*NY);

//创建CUFFT句柄
cufftHandle plan;
cufftPlan2d(&plan, NX, NY, CUFFT_Z2Z);

//执行CUFFT
cufftExecZ2Z(plan, idata, odata, CUFFT_FORWARD);  //快速傅里叶正变换

//销毁句柄，并释放空间
cufftDestroy(plan);
cudaFree(idata);
cudaFree(odata);

三维FFT算法的CUDA实现

#define NX 64
#define NY 64
#define NZ 128

cufftHandle plan;
cufftComplex *data1, *data2;
cudaMalloc((void**)&data1, sizeof(cufftComplex)*NX*NY*NZ);
cudaMalloc((void**)&data2, sizeof(cufftComplex)*NX*NY*NZ);
/* Create a 3D FFT plan. */
cufftPlan3d(&plan, NX, NY, NZ, CUFFT_C2C);

/* Transform the first signal in place. */
cufftExecC2C(plan, data1, data1, CUFFT_FORWARD);

/* Transform the second signal using the same plan. */
cufftExecC2C(plan, data2, data2, CUFFT_FORWARD);

/* Destroy the cuFFT plan. */
cufftDestroy(plan);
cudaFree(data1); cudaFree(data2);

五、实例

#include <assert.h>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <math.h>
// Include CUDA runtime and CUFFT
#include <cuda_runtime.h>
#include <cufft.h>

// Helper functions for CUDA
#include "device_launch_parameters.h"

#define pi 3.1415926535
#define LENGTH 100 //signal sampling points
int main()
{
    // data gen
    float Data[LENGTH] = { ,,, };
    float fs = 1000000.000;//sampling frequency
    float f0 = 200000.00;// signal frequency
    for (int i = ; i < LENGTH; i++)
    {
        Data[i] = 1.35*cos( * pi*f0*i / fs);//signal gen,
    }

    cufftComplex *CompData = (cufftComplex*)malloc(LENGTH * sizeof(cufftComplex));//allocate memory for the data in host
    int i;
    for (i = ; i < LENGTH; i++)
    {
        CompData[i].x = Data[i];
        CompData[i].y = ;
    }

    cufftComplex *d_fftData;
    cudaMalloc((void**)&d_fftData, LENGTH * sizeof(cufftComplex));// allocate memory for the data in device
    cudaMemcpy(d_fftData, CompData, LENGTH * sizeof(cufftComplex), cudaMemcpyHostToDevice);// copy data from host to device

    cufftHandle plan;// cuda library function handle
    cufftPlan1d(&plan, LENGTH, CUFFT_C2C, );//declaration
    cufftExecC2C(plan, (cufftComplex*)d_fftData, (cufftComplex*)d_fftData, CUFFT_FORWARD);//execute
    cudaDeviceSynchronize();//wait to be done
    cudaMemcpy(CompData, d_fftData, LENGTH * sizeof(cufftComplex), cudaMemcpyDeviceToHost);// copy the result from device to host

    for (i = ; i < LENGTH / ; i++)
    {
        printf("i=%d\tf= %6.1fHz\tRealAmp=%3.1f\t", i, fs*i / LENGTH, CompData[i].x*2.0 / LENGTH);
        printf("ImagAmp=+%3.1fi", CompData[i].y*2.0 / LENGTH);
        printf("\n");
    }
    cufftDestroy(plan);
    free(CompData);
    cudaFree(d_fftData);

}