使用shared memory 计算矩阵乘法 (其实并没有加速多少)
#include "cuda_runtime.h"
#include "device_launch_parameters.h"
#include "device_functions.h" #include <stdio.h>
#include <windows.h> #include <m_tools.h> cudaError_t addWithCuda(int *c, const int *a, const int *b, unsigned int size); #define TILE_WIDTH 16 __global__ void MatrixMulKernle(int m, int n, int k, int *A, int *B, int *C)
{
//申请共享内存,存在于每个block中
__shared__ int ds_A[TILE_WIDTH][TILE_WIDTH];
__shared__ int ds_B[TILE_WIDTH][TILE_WIDTH]; //简化坐标记法,出现下面6个表示的地方就是并行的地方。
int bx = blockIdx.x;
int by = blockIdx.y;
int tx = threadIdx.x;
int ty = threadIdx.y; //确定结果矩阵中的行和列
int iy = by * TILE_WIDTH + ty;
int ix = bx * TILE_WIDTH + tx; if (iy >= m || ix >= k) {
return;
}
int gw = gridDim.x;
int gh = gridDim.y; //临时变量
int Cvalue = 0; //循环读入A,B瓦片,计算结果矩阵,分阶段进行计算
for (int t = 0; t < (n + TILE_WIDTH - 1) / TILE_WIDTH; ++t)
{
ds_A[tx][ty] = A[iy*n + t*TILE_WIDTH + tx];
ds_B[tx][ty] = B[(t*TILE_WIDTH + ty)*k + ix];
__syncthreads(); for (int i = 0; i < TILE_WIDTH; ++i)
Cvalue += ds_A[i][ty] * ds_B[tx][i];//从shared memory中取值
C[iy*k + ix] = Cvalue;
}
} //不适用shared memory
__global__ void addKernel(int *c, const int *a, const int *b)
{
//const int bs = CUDA_LG::block_size;
//BLOCK_SIZE;
int ix = blockIdx.x * blockDim.x + threadIdx.x,
iy = blockIdx.y * blockDim.y + threadIdx.y;
if (ix >= 100 || iy >= 100) {
return;
} int sum = 0; for (int i = 0; i != 200; ++i) { int ta = a[iy * 100 + i]; int tb = b[i * 100 + ix]; sum += ta*tb;
}
c[iy * 100 + ix] = sum; } int main()
{
const int arow = 100;
const int acol = 200;
const int brow = 200;
const int bcol = 100; const int arraySize = arow*acol; int * a = new int[arraySize];
int * b = new int[arraySize];
int * c = new int[arraySize/2]; for (int j = 0; j != arow; ++j) {
for (int i = 0; i != acol; ++i) {
a[j*acol + i] = i;
}
} for (int j = 0; j != brow; ++j) {
for (int i = 0; i != bcol; ++i) {
b[j*bcol + i] = i;
}
}
addWithCuda(c, a, b, arraySize); cudaDeviceReset(); printf("c0=%d c1=%d c[3,50]=%d \n", c[0], c[1],c[3*100+50]);
delete[] a;
delete[] b;
delete[] c; system("pause");
return 0;
} // Helper function for using CUDA to add vectors in parallel.
cudaError_t addWithCuda(int *c, const int *a, const int *b, unsigned int size)
{
int *dev_a = 0;
int *dev_b = 0;
int *dev_c = 0;
cudaError_t cudaStatus; // Choose which GPU to run on, change this on a multi-GPU system.
cudaStatus = cudaSetDevice(0);
cudaStatus = cudaMalloc((void**)&dev_c, size * sizeof(int));
cudaStatus = cudaMalloc((void**)&dev_a, size * sizeof(int));
cudaStatus = cudaMalloc((void**)&dev_b, size * sizeof(int)); cudaStatus = cudaMemcpy(dev_a, a, size * sizeof(int), cudaMemcpyHostToDevice);
cudaStatus = cudaMemcpy(dev_b, b, size * sizeof(int), cudaMemcpyHostToDevice); int thread_x = 100;
int thread_y = 100;
dim3 block(TILE_WIDTH, TILE_WIDTH);
int grid_w = (thread_x + block.x - 1) / block.x;
int grid_h = (thread_y + block.y - 1) / block.y;
dim3 grid(grid_w, grid_h);
// Launch a kernel on the GPU with one thread for each element. TIME_INIT;
TIME_MARK("t1");
for(int i=0;i!=10000;++i)
addKernel << < grid, block >> > (dev_c, dev_a, dev_b);//486ms
TIME_MARK("t2");
for (int i = 0; i != 10000; ++i)
MatrixMulKernle << < grid, block >> >(100, 200, 100, dev_a, dev_b, dev_c);//1069ms
TIME_MARK("t3");
TIME_PRINT;
cudaStatus = cudaGetLastError();
cudaStatus = cudaDeviceSynchronize();
cudaStatus = cudaMemcpy(c, dev_c, size/2 * sizeof(int), cudaMemcpyDeviceToHost); Error:
cudaFree(dev_c);
cudaFree(dev_a);
cudaFree(dev_b); return cudaStatus;
}
使用shared memory 计算矩阵乘法 (其实并没有加速多少)的更多相关文章
- OpenCL NativeKernel 计算矩阵乘法
▶ 使用函数 clEnqueueNativeKernel 来调用 C/C++ 本地函数(在 OpenCL 中将其看做回调函数),使用本地编译器(而不是 OpenCL 编译器)来编译和执行内核 ● 代码 ...
- 向MapReduce转换:通过部分成绩计算矩阵乘法
代码共分为四部分: <strong><span style="font-size:18px;">/*** * @author YangXin * @info ...
- 蓝桥杯 BASIC_17 矩阵乘法 (矩阵快速幂)
问题描述 给定一个N阶矩阵A,输出A的M次幂(M是非负整数) 例如: A = 1 2 3 4 A的2次幂 7 10 15 22 输入格式 第一行是一个正整数N.M(1<=N<=30, 0& ...
- 有关CUBLAS中的矩阵乘法函数
关于cuBLAS库中矩阵乘法相关的函数及其输入输出进行详细讨论. ▶ 涨姿势: ● cuBLAS中能用于运算矩阵乘法的函数有4个,分别是 cublasSgemm(单精度实数).cublasDgemm( ...
- 矩阵乘法的运算量计算(华为OJ)
题目地址: https://www.nowcoder.com/practice/15e41630514445719a942e004edc0a5b?tpId=37&&tqId=21293 ...
- 2.3CUDA矩阵乘法
CPU 矩阵乘法 能相乘的两个矩阵,必须满足一个矩阵的行数和第二个矩阵的列数相同. A(N*P) * B(P*M) = C(N*M). 其中P是行数,N是列数, 从宽高的角度来说,即 A的宽度和B的高 ...
- CUDA 矩阵乘法终极优化指南
作者:马骏 | 旷视 MegEngine 架构师 前言 单精度矩阵乘法(SGEMM)几乎是每一位学习 CUDA 的同学绕不开的案例,这个经典的计算密集型案例可以很好地展示 GPU 编程中常用的优化技巧 ...
- *HDU2254 矩阵乘法
奥运 Time Limit: 1000/1000 MS (Java/Others) Memory Limit: 65536/65536 K (Java/Others)Total Submissi ...
- *HDU 1757 矩阵乘法
A Simple Math Problem Time Limit: 3000/1000 MS (Java/Others) Memory Limit: 32768/32768 K (Java/Ot ...
随机推荐
- SQL-W3School-函数:SQL MIX() 函数
ylbtech-SQL-W3School-函数:SQL MIX() 函数 1.返回顶部 1. MIN() 函数 MIN 函数返回一列中的最小值.NULL 值不包括在计算中. SQL MIN() 语法 ...
- log4j:ERROR setFile(null,true) call failed.错误解决
首先说明,我是用hive执行bin/hiveserver2时出现的这个错误.如下图所示,红框中的内容也清晰的告诉我们出错的原因和文件路径. 之后,我查看了一下该路径.发现我用的是beifeng的用户, ...
- yml内容如何转map?
yml内容如何转map 解决方法: Map map = null; Yaml yaml = new Yaml(); File ymlFile = new File("c:/src/tes ...
- PAT 甲级 1039 Course List for Student (25 分)(字符串哈希,优先队列,没想到是哈希)*
1039 Course List for Student (25 分) Zhejiang University has 40000 students and provides 2500 cours ...
- SM30维护视图屏蔽按钮
标准维护视图 GUI状态 ESLG 编辑按钮 AEND 达到效果 DATA: l_act TYPE char1, l_name TYPE dd02v-tabname. DATA: lt_vimex ...
- 执行spark-shell报错:
执行spark-shell报错: [ERROR] Terminal initialization failed; falling back to unsupportedjava.lang.NoClas ...
- maven:手动上传jar私服
转:https://www.jianshu.com/p/b8ec688c388e 打包时提示私服中找不到以下jar包 在私服中搜索确实找不到,后来知道这些是老系统的jar包没有deploy到私服 经分 ...
- 慕课零基础学java语言翁恺老师——第一周编程题
温度转换(5分) 题目内容: 写一个将华氏温度转换成摄氏温度的程序,转换的公式是: °F = (9/5)*°C + 32 其中C表示摄氏温度,F表示华氏温度. 程序的输入是一个整数,表示华氏温度.输出 ...
- Android SDK目录说明
在SDK目录下有很多文件夹,了解这个文件夹都包含哪些内容,更有利于Android的开发,也是作为Android开发者应该了解的.本文就SDK目录进行说明. SDK目录如下: add-ones:Goog ...
- 最新 新浪java校招面经 (含整理过的面试题大全)
从6月到10月,经过4个月努力和坚持,自己有幸拿到了网易雷火.京东.去哪儿.新浪等10家互联网公司的校招Offer,因为某些自身原因最终选择了新浪.6.7月主要是做系统复习.项目复盘.LeetCode ...