Phép nhân ma trận sử dụng CUDA

Question

Tôi bị ấn tượng với phép nhân Ma trận trên CUDA. Ma trận sản phẩm thu được luôn bằng không. Tôi đã đọc một số mã mẫu như matrix multiplication in cuda để giải quyết vấn đề của tôi, nhưng tất cả đều vô ích.

Ngoài kết quả thất thường là 0, kích thước tối đa của "Chiều rộng" (mã bên dưới) không phải là 512. Tôi không thể gỡ lỗi vị trí của sự cố. Có thể chúng ta có thể thảo luận về StackOverflow.

tôi đề cập "Lập trình xử lý Massively Parallel"

#include<cuda.h> 
#include<stdio.h> 

int main(void) { 
    void MatrixMultiplication(float *, float *, float *, int); 
    const int Width = 5; 
    float M[Width*Width], N[Width*Width], P[Width*Width]; 
    for(int i = 0; i < (Width*Width) ; i++) { 
     M[i] = 5; 
     N[i] = 5; 
     P[i] = 0; 
    } 
    MatrixMultiplication(M, N, P, Width); 
    for(int i = 0; i < (Width*Width) ; i++) { 
     printf("%d \n", P[i]); 
    } 
    int quit; 
    scanf("%d",&quit); 
    return 0; 
} 

//Matrix multiplication kernel - thread specification 
__global__ void MatrixMulKernel(float *Md, float *Nd, float *Pd, int Width) { 
    //2D Thread ID 
    int tx = threadIdx.x; 
    int ty = threadIdx.y; 

    //Pvalue stores the Pd element that is computed by the thread 
    float Pvalue = 0; 

    for(int k = 0; k < Width ; ++k) { 
     float Mdelement = Md[ty*Width + k]; 
     float Ndelement = Nd[k*Width + tx]; 
     Pvalue += (Mdelement*Ndelement); 
    } 

    Pd[ty*Width + tx] = Pvalue; 
} 

void MatrixMultiplication(float *M, float *N, float *P, int Width) { 
    int size = Width*Width*sizeof(float); 
    float *Md, *Nd, *Pd; 

    //Transfer M and N to device memory 
    cudaMalloc((void**)&Md, size); 
    cudaMemcpy(Md,M,size,cudaMemcpyHostToDevice); 
    cudaMalloc((void**)&Nd, size); 
    cudaMemcpy(Nd,N,size,cudaMemcpyHostToDevice); 

    //Allocate P on the device 
    cudaMalloc((void**)&Pd,size); 

    //Setup the execution configuration 
    dim3 dimBlock(Width,Width); 
    dim3 dimGrid(1,1); 

    //Launch the device computation threads! 
    MatrixMulKernel<<<dimGrid,dimBlock>>>(Md,Nd,Pd,Width); 

    //Transfer P from device to host 
    cudaMemcpy(P,Pd,size,cudaMemcpyDeviceToHost); 

    //Free device matrices 
    cudaFree(Md); 
    cudaFree(Nd); 
    cudaFree(Pd); 
} 

Answer 1

tôi đã tìm ra những gì đã sai rồi. Hãy phân tích nó:

điểm 1: Các nhiệm vụ để loại bỏ các bao giờ đơn điệu "giá trị zero"

Như đã đề cập, bạn phải thay thế printf("%d \n", P[i]); như printf("%f \n", P[i]);

điểm 2: Tại sao chương trình không thành công với giá trị là Chiều rộng 512?

Thực ra nó sẽ không thành công ngay cả một giá trị nhỏ như 23. Tại sao? Vì 23 * 23 là> 512 (Số lượng chủ đề tối đa mà GPU có thể có cho mỗi khối kể từ hôm nay!)

Answer 2

Trong MatrixMulKernel của bạn hoạt động của mình cho vòng lặp là như

for(int k = 0; k < Width ; ++k) 
{ 
    //rest of code  
} 

Thay vì Width, bạn phải sử dụng Width*Width như mảng của bạn có kích thước Width*Width.

Answer 3

Bạn đang làm tốt đến thời điểm này:

for(int i = 0; i < (Width*Width) ; i++) { 
    printf("%d \n", P[i]); 
} 

tôi đã thay đổi nó để% f (vì đó là một float) và tất cả đều in độc đáo :)

$ ./test.exe 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000 
125.000000