Tăng tốc độ nhân bản ma trận với OpenMP và phương pháp chặn: Tôi có thể làm tốt hơn không?

Question

Đây là mã tôi đã viết:

#include <omp.h> 
void matrix_multi(int c[][TSIZE], int a[][TSIZE], int b[][TSIZE]) 
{ 
    int B=8; 

    int i, j, k,i1,j1,k1; 
#pragma omp parallel for private(i,j,k,i1,j1,k1) schedule(auto) collapse(3) 
    for (i=0; i<TSIZE; i+=B) 
    for (j=0; j<TSIZE; j+=B) 
     for (k=0; k<TSIZE; k+=B) 
     for (i1=i;i1<i+B;i1++) 
      for (j1=j;j1<j+B;j1++) 
      { 
       int sum=0; 
       for (k1=k;k1<k+B;k1++) 
       { 
        sum+=a[i1][k1]*b[k1][j1]; 
       } 
       c[i1][j1]+=sum; 
      } 

} 

Câu hỏi của tôi là: Tôi có thể có được một hiệu suất tốt hơn với một số thao tác hơn nữa trên ba vòng bên trong?

Answer 1

Đại số tuyến tính là một trong những máy tính hoạt động phổ biến nhất hoạt động. Trong các trò chơi và thư viện đồ họa, nó là hoạt động phổ biến nhất. Nó đã được nghiên cứu và tối ưu hóa rất nhiều, với toàn bộ nhóm nghiên cứu dành riêng cho nó.

Nếu bạn quan tâm đến tốc độ, bạn nên thực hiện phép nhân ma trận với thư viện BLAS. Một số trong những điều mà một thư viện BLAS sẽ tối ưu hóa cho:

• giảm thiểu bộ nhớ cache bỏ lỡ bằng cách thực hiện phép nhân ma trận trong khối chứ không phải lặp trên toàn bộ ma trận
• tối ưu hóa kích thước khối cho bộ nhớ cache kích thước của máy tính
• nếu máy tính/CPU có nhiều cấp độ bộ nhớ cache, sử dụng nhiều cấp độ kích thước khối được tối ưu hóa
• sử dụng SIMD hướng dẫn nếu có sẵn trên CPU

Lưu ý rằng song song không có trong danh sách. Điều này là bởi vì trong truy cập bộ nhớ máy tính ngày nay là chậm hơn so với CPU. Bạn sẽ thấy hiệu suất kém hơn với openmp do phí chuyển đổi ngữ cảnh.

Answer 2

Dường như bạn ở xa hoàn toàn được tối ưu hóa. Bạn đã thử vòng lặp unroll, vòng lặp đảo ngược, vv?

Bạn có thể tham khảo liên kết sau để tối ưu hóa từng bước về nhân ma trận.

http://wiki.cs.utexas.edu/rvdg/HowToOptimizeGemm/