Làm thế nào để đo thời gian hạt nhân bên trong trong NVIDIA CUDA?

Question

Tôi muốn đo thời gian hạt nhân bên trong của GPU, làm thế nào để đo lường nó trong NVIDIA CUDA? ví dụ:

__global__ void kernelSample() 
{ 
    some code here 
    get start time 
    some code here 
    get stop time 
    some code here 
} 

Answer 1

Hãy thử điều này, nó đo thời gian giữa 2 sự kiện theo mili giây.

cudaEvent_t start, stop; 
    float elapsedTime; 

    cudaEventCreate(&start); 
    cudaEventRecord(start,0); 

//Do kernel activity here 

cudaEventCreate(&stop); 
cudaEventRecord(stop,0); 
cudaEventSynchronize(stop); 

cudaEventElapsedTime(&elapsedTime, start,stop); 
printf("Elapsed time : %f ms\n" ,elapsedTime); 

Answer 2

Bạn có thể làm một cái gì đó như thế này:

__global__ void kernelSample(int *runtime) 
{ 
    // .... 
    clock_t start_time = clock(); 
    //some code here 
    clock_t stop_time = clock(); 
    // .... 

    runtime[tidx] = (int)(stop_time - start_time); 
} 

Mà cho số chu kỳ đồng hồ giữa hai cuộc gọi. Hãy cẩn thận một chút mặc dù, bộ đếm thời gian sẽ tràn sau một vài giây, vì vậy bạn nên chắc chắn rằng thời lượng mã giữa các cuộc gọi liên tiếp là khá ngắn. Bạn cũng nên lưu ý rằng trình biên dịch và trình biên dịch thực hiện việc sắp xếp lại lệnh để bạn có thể muốn kiểm tra xem các cuộc gọi đồng hồ không được đặt cạnh nhau trong đầu ra SASS (sử dụng cudaobjdump để kiểm tra).