Trong CUDA profiler nvvp, "Phần chia sẻ lại toàn bộ bộ nhớ chia sẻ/toàn cầu" nghĩa là gì? Nó được tính như thế nào?

Question

Khi chúng tôi sử dụng CUDA profiler nvvp, có một số "chi phí" s tương quan với các hướng dẫn, ví dụ:

• Chi nhánh phân kỳ trên cao;
• Shared/Global Memory Replay Overhead; và
• Chi phí phát lại bộ nhớ cache cục bộ/toàn cầu.

Câu hỏi của tôi là:

1. nguyên nhân gì (s) những chi phí chung Và
2. làm thế nào họ tính toán?
3. Tương tự như thế nào, tính tải trên toàn cầu/Hiệu quả cửa hàng được tính như thế nào?

Đính kèm: Tôi đã tìm thấy tất cả các công thức tính toán các chi phí này trong 'CUDA Profiler Hướng dẫn sử dụng' được đóng gói trong bộ công cụ CUDA5.

Answer 1

Bạn có thể tìm thấy một số câu trả lời cho câu hỏi của bạn ở đây:

Why does CUDA Profiler indicate replayed instructions: 82% != global replay + local replay + shared replay?

Hướng dẫn tái hiện lại (%) Điều này cho phép tỷ lệ hướng dẫn tái hiện lại trong quá trình thực kernel. Hướng dẫn được phát lại là sự khác biệt giữa số lượng hướng dẫn thực sự được cấp bởi phần cứng với số lượng hướng dẫn được thực thi bởi hạt nhân. Lý tưởng nhất nên là số không. Đây là tính như 100 * (hướng dẫn ban hành - hướng dẫn thực hiện)/ hướng dẫn ban hành

bộ nhớ toàn cầu phát lại (%) Tỷ lệ hướng dẫn tái hiện lại gây ra do ký ức toàn cầu truy cập. Này được tính như 100 * (l1 bỏ lỡ tải toàn cầu)/hướng dẫn ban hành

Local nhớ replay (%) Tỷ lệ hướng dẫn tái hiện lại gây ra do bộ nhớ địa phương truy cập. Này được tính như 100 * (l1 địa phương tải bỏ lỡ + l1 địa phương cửa hàng bỏ lỡ)/hướng dẫn ban hành

ngân hàng chung cuộc xung đột phát lại (%) Tỷ lệ tái hiện lại hướng dẫn gây ra do xung đột ngân hàng bộ nhớ chia sẻ. Đây là được tính là 100 * (xung đột được chia sẻ l1)/hướng dẫn đã được phát hành