Bộ nhớ cache L2 trong Kepler

Question

Bộ nhớ cache L2 hoạt động như thế nào trong GPU với kiến ​​trúc Kepler về mặt địa phương của các tham chiếu? Ví dụ: nếu một chuỗi truy cập địa chỉ trong bộ nhớ chung, giả sử giá trị của địa chỉ đó không nằm trong bộ nhớ cache L2, giá trị được lưu trong bộ nhớ cache như thế nào? Là nó thời gian? Hoặc là các giá trị lân cận khác của địa chỉ đó được đưa vào bộ nhớ cache L2 quá (không gian)?

Ảnh dưới đây là từ báo cáo chính thức của NVIDIA.

Answer 1

bộ nhớ cache L2 Unified đã được giới thiệu với khả năng tính toán 2.0 và cao hơn và tiếp tục được hỗ trợ trên kiến ​​trúc Kepler. Chính sách bộ nhớ đệm được sử dụng là LRU (ít được sử dụng gần đây nhất), ý định chính của nó là tránh tắc nghẽn băng thông bộ nhớ toàn cầu. Ứng dụng GPU có thể trưng bày cả hai loại địa phương (thời gian và không gian).

Bất cứ khi nào có nỗ lực đọc bộ nhớ cụ thể, nó sẽ tìm trong bộ nhớ cache L1 và L2 nếu không tìm thấy, sau đó nó sẽ tải 128 byte từ dòng bộ nhớ cache. Đây là chế độ mặc định. Điều tương tự có thể được hiểu từ sơ đồ dưới đây là tại sao mẫu truy cập 128 bit cho kết quả tốt.