Mối quan hệ OpenMP và NUMA?

Question

Tôi có một ổ cắm kép Xeon E5522 2.26GHZ máy (có tính năng siêu phân luồng bị vô hiệu hoá) đang chạy máy chủ ubuntu trên hạt nhân Linux 3.0 hỗ trợ NUMA. Bố trí kiến ​​trúc là 4 lõi vật lý trên mỗi socket. ứng dụng Một OpenMP chạy trong máy này và tôi có các câu hỏi sau:

1. Có một chương trình OpenMP tận dụng (ví dụ: một sợi và dữ liệu cá nhân của mình được lưu giữ trên một nút NUMA cùng thực hiện) tự động khi chạy trên một máy NUMA + hạt nhân nhận thức ?. Nếu không, những gì có thể được thực hiện?

2. còn NUMA và mỗi luồng cấu trúc dữ liệu C++ STL riêng tư thì sao?

Answer 1

Chuẩn OpenMP hiện tại xác định biến môi trường boolean OMP_PROC_BIND kiểm soát ràng buộc của chuỗi OpenMP. Nếu được đặt thành true, ví dụ:

shell$ OMP_PROC_BIND=true OMP_NUM_THREADS=12 ./app.x 

thì môi trường thực thi OpenMP không được di chuyển chủ đề giữa các bộ xử lý. Thật không may là không có gì nhiều hơn nói về cách những chủ đề nên được ràng buộc và đó là những gì một nhóm làm việc đặc biệt trong ngôn ngữ OpenMP comittee là giải quyết ngay bây giờ. OpenMP 4.0 sẽ đi kèm với các biến và các tham số mới cho phép người ta xác định cách phân phối các luồng. Tất nhiên, nhiều triển khai OpenMP cung cấp non-standard methods to control binding riêng của họ.

Phần lớn thời gian chạy OpenMP không phải là NUMA. Họ sẽ vui vẻ gửi chủ đề đến bất kỳ CPU có sẵn và bạn sẽ phải đảm bảo rằng mỗi thread chỉ truy cập dữ liệu thuộc về nó. Có một số gợi ý chung theo hướng này:

• Không sử dụng dynamic lập kế hoạch cho song song for (C/C++)/DO (Fortran) vòng.
• Cố gắng khởi tạo dữ liệu trong cùng một chuỗi mà sau này sẽ sử dụng nó. Nếu bạn chạy hai vòng lặp song song for tách rời với cùng kích thước nhóm và cùng số lượng các đoạn lặp, với đoạn lịch0 của cả hai vòng lặp sẽ được thực thi theo chuỗi 0, đoạn 1 - theo chuỗi 1, v.v.
• Nếu sử dụng tác vụ OpenMP, hãy thử khởi tạo dữ liệu trong phần nhiệm vụ, vì hầu hết thời gian chạy OpenMP thực hiện nhiệm vụ ăn cắp - chuỗi nhàn rỗi có thể lấy cắp nhiệm vụ từ hàng đợi nhiệm vụ của chủ đề khác.
• Sử dụng trình phân bổ bộ nhớ nhận thức NUMA.

Một số đồng nghiệp của tôi đã đánh giá kỹ NUMA hành vi của các giai đoạn OpenMP khác nhau và đã xem xét cụ thể ý thức của NUMA về việc triển khai của Intel, nhưng bài viết chưa được xuất bản nên tôi không thể cung cấp cho bạn liên kết.

Có một dự án nghiên cứu, được gọi là ForestGOMP, nhằm mục đích cung cấp thay thế thả xuống nhận thức NUMA cho libgomp. Có thể bạn nên cho nó một cái nhìn.