Cách hiệu quả (trên Ryzen) để trích xuất các phần tử lẻ của __m256 thành __m128?

Question

Có cách nội tại hay cách hiệu quả khác để đóng gói lại thành phần 32 bit cao/thấp của các thành phần 64-bit của thanh ghi AVX vào thanh ghi SSE không? Một giải pháp sử dụng AVX2 là ok.

Cho đến nay tôi đang sử dụng đoạn mã sau, nhưng profiler nói nó chậm trên Ryzen 1800X:

// Global constant 
const __m256i gHigh32Permute = _mm256_set_epi32(0, 0, 0, 0, 7, 5, 3, 1); 

// ... 

// function code 
__m256i x = /* computed here */; 
const __m128i high32 = _mm256_castsi256_si128(_mm256_permutevar8x32_epi32(x), 
    gHigh32Permute); // This seems to take 3 cycles 

Answer 1

On Intel, mã của bạn sẽ được tối ưu. Một hướng dẫn 1-uop là tốt nhất bạn sẽ nhận được. (Ngoại trừ bạn có thể muốn sử dụng vpermps để tránh bất kỳ rủi ro nào cho sự chậm trễ bỏ qua int/FP, nếu vectơ đầu vào của bạn được tạo bởi lệnh pd thay vì tải hoặc một thứ gì đó. thường là tốt trên Intel, nhưng tôi ít chắc chắn về việc cho ăn kết quả của một lệnh FP để trộn ngẫu nhiên.)

Mặc dù nếu điều chỉnh cho Intel, bạn có thể thử thay đổi mã xung quanh để bạn có thể trộn vào đáy 64 -bộ phận của mỗi làn 128b, để tránh sử dụng trộn ngẫu nhiên làn đường. (Sau đó, bạn chỉ có thể sử dụng vshufps ymm, hoặc nếu điều chỉnh cho KNL, vpermilps từ 2-input vshufps là chậm hơn.)

Với AVX512, có _mm256_cvtepi64_epi32 (vpmovqd) mà gói các yếu tố trên làn xe, với cắt ngắn.

---

On Ryzen, shuffles làn vượt chậm. Agner Fog không có số cho vpermd, nhưng anh ta liệt kê vpermps (có thể sử dụng cùng phần cứng nội bộ) ở 3 uops, 5c độ trễ, một cho mỗi thông lượng 4c.

vextractf128 xmm, ymm, 1 rất hiệu quả trên Ryzen (độ trễ 1c, thông lượng 0.33c), không đáng ngạc nhiên vì nó theo dõi thanh ghi 256b là hai nửa 128b. shufps cũng hiệu quả (độ trễ 1c, thông lượng 0.5c) và sẽ cho phép bạn trộn hai thanh ghi 128b vào kết quả bạn muốn.

Điều này cũng giúp bạn tiết kiệm 2 thanh ghi cho các mặt nạ trộn 2 vpermps bạn không cần nữa.

Vì vậy, tôi muốn đề nghị:

__m256d x = /* computed here */; 

// Tuned for Ryzen. Sub-optimal on Intel 
__m128 hi = _mm_castpd_ps(_mm256_extractf128_pd(x, 1)); 
__m128 lo = _mm_castpd_ps(_mm256_castpd256_pd128(x)); 
__m128 odd = _mm_shuffle_ps(lo, hi, _MM_SHUFFLE(3,1,3,1)); 
__m128 even = _mm_shuffle_ps(lo, hi, _MM_SHUFFLE(2,0,2,0)); 

On Intel, sử dụng 3 shuffles thay vì 2 cung cấp cho bạn 2/3rds của thông lượng tối ưu, với độ trễ 1c thêm cho kết quả đầu tiên.