Index: include/clang/Basic/BuiltinsX86.def =================================================================== --- include/clang/Basic/BuiltinsX86.def +++ include/clang/Basic/BuiltinsX86.def @@ -1651,6 +1651,12 @@ TARGET_BUILTIN(__builtin_ia32_psllv4di_mask, "V4LLiV4LLiV4LLiV4LLiUc","","avx512vl") TARGET_BUILTIN(__builtin_ia32_psllv4si_mask, "V4iV4iV4iV4iUc","","avx512vl") TARGET_BUILTIN(__builtin_ia32_psllv8si_mask, "V8iV8iV8iV8iUc","","avx512vl") +TARGET_BUILTIN(__builtin_ia32_psraw512_mask, "V32sV32sV8sV32sUi","","avx512bw") +TARGET_BUILTIN(__builtin_ia32_psrawi512_mask, "V32sV32sIiV32sUi","","avx512bw") +TARGET_BUILTIN(__builtin_ia32_psraw128_mask, "V8sV8sV8sV8sUc","","avx512bw,avx512vl") +TARGET_BUILTIN(__builtin_ia32_psraw256_mask, "V16sV16sV8sV16sUs","","avx512bw,avx512vl") +TARGET_BUILTIN(__builtin_ia32_psrawi128_mask, "V8sV8sIiV8sUc","","avx512bw,avx512vl") +TARGET_BUILTIN(__builtin_ia32_psrawi256_mask, "V16sV16sIiV16sUs","","avx512bw,avx512vl") #undef BUILTIN Index: lib/Headers/avx512bwintrin.h =================================================================== --- lib/Headers/avx512bwintrin.h +++ lib/Headers/avx512bwintrin.h @@ -1718,6 +1718,56 @@ (__mmask32)( __U));\ }) +static __inline__ __m512i __DEFAULT_FN_ATTRS +_mm512_sra_epi16 (__m512i __A, __m128i __B) +{ + return (__m512i) __builtin_ia32_psraw512_mask ((__v32hi) __A, + (__v8hi) __B, + (__v32hi) + _mm512_setzero_hi (), + (__mmask32) -1); +} + +static __inline__ __m512i __DEFAULT_FN_ATTRS +_mm512_mask_sra_epi16 (__m512i __W, __mmask32 __U, __m512i __A, + __m128i __B) +{ + return (__m512i) __builtin_ia32_psraw512_mask ((__v32hi) __A, + (__v8hi) __B, + (__v32hi) __W, + (__mmask32) __U); +} + +static __inline__ __m512i __DEFAULT_FN_ATTRS +_mm512_maskz_sra_epi16 (__mmask32 __U, __m512i __A, __m128i __B) +{ + return (__m512i) __builtin_ia32_psraw512_mask ((__v32hi) __A, + (__v8hi) __B, + (__v32hi) + _mm512_setzero_hi (), + (__mmask32) __U); +} + +#define _mm512_srai_epi16( __A, __imm) __extension__ ({ \ +__builtin_ia32_psrawi512_mask ((__v32hi)( __A),( __imm),\ + (__v32hi)\ + _mm512_setzero_hi (),\ + (__mmask32) -1);\ +}) + +#define _mm512_mask_srai_epi16( __W, __U, __A, __imm) __extension__ ({ \ +__builtin_ia32_psrawi512_mask ((__v32hi)( __A),( __imm),\ + (__v32hi)( __W),\ + (__mmask32)( __U));\ +}) + +#define _mm512_maskz_srai_epi16( __U, __A, __imm) __extension__ ({ \ +__builtin_ia32_psrawi512_mask ((__v32hi)( __A),( __imm),\ + (__v32hi)\ + _mm512_setzero_hi (),\ + (__mmask32)( __U));\ +}) + #undef __DEFAULT_FN_ATTRS #endif Index: lib/Headers/avx512vlbwintrin.h =================================================================== --- lib/Headers/avx512vlbwintrin.h +++ lib/Headers/avx512vlbwintrin.h @@ -2593,6 +2593,72 @@ (__mmask16)( __U));\ }) +static __inline__ __m128i __DEFAULT_FN_ATTRS +_mm_mask_sra_epi16 (__m128i __W, __mmask8 __U, __m128i __A, + __m128i __B) +{ + return (__m128i) __builtin_ia32_psraw128_mask ((__v8hi) __A, + (__v8hi) __B, + (__v8hi) __W, + (__mmask8) __U); +} + +static __inline__ __m128i __DEFAULT_FN_ATTRS +_mm_maskz_sra_epi16 (__mmask8 __U, __m128i __A, __m128i __B) +{ + return (__m128i) __builtin_ia32_psraw128_mask ((__v8hi) __A, + (__v8hi) __B, + (__v8hi) + _mm_setzero_si128 (), + (__mmask8) __U); +} + +static __inline__ __m256i __DEFAULT_FN_ATTRS +_mm256_mask_sra_epi16 (__m256i __W, __mmask16 __U, __m256i __A, + __m128i __B) +{ + return (__m256i) __builtin_ia32_psraw256_mask ((__v16hi) __A, + (__v8hi) __B, + (__v16hi) __W, + (__mmask16) __U); +} + +static __inline__ __m256i __DEFAULT_FN_ATTRS +_mm256_maskz_sra_epi16 (__mmask16 __U, __m256i __A, __m128i __B) +{ + return (__m256i) __builtin_ia32_psraw256_mask ((__v16hi) __A, + (__v8hi) __B, + (__v16hi) + _mm256_setzero_si256 (), + (__mmask16) __U); +} + +#define _mm_mask_srai_epi16( __W, __U, __A, __imm) __extension__ ({ \ +__builtin_ia32_psrawi128_mask ((__v8hi)( __A),( __imm),\ + (__v8hi)( __W),\ + (__mmask8)( __U));\ +}) + +#define _mm_maskz_srai_epi16( __U, __A, __imm) __extension__ ({ \ +__builtin_ia32_psrawi128_mask ((__v8hi)( __A),( __imm),\ + (__v8hi)\ + _mm_setzero_si128 (),\ + (__mmask8)( __U));\ +}) + +#define _mm256_mask_srai_epi16( __W, __U, __A, __imm) __extension__ ({ \ +__builtin_ia32_psrawi256_mask ((__v16hi)( __A),( __imm),\ + (__v16hi)( __W),\ + (__mmask16)( __U));\ +}) + +#define _mm256_maskz_srai_epi16( __U, __A, __imm) __extension__ ({ \ +__builtin_ia32_psrawi256_mask ((__v16hi)( __A),( __imm),\ + (__v16hi)\ + _mm256_setzero_si256 (),\ + (__mmask16)( __U));\ +}) + #undef __DEFAULT_FN_ATTRS #endif /* __AVX512VLBWINTRIN_H */ Index: test/CodeGen/avx512bw-builtins.c =================================================================== --- test/CodeGen/avx512bw-builtins.c +++ test/CodeGen/avx512bw-builtins.c @@ -1167,4 +1167,41 @@ return _mm512_maskz_slli_epi16(__U, __A, 5); } +__m512i test_mm512_sra_epi16(__m512i __A, __m128i __B) { + // CHECK-LABEL: @test_mm512_sra_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.w.512 + return _mm512_sra_epi16(__A, __B); +} + +__m512i test_mm512_mask_sra_epi16(__m512i __W, __mmask32 __U, __m512i __A, __m128i __B) { + // CHECK-LABEL: @test_mm512_mask_sra_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.w.512 + return _mm512_mask_sra_epi16(__W, __U, __A, __B); +} + +__m512i test_mm512_maskz_sra_epi16(__mmask32 __U, __m512i __A, __m128i __B) { + // CHECK-LABEL: @test_mm512_maskz_sra_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.w.512 + return _mm512_maskz_sra_epi16(__U, __A, __B); +} + +__m512i test_mm512_srai_epi16(__m512i __A) { + // CHECK-LABEL: @test_mm512_srai_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.wi.512 + return _mm512_srai_epi16(__A, 5); +} + +__m512i test_mm512_mask_srai_epi16(__m512i __W, __mmask32 __U, __m512i __A) { + // CHECK-LABEL: @test_mm512_mask_srai_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.wi.512 + return _mm512_mask_srai_epi16(__W, __U, __A, 5); +} + +__m512i test_mm512_maskz_srai_epi16(__mmask32 __U, __m512i __A) { + // CHECK-LABEL: @test_mm512_maskz_srai_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.wi.512 + return _mm512_maskz_srai_epi16(__U, __A, 5); +} + + Index: test/CodeGen/avx512vlbw-builtins.c =================================================================== --- test/CodeGen/avx512vlbw-builtins.c +++ test/CodeGen/avx512vlbw-builtins.c @@ -1957,3 +1957,52 @@ return _mm256_maskz_slli_epi16(__U, __A, 5); } +__m128i test_mm_mask_sra_epi16(__m128i __W, __mmask8 __U, __m128i __A, __m128i __B) { + // CHECK-LABEL: @test_mm_mask_sra_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.w.128 + return _mm_mask_sra_epi16(__W, __U, __A, __B); +} + +__m128i test_mm_maskz_sra_epi16(__mmask8 __U, __m128i __A, __m128i __B) { + // CHECK-LABEL: @test_mm_maskz_sra_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.w.128 + return _mm_maskz_sra_epi16(__U, __A, __B); +} + +__m256i test_mm256_mask_sra_epi16(__m256i __W, __mmask16 __U, __m256i __A, __m128i __B) { + // CHECK-LABEL: @test_mm256_mask_sra_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.w.256 + return _mm256_mask_sra_epi16(__W, __U, __A, __B); +} + +__m256i test_mm256_maskz_sra_epi16(__mmask16 __U, __m256i __A, __m128i __B) { + // CHECK-LABEL: @test_mm256_maskz_sra_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.w.256 + return _mm256_maskz_sra_epi16(__U, __A, __B); +} + +__m128i test_mm_mask_srai_epi16(__m128i __W, __mmask8 __U, __m128i __A) { + // CHECK-LABEL: @test_mm_mask_srai_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.wi.128 + return _mm_mask_srai_epi16(__W, __U, __A, 5); +} + +__m128i test_mm_maskz_srai_epi16(__mmask8 __U, __m128i __A) { + // CHECK-LABEL: @test_mm_maskz_srai_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.wi.128 + return _mm_maskz_srai_epi16(__U, __A, 5); +} + +__m256i test_mm256_mask_srai_epi16(__m256i __W, __mmask16 __U, __m256i __A) { + // CHECK-LABEL: @test_mm256_mask_srai_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.wi.256 + return _mm256_mask_srai_epi16(__W, __U, __A, 5); +} + +__m256i test_mm256_maskz_srai_epi16(__mmask16 __U, __m256i __A) { + // CHECK-LABEL: @test_mm256_maskz_srai_epi16 + // CHECK: @llvm.x86.avx512.mask.psra.wi.256 + return _mm256_maskz_srai_epi16(__U, __A, 5); +} + +