This is an archive of the discontinued LLVM Phabricator instance.

Differential D46892

[X86] Lowering addus/subus intrinsics to native IR (Clang part)
ClosedPublic

Authored by tkrupa on May 15 2018, 10:06 AM.

Details

Reviewers
craig.topper
RKSimon
spatel
Commits
rGe8cf972d86a4: [X86] Lowering addus/subus intrinsics to native IR
rL339651: [X86] Lowering addus/subus intrinsics to native IR
rC339651: [X86] Lowering addus/subus intrinsics to native IR
Summary

This is the patch that lowers x86 intrinsics to native IR
in order to enable optimizations.

Corresponding LLVM part: https://reviews.llvm.org/D46179

Previous D44786 version was reverted due to crashes caused by LLVM part. This revision includes a more optimal pattern for addus.

Diff Detail

Repository
rC Clang

Event Timeline

tkrupa created this revision.May 15 2018, 10:06 AM
Herald added a subscriber: cfe-commits. · View Herald TranscriptMay 15 2018, 10:06 AM
tkrupa added reviewers: craig.topper, RKSimon, spatel.May 15 2018, 10:07 AM
tkrupa updated this revision to Diff 149417.Jun 1 2018, 2:49 AM

Added missing scalar intrinsics without rounding.

tkrupa added a comment.Jun 1 2018, 2:54 AM

Whoops, that's a wrong revision. I'll revert it shortly.

tkrupa updated this revision to Diff 149420.Jun 1 2018, 2:57 AM
tkrupa updated this revision to Diff 159461.Aug 7 2018, 12:46 AM

Removed signed intrinsics lowering due to the pattern being too complicated - instead some minor optimizations were introduced on LLVM side.

tkrupa retitled this revision from [X86] Lowering adds/addus/subs/subus intrinsics to native IR (Clang part) to [X86] Lowering addus/subus intrinsics to native IR (Clang part).Aug 9 2018, 2:16 AM
craig.topper accepted this revision.Aug 13 2018, 11:43 PM

LGTM

This revision is now accepted and ready to land.Aug 13 2018, 11:43 PM
Closed by commit rC339651: [X86] Lowering addus/subus intrinsics to native IR (authored by tkrupa). · Explain WhyAug 14 2018, 1:02 AM
This revision was automatically updated to reflect the committed changes.

Revision Contents

PathSize
lib/
CodeGen/
48 lines
test/
CodeGen/
20 lines
98 lines
80 lines
20 lines

Diff 160523

lib/CodeGen/CGBuiltin.cpp

  • This file is larger than 256 KB, so syntax highlighting is disabled by default.
Show First 20 Lines • Show All 8,901 Lines • ▼ Show 20 Lines
static Value *EmitX86SExtMask(CodeGenFunction &CGF, Value *Op, static Value *EmitX86SExtMask(CodeGenFunction &CGF, Value *Op,
llvm::Type *DstTy) { llvm::Type *DstTy) {
unsigned NumberOfElements = DstTy->getVectorNumElements(); unsigned NumberOfElements = DstTy->getVectorNumElements();
Value *Mask = getMaskVecValue(CGF, Op, NumberOfElements); Value *Mask = getMaskVecValue(CGF, Op, NumberOfElements);
return CGF.Builder.CreateSExt(Mask, DstTy, "vpmovm2"); return CGF.Builder.CreateSExt(Mask, DstTy, "vpmovm2");
} }
// Emit addition or subtraction with saturation.
// Handles both signed and unsigned intrinsics.
static Value *EmitX86AddSubSatExpr(CodeGenFunction &CGF, const CallExpr *E,
SmallVectorImpl<Value *> &Ops,
bool IsAddition) {
// Collect vector elements and type data.
llvm::Type *ResultType = CGF.ConvertType(E->getType());
Value *Res;
if (IsAddition) {
// ADDUS: a > (a+b) ? ~0 : (a+b)
// If Ops[0] > Add, overflow occured.
Value *Add = CGF.Builder.CreateAdd(Ops[0], Ops[1]);
Value *ICmp = CGF.Builder.CreateICmp(ICmpInst::ICMP_UGT, Ops[0], Add);
Value *Max = llvm::Constant::getAllOnesValue(ResultType);
Res = CGF.Builder.CreateSelect(ICmp, Max, Add);
} else {
// SUBUS: max(a, b) - b
Value *ICmp = CGF.Builder.CreateICmp(ICmpInst::ICMP_UGT, Ops[0], Ops[1]);
Value *Select = CGF.Builder.CreateSelect(ICmp, Ops[0], Ops[1]);
Res = CGF.Builder.CreateSub(Select, Ops[1]);
}
if (E->getNumArgs() == 4) { // For masked intrinsics.
Value *VecSRC = Ops[2];
Value *Mask = Ops[3];
return EmitX86Select(CGF, Mask, Res, VecSRC);
}
return Res;
}
Value *CodeGenFunction::EmitX86CpuIs(const CallExpr *E) { Value *CodeGenFunction::EmitX86CpuIs(const CallExpr *E) {
const Expr *CPUExpr = E->getArg(0)->IgnoreParenCasts(); const Expr *CPUExpr = E->getArg(0)->IgnoreParenCasts();
StringRef CPUStr = cast<clang::StringLiteral>(CPUExpr)->getString(); StringRef CPUStr = cast<clang::StringLiteral>(CPUExpr)->getString();
return EmitX86CpuIs(CPUStr); return EmitX86CpuIs(CPUStr);
} }
Value *CodeGenFunction::EmitX86CpuIs(StringRef CPUStr) { Value *CodeGenFunction::EmitX86CpuIs(StringRef CPUStr) {
▲ Show 20 Lines • Show All 1,607 Lines • ▼ Show 20 Lines case X86::BI__readgsqword: {
llvm::Type *IntTy = ConvertType(E->getType()); llvm::Type *IntTy = ConvertType(E->getType());
Value *Ptr = Builder.CreateIntToPtr(EmitScalarExpr(E->getArg(0)), Value *Ptr = Builder.CreateIntToPtr(EmitScalarExpr(E->getArg(0)),
llvm::PointerType::get(IntTy, 256)); llvm::PointerType::get(IntTy, 256));
LoadInst *Load = Builder.CreateAlignedLoad( LoadInst *Load = Builder.CreateAlignedLoad(
IntTy, Ptr, getContext().getTypeAlignInChars(E->getType())); IntTy, Ptr, getContext().getTypeAlignInChars(E->getType()));
Load->setVolatile(true); Load->setVolatile(true);
return Load; return Load;
} }
case X86::BI__builtin_ia32_paddusb512_mask:
case X86::BI__builtin_ia32_paddusw512_mask:
case X86::BI__builtin_ia32_paddusb256:
case X86::BI__builtin_ia32_paddusw256:
case X86::BI__builtin_ia32_paddusb128:
case X86::BI__builtin_ia32_paddusw128:
return EmitX86AddSubSatExpr(*this, E, Ops, true /* IsAddition */);
case X86::BI__builtin_ia32_psubusb512_mask:
case X86::BI__builtin_ia32_psubusw512_mask:
case X86::BI__builtin_ia32_psubusb256:
case X86::BI__builtin_ia32_psubusw256:
case X86::BI__builtin_ia32_psubusb128:
case X86::BI__builtin_ia32_psubusw128:
return EmitX86AddSubSatExpr(*this, E, Ops, false /* IsAddition */);
} }
} }
Value *CodeGenFunction::EmitPPCBuiltinExpr(unsigned BuiltinID, Value *CodeGenFunction::EmitPPCBuiltinExpr(unsigned BuiltinID,
const CallExpr *E) { const CallExpr *E) {
SmallVector<Value*, 4> Ops; SmallVector<Value*, 4> Ops;
for (unsigned i = 0, e = E->getNumArgs(); i != e; i++) for (unsigned i = 0, e = E->getNumArgs(); i != e; i++)
Ops.push_back(EmitScalarExpr(E->getArg(i))); Ops.push_back(EmitScalarExpr(E->getArg(i)));
Intrinsic::ID ID = Intrinsic::not_intrinsic; Intrinsic::ID ID = Intrinsic::not_intrinsic;
▲ Show 20 Lines • Show All 1,772 Lines • Show Last 20 Lines

test/CodeGen/avx2-builtins.c

Show First 20 Lines • Show All 62 Lines • ▼ Show 20 Lines
__m256i test_mm256_adds_epi16(__m256i a, __m256i b) { __m256i test_mm256_adds_epi16(__m256i a, __m256i b) {
// CHECK-LABEL: test_mm256_adds_epi16 // CHECK-LABEL: test_mm256_adds_epi16
// CHECK: call <16 x i16> @llvm.x86.avx2.padds.w(<16 x i16> %{{.*}}, <16 x i16> %{{.*}}) // CHECK: call <16 x i16> @llvm.x86.avx2.padds.w(<16 x i16> %{{.*}}, <16 x i16> %{{.*}})
return _mm256_adds_epi16(a, b); return _mm256_adds_epi16(a, b);
} }
__m256i test_mm256_adds_epu8(__m256i a, __m256i b) { __m256i test_mm256_adds_epu8(__m256i a, __m256i b) {
// CHECK-LABEL: test_mm256_adds_epu8 // CHECK-LABEL: test_mm256_adds_epu8
// CHECK: call <32 x i8> @llvm.x86.avx2.paddus.b(<32 x i8> %{{.*}}, <32 x i8> %{{.*}}) // CHECK-NOT: call <32 x i8> @llvm.x86.avx2.paddus.b(<32 x i8> %{{.*}}, <32 x i8> %{{.*}})
// CHECK: add <32 x i8> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <32 x i8> %{{.*}}, %{{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i8> <i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1>, <32 x i8> {{.*}}
return _mm256_adds_epu8(a, b); return _mm256_adds_epu8(a, b);
} }
__m256i test_mm256_adds_epu16(__m256i a, __m256i b) { __m256i test_mm256_adds_epu16(__m256i a, __m256i b) {
// CHECK-LABEL: test_mm256_adds_epu16 // CHECK-LABEL: test_mm256_adds_epu16
// CHECK: call <16 x i16> @llvm.x86.avx2.paddus.w(<16 x i16> %{{.*}}, <16 x i16> %{{.*}}) // CHECK-NOT: call <16 x i16> @llvm.x86.avx2.paddus.w(<16 x i16> %{{.*}}, <16 x i16> %{{.*}})
// CHECK: add <16 x i16> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <16 x i16> %{{.*}}, %{{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i16> <i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1>, <16 x i16> {{.*}}
return _mm256_adds_epu16(a, b); return _mm256_adds_epu16(a, b);
} }
__m256i test_mm256_alignr_epi8(__m256i a, __m256i b) { __m256i test_mm256_alignr_epi8(__m256i a, __m256i b) {
// CHECK-LABEL: test_mm256_alignr_epi8 // CHECK-LABEL: test_mm256_alignr_epi8
// CHECK: shufflevector <32 x i8> %{{.*}}, <32 x i8> %{{.*}}, <32 x i32> <i32 2, i32 3, i32 4, i32 5, i32 6, i32 7, i32 8, i32 9, i32 10, i32 11, i32 12, i32 13, i32 14, i32 15, i32 32, i32 33, i32 18, i32 19, i32 20, i32 21, i32 22, i32 23, i32 24, i32 25, i32 26, i32 27, i32 28, i32 29, i32 30, i32 31, i32 48, i32 49> // CHECK: shufflevector <32 x i8> %{{.*}}, <32 x i8> %{{.*}}, <32 x i32> <i32 2, i32 3, i32 4, i32 5, i32 6, i32 7, i32 8, i32 9, i32 10, i32 11, i32 12, i32 13, i32 14, i32 15, i32 32, i32 33, i32 18, i32 19, i32 20, i32 21, i32 22, i32 23, i32 24, i32 25, i32 26, i32 27, i32 28, i32 29, i32 30, i32 31, i32 48, i32 49>
return _mm256_alignr_epi8(a, b, 2); return _mm256_alignr_epi8(a, b, 2);
} }
▲ Show 20 Lines • Show All 1,090 Lines • ▼ Show 20 Lines
__m256i test_mm256_subs_epi16(__m256i a, __m256i b) { __m256i test_mm256_subs_epi16(__m256i a, __m256i b) {
// CHECK-LABEL: test_mm256_subs_epi16 // CHECK-LABEL: test_mm256_subs_epi16
// CHECK: call <16 x i16> @llvm.x86.avx2.psubs.w(<16 x i16> %{{.*}}, <16 x i16> %{{.*}}) // CHECK: call <16 x i16> @llvm.x86.avx2.psubs.w(<16 x i16> %{{.*}}, <16 x i16> %{{.*}})
return _mm256_subs_epi16(a, b); return _mm256_subs_epi16(a, b);
} }
__m256i test_mm256_subs_epu8(__m256i a, __m256i b) { __m256i test_mm256_subs_epu8(__m256i a, __m256i b) {
// CHECK-LABEL: test_mm256_subs_epu8 // CHECK-LABEL: test_mm256_subs_epu8
// CHECK: call <32 x i8> @llvm.x86.avx2.psubus.b(<32 x i8> %{{.*}}, <32 x i8> %{{.*}}) // CHECK-NOT: call <32 x i8> @llvm.x86.avx2.psubus.b(<32 x i8> %{{.*}}, <32 x i8> %{{.*}})
// CHECK: icmp ugt <32 x i8> {{.*}}, {{.*}}
// CHECK: select <32 x i1> {{.*}}, <32 x i8> {{.*}}, <32 x i8> {{.*}}
// CHECK: sub <32 x i8> {{.*}}, {{.*}}
return _mm256_subs_epu8(a, b); return _mm256_subs_epu8(a, b);
} }
__m256i test_mm256_subs_epu16(__m256i a, __m256i b) { __m256i test_mm256_subs_epu16(__m256i a, __m256i b) {
// CHECK-LABEL: test_mm256_subs_epu16 // CHECK-LABEL: test_mm256_subs_epu16
// CHECK: call <16 x i16> @llvm.x86.avx2.psubus.w(<16 x i16> %{{.*}}, <16 x i16> %{{.*}}) // CHECK-NOT: call <16 x i16> @llvm.x86.avx2.psubus.w(<16 x i16> %{{.*}}, <16 x i16> %{{.*}})
// CHECK: icmp ugt <16 x i16> {{.*}}, {{.*}}
// CHECK: select <16 x i1> {{.*}}, <16 x i16> {{.*}}, <16 x i16> {{.*}}
// CHECK: sub <16 x i16> {{.*}}, {{.*}}
return _mm256_subs_epu16(a, b); return _mm256_subs_epu16(a, b);
} }
__m256i test_mm256_unpackhi_epi8(__m256i a, __m256i b) { __m256i test_mm256_unpackhi_epi8(__m256i a, __m256i b) {
// CHECK-LABEL: test_mm256_unpackhi_epi8 // CHECK-LABEL: test_mm256_unpackhi_epi8
// CHECK: shufflevector <32 x i8> %{{.*}}, <32 x i8> %{{.*}}, <32 x i32> <i32 8, i32 40, i32 9, i32 41, i32 10, i32 42, i32 11, i32 43, i32 12, i32 44, i32 13, i32 45, i32 14, i32 46, i32 15, i32 47, i32 24, i32 56, i32 25, i32 57, i32 26, i32 58, i32 27, i32 59, i32 28, i32 60, i32 29, i32 61, i32 30, i32 62, i32 31, i32 63> // CHECK: shufflevector <32 x i8> %{{.*}}, <32 x i8> %{{.*}}, <32 x i32> <i32 8, i32 40, i32 9, i32 41, i32 10, i32 42, i32 11, i32 43, i32 12, i32 44, i32 13, i32 45, i32 14, i32 46, i32 15, i32 47, i32 24, i32 56, i32 25, i32 57, i32 26, i32 58, i32 27, i32 59, i32 28, i32 60, i32 29, i32 61, i32 30, i32 62, i32 31, i32 63>
return _mm256_unpackhi_epi8(a, b); return _mm256_unpackhi_epi8(a, b);
} }
▲ Show 20 Lines • Show All 48 Lines • Show Last 20 Lines

test/CodeGen/avx512bw-builtins.c

Show First 20 Lines • Show All 594 Lines • ▼ Show 20 Lines
__m512i test_mm512_adds_epi8(__m512i __A, __m512i __B) { __m512i test_mm512_adds_epi8(__m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_adds_epi8 // CHECK-LABEL: @test_mm512_adds_epi8
// CHECK: @llvm.x86.avx512.mask.padds.b.512 // CHECK: @llvm.x86.avx512.mask.padds.b.512
return _mm512_adds_epi8(__A,__B); return _mm512_adds_epi8(__A,__B);
} }
__m512i test_mm512_mask_adds_epi8(__m512i __W, __mmask64 __U, __m512i __A, __m512i __B) { __m512i test_mm512_mask_adds_epi8(__m512i __W, __mmask64 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_mask_adds_epi8 // CHECK-LABEL: @test_mm512_mask_adds_epi8
// CHECK: @llvm.x86.avx512.mask.padds.b.512 // CHECK: @llvm.x86.avx512.mask.padds.b.512
return _mm512_mask_adds_epi8(__W,__U,__A,__B); return _mm512_mask_adds_epi8(__W,__U,__A,__B);
} }
__m512i test_mm512_maskz_adds_epi8(__mmask64 __U, __m512i __A, __m512i __B) { __m512i test_mm512_maskz_adds_epi8(__mmask64 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_maskz_adds_epi8 // CHECK-LABEL: @test_mm512_maskz_adds_epi8
// CHECK: @llvm.x86.avx512.mask.padds.b.512 // CHECK: @llvm.x86.avx512.mask.padds.b.512
return _mm512_maskz_adds_epi8(__U,__A,__B); return _mm512_maskz_adds_epi8(__U,__A,__B);
} }
__m512i test_mm512_adds_epi16(__m512i __A, __m512i __B) { __m512i test_mm512_adds_epi16(__m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_adds_epi16 // CHECK-LABEL: @test_mm512_adds_epi16
// CHECK: @llvm.x86.avx512.mask.padds.w.512 // CHECK: @llvm.x86.avx512.mask.padds.w.512
return _mm512_adds_epi16(__A,__B); return _mm512_adds_epi16(__A,__B);
} }
__m512i test_mm512_mask_adds_epi16(__m512i __W, __mmask32 __U, __m512i __A, __m512i __B) { __m512i test_mm512_mask_adds_epi16(__m512i __W, __mmask32 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_mask_adds_epi16 // CHECK-LABEL: @test_mm512_mask_adds_epi16
// CHECK: @llvm.x86.avx512.mask.padds.w.512 // CHECK: @llvm.x86.avx512.mask.padds.w.512
return _mm512_mask_adds_epi16(__W,__U,__A,__B); return _mm512_mask_adds_epi16(__W,__U,__A,__B);
} }
__m512i test_mm512_maskz_adds_epi16(__mmask32 __U, __m512i __A, __m512i __B) { __m512i test_mm512_maskz_adds_epi16(__mmask32 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_maskz_adds_epi16 // CHECK-LABEL: @test_mm512_maskz_adds_epi16
// CHECK: @llvm.x86.avx512.mask.padds.w.512 // CHECK: @llvm.x86.avx512.mask.padds.w.512
return _mm512_maskz_adds_epi16(__U,__A,__B); return _mm512_maskz_adds_epi16(__U,__A,__B);
} }
__m512i test_mm512_adds_epu8(__m512i __A, __m512i __B) { __m512i test_mm512_adds_epu8(__m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_adds_epu8 // CHECK-LABEL: @test_mm512_adds_epu8
// CHECK: @llvm.x86.avx512.mask.paddus.b.512 // CHECK-NOT: @llvm.x86.avx512.mask.paddus.b.512
// CHECK: add <64 x i8> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <64 x i8> %{{.*}}, %{{.*}}
// CHECK: select <64 x i1> %{{.*}}, <64 x i8> <i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1>, <64 x i8> {{.*}}
return _mm512_adds_epu8(__A,__B); return _mm512_adds_epu8(__A,__B);
} }
__m512i test_mm512_mask_adds_epu8(__m512i __W, __mmask64 __U, __m512i __A, __m512i __B) { __m512i test_mm512_mask_adds_epu8(__m512i __W, __mmask64 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_mask_adds_epu8 // CHECK-LABEL: @test_mm512_mask_adds_epu8
// CHECK: @llvm.x86.avx512.mask.paddus.b.512 // CHECK-NOT: @llvm.x86.avx512.mask.paddus.b.512
// CHECK: add <64 x i8> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <64 x i8> %{{.*}}, %{{.*}}
// CHECK: select <64 x i1> %{{.*}}, <64 x i8> <i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1>, <64 x i8> {{.*}}
// CHECK: select <64 x i1> %{{.*}}, <64 x i8> %{{.*}}, <64 x i8> %{{.*}}
return _mm512_mask_adds_epu8(__W,__U,__A,__B); return _mm512_mask_adds_epu8(__W,__U,__A,__B);
} }
__m512i test_mm512_maskz_adds_epu8(__mmask64 __U, __m512i __A, __m512i __B) { __m512i test_mm512_maskz_adds_epu8(__mmask64 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_maskz_adds_epu8 // CHECK-LABEL: @test_mm512_maskz_adds_epu8
// CHECK: @llvm.x86.avx512.mask.paddus.b.512 // CHECK-NOT: @llvm.x86.avx512.mask.paddus.b.512
// CHECK: add <64 x i8> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <64 x i8> %{{.*}}, %{{.*}}
// CHECK: select <64 x i1> %{{.*}}, <64 x i8> <i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1>, <64 x i8> {{.*}}
// CHECK: select <64 x i1> %{{.*}}, <64 x i8> %{{.*}}, <64 x i8> %{{.*}}
return _mm512_maskz_adds_epu8(__U,__A,__B); return _mm512_maskz_adds_epu8(__U,__A,__B);
} }
__m512i test_mm512_adds_epu16(__m512i __A, __m512i __B) { __m512i test_mm512_adds_epu16(__m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_adds_epu16 // CHECK-LABEL: @test_mm512_adds_epu16
// CHECK: @llvm.x86.avx512.mask.paddus.w.512 // CHECK-NOT: @llvm.x86.avx512.mask.paddus.w.512
// CHECK: add <32 x i16> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <32 x i16> %{{.*}}, %{{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i16> <i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1>, <32 x i16> {{.*}}
return _mm512_adds_epu16(__A,__B); return _mm512_adds_epu16(__A,__B);
} }
__m512i test_mm512_mask_adds_epu16(__m512i __W, __mmask32 __U, __m512i __A, __m512i __B) { __m512i test_mm512_mask_adds_epu16(__m512i __W, __mmask32 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_mask_adds_epu16 // CHECK-LABEL: @test_mm512_mask_adds_epu16
// CHECK: @llvm.x86.avx512.mask.paddus.w.512 // CHECK-NOT: @llvm.x86.avx512.mask.paddus.w.512
// CHECK: add <32 x i16> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <32 x i16> %{{.*}}, %{{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i16> <i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1>, <32 x i16> {{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i16> %{{.*}}, <32 x i16> %{{.*}}
return _mm512_mask_adds_epu16(__W,__U,__A,__B); return _mm512_mask_adds_epu16(__W,__U,__A,__B);
} }
__m512i test_mm512_maskz_adds_epu16(__mmask32 __U, __m512i __A, __m512i __B) { __m512i test_mm512_maskz_adds_epu16(__mmask32 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_maskz_adds_epu16 // CHECK-LABEL: @test_mm512_maskz_adds_epu16
// CHECK: @llvm.x86.avx512.mask.paddus.w.512 // CHECK-NOT: @llvm.x86.avx512.mask.paddus.w.512
// CHECK: add <32 x i16> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <32 x i16> %{{.*}}, %{{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i16> <i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1>, <32 x i16> {{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i16> %{{.*}}, <32 x i16> %{{.*}}
return _mm512_maskz_adds_epu16(__U,__A,__B); return _mm512_maskz_adds_epu16(__U,__A,__B);
} }
__m512i test_mm512_avg_epu8(__m512i __A, __m512i __B) { __m512i test_mm512_avg_epu8(__m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_avg_epu8 // CHECK-LABEL: @test_mm512_avg_epu8
// CHECK-NOT: @llvm.x86.avx512.mask.pavg.b.512 // CHECK-NOT: @llvm.x86.avx512.mask.pavg.b.512
// CHECK: zext <64 x i8> %{{.*}} to <64 x i16> // CHECK: zext <64 x i8> %{{.*}} to <64 x i16>
// CHECK: zext <64 x i8> %{{.*}} to <64 x i16> // CHECK: zext <64 x i8> %{{.*}} to <64 x i16>
// CHECK: add <64 x i16> %{{.*}}, %{{.*}} // CHECK: add <64 x i16> %{{.*}}, %{{.*}}
▲ Show 20 Lines • Show All 238 Lines • ▼ Show 20 Lines__m512i test_mm512_maskz_shuffle_epi8(__mmask64 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_maskz_shuffle_epi8 // CHECK-LABEL: @test_mm512_maskz_shuffle_epi8
// CHECK: @llvm.x86.avx512.pshuf.b.512 // CHECK: @llvm.x86.avx512.pshuf.b.512
// CHECK: select <64 x i1> %{{.*}}, <64 x i8> %{{.*}}, <64 x i8> %{{.*}} // CHECK: select <64 x i1> %{{.*}}, <64 x i8> %{{.*}}, <64 x i8> %{{.*}}
return _mm512_maskz_shuffle_epi8(__U,__A,__B); return _mm512_maskz_shuffle_epi8(__U,__A,__B);
} }
__m512i test_mm512_subs_epi8(__m512i __A, __m512i __B) { __m512i test_mm512_subs_epi8(__m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_subs_epi8 // CHECK-LABEL: @test_mm512_subs_epi8
// CHECK: @llvm.x86.avx512.mask.psubs.b.512 // CHECK: @llvm.x86.avx512.mask.psubs.b.512
return _mm512_subs_epi8(__A,__B); return _mm512_subs_epi8(__A,__B);
} }
__m512i test_mm512_mask_subs_epi8(__m512i __W, __mmask64 __U, __m512i __A, __m512i __B) { __m512i test_mm512_mask_subs_epi8(__m512i __W, __mmask64 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_mask_subs_epi8 // CHECK-LABEL: @test_mm512_mask_subs_epi8
// CHECK: @llvm.x86.avx512.mask.psubs.b.512 // CHECK: @llvm.x86.avx512.mask.psubs.b.512
return _mm512_mask_subs_epi8(__W,__U,__A,__B); return _mm512_mask_subs_epi8(__W,__U,__A,__B);
} }
__m512i test_mm512_maskz_subs_epi8(__mmask64 __U, __m512i __A, __m512i __B) { __m512i test_mm512_maskz_subs_epi8(__mmask64 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_maskz_subs_epi8 // CHECK-LABEL: @test_mm512_maskz_subs_epi8
// CHECK: @llvm.x86.avx512.mask.psubs.b.512 // CHECK: @llvm.x86.avx512.mask.psubs.b.512
return _mm512_maskz_subs_epi8(__U,__A,__B); return _mm512_maskz_subs_epi8(__U,__A,__B);
} }
__m512i test_mm512_subs_epi16(__m512i __A, __m512i __B) { __m512i test_mm512_subs_epi16(__m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_subs_epi16 // CHECK-LABEL: @test_mm512_subs_epi16
// CHECK: @llvm.x86.avx512.mask.psubs.w.512 // CHECK: @llvm.x86.avx512.mask.psubs.w.512
return _mm512_subs_epi16(__A,__B); return _mm512_subs_epi16(__A,__B);
} }
__m512i test_mm512_mask_subs_epi16(__m512i __W, __mmask32 __U, __m512i __A, __m512i __B) { __m512i test_mm512_mask_subs_epi16(__m512i __W, __mmask32 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_mask_subs_epi16 // CHECK-LABEL: @test_mm512_mask_subs_epi16
// CHECK: @llvm.x86.avx512.mask.psubs.w.512 // CHECK: @llvm.x86.avx512.mask.psubs.w.512
return _mm512_mask_subs_epi16(__W,__U,__A,__B); return _mm512_mask_subs_epi16(__W,__U,__A,__B);
} }
__m512i test_mm512_maskz_subs_epi16(__mmask32 __U, __m512i __A, __m512i __B) { __m512i test_mm512_maskz_subs_epi16(__mmask32 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_maskz_subs_epi16 // CHECK-LABEL: @test_mm512_maskz_subs_epi16
// CHECK: @llvm.x86.avx512.mask.psubs.w.512 // CHECK: @llvm.x86.avx512.mask.psubs.w.512
return _mm512_maskz_subs_epi16(__U,__A,__B); return _mm512_maskz_subs_epi16(__U,__A,__B);
} }
__m512i test_mm512_subs_epu8(__m512i __A, __m512i __B) { __m512i test_mm512_subs_epu8(__m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_subs_epu8 // CHECK-LABEL: @test_mm512_subs_epu8
// CHECK: @llvm.x86.avx512.mask.psubus.b.512 // CHECK-NOT: @llvm.x86.avx512.mask.psubus.b.512
// CHECK: icmp ugt <64 x i8> {{.*}}, {{.*}}
// CHECK: select <64 x i1> {{.*}}, <64 x i8> {{.*}}, <64 x i8> {{.*}}
// CHECK: sub <64 x i8> {{.*}}, {{.*}}
return _mm512_subs_epu8(__A,__B); return _mm512_subs_epu8(__A,__B);
} }
__m512i test_mm512_mask_subs_epu8(__m512i __W, __mmask64 __U, __m512i __A, __m512i __B) { __m512i test_mm512_mask_subs_epu8(__m512i __W, __mmask64 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_mask_subs_epu8 // CHECK-LABEL: @test_mm512_mask_subs_epu8
// CHECK: @llvm.x86.avx512.mask.psubus.b.512 // CHECK-NOT: @llvm.x86.avx512.mask.psubus.b.512
// CHECK: icmp ugt <64 x i8> {{.*}}, {{.*}}
// CHECK: select <64 x i1> {{.*}}, <64 x i8> {{.*}}, <64 x i8> {{.*}}
// CHECK: sub <64 x i8> {{.*}}, {{.*}}
// CHECK: select <64 x i1> %{{.*}}, <64 x i8> %{{.*}}, <64 x i8> %{{.*}}
return _mm512_mask_subs_epu8(__W,__U,__A,__B); return _mm512_mask_subs_epu8(__W,__U,__A,__B);
} }
__m512i test_mm512_maskz_subs_epu8(__mmask64 __U, __m512i __A, __m512i __B) { __m512i test_mm512_maskz_subs_epu8(__mmask64 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_maskz_subs_epu8 // CHECK-LABEL: @test_mm512_maskz_subs_epu8
// CHECK: @llvm.x86.avx512.mask.psubus.b.512 // CHECK-NOT: @llvm.x86.avx512.mask.psubus.b.512
// CHECK: icmp ugt <64 x i8> {{.*}}, {{.*}}
// CHECK: select <64 x i1> {{.*}}, <64 x i8> {{.*}}, <64 x i8> {{.*}}
// CHECK: sub <64 x i8> {{.*}}, {{.*}}
// CHECK: select <64 x i1> %{{.*}}, <64 x i8> %{{.*}}, <64 x i8> %{{.*}}
return _mm512_maskz_subs_epu8(__U,__A,__B); return _mm512_maskz_subs_epu8(__U,__A,__B);
} }
__m512i test_mm512_subs_epu16(__m512i __A, __m512i __B) { __m512i test_mm512_subs_epu16(__m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_subs_epu16 // CHECK-LABEL: @test_mm512_subs_epu16
// CHECK: @llvm.x86.avx512.mask.psubus.w.512 // CHECK-NOT: @llvm.x86.avx512.mask.psubus.w.512
// CHECK: icmp ugt <32 x i16> {{.*}}, {{.*}}
// CHECK: select <32 x i1> {{.*}}, <32 x i16> {{.*}}, <32 x i16> {{.*}}
// CHECK: sub <32 x i16> {{.*}}, {{.*}}
return _mm512_subs_epu16(__A,__B); return _mm512_subs_epu16(__A,__B);
} }
__m512i test_mm512_mask_subs_epu16(__m512i __W, __mmask32 __U, __m512i __A, __m512i __B) { __m512i test_mm512_mask_subs_epu16(__m512i __W, __mmask32 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_mask_subs_epu16 // CHECK-LABEL: @test_mm512_mask_subs_epu16
// CHECK: @llvm.x86.avx512.mask.psubus.w.512 // CHECK-NOT: @llvm.x86.avx512.mask.psubus.w.512
// CHECK: icmp ugt <32 x i16> {{.*}}, {{.*}}
// CHECK: select <32 x i1> {{.*}}, <32 x i16> {{.*}}, <32 x i16> {{.*}}
// CHECK: sub <32 x i16> {{.*}}, {{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i16> %{{.*}}, <32 x i16> %{{.*}}
return _mm512_mask_subs_epu16(__W,__U,__A,__B); return _mm512_mask_subs_epu16(__W,__U,__A,__B);
} }
__m512i test_mm512_maskz_subs_epu16(__mmask32 __U, __m512i __A, __m512i __B) { __m512i test_mm512_maskz_subs_epu16(__mmask32 __U, __m512i __A, __m512i __B) {
// CHECK-LABEL: @test_mm512_maskz_subs_epu16 // CHECK-LABEL: @test_mm512_maskz_subs_epu16
// CHECK: @llvm.x86.avx512.mask.psubus.w.512 // CHECK-NOT: @llvm.x86.avx512.mask.psubus.w.512
// CHECK: icmp ugt <32 x i16> {{.*}}, {{.*}}
// CHECK: select <32 x i1> {{.*}}, <32 x i16> {{.*}}, <32 x i16> {{.*}}
// CHECK: sub <32 x i16> {{.*}}, {{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i16> %{{.*}}, <32 x i16> %{{.*}}
return _mm512_maskz_subs_epu16(__U,__A,__B); return _mm512_maskz_subs_epu16(__U,__A,__B);
} }
__m512i test_mm512_mask2_permutex2var_epi16(__m512i __A, __m512i __I, __mmask32 __U, __m512i __B) { __m512i test_mm512_mask2_permutex2var_epi16(__m512i __A, __m512i __I, __mmask32 __U, __m512i __B) {
// CHECK-LABEL: @test_mm512_mask2_permutex2var_epi16 // CHECK-LABEL: @test_mm512_mask2_permutex2var_epi16
// CHECK: @llvm.x86.avx512.vpermi2var.hi.512 // CHECK: @llvm.x86.avx512.vpermi2var.hi.512
// CHECK: select <32 x i1> %{{.*}}, <32 x i16> %{{.*}}, <32 x i16> %{{.*}} // CHECK: select <32 x i1> %{{.*}}, <32 x i16> %{{.*}}, <32 x i16> %{{.*}}
return _mm512_mask2_permutex2var_epi16(__A,__I,__U,__B); return _mm512_mask2_permutex2var_epi16(__A,__I,__U,__B);
} }
__m512i test_mm512_permutex2var_epi16(__m512i __A, __m512i __I, __m512i __B) { __m512i test_mm512_permutex2var_epi16(__m512i __A, __m512i __I, __m512i __B) {
▲ Show 20 Lines • Show All 1,017 Lines • Show Last 20 Lines

test/CodeGen/avx512vlbw-builtins.c

Show First 20 Lines • Show All 1,117 Lines • ▼ Show 20 Lines
__m256i test_mm256_maskz_adds_epi16(__mmask16 __U, __m256i __A, __m256i __B) { __m256i test_mm256_maskz_adds_epi16(__mmask16 __U, __m256i __A, __m256i __B) {
// CHECK-LABEL: @test_mm256_maskz_adds_epi16 // CHECK-LABEL: @test_mm256_maskz_adds_epi16
// CHECK: @llvm.x86.avx2.padds.w // CHECK: @llvm.x86.avx2.padds.w
// CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}} // CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}}
return _mm256_maskz_adds_epi16(__U,__A,__B); return _mm256_maskz_adds_epi16(__U,__A,__B);
} }
__m128i test_mm_mask_adds_epu8(__m128i __W, __mmask16 __U, __m128i __A, __m128i __B) { __m128i test_mm_mask_adds_epu8(__m128i __W, __mmask16 __U, __m128i __A, __m128i __B) {
// CHECK-LABEL: @test_mm_mask_adds_epu8 // CHECK-LABEL: @test_mm_mask_adds_epu8
// CHECK: @llvm.x86.sse2.paddus.b // CHECK-NOT: @llvm.x86.sse2.paddus.b
// CHECK: add <16 x i8> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <16 x i8> %{{.*}}, %{{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i8> <i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1>, <16 x i8> {{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i8> %{{.*}}, <16 x i8> %{{.*}} // CHECK: select <16 x i1> %{{.*}}, <16 x i8> %{{.*}}, <16 x i8> %{{.*}}
return _mm_mask_adds_epu8(__W,__U,__A,__B); return _mm_mask_adds_epu8(__W,__U,__A,__B);
} }
__m128i test_mm_maskz_adds_epu8(__mmask16 __U, __m128i __A, __m128i __B) { __m128i test_mm_maskz_adds_epu8(__mmask16 __U, __m128i __A, __m128i __B) {
// CHECK-LABEL: @test_mm_maskz_adds_epu8 // CHECK-LABEL: @test_mm_maskz_adds_epu8
// CHECK: @llvm.x86.sse2.paddus.b // CHECK-NOT: @llvm.x86.sse2.paddus.b
// CHECK: add <16 x i8> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <16 x i8> %{{.*}}, %{{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i8> <i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1>, <16 x i8> {{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i8> %{{.*}}, <16 x i8> %{{.*}} // CHECK: select <16 x i1> %{{.*}}, <16 x i8> %{{.*}}, <16 x i8> %{{.*}}
return _mm_maskz_adds_epu8(__U,__A,__B); return _mm_maskz_adds_epu8(__U,__A,__B);
} }
__m256i test_mm256_mask_adds_epu8(__m256i __W, __mmask32 __U, __m256i __A, __m256i __B) { __m256i test_mm256_mask_adds_epu8(__m256i __W, __mmask32 __U, __m256i __A, __m256i __B) {
// CHECK-LABEL: @test_mm256_mask_adds_epu8 // CHECK-LABEL: @test_mm256_mask_adds_epu8
// CHECK: @llvm.x86.avx2.paddus.b // CHECK-NOT: @llvm.x86.avx2.paddus.b
// CHECK: add <32 x i8> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <32 x i8> %{{.*}}, %{{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i8> <i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1>, <32 x i8> {{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i8> %{{.*}}, <32 x i8> %{{.*}} // CHECK: select <32 x i1> %{{.*}}, <32 x i8> %{{.*}}, <32 x i8> %{{.*}}
return _mm256_mask_adds_epu8(__W,__U,__A,__B); return _mm256_mask_adds_epu8(__W,__U,__A,__B);
} }
__m256i test_mm256_maskz_adds_epu8(__mmask32 __U, __m256i __A, __m256i __B) { __m256i test_mm256_maskz_adds_epu8(__mmask32 __U, __m256i __A, __m256i __B) {
// CHECK-LABEL: @test_mm256_maskz_adds_epu8 // CHECK-LABEL: @test_mm256_maskz_adds_epu8
// CHECK: @llvm.x86.avx2.paddus.b // CHECK-NOT: @llvm.x86.avx2.paddus.b
// CHECK: add <32 x i8> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <32 x i8> %{{.*}}, %{{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i8> <i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1>, <32 x i8> {{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i8> %{{.*}}, <32 x i8> %{{.*}} // CHECK: select <32 x i1> %{{.*}}, <32 x i8> %{{.*}}, <32 x i8> %{{.*}}
return _mm256_maskz_adds_epu8(__U,__A,__B); return _mm256_maskz_adds_epu8(__U,__A,__B);
} }
__m128i test_mm_mask_adds_epu16(__m128i __W, __mmask8 __U, __m128i __A, __m128i __B) { __m128i test_mm_mask_adds_epu16(__m128i __W, __mmask8 __U, __m128i __A, __m128i __B) {
// CHECK-LABEL: @test_mm_mask_adds_epu16 // CHECK-LABEL: @test_mm_mask_adds_epu16
// CHECK: @llvm.x86.sse2.paddus.w // CHECK-NOT: @llvm.x86.sse2.paddus.w
// CHECK: add <8 x i16> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <8 x i16> %{{.*}}, %{{.*}}
// CHECK: select <8 x i1> %{{.*}}, <8 x i16> <i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1>, <8 x i16> {{.*}}
// CHECK: select <8 x i1> %{{.*}}, <8 x i16> %{{.*}}, <8 x i16> %{{.*}} // CHECK: select <8 x i1> %{{.*}}, <8 x i16> %{{.*}}, <8 x i16> %{{.*}}
return _mm_mask_adds_epu16(__W,__U,__A,__B); return _mm_mask_adds_epu16(__W,__U,__A,__B);
} }
__m128i test_mm_maskz_adds_epu16(__mmask8 __U, __m128i __A, __m128i __B) { __m128i test_mm_maskz_adds_epu16(__mmask8 __U, __m128i __A, __m128i __B) {
// CHECK-LABEL: @test_mm_maskz_adds_epu16 // CHECK-LABEL: @test_mm_maskz_adds_epu16
// CHECK: @llvm.x86.sse2.paddus.w // CHECK-NOT: @llvm.x86.sse2.paddus.w
// CHECK: add <8 x i16> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <8 x i16> %{{.*}}, %{{.*}}
// CHECK: select <8 x i1> %{{.*}}, <8 x i16> <i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1>, <8 x i16> {{.*}}
// CHECK: select <8 x i1> %{{.*}}, <8 x i16> %{{.*}}, <8 x i16> %{{.*}} // CHECK: select <8 x i1> %{{.*}}, <8 x i16> %{{.*}}, <8 x i16> %{{.*}}
return _mm_maskz_adds_epu16(__U,__A,__B); return _mm_maskz_adds_epu16(__U,__A,__B);
} }
__m256i test_mm256_mask_adds_epu16(__m256i __W, __mmask16 __U, __m256i __A, __m256i __B) { __m256i test_mm256_mask_adds_epu16(__m256i __W, __mmask16 __U, __m256i __A, __m256i __B) {
// CHECK-LABEL: @test_mm256_mask_adds_epu16 // CHECK-LABEL: @test_mm256_mask_adds_epu16
// CHECK: @llvm.x86.avx2.paddus.w // CHECK-NOT: @llvm.x86.avx2.paddus.w
// CHECK: add <16 x i16> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <16 x i16> %{{.*}}, %{{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i16> <i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1>, <16 x i16> {{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}} // CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}}
return _mm256_mask_adds_epu16(__W,__U,__A,__B); return _mm256_mask_adds_epu16(__W,__U,__A,__B);
} }
__m256i test_mm256_maskz_adds_epu16(__mmask16 __U, __m256i __A, __m256i __B) { __m256i test_mm256_maskz_adds_epu16(__mmask16 __U, __m256i __A, __m256i __B) {
// CHECK-LABEL: @test_mm256_maskz_adds_epu16 // CHECK-LABEL: @test_mm256_maskz_adds_epu16
// CHECK: @llvm.x86.avx2.paddus.w // CHECK-NOT: @llvm.x86.avx2.paddus.w
// CHECK: add <16 x i16> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <16 x i16> %{{.*}}, %{{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i16> <i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1>, <16 x i16> {{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}} // CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}}
return _mm256_maskz_adds_epu16(__U,__A,__B); return _mm256_maskz_adds_epu16(__U,__A,__B);
} }
__m128i test_mm_mask_avg_epu8(__m128i __W, __mmask16 __U, __m128i __A, __m128i __B) { __m128i test_mm_mask_avg_epu8(__m128i __W, __mmask16 __U, __m128i __A, __m128i __B) {
// CHECK-LABEL: @test_mm_mask_avg_epu8 // CHECK-LABEL: @test_mm_mask_avg_epu8
// CHECK-NOT: @llvm.x86.sse2.pavg.b // CHECK-NOT: @llvm.x86.sse2.pavg.b
// CHECK: zext <16 x i8> %{{.*}} to <16 x i16> // CHECK: zext <16 x i8> %{{.*}} to <16 x i16>
// CHECK: zext <16 x i8> %{{.*}} to <16 x i16> // CHECK: zext <16 x i8> %{{.*}} to <16 x i16>
▲ Show 20 Lines • Show All 385 Lines • ▼ Show 20 Lines
__m256i test_mm256_maskz_subs_epi16(__mmask16 __U, __m256i __A, __m256i __B) { __m256i test_mm256_maskz_subs_epi16(__mmask16 __U, __m256i __A, __m256i __B) {
// CHECK-LABEL: @test_mm256_maskz_subs_epi16 // CHECK-LABEL: @test_mm256_maskz_subs_epi16
// CHECK: @llvm.x86.avx2.psubs.w // CHECK: @llvm.x86.avx2.psubs.w
// CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}} // CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}}
return _mm256_maskz_subs_epi16(__U,__A,__B); return _mm256_maskz_subs_epi16(__U,__A,__B);
} }
__m128i test_mm_mask_subs_epu8(__m128i __W, __mmask16 __U, __m128i __A, __m128i __B) { __m128i test_mm_mask_subs_epu8(__m128i __W, __mmask16 __U, __m128i __A, __m128i __B) {
// CHECK-LABEL: @test_mm_mask_subs_epu8 // CHECK-LABEL: @test_mm_mask_subs_epu8
// CHECK: @llvm.x86.sse2.psubus.b // CHECK-NOT: @llvm.x86.sse2.psubus.b
// CHECK: icmp ugt <16 x i8> {{.*}}, {{.*}}
// CHECK: select <16 x i1> {{.*}}, <16 x i8> {{.*}}, <16 x i8> {{.*}}
// CHECK: sub <16 x i8> {{.*}}, {{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i8> %{{.*}}, <16 x i8> %{{.*}} // CHECK: select <16 x i1> %{{.*}}, <16 x i8> %{{.*}}, <16 x i8> %{{.*}}
return _mm_mask_subs_epu8(__W,__U,__A,__B); return _mm_mask_subs_epu8(__W,__U,__A,__B);
} }
__m128i test_mm_maskz_subs_epu8(__mmask16 __U, __m128i __A, __m128i __B) { __m128i test_mm_maskz_subs_epu8(__mmask16 __U, __m128i __A, __m128i __B) {
// CHECK-LABEL: @test_mm_maskz_subs_epu8 // CHECK-LABEL: @test_mm_maskz_subs_epu8
// CHECK: @llvm.x86.sse2.psubus.b // CHECK-NOT: @llvm.x86.sse2.psubus.b
// CHECK: icmp ugt <16 x i8> {{.*}}, {{.*}}
// CHECK: select <16 x i1> {{.*}}, <16 x i8> {{.*}}, <16 x i8> {{.*}}
// CHECK: sub <16 x i8> {{.*}}, {{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i8> %{{.*}}, <16 x i8> %{{.*}} // CHECK: select <16 x i1> %{{.*}}, <16 x i8> %{{.*}}, <16 x i8> %{{.*}}
return _mm_maskz_subs_epu8(__U,__A,__B); return _mm_maskz_subs_epu8(__U,__A,__B);
} }
__m256i test_mm256_mask_subs_epu8(__m256i __W, __mmask32 __U, __m256i __A, __m256i __B) { __m256i test_mm256_mask_subs_epu8(__m256i __W, __mmask32 __U, __m256i __A, __m256i __B) {
// CHECK-LABEL: @test_mm256_mask_subs_epu8 // CHECK-LABEL: @test_mm256_mask_subs_epu8
// CHECK: @llvm.x86.avx2.psubus.b // CHECK-NOT: @llvm.x86.avx2.psubus.b
// CHECK: icmp ugt <32 x i8> {{.*}}, {{.*}}
// CHECK: select <32 x i1> {{.*}}, <32 x i8> {{.*}}, <32 x i8> {{.*}}
// CHECK: sub <32 x i8> {{.*}}, {{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i8> %{{.*}}, <32 x i8> %{{.*}} // CHECK: select <32 x i1> %{{.*}}, <32 x i8> %{{.*}}, <32 x i8> %{{.*}}
return _mm256_mask_subs_epu8(__W,__U,__A,__B); return _mm256_mask_subs_epu8(__W,__U,__A,__B);
} }
__m256i test_mm256_maskz_subs_epu8(__mmask32 __U, __m256i __A, __m256i __B) { __m256i test_mm256_maskz_subs_epu8(__mmask32 __U, __m256i __A, __m256i __B) {
// CHECK-LABEL: @test_mm256_maskz_subs_epu8 // CHECK-LABEL: @test_mm256_maskz_subs_epu8
// CHECK: @llvm.x86.avx2.psubus.b // CHECK-NOT: @llvm.x86.avx2.psubus.b
// CHECK: icmp ugt <32 x i8> {{.*}}, {{.*}}
// CHECK: select <32 x i1> {{.*}}, <32 x i8> {{.*}}, <32 x i8> {{.*}}
// CHECK: sub <32 x i8> {{.*}}, {{.*}}
// CHECK: select <32 x i1> %{{.*}}, <32 x i8> %{{.*}}, <32 x i8> %{{.*}} // CHECK: select <32 x i1> %{{.*}}, <32 x i8> %{{.*}}, <32 x i8> %{{.*}}
return _mm256_maskz_subs_epu8(__U,__A,__B); return _mm256_maskz_subs_epu8(__U,__A,__B);
} }
__m128i test_mm_mask_subs_epu16(__m128i __W, __mmask8 __U, __m128i __A, __m128i __B) { __m128i test_mm_mask_subs_epu16(__m128i __W, __mmask8 __U, __m128i __A, __m128i __B) {
// CHECK-LABEL: @test_mm_mask_subs_epu16 // CHECK-LABEL: @test_mm_mask_subs_epu16
// CHECK: @llvm.x86.sse2.psubus.w // CHECK-NOT: @llvm.x86.sse2.psubus.w
// CHECK: icmp ugt <8 x i16> {{.*}}, {{.*}}
// CHECK: select <8 x i1> {{.*}}, <8 x i16> {{.*}}, <8 x i16> {{.*}}
// CHECK: sub <8 x i16> {{.*}}, {{.*}}
// CHECK: select <8 x i1> %{{.*}}, <8 x i16> %{{.*}}, <8 x i16> %{{.*}} // CHECK: select <8 x i1> %{{.*}}, <8 x i16> %{{.*}}, <8 x i16> %{{.*}}
return _mm_mask_subs_epu16(__W,__U,__A,__B); return _mm_mask_subs_epu16(__W,__U,__A,__B);
} }
__m128i test_mm_maskz_subs_epu16(__mmask8 __U, __m128i __A, __m128i __B) { __m128i test_mm_maskz_subs_epu16(__mmask8 __U, __m128i __A, __m128i __B) {
// CHECK-LABEL: @test_mm_maskz_subs_epu16 // CHECK-LABEL: @test_mm_maskz_subs_epu16
// CHECK: @llvm.x86.sse2.psubus.w // CHECK-NOT: @llvm.x86.sse2.psubus.w
// CHECK: icmp ugt <8 x i16> {{.*}}, {{.*}}
// CHECK: select <8 x i1> {{.*}}, <8 x i16> {{.*}}, <8 x i16> {{.*}}
// CHECK: sub <8 x i16> {{.*}}, {{.*}}
// CHECK: select <8 x i1> %{{.*}}, <8 x i16> %{{.*}}, <8 x i16> %{{.*}} // CHECK: select <8 x i1> %{{.*}}, <8 x i16> %{{.*}}, <8 x i16> %{{.*}}
return _mm_maskz_subs_epu16(__U,__A,__B); return _mm_maskz_subs_epu16(__U,__A,__B);
} }
__m256i test_mm256_mask_subs_epu16(__m256i __W, __mmask16 __U, __m256i __A, __m256i __B) { __m256i test_mm256_mask_subs_epu16(__m256i __W, __mmask16 __U, __m256i __A, __m256i __B) {
// CHECK-LABEL: @test_mm256_mask_subs_epu16 // CHECK-LABEL: @test_mm256_mask_subs_epu16
// CHECK: @llvm.x86.avx2.psubus.w // CHECK-NOT: @llvm.x86.avx2.psubus.w
// CHECK: icmp ugt <16 x i16> {{.*}}, {{.*}}
// CHECK: select <16 x i1> {{.*}}, <16 x i16> {{.*}}, <16 x i16> {{.*}}
// CHECK: sub <16 x i16> {{.*}}, {{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}} // CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}}
return _mm256_mask_subs_epu16(__W,__U,__A,__B); return _mm256_mask_subs_epu16(__W,__U,__A,__B);
} }
__m256i test_mm256_maskz_subs_epu16(__mmask16 __U, __m256i __A, __m256i __B) { __m256i test_mm256_maskz_subs_epu16(__mmask16 __U, __m256i __A, __m256i __B) {
// CHECK-LABEL: @test_mm256_maskz_subs_epu16 // CHECK-LABEL: @test_mm256_maskz_subs_epu16
// CHECK: @llvm.x86.avx2.psubus.w // CHECK-NOT: @llvm.x86.avx2.psubus.w
// CHECK: icmp ugt <16 x i16> {{.*}}, {{.*}}
// CHECK: select <16 x i1> {{.*}}, <16 x i16> {{.*}}, <16 x i16> {{.*}}
// CHECK: sub <16 x i16> {{.*}}, {{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}} // CHECK: select <16 x i1> %{{.*}}, <16 x i16> %{{.*}}, <16 x i16> %{{.*}}
return _mm256_maskz_subs_epu16(__U,__A,__B); return _mm256_maskz_subs_epu16(__U,__A,__B);
} }
__m128i test_mm_mask2_permutex2var_epi16(__m128i __A, __m128i __I, __mmask8 __U, __m128i __B) { __m128i test_mm_mask2_permutex2var_epi16(__m128i __A, __m128i __I, __mmask8 __U, __m128i __B) {
// CHECK-LABEL: @test_mm_mask2_permutex2var_epi16 // CHECK-LABEL: @test_mm_mask2_permutex2var_epi16
// CHECK: @llvm.x86.avx512.vpermi2var.hi.128 // CHECK: @llvm.x86.avx512.vpermi2var.hi.128
▲ Show 20 Lines • Show All 1,495 Lines • Show Last 20 Lines

test/CodeGen/sse2-builtins.c

Show First 20 Lines • Show All 53 Lines • ▼ Show 20 Lines
__m128i test_mm_adds_epi16(__m128i A, __m128i B) { __m128i test_mm_adds_epi16(__m128i A, __m128i B) {
// CHECK-LABEL: test_mm_adds_epi16 // CHECK-LABEL: test_mm_adds_epi16
// CHECK: call <8 x i16> @llvm.x86.sse2.padds.w(<8 x i16> %{{.*}}, <8 x i16> %{{.*}}) // CHECK: call <8 x i16> @llvm.x86.sse2.padds.w(<8 x i16> %{{.*}}, <8 x i16> %{{.*}})
return _mm_adds_epi16(A, B); return _mm_adds_epi16(A, B);
} }
__m128i test_mm_adds_epu8(__m128i A, __m128i B) { __m128i test_mm_adds_epu8(__m128i A, __m128i B) {
// CHECK-LABEL: test_mm_adds_epu8 // CHECK-LABEL: test_mm_adds_epu8
// CHECK: call <16 x i8> @llvm.x86.sse2.paddus.b(<16 x i8> %{{.*}}, <16 x i8> %{{.*}}) // CHECK-NOT: call <16 x i8> @llvm.x86.sse2.paddus.b(<16 x i8> %{{.*}}, <16 x i8> %{{.*}})
// CHECK: add <16 x i8> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <16 x i8> %{{.*}}, %{{.*}}
// CHECK: select <16 x i1> %{{.*}}, <16 x i8> <i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1, i8 -1>, <16 x i8> {{.*}}
return _mm_adds_epu8(A, B); return _mm_adds_epu8(A, B);
} }
__m128i test_mm_adds_epu16(__m128i A, __m128i B) { __m128i test_mm_adds_epu16(__m128i A, __m128i B) {
// CHECK-LABEL: test_mm_adds_epu16 // CHECK-LABEL: test_mm_adds_epu16
// CHECK: call <8 x i16> @llvm.x86.sse2.paddus.w(<8 x i16> %{{.*}}, <8 x i16> %{{.*}}) // CHECK-NOT: call <8 x i16> @llvm.x86.sse2.paddus.w(<8 x i16> %{{.*}}, <8 x i16> %{{.*}})
// CHECK: add <8 x i16> %{{.*}}, %{{.*}}
// CHECK: icmp ugt <8 x i16> %{{.*}}, %{{.*}}
// CHECK: select <8 x i1> %{{.*}}, <8 x i16> <i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1, i16 -1>, <8 x i16> {{.*}}
return _mm_adds_epu16(A, B); return _mm_adds_epu16(A, B);
} }
__m128d test_mm_and_pd(__m128d A, __m128d B) { __m128d test_mm_and_pd(__m128d A, __m128d B) {
// CHECK-LABEL: test_mm_and_pd // CHECK-LABEL: test_mm_and_pd
// CHECK: and <2 x i64> // CHECK: and <2 x i64>
return _mm_and_pd(A, B); return _mm_and_pd(A, B);
} }
▲ Show 20 Lines • Show All 1,340 Lines • ▼ Show 20 Lines
__m128i test_mm_subs_epi16(__m128i A, __m128i B) { __m128i test_mm_subs_epi16(__m128i A, __m128i B) {
// CHECK-LABEL: test_mm_subs_epi16 // CHECK-LABEL: test_mm_subs_epi16
// CHECK: call <8 x i16> @llvm.x86.sse2.psubs.w(<8 x i16> %{{.*}}, <8 x i16> %{{.*}}) // CHECK: call <8 x i16> @llvm.x86.sse2.psubs.w(<8 x i16> %{{.*}}, <8 x i16> %{{.*}})
return _mm_subs_epi16(A, B); return _mm_subs_epi16(A, B);
} }
__m128i test_mm_subs_epu8(__m128i A, __m128i B) { __m128i test_mm_subs_epu8(__m128i A, __m128i B) {
// CHECK-LABEL: test_mm_subs_epu8 // CHECK-LABEL: test_mm_subs_epu8
// CHECK: call <16 x i8> @llvm.x86.sse2.psubus.b(<16 x i8> %{{.*}}, <16 x i8> %{{.*}}) // CHECK-NOT: call <16 x i8> @llvm.x86.sse2.psubus.b(<16 x i8> %{{.*}}, <16 x i8> %{{.*}})
// CHECK: icmp ugt <16 x i8> {{.*}}, {{.*}}
// CHECK: select <16 x i1> {{.*}}, <16 x i8> {{.*}}, <16 x i8> {{.*}}
// CHECK: sub <16 x i8> {{.*}}, {{.*}}
return _mm_subs_epu8(A, B); return _mm_subs_epu8(A, B);
} }
__m128i test_mm_subs_epu16(__m128i A, __m128i B) { __m128i test_mm_subs_epu16(__m128i A, __m128i B) {
// CHECK-LABEL: test_mm_subs_epu16 // CHECK-LABEL: test_mm_subs_epu16
// CHECK: call <8 x i16> @llvm.x86.sse2.psubus.w(<8 x i16> %{{.*}}, <8 x i16> %{{.*}}) // CHECK-NOT: call <8 x i16> @llvm.x86.sse2.psubus.w(<8 x i16> %{{.*}}, <8 x i16> %{{.*}})
// CHECK: icmp ugt <8 x i16> {{.*}}, {{.*}}
// CHECK: select <8 x i1> {{.*}}, <8 x i16> {{.*}}, <8 x i16> {{.*}}
// CHECK: sub <8 x i16> {{.*}}, {{.*}}
return _mm_subs_epu16(A, B); return _mm_subs_epu16(A, B);
} }
int test_mm_ucomieq_sd(__m128d A, __m128d B) { int test_mm_ucomieq_sd(__m128d A, __m128d B) {
// CHECK-LABEL: test_mm_ucomieq_sd // CHECK-LABEL: test_mm_ucomieq_sd
// CHECK: call i32 @llvm.x86.sse2.ucomieq.sd(<2 x double> %{{.*}}, <2 x double> %{{.*}}) // CHECK: call i32 @llvm.x86.sse2.ucomieq.sd(<2 x double> %{{.*}}, <2 x double> %{{.*}})
return _mm_ucomieq_sd(A, B); return _mm_ucomieq_sd(A, B);
} }
▲ Show 20 Lines • Show All 114 Lines • Show Last 20 Lines