Index: lib/Target/Mips/MipsMSAInstrInfo.td =================================================================== --- lib/Target/Mips/MipsMSAInstrInfo.td +++ lib/Target/Mips/MipsMSAInstrInfo.td @@ -3731,3 +3731,55 @@ MSA128D, NoItinerary>; def SZ_V_PSEUDO : MSA_CBRANCH_PSEUDO_DESC_BASE; + +// Vector extraction with variable index +def : MSAPat<(i32 (vextract_sext_i8 v16i8:$ws, i32:$idx)), + (SRA (COPY_TO_REGCLASS (i32 (EXTRACT_SUBREG (SPLAT_B v16i8:$ws, + i32:$idx), + sub_lo)), + GPR32), (i32 24))>; +def : MSAPat<(i32 (vextract_sext_i16 v8i16:$ws, i32:$idx)), + (SRA (COPY_TO_REGCLASS (i32 (EXTRACT_SUBREG (SPLAT_H v8i16:$ws, + i32:$idx), + sub_lo)), + GPR32), (i32 16))>; +def : MSAPat<(i32 (vextract_sext_i32 v4i32:$ws, i32:$idx)), + (COPY_TO_REGCLASS (i32 (EXTRACT_SUBREG (SPLAT_W v4i32:$ws, + i32:$idx), + sub_lo)), + GPR32)>; +def : MSAPat<(i64 (vextract_sext_i64 v2i64:$ws, i32:$idx)), + (COPY_TO_REGCLASS (i64 (EXTRACT_SUBREG (SPLAT_D v2i64:$ws, + i32:$idx), + sub_64)), + GPR64), [HasMSA, IsGP64bit]>; + +def : MSAPat<(i32 (vextract_zext_i8 v16i8:$ws, i32:$idx)), + (SRL (COPY_TO_REGCLASS (i32 (EXTRACT_SUBREG (SPLAT_B v16i8:$ws, + i32:$idx), + sub_lo)), + GPR32), (i32 24))>; +def : MSAPat<(i32 (vextract_zext_i16 v8i16:$ws, i32:$idx)), + (SRL (COPY_TO_REGCLASS (i32 (EXTRACT_SUBREG (SPLAT_H v8i16:$ws, + i32:$idx), + sub_lo)), + GPR32), (i32 16))>; +def : MSAPat<(i32 (vextract_zext_i32 v4i32:$ws, i32:$idx)), + (COPY_TO_REGCLASS (i32 (EXTRACT_SUBREG (SPLAT_W v4i32:$ws, + i32:$idx), + sub_lo)), + GPR32)>; +def : MSAPat<(i64 (vextract_zext_i64 v2i64:$ws, i32:$idx)), + (COPY_TO_REGCLASS (i64 (EXTRACT_SUBREG (SPLAT_D v2i64:$ws, + i32:$idx), + sub_64)), + GPR64), [HasMSA, IsGP64bit]>; + +def : MSAPat<(f32 (vector_extract v4f32:$ws, i32:$idx)), + (f32 (EXTRACT_SUBREG (SPLAT_W v4f32:$ws, + i32:$idx), + sub_lo))>; +def : MSAPat<(f64 (vector_extract v2f64:$ws, i32:$idx)), + (f64 (EXTRACT_SUBREG (SPLAT_D v2f64:$ws, + i32:$idx), + sub_64))>; Index: test/CodeGen/Mips/msa/basic_operations.ll =================================================================== --- test/CodeGen/Mips/msa/basic_operations.ll +++ test/CodeGen/Mips/msa/basic_operations.ll @@ -6,6 +6,7 @@ @v8i16 = global <8 x i16> @v4i32 = global <4 x i32> @v2i64 = global <2 x i64> +@i32 = global i32 0 @i64 = global i64 0 define void @const_v16i8() nounwind { @@ -397,6 +398,196 @@ ; MIPS32-AE: .size extract_zext_v2i64 } +define i32 @extract_sext_v16i8_vidx() nounwind { + ; MIPS32-AE: extract_sext_v16i8_vidx: + + %1 = load <16 x i8>* @v16i8 + ; MIPS32-AE-DAG: lw [[PTR_V:\$[0-9]+]], %got(v16i8)( + ; MIPS32-AE-DAG: ld.b [[R1:\$w[0-9]+]], 0([[PTR_V]]) + + %2 = add <16 x i8> %1, %1 + ; MIPS32-AE-DAG: addv.b [[R2:\$w[0-9]+]], [[R1]], [[R1]] + + %3 = load i32* @i32 + ; MIPS32-AE-DAG: lw [[PTR_I:\$[0-9]+]], %got(i32)( + ; MIPS32-AE-DAG: lw [[IDX:\$[0-9]+]], 0([[PTR_I]]) + + %4 = extractelement <16 x i8> %2, i32 %3 + %5 = sext i8 %4 to i32 + ; MIPS32-AE-DAG: splat.b $w[[R3:[0-9]+]], [[R1]]{{\[}}[[IDX]]] + ; MIPS32-AE-DAG: mfc1 [[R5:\$[0-9]+]], $f[[R3]] + ; MIPS32-AE-DAG: sra [[R6:\$[0-9]+]], [[R5]], 24 + + ret i32 %5 + ; MIPS32-AE: .size extract_sext_v16i8_vidx +} + +define i32 @extract_sext_v8i16_vidx() nounwind { + ; MIPS32-AE: extract_sext_v8i16_vidx: + + %1 = load <8 x i16>* @v8i16 + ; MIPS32-AE-DAG: lw [[PTR_V:\$[0-9]+]], %got(v8i16)( + ; MIPS32-AE-DAG: ld.h [[R1:\$w[0-9]+]], 0([[PTR_V]]) + + %2 = add <8 x i16> %1, %1 + ; MIPS32-AE-DAG: addv.h [[R2:\$w[0-9]+]], [[R1]], [[R1]] + + %3 = load i32* @i32 + ; MIPS32-AE-DAG: lw [[PTR_I:\$[0-9]+]], %got(i32)( + ; MIPS32-AE-DAG: lw [[IDX:\$[0-9]+]], 0([[PTR_I]]) + + %4 = extractelement <8 x i16> %2, i32 %3 + %5 = sext i16 %4 to i32 + ; MIPS32-AE-DAG: splat.h $w[[R3:[0-9]+]], [[R1]]{{\[}}[[IDX]]] + ; MIPS32-AE-DAG: mfc1 [[R5:\$[0-9]+]], $f[[R3]] + ; MIPS32-AE-DAG: sra [[R6:\$[0-9]+]], [[R5]], 16 + + ret i32 %5 + ; MIPS32-AE: .size extract_sext_v8i16_vidx +} + +define i32 @extract_sext_v4i32_vidx() nounwind { + ; MIPS32-AE: extract_sext_v4i32_vidx: + + %1 = load <4 x i32>* @v4i32 + ; MIPS32-AE-DAG: lw [[PTR_V:\$[0-9]+]], %got(v4i32)( + ; MIPS32-AE-DAG: ld.w [[R1:\$w[0-9]+]], 0([[PTR_V]]) + + %2 = add <4 x i32> %1, %1 + ; MIPS32-AE-DAG: addv.w [[R2:\$w[0-9]+]], [[R1]], [[R1]] + + %3 = load i32* @i32 + ; MIPS32-AE-DAG: lw [[PTR_I:\$[0-9]+]], %got(i32)( + ; MIPS32-AE-DAG: lw [[IDX:\$[0-9]+]], 0([[PTR_I]]) + + %4 = extractelement <4 x i32> %2, i32 %3 + ; MIPS32-AE-DAG: splat.w $w[[R3:[0-9]+]], [[R1]]{{\[}}[[IDX]]] + ; MIPS32-AE-DAG: mfc1 [[R5:\$[0-9]+]], $f[[R3]] + + ret i32 %4 + ; MIPS32-AE: .size extract_sext_v4i32_vidx +} + +define i64 @extract_sext_v2i64_vidx() nounwind { + ; MIPS32-AE: extract_sext_v2i64_vidx: + + %1 = load <2 x i64>* @v2i64 + ; MIPS32-AE-DAG: lw [[PTR_V:\$[0-9]+]], %got(v2i64)( + ; MIPS32-AE-DAG: ld.d [[R1:\$w[0-9]+]], 0([[PTR_V]]) + + %2 = add <2 x i64> %1, %1 + ; MIPS32-AE-DAG: addv.d [[R2:\$w[0-9]+]], [[R1]], [[R1]] + + %3 = load i32* @i32 + ; MIPS32-AE-DAG: lw [[PTR_I:\$[0-9]+]], %got(i32)( + ; MIPS32-AE-DAG: lw [[IDX:\$[0-9]+]], 0([[PTR_I]]) + + %4 = extractelement <2 x i64> %2, i32 %3 + ; MIPS32-AE-DAG: splat.w $w[[R3:[0-9]+]], [[R1]]{{\[}}[[IDX]]] + ; MIPS32-AE-DAG: mfc1 [[R5:\$[0-9]+]], $f[[R3]] + ; MIPS32-AE-DAG: splat.w $w[[R4:[0-9]+]], [[R1]]{{\[}}[[IDX]]] + ; MIPS32-AE-DAG: mfc1 [[R6:\$[0-9]+]], $f[[R4]] + ; MIPS32-AE-NOT: sra + + ret i64 %4 + ; MIPS32-AE: .size extract_sext_v2i64_vidx +} + +define i32 @extract_zext_v16i8_vidx() nounwind { + ; MIPS32-AE: extract_zext_v16i8_vidx: + + %1 = load <16 x i8>* @v16i8 + ; MIPS32-AE-DAG: lw [[PTR_V:\$[0-9]+]], %got(v16i8)( + ; MIPS32-AE-DAG: ld.b [[R1:\$w[0-9]+]], 0([[PTR_V]]) + + %2 = add <16 x i8> %1, %1 + ; MIPS32-AE-DAG: addv.b [[R2:\$w[0-9]+]], [[R1]], [[R1]] + + %3 = load i32* @i32 + ; MIPS32-AE-DAG: lw [[PTR_I:\$[0-9]+]], %got(i32)( + ; MIPS32-AE-DAG: lw [[IDX:\$[0-9]+]], 0([[PTR_I]]) + + %4 = extractelement <16 x i8> %2, i32 %3 + %5 = zext i8 %4 to i32 + ; MIPS32-AE-DAG: splat.b $w[[R3:[0-9]+]], [[R1]]{{\[}}[[IDX]]] + ; MIPS32-AE-DAG: mfc1 [[R5:\$[0-9]+]], $f[[R3]] + ; MIPS32-AE-DAG: srl [[R6:\$[0-9]+]], [[R5]] + + ret i32 %5 + ; MIPS32-AE: .size extract_zext_v16i8_vidx +} + +define i32 @extract_zext_v8i16_vidx() nounwind { + ; MIPS32-AE: extract_zext_v8i16_vidx: + + %1 = load <8 x i16>* @v8i16 + ; MIPS32-AE-DAG: lw [[PTR_V:\$[0-9]+]], %got(v8i16)( + ; MIPS32-AE-DAG: ld.h [[R1:\$w[0-9]+]], 0([[PTR_V]]) + + %2 = add <8 x i16> %1, %1 + ; MIPS32-AE-DAG: addv.h [[R2:\$w[0-9]+]], [[R1]], [[R1]] + + %3 = load i32* @i32 + ; MIPS32-AE-DAG: lw [[PTR_I:\$[0-9]+]], %got(i32)( + ; MIPS32-AE-DAG: lw [[IDX:\$[0-9]+]], 0([[PTR_I]]) + + %4 = extractelement <8 x i16> %2, i32 %3 + %5 = zext i16 %4 to i32 + ; MIPS32-AE-DAG: splat.h $w[[R3:[0-9]+]], [[R1]]{{\[}}[[IDX]]] + ; MIPS32-AE-DAG: mfc1 [[R5:\$[0-9]+]], $f[[R3]] + ; MIPS32-AE-DAG: srl [[R6:\$[0-9]+]], [[R5]] + + ret i32 %5 + ; MIPS32-AE: .size extract_zext_v8i16_vidx +} + +define i32 @extract_zext_v4i32_vidx() nounwind { + ; MIPS32-AE: extract_zext_v4i32_vidx: + + %1 = load <4 x i32>* @v4i32 + ; MIPS32-AE-DAG: lw [[PTR_V:\$[0-9]+]], %got(v4i32)( + ; MIPS32-AE-DAG: ld.w [[R1:\$w[0-9]+]], 0([[PTR_V]]) + + %2 = add <4 x i32> %1, %1 + ; MIPS32-AE-DAG: addv.w [[R2:\$w[0-9]+]], [[R1]], [[R1]] + + %3 = load i32* @i32 + ; MIPS32-AE-DAG: lw [[PTR_I:\$[0-9]+]], %got(i32)( + ; MIPS32-AE-DAG: lw [[IDX:\$[0-9]+]], 0([[PTR_I]]) + + %4 = extractelement <4 x i32> %2, i32 %3 + ; MIPS32-AE-DAG: splat.w $w[[R3:[0-9]+]], [[R1]]{{\[}}[[IDX]]] + ; MIPS32-AE-DAG: mfc1 [[R5:\$[0-9]+]], $f[[R3]] + + ret i32 %4 + ; MIPS32-AE: .size extract_zext_v4i32_vidx +} + +define i64 @extract_zext_v2i64_vidx() nounwind { + ; MIPS32-AE: extract_zext_v2i64_vidx: + + %1 = load <2 x i64>* @v2i64 + ; MIPS32-AE-DAG: lw [[PTR_V:\$[0-9]+]], %got(v2i64)( + ; MIPS32-AE-DAG: ld.d [[R1:\$w[0-9]+]], 0([[PTR_V]]) + + %2 = add <2 x i64> %1, %1 + ; MIPS32-AE-DAG: addv.d [[R2:\$w[0-9]+]], [[R1]], [[R1]] + + %3 = load i32* @i32 + ; MIPS32-AE-DAG: lw [[PTR_I:\$[0-9]+]], %got(i32)( + ; MIPS32-AE-DAG: lw [[IDX:\$[0-9]+]], 0([[PTR_I]]) + + %4 = extractelement <2 x i64> %2, i32 %3 + ; MIPS32-AE-DAG: splat.w $w[[R3:[0-9]+]], [[R1]]{{\[}}[[IDX]]] + ; MIPS32-AE-DAG: mfc1 [[R5:\$[0-9]+]], $f[[R3]] + ; MIPS32-AE-DAG: splat.w $w[[R4:[0-9]+]], [[R1]]{{\[}}[[IDX]]] + ; MIPS32-AE-DAG: mfc1 [[R6:\$[0-9]+]], $f[[R4]] + ; MIPS32-AE-NOT: srl + + ret i64 %4 + ; MIPS32-AE: .size extract_zext_v2i64_vidx +} + define void @insert_v16i8(i32 %a) nounwind { ; MIPS32-AE: insert_v16i8: Index: test/CodeGen/Mips/msa/basic_operations_float.ll =================================================================== --- test/CodeGen/Mips/msa/basic_operations_float.ll +++ test/CodeGen/Mips/msa/basic_operations_float.ll @@ -3,6 +3,7 @@ @v4f32 = global <4 x float> @v2f64 = global <2 x double> +@i32 = global i32 0 @f32 = global float 0.0 @f64 = global double 0.0 @@ -155,6 +156,27 @@ ; MIPS32: .size extract_v4f32_elt2 } +define float @extract_v4f32_vidx() nounwind { + ; MIPS32: extract_v4f32_vidx: + + %1 = load <4 x float>* @v4f32 + ; MIPS32-DAG: lw [[PTR_V:\$[0-9]+]], %got(v4f32)( + ; MIPS32-DAG: ld.w [[R1:\$w[0-9]+]], 0([[PTR_V]]) + + %2 = fadd <4 x float> %1, %1 + ; MIPS32-DAG: fadd.w [[R2:\$w[0-9]+]], [[R1]], [[R1]] + + %3 = load i32* @i32 + ; MIPS32-DAG: lw [[PTR_I:\$[0-9]+]], %got(i32)( + ; MIPS32-DAG: lw [[IDX:\$[0-9]+]], 0([[PTR_I]]) + + %4 = extractelement <4 x float> %2, i32 %3 + ; MIPS32-DAG: splat.w $w0, [[R1]]{{\[}}[[IDX]]] + + ret float %4 + ; MIPS32: .size extract_v4f32_vidx +} + define double @extract_v2f64() nounwind { ; MIPS32: extract_v2f64: @@ -199,6 +221,27 @@ ; MIPS32: .size extract_v2f64_elt0 } +define double @extract_v2f64_vidx() nounwind { + ; MIPS32: extract_v2f64_vidx: + + %1 = load <2 x double>* @v2f64 + ; MIPS32-DAG: lw [[PTR_V:\$[0-9]+]], %got(v2f64)( + ; MIPS32-DAG: ld.d [[R1:\$w[0-9]+]], 0([[PTR_V]]) + + %2 = fadd <2 x double> %1, %1 + ; MIPS32-DAG: fadd.d [[R2:\$w[0-9]+]], [[R1]], [[R1]] + + %3 = load i32* @i32 + ; MIPS32-DAG: lw [[PTR_I:\$[0-9]+]], %got(i32)( + ; MIPS32-DAG: lw [[IDX:\$[0-9]+]], 0([[PTR_I]]) + + %4 = extractelement <2 x double> %2, i32 %3 + ; MIPS32-DAG: splat.d $w0, [[R1]]{{\[}}[[IDX]]] + + ret double %4 + ; MIPS32: .size extract_v2f64_vidx +} + define void @insert_v4f32(float %a) nounwind { ; MIPS32: insert_v4f32: