diff --git a/mlir/lib/Dialect/SparseTensor/Transforms/CodegenUtils.cpp b/mlir/lib/Dialect/SparseTensor/Transforms/CodegenUtils.cpp
--- a/mlir/lib/Dialect/SparseTensor/Transforms/CodegenUtils.cpp
+++ b/mlir/lib/Dialect/SparseTensor/Transforms/CodegenUtils.cpp
@@ -199,36 +199,42 @@
 //===----------------------------------------------------------------------===//
 
 Value sparse_tensor::genCast(OpBuilder &builder, Location loc, Value value,
-                             Type dstTy) {
-  Type srcTy = value.getType();
-  if (srcTy != dstTy) {
-    // int <=> index
-    if (dstTy.isa<IndexType>() || srcTy.isa<IndexType>())
-      return builder.create<arith::IndexCastOp>(loc, dstTy, value);
-
-    bool ext = srcTy.getIntOrFloatBitWidth() < dstTy.getIntOrFloatBitWidth();
-
-    // float => float.
-    if (srcTy.isa<FloatType>() && dstTy.isa<FloatType>() && ext)
-      return builder.create<arith::ExtFOp>(loc, dstTy, value);
-
-    if (srcTy.isa<FloatType>() && dstTy.isa<FloatType>() && !ext)
-      return builder.create<arith::TruncFOp>(loc, dstTy, value);
-
-    // int => int
-    if (srcTy.isUnsignedInteger() && dstTy.isa<IntegerType>() && ext)
-      return builder.create<arith::ExtUIOp>(loc, dstTy, value);
-
-    if (srcTy.isSignedInteger() && dstTy.isa<IntegerType>() && ext)
-      return builder.create<arith::ExtSIOp>(loc, dstTy, value);
-
-    if (srcTy.isa<IntegerType>() && dstTy.isa<IntegerType>() && !ext)
-      return builder.create<arith::TruncIOp>(loc, dstTy, value);
+                             Type dstTp) {
+  const Type srcTp = value.getType();
+  if (srcTp == dstTp)
+    return value;
+
+  // int <=> index
+  if (srcTp.isa<IndexType>() || dstTp.isa<IndexType>())
+    return builder.create<arith::IndexCastOp>(loc, dstTp, value);
+
+  const bool ext =
+      srcTp.getIntOrFloatBitWidth() < dstTp.getIntOrFloatBitWidth();
+
+  // float => float.
+  if (srcTp.isa<FloatType>() && dstTp.isa<FloatType>()) {
+    // Can't use `?:` here because of the implicit conversion from
+    // `Operation*` to `Value`.
+    if (ext)
+      return builder.create<arith::ExtFOp>(loc, dstTp, value);
+    if (!ext)
+      return builder.create<arith::TruncFOp>(loc, dstTp, value);
+  }
 
-    llvm_unreachable("unhandled type casting");
+  // int => int
+  const auto srcIntTp = srcTp.dyn_cast<IntegerType>();
+  if (srcIntTp && dstTp.isa<IntegerType>()) {
+    // Can't use `?:` here because of the implicit conversion from
+    // `Operation*` to `Value`.
+    if (ext && srcIntTp.isUnsigned())
+      return builder.create<arith::ExtUIOp>(loc, dstTp, value);
+    if (ext && srcIntTp.isSigned())
+      return builder.create<arith::ExtSIOp>(loc, dstTp, value);
+    if (!ext)
+      return builder.create<arith::TruncIOp>(loc, dstTp, value);
   }
 
-  return value;
+  llvm_unreachable("unhandled type casting");
 }
 
 mlir::Attribute mlir::sparse_tensor::getOneAttr(Builder &builder, Type tp) {