diff --git a/pisi/delta.py b/pisi/delta.py
index 1b23a3ab..43746005 100644
--- a/pisi/delta.py
+++ b/pisi/delta.py
@@ -79,7 +79,10 @@ def create_delta_package(old_package, new_package):
 
     deltapkg.close()
 
-    os.unlink(util.join_path(ctx.config.tmp_dir(), ctx.const.install_tar_lzma))
+    tmp_file = util.join_path(ctx.config.tmp_dir(), ctx.const.install_tar_lzma)
+    if os.path.exists(tmp_file):
+        os.unlink(tmp_file)
+
     ctx.build_leftover = None
     os.chdir(c)