答：根据国家税务总局关于印发《旧设备出口退（免）税暂行办法》的通知（国税发[2008]16号）第六条规定，增值税一般纳税人和非增值税纳税人出口的自用旧设备，凡购进时未取得增值税专用发票但其他单证齐全的，实行出口环节免税不退税（简称“免税不退税”）的办法。根据上述规定，由于你公司当时进口设备进口是免税的，不可能取得增值税专用发票。因此，你所述的情况如其他单证齐全的应实行免税而不是退税。
（注：上述答案仅供参考，具体事宜请向您的主管税务机关咨询。）
———————————————— 政策依据 ————————————————
国家税务总局关于印发《旧设备出口退（免）税暂行办法》的通知第六条（国税发[2008]16号）
