撤不了，你就和新单位说，保险已经缴至三月了，单位是害怕你在单位工作却没有缴纳保险，万一工作了单位还得担责。话说原单位对你不错，哈哈，对你好也成了麻烦。和新单位好好说一说，协商解决吧。
解除劳动合同就没有保险了
与新单位商议解决。
