虚开增值税专用发票,税务机关补税罚款后,必须移交司法部门追究刑事责任。公安部门立案后,如果认为情节轻微,而且已经追回国家损失(包括虚开的开具方和接受方都已经缴纳了相应税款),检察机关和法院可以免于刑事处罚。