法律分析：如果稅務處罰是行政處罰的，依據行政處罰法的規定，如果違法行為比較輕微的，並且違法單位主動進行改正的，可以不予處罰。
法律依據： 《中華人民***和國行政處罰法》 第二十七條 當事人有下列情形之壹的，應當依法從輕或者減輕行政處罰：
(壹)主動消除或者減輕違法行為危害後果的；
(二)受他人脅迫有違法行為的；
(三)配合行政機關查處違法行為有立功表現的；
(四)其他依法從輕或者減輕行政處罰的。
違法行為輕微並及時糾正，沒有造成危害後果的，不予行政處罰。