“首違不罰”這個詞語，在稅務系統和納稅人中經常被提及。這是好事，體現了壹種法治精神，但也必須意識到，如果擅加理解，特別是在稅務執法時自作主張、擅用濫用“首違不罰”，則將可能釀成執法風險。所稱對稅收違法行為“首違不罰”，是指對於納稅人首次發生的情節輕微，能夠及時糾正，未造成危害後果的部分違法行為，依法免予處罰。也就是說，並非對所有的稅收違法行為均適用“首違不罰”。按照現有規定，稅務行政處罰中的“首違不罰”是指，對於“法律、法規、規章規定可以給予行政處罰，當事人首次違反且情節輕微，並在稅務機關發現前主動改正的或者在稅務機關責令限期改正的期限內改正的，不予行政處罰”。註意！這裏有個必須註意的關鍵詞——“可以”（給予）。也就是說，只有法律、法規、規章規定（選擇）“可以”給予行政處罰的事項才適用，而對直接規定“處以”行政處罰的事項則不適用。
法律、法規、規章在設定（規定）行政處罰條款時，都會有“可以處”“可處”或者“處以”“處”的標識表述。
法條中，“可以處”“可處”“可以並處”“可並處”等加有“可”“可以”作前綴的，為選擇性表述，即對所列行為是可以給予行政處罰，也可以不給予處罰。法條中，“處以”“處”、“並處以”“並處”等無可選擇前綴詞語的，為必須的意思，即對所列行為應當給予行政處罰。
設有處罰條款的稅收法律、法規主要是《稅收征收管理法》和《發票管理辦法》及部分規章。對於處罰的表述也是分別為“可以處”“可以並處”或者“處”“並處”。如：《稅收征收管理法》第七十條，對於納稅人、扣繳義務人逃避、拒絕或者以其他方式阻撓稅務機關檢查的，規定“可以處”壹萬元以下的罰款；繼而對違法行為情節嚴重的，規定“處”壹萬元以上五萬元以下的罰款。即，對於壹般性質的稅收違法行為，基本先是規定對輕微情節的行為“可以處”或“可以並處”罰款；繼而再對違法行為情節嚴重的，規定“處”或“並處”罰款，且罰款金額的起點（下限）不低於於第壹檔的上限。