1、行為人首次違法；
2、行為人造成的損害後果輕微；
3、行為人有及時改正行為。不予行政處罰的情形有：
1、首次違法，情節輕微未造成損害後果，及時糾正；
2、非首次違法，情節輕微未造成損害後果，及時糾正。
根據規定，初次違法且危害後果輕微並及時改正的，可以不予行政處罰。
首違不罰的制度並不只是單獨適用於稅務上，它適用於所有的行政處罰。簡單來說，首違不罰，需要同時滿足初次違法、違法情節輕微且沒有造成嚴重後果，同時能夠及時改正等條件。
“首違不罰”十項清單具體包括：納稅人未按照稅收征收管理法及實施細則等有關規定將其全部銀行賬號向稅務機關報送；納稅人未按照稅收征收管理法及實施細則等有關規定設置、保管賬簿或者保管記賬憑證和有關資料；納稅人未按照稅收征收管理法及實施細則等有關規定的期限辦理納稅申報和報送納稅資料；納稅人使用稅控裝置開具發票，未按照稅收征收管理法及實施細則、發票管理辦法等有關規定的期限向主管稅務機關報送開具發票的數據且沒有違法所得；納稅人未按照稅收征收管理法及實施細則、發票管理辦法等有關規定取得發票，以其他憑證代替發票使用且沒有違法所得；納稅人未按照稅收征收管理法及實施細則、發票管理辦法等有關規定繳銷發票且沒有違法所得；扣繳義務人未按照稅收征收管理法及實施細則等有關規定設置、保管代扣代繳、代收代繳稅款賬簿或者保管代扣代繳、代收代繳稅款記賬憑證及有關資料；扣繳義務人未按照稅收征收管理法及實施細則等有關規定的期限報送代扣代繳、代收代繳稅款有關資料；扣繳義務人未按照《稅收票證管理辦法》的規定開具稅收票證；境內機構或個人向非居民發包工程作業或勞務項目，未按照《非居民承包工程作業和提供勞務稅收管理暫行辦法》的規定向主管稅務機關報告有關事項。
法律依據：
《中華人民***和國行政處罰法》
第三十三條 違法行為輕微並及時改正，沒有造成危害後果的，不予行政處罰。初次違法且危害後果輕微並及時改正的，可以不予行政處罰。
當事人有證據足以證明沒有主觀過錯的，不予行政處罰。法律、行政法規另有規定的，從其規定。
對當事人的違法行為依法不予行政處罰的，行政機關應當對當事人進行教育。