稅收優先於稅務機關的罰款，這句話是正確的。納稅人欠繳稅款，同時又被行政機關決定處以罰款、沒收違法所得的，稅收優先於罰款、沒收違法所得。
根據《中華人民***和國稅收征收管理法》第四十五條稅務機關征收稅款，稅收優先於無擔保債權，法律另有規定的除外;納稅人欠繳的稅款發生在納稅人以其財產設定抵押、質押或者納稅人的財產被留置之前的，稅收應當先於抵押權、質權、留置權執行。
納稅人欠繳稅款，同時又被行政機關決定處以罰款、沒收違法所得的，稅收優先於罰款、沒收違法所得。稅務機關應當對納稅人欠繳稅款的情況定期予以公告。
擴展資料：
《中華人民***和國稅收征收管理法》第六十壹條扣繳義務人未按照規定設置、保管代扣代繳、代收代繳稅款帳簿或者保管代扣代繳、代收代繳稅款記帳憑證及有關資料的，由稅務機關責令限期改正，可以處二千元以下的罰款;情節嚴重的，處二千元以上五千元以下的罰款。
第六十二條納稅人未按照規定的期限辦理納稅申報和報送納稅資料的，或者扣繳義務人未按照規定的期限向稅務機關報送代扣代繳、代收代繳稅款報告表和有關資料的，由稅務機關責令限期改正，可以處二千元以下的罰款;情節嚴重的，可以處二千元以上壹萬元以下的罰款。
中國人大網——中華人民***和國稅收征收管理法