法律分析：目前已經實行三證合壹，不再需要專門進行稅務登記辦理。在工商註冊時需要提供會計證，在發行發票時需要提供會計證，在辦理壹般納稅人資格登記時需要會計證。 稅務機關記錄該單位的財務人員沒有變更，如該單位涉嫌偷稅漏稅，可能會傳詢法人、財務人員，多少都會受到影響。所以，辭職後要督促單位負責人和現任財務人員，到稅務辦理財務人員變更登記。
法律依據：《稅務登記管理辦法》 第二十六條 納稅人發生解散、破產、撤銷以及其他情形，依法終止納稅義務的，應當在向工商行政管理機關或者其他機關辦理註銷登記前，持有關證件和資料向原稅務登記機關申報辦理註銷稅務登記;按規定不需要在工商行政管理機關或者其他機關辦理註冊登記的，應當自有關機關批準或者宣告終止之日起15日內，持有關證件和資料向原稅務登記機關申報辦理註銷稅務登記。
納稅人被工商行政管理機關吊銷營業執照或者被其他機關予以撤銷登記的，應當自營業執照被吊銷或者被撤銷登記之日起15日內，向原稅務登記機關申報辦理註銷稅務登記。