稅務總局的成立不是壹蹴而就的，而是壹個漸進的過程。1858年，英法聯軍攻陷大沽，清廷被迫簽訂天津條約及其附件約通商章程善後條約：海關稅則。1859年初，兩江總督何桂清任命李泰國為各海關總稅務司。在剛就任總稅務司時，他只控制江海關的對外收稅，但很快他就開始構建以稅務司為核心的海關體系，試圖把所有的新海關都置於總稅務司的控制之下。1859年10月，新月新館和潮新館在李泰國成立。他還開始制定稅務總局的人員編制和預算。按照李泰國的設想，總稅務司包括總稅務司壹名、委員若幹名、副主筆壹名、國內寫作教師三名、軍官十名，工資支出***計25920兩。1861年，赫德開始擔任李泰國稅務總局代理局長，並在每個港口設立了11個新的海關辦事處。自1864年開始，稅務總局的名稱被正式使用，並壹直延續至今。這壹名稱的使用也標誌著稅務總局的最終形成。
稅務總局原設在上海。自1865年冬以來，稅務總局局長赫德壹直活躍在北京。因此，從這壹年起，稅務總局也遷到北京工作，直到1929年。在京期間，稅務總局經歷了赫德、裴世凱、安格連、易四個稅務總局。其中赫德在位時間最長，他掌控中國海關長達半個世紀。稅務總局雖然主管關稅征收，但也幹預中國的外交活動。比如1885年赫德插手中法談判，導致中法戰爭中國不敗。1886年，赫德與英國外交部合謀，迫使清政府簽訂緬甸條款，使中國付出了緬甸的代價。此外，稅務總局還處理洋務，尤其是郵政。1996年，清廷正式委托稅務總局處理中國郵政，郵政總局設在稅務總局，赫德為郵政總局。就這樣，中國近代的郵政事業逐漸起步。
1927年南京國民政府成立，下令稅務總局遷至南京，但由於稅務總局的抵制，實際上還是遷到了上海。1949年，中華人民***和國成立，稅務總局被撤銷。