需要的。
根據《中華人民***和國稅收征收管理法實施細則》：
第十八條除按照規定不需要發給稅務登記證件的外，納稅人辦理下列事項時，必須持稅務登記證件：
（壹）開立銀行賬戶；
（二）申請減稅、免稅、退稅；
（三）申請辦理延期申報、延期繳納稅款；
（四）領購發票；
（五）申請開具外出經營活動稅收管理證明；
（六）辦理停業、歇業；
（七）其他有關稅務事項。
第十九條稅務機關對稅務登記證件實行定期驗證和換證制度。納稅人應當在規定的期限內持有關證件到主管稅務機關辦理驗證或者換證手續。
第二十條納稅人應當將稅務登記證件正本在其生產、經營場所或者辦公場所公開懸掛，接受稅務機關檢查。
納稅人遺失稅務登記證件的，應當在15日內書面報告主管稅務機關，並登報聲明作廢。
第二十壹條從事生產、經營的納稅人到外縣（市）臨時從事生產、經營活動的，應當持稅務登記證副本和所在地稅務機關填開的外出經營活動稅收管理證明，向營業地稅務機關報驗登記，接受稅務管理。
從事生產、經營的納稅人外出經營，在同壹地累計超過180天的，應當在營業地辦理稅務登記手續。
擴展資料：
根據《中華人民***和國稅收征收管理法》：
第十五條企業，企業在外地設立的分支機構和從事生產、經營的場所，個體工商戶和從事生產、經營的事業單位（以下統稱從事生產、經營的納稅人）自領取營業執照之日起三十日內，持有關證件，向稅務機關申報辦理稅務登記。稅務機關應當於收到申報的當日辦理登記並發給稅務登記證件。
工商行政管理機關應當將辦理登記註冊、核發營業執照的情況，定期向稅務機關通報。
本條第壹款規定以外的納稅人辦理稅務登記和扣繳義務人辦理扣繳稅款登記的範圍和辦法，由國務院規定。
第十六條從事生產、經營的納稅人，稅務登記內容發生變化的，自工商行政管理機關辦理變更登記之日起三十日內或者在向工商行政管理機關申請辦理註銷登記之前，持有關證件向稅務機關申報辦理變更或者註銷稅務登記。
第十七條從事生產、經營的納稅人應當按照國家有關規定，持稅務登記證件，在銀行或者其他金融機構開立基本存款帳戶和其他存款帳戶，並將其全部帳號向稅務機關報告。
銀行和其他金融機構應當在從事生產、經營的納稅人的帳戶中登錄稅務登記證件號碼，並在稅務登記證件中登錄從事生產、經營的納稅人的帳戶帳號。
稅務機關依法查詢從事生產、經營的納稅人開立帳戶的情況時，有關銀行和其他金融機構應當予以協助。
第六十條納稅人有下列行為之壹的，由稅務機關責令限期改正，可以處二千元以下的罰款；情節嚴重的，處二千元以上壹萬元以下的罰款：
（壹）未按照規定的期限申報辦理稅務登記、變更或者註銷登記的；
（二）未按照規定設置、保管帳簿或者保管記帳憑證和有關資料的；
（三）未按照規定將財務、會計制度或者財務、會計處理辦法和會計核算軟件報送稅務機關備查的；
（四）未按照規定將其全部銀行帳號向稅務機關報告的；
（五）未按照規定安裝、使用稅控裝置，或者損毀或者擅自改動稅控裝置的。
納稅人不辦理稅務登記的，由稅務機關責令限期改正；逾期不改正的，經稅務機關提請，由工商行政管理機關吊銷其營業執照。
納稅人未按照規定使用稅務登記證件，或者轉借、塗改、損毀、買賣、偽造稅務登記證件的，處二千元以上壹萬元以下的罰款；情節嚴重的，處壹萬元以上五萬元以下的罰款。
百度百科-中華人民***和國稅收征收管理法實施細則