上海市國家稅務局是根據《中***中央辦公廳、國務院辦公廳關於印發的通知》(廳字〔2008〕17號)的規定設立，為市政府直屬機構。上海市地方稅務局與上海市國家稅務局合署辦公。
2018年6月15日，上海市國家稅務局和上海市地方稅務局合並後新組建的國家稅務總局上海市稅務局。