主要區別是與國務院的關系，機構設置、責任，法律地位等方面的不同。
具體區別：
（壹）部、委、行、署是國務院組成部門，其行政首長均為國務院組成人員。部、委、行、署是國務院的職能機構。在國務院統壹領導下，負責領導和管理某壹方面的行政事務，行使特定的國家行政權力。其行政首長任免，部委的設立、撤銷或變動由全國人大決定。如以下部分：?
1、宏觀調控部門 ?
包括國家發展和改革委員會、財政部和中國人民銀行。?
2、專業經濟管理部門?
包括鐵道部、交通部、建設部、農業部、水利部、商務部、信息產業部和國防科學技術工業委員會。?
3、社會保障部門?
包括勞動和社會保障部、人事部、國家人口和計劃生育委員會。?
4、資源管理部門?
國土資源部。 ?
5、外交、內務和保障部門?
包括外交部、國家民族事務委員會、民政部、司法部、公安部、國家安全部、國防部、監察部和審計署。?
6、教科文衛管理部門?
包括教育部、科學技術部、文化部、衛生部。
（二）國務院直屬機構?
國務院直屬機構，是在國務院統壹領導下，主管某項專門行政業務的機構。國務院直屬機構的行政地位低於部、委、行、署，其設立、撤銷或變動由國務院會議討論決定。直屬機構的行政首長經國務院常務會議討論決定，由總理任免，他們不是國務院的組成人員。如以下部分：
海關總署、國家稅務總局、國家工商行政管理總局、國家質量監督檢驗檢疫總局、國家環境保護總局、中國民用航空總局、國家廣播電影電視總局、新聞出版總署（國家版權局）、國家體育總局、國家統計局、國家林業局、國家食品藥品監督管理局、國家安全生產監督管理總局、國家知識產權局、國家旅遊局、國家宗教事務局、國務院參事室，國務院機關事務管理局。
（三）國家局?
國家局是國務院歸各個部委歸口管理的具有較強獨立性的、專門管理某些行業和事務的工作部門。國家局不直屬國務院領導，接受有關部委的領導，但不是部委內部的職能司局。 國家局的主要職責是負責制定行業規劃和行業政策，進行行業管理。如以下部分：?
國家信訪局（由國務院辦公廳管理）、國家糧食局（由國家發展和改革委員會管理）、國家煙草專賣局（由國家發展和改革委員會管理）、國家外國專家局（由人事部管理）、國家海洋局（由國土資源部管理）、國家測繪局（由國土資源部管理）、 國家郵政局（由信息產業部管理）、國家中醫藥管理局（由衛生部管理）、國家外匯管理局（由中國人民銀行管理）、國家語言文字工作委員會（由教育部管理）、國家文物局（由文化部管理）。