1909年7月，中國高等航海教育發軔於上海，晚清郵傳部上海高等實業學堂（南洋公學）監督唐文治於該學堂增設船政科(航海專科)，學制4年，開創了中國高等航海教育的先河。
1911年(宣統三年正月) 郵傳部決定於上海吳淞炮臺灣創建商船學校，並電令唐文治操辦。
1911年8月，上海吳淞炮臺灣校舍建成，該校定名為“郵傳部高等商船學堂”，仍由郵傳部高等實業學堂管理，學堂監督由唐文治兼任，聘夏孫鵬為教務長，上海高等實業學堂船政科劃歸商船學堂。
1912年1月，郵傳部上海高等商船學堂改由國民政府交通部直轄，易名為吳淞商船學堂，唐文治兼任校長。
1912年3月 國民政府交通部任命原清末籌備海軍大臣、海軍提督薩鎮冰為吳淞商船學校校長。3月15日薩鎮冰到職。
1912年9月22日，吳淞商船學校遷入吳淞炮臺灣新校舍，命名為國立吳淞商船專科學校。校舍占地面積約百余畝，設有實習工廠、遊泳池、運動場、圖書室、儀器室等。
1915年 吳淞商船學校奉國民政府之命停辦，全部校舍、實習船及書籍、儀器等由海軍部接收，開辦海軍學校。
1928年 國民政府交通部決定收回吳淞商船學校校舍，籌備恢復吳淞商船學校。
1929年9月1日 吳淞商船學校正式復校，定校名為交通部吳淞商船專科學校，校長由交通部部長王伯群兼任，楊誌雄任雄副校長，主持日常校務。校舍仍為原吳淞商船學校校舍。
1929年10月8日 吳淞商船專科學校正式開學。學校將1929年10月8日定為復校紀念日。
1932年“壹·二八”事變，吳淞商船專科學校校舍被日軍轟炸，學校在上海市內租屋上課。
1933年春 吳淞商船專科學校校舍修復，學校遷回，更名為吳淞商船專科學校。
1933年8月 吳淞商船專科學校奉令停辦預科，改設附屬高級中學。
1935年8月 吳淞商船專科學校停招附屬高中新生。
1937年 日寇入侵中國，抗日戰爭爆發，在“八·壹三”淞滬戰役中，吳淞商船專科學校校舍被侵略炮火摧毀，學校被迫停辦。
1939年6月，因戰火內遷重慶，國民政府國防最高會議教育專門委員會決定在重慶恢復吳淞商船專科學校，改稱“國立重慶商船專科學校”，隸屬於教育部。
1939年11月27日 國立重慶商船專科學校於“江順”輪舉行隆重開學典禮。
1942年秋 國立重慶商船專科學校新校舍在溉瀾溪落成。
1943年，國立重慶商船專科學校並入國立重慶交通大學。
1945年11月 抗戰勝利後，並入交通大學的國立重慶商船專科學校師生遷回上海。
1946年10月14日，國立吳淞商船專科學校在上海東長治路505號（原雷士德工學院舊址）正式開學。至此，學校經三度停辦終在上海再次復校。交通大學代管的航海、輪機兩科復歸於吳淞商船專科學校。
1950年9月，吳淞商船專科學校與上海交通大學航業管理系及海關總署稅務專科學校海事班合並升格為上海航務學院，設航海系、輪機系和無線電專修科。
1958年，交通部決定在上海恢復上海航務學院建制，隨委托上海海運局負責教室校舍等基礎設施籌建工作。
1959年9月5日，學校正式開學，並命名為上海海運學院，為交通部所屬，校址設於浦東大道1550號。
1961年9月，上海海運學院籌建工作初步完成，遂脫離上海海運局，由交通部直接領導，為交通部部屬重點院校，黨委由中***上海市委領導。建校初期設海洋船舶駕駛、輪機管理、船舶機械、港口機械等專業，並附設專業基本相同的中專部和壹所普通中學。
1962年，交通部決定對所屬院校進行專業調整，先後將上海海運學院海洋運輸類專業調整到大連海運學院，將機械工程類專業調整到武漢水運工程學院，同時將該兩校的管理和經濟類專業調入上海海運學院。又在上海海運學院院陸續創辦了遠洋運輸業務、交通財務會計、英語、法語等專業。
1966年，轉變成為交通部所屬以水運經濟管理為主要專業的交通部重點高等院校。
1972年，先後恢復海洋運輸類各專業。2000年，實行交通部和上海市雙重領導、以交通部為主的領導體制，學院內部實行黨委領導下的院長負責制和院系兩級管理體制。
2004年，經教育部批準，上海海運學院更名為上海海事大學。同年11月19日，臨港新城新校建設破土動工。
2008年10月，上海海事大學臨港新城新校基本建成。校園占地面積133萬余平方米，總建築面積60萬平方米，綠化率52%，水域面積8萬平方米。
2009年，中國高等航海教育和上海海事大學迎來她們的百年華誕，歷經百年的中國高等航海教育發軔於上海。同年9月23日，吳淞商船專科學校200余名校友齊聚上海海事大學新校區，隆重紀念中國高等航海教育之源——吳淞商船專科學校建校100周年。會後舉行了吳淞商船專科學校建校100周年紀念碑揭幕儀式。該紀念碑象征著吳淞商船專科學校的百年歷程。