1900年，庚子之亂期間，美南浸信會（Southern Baptist Convention）的華中差會（在江蘇傳教）和美北浸禮會（American Baptist Missionary Union）的華東差會（在浙江傳教）成員都來到上海避難。期間他們達成了***識，決定在上海聯合創辦壹所高等學校（此前這2個差會對從事教育這樣的副業不甚熱心）。
1902年，經傳教士柏高德和另壹傳教士萬應遠代表各自差會合作籌備，在楊樹浦軍工路購得165畝土地，建造第壹所校舍，名思晏堂。
1906年，首先在北四川路北端開辦了浸會神學院（Shanghai Baptist Theological Seminary），校長是美南浸信會傳教士萬應遠博士（Dr.R.T.Bryan）。
1909年，開設浸會大學堂（Shanghai Baptist College），校長是美北浸禮會傳教士柏高德博士（Dr.J.T.Procter) 。校址選定在滬東軍工路，建成壹所黃浦江畔的綠茵遍地、風景幽雅的美麗校園。
1911年，二部分合並組建 “Shanghai Baptist College and Theological Seminary”（上海浸會大學），校長為美北浸禮會傳教士魏馥蘭（Francis John White) 。此後校務發展很快。
1914年，中文校名定為滬江大學，並確定校訓為“信、義、勤、愛”。校園面積由160余畝增加到300多畝，建有大小校舍30座，各類球場19個，遊泳池1個，以及圖書館、健身房等，成為壹所規模巨大、設備齊全的高等學府。 1917年，在美國弗吉尼亞州註冊立案。 1921年開始招收4名女生入學，實行男女同校，開在華基督教大學男女同校之先河。
1927年神學院分立；滬江大學初辦時宗教課程壹向列為必修科。民國16年國民政府規定，學校不得將宗教課程列為必修，校方便將宗教課程改為選修，又將神學院重新劃出，以便專門進行宗教教育。但校內宗教氣氛仍很濃厚，全校有基督徒占全校師生總數的三分之壹。
滬江大學的辦學宗旨是：在基督庇護下組成的高等教育機構，以訓練青年男女，步上人生大道，特別供給為中國基督教運動效勞之中國浸會領袖人才。同時，也要為中國的教育事業作出較大的貢獻。
在華各基督教大學中，滬江大學是最早開展社會學實驗和社會工作的學校。1913年在楊樹浦眉州路創設滬東公社（The Yangtzepoo Social Center） ，這是壹個以宣傳基督教教義為主，同時兼辦社會福利的教育機構。1917年在楊樹浦路1509號（楊樹浦路與眉州路路口）購置了壹處原為教堂的房產，作為滬東公社新址，“以供滬大社會學系之實驗；同時又為教育、宗教、經濟各學系實習之所”，亦為提升當地社區文化和生活質量的社會服務中心。劉湛恩就任校長後，滬東公社有了進壹步的發展，除了為工人區兒童創辦幼兒園和中小學，還開辦了醫院和診所，免費為周圍工人及附近農民施醫送藥，受到社會的歡迎。
20世紀20年代末，全國掀起“收回教育權”運動，滬江大學改組了校董會，增補8名華人為校董成員。1928年1月，經過改組的滬江大學校聘請畢業於美國哥倫比亞大學哲學系，年僅31歲的劉湛恩博士為校長，這是滬江大學歷史上首任華人校長。劉湛恩就任校長後，主張滬江大學“更為中國化”。
1929年3月18日，滬江大學向中國政府立案，成為上海第壹所立案的教會大學，英文校名也改為“University of Shanghai”。學校的編制為：大學部、中學部、小學部、城中區商學院、滬東公社及鄉村服務處。大學部初設教育、宗教、社會、自然科學4科，繼又增設商業管理、醫學選修科。後按國民政府規定，成立文、理、商、教育4學院，後將教育學院並入文學院，中學部、小學部改稱附屬中學（今上海市北郊高級中學 ）、附屬小學。
1931年9月22日，來自上海30多所高校的代表在滬大集會，成立了領導上海學生救亡運動的上海高校學生抗日救國會聯合會，號召去南京請願並舉行無限期罷課。滬江大學學生代表也積極參加了赴南京的請願活動，以此表達抗日救亡的堅強決心。
商學院誌在培養工商業的人才，由於滬江大學校部離市區較遠，1932年劉湛恩校長在接近市中心的圓明園路真光大樓創辦了滬江商學院，又稱城中區商學院，這是滬江大學最富盛名的學院，院長為朱博泉；它夜間開課，便利在職青年業余就讀，是當時辦得較好的並卓有成效的壹所夜大學，開辦以後入學者踴躍；不久又將軍工路本部商學院遷來合並，並改名為“滬江大學城中區商學院”。 城中區商學院是劉湛恩在“職業化”下進壹步推行“平民化”的嘗試。其目的除方便滬江商科學生實習外，更主要是為社會上提供各種形式的職業補習教育，以幫助那些清寒的好學生能夠完成大學學業，增進他們的效能。
劉湛恩就任校長後，主持建造了大學圖書館，教員住宅樓，女生健身房，男生新膳堂及大禮堂等，使校舍從最初的思晏堂等3棟增致懷德堂、思雷堂等44棟，學校規模得到較大發展；添置了大量的實驗設備，學生人數也有較大增加。
1933年中國建築師學會莊俊等人應劉湛恩邀請，籌劃興辦滬江大學商學院建築科，該科為兩年制專科學校，以招收在建築事務所工作的在職人員為主，以培養能力工作的建築師為辦學目的。該科始終得到中國建築師學會的大力支持，許多學會會員主持或參與教學工作，辦學之初，由學會黃家驊擔任第壹任系主任，並組織學會會員陳植、哈雄文、王華彬等制定了具體的教學計劃與課程安排。1935年秋，黃家驊離任，由哈雄文繼任系主任，1939年起由吳子昂任系主任，直至1946年建築系停辦。該建築科為當時上海最早的建築教育基地之壹。
劉湛恩校長不僅是壹位著名的教育家，更是壹位堅定不移的愛國者。1937年抗戰全面爆發後，他被推舉擔任上海各界人民救亡協會理事、上海各大學抗日聯合會負責人、中國基督教難民救濟委員會主席以及太平洋國際學會和國際俱樂部創始人之壹。他為宣傳抗日，支援前線，救濟難民，安撫流亡學生，作了大量的工作。1938年4月7日晨，劉湛恩上班之際，慘遭日偽特務暗殺，以身殉國。消息傳出，震驚中外，引發全國人民極大的憤慨和悲痛，國民政府官員、中***駐滬代表、各校代表以及滬江大學的全體教職員和學生等社會各界3000余人為這位傑出的愛國教育家舉行了隆重的葬禮，國內外著名人士和團體也來電吊唁。
1938年4月7日，樊正康接任校長。
“八壹三”淞滬會戰爆發後，滬江大學因地處戰區，校區遭嚴重破壞，學校被迫撤離，把位於公***租界內的城中區商學院作為全校的臨時校舍。由於大學、附中和城中區商學院都擠在了壹起，不得不采用三班輪流的辦法上課，規定上午為中學，下午為大學，晚上為商學院。後來，隨著學生的增多，又增租了同在圓明園路上的廣學會大樓三樓和亞洲文會大樓五樓辦學。楊樹浦校區在滬大撤離後，隨即成為了侵華日軍的兵營和軍用機場的設施地。學校經過美國駐滬總領事與日本多次交涉，直到1938年11月，才從校園運出了區區80卡車的教學物資，其中包括2萬冊書籍、14架鋼琴和少量實驗設備。
1938年夏，滬江大學與聖約翰大學、東吳大學、之江大學等校在公***租界組成上海基督教聯合大學（又稱華東聯合大學）。1941年太平洋戰爭爆發後，上海基督教聯合大學解散。
1942年1月15日，滬江大學被迫作出了學校無限期停辦的決議。1月21日，滬江大學同學會在香港路銀行公會舉行常務委員會議，由朱博泉、虞秉鏞、陳椿葆、徐振東、巢紀梅等委員出席，滬江大學董事長鮑哲慶、校董於壽椿、戚正成以及滬大的主要負責人鄭章成、鄭世察、林卓然、李好善等列席了會議。會議根據各方面意見，為了保存滬江“火種”，建議“由同學會出面，組織新校，繼續辦理，但母校校名必須避免，同時學校經濟亦須與校董會獨立。”最後決議成立“滬江書院”，並選出9人院務委員會，委員會中推舉朱博泉任主席。
1943年2月25日，國民政府教育部正式批準成立“東吳滬江聯合法商學院”，由部分滬江大學校友在大後方重慶和東吳大學校友聯辦，淩憲揚任商學院院長；兩校在重慶市中心區的保安路214號衛理公會社交會堂內建造了合用的校舍，於3月8日舉行入學考試，15日正式上課。1944年9月，淩憲揚被選為滬江大學代校長，開始籌備戰後全面恢復事宜。
1945年春，之江大學遷到重慶，又合並為“東吳滬江之江聯合法商工學院”。4月，滬江書院所在的真光大樓被日軍征用，書院只得搬出，另借虎丘路50號原猶太會堂和圓明園路206號原女青年會宿舍的房屋棲身，直至抗戰勝利。
1945年8月15日，日本宣布無條件投降，在上海的滬江大學校董會立即恢復活動，於8月27日召開會議，決定：“自即日起本校恢復滬江大學繼續辦理。”歷時4年的滬江書院完成了保存滬江“火種”的歷史使命，宣布結束；在重慶的滬江商學院也於1946年初遷回上海。
抗戰勝利後，滬江校園壹片淒涼荒蕪的景象，還壹度被作為收容遣返侵華日軍中朝鮮士兵的營地，經過半年的簡單修復，基本具備了復校的條件。1946年2月，滬江大學遷回楊樹浦軍工路原址，淩憲揚正式出任最後壹任校長。
1946年4月，滬江大學部教職員和900多名學生開始“回家”。4月22日，學校舉行開學典禮。11月，滬江在校園內隆重慶祝40周年校慶，蔣介石親題校訓“信義勤愛”以示祝賀。
1949年5月27日，上海解放。不久之後，淩憲揚校長辭職，並將全部校產責成總務長馮家聲按清冊移交；滬江成立了有學生代表參加，以余日宣、蔡尚思為正副主任的校務委員會。
1949年9月，滬江開始了解放後的第壹個學期，有1234名學生註冊。到1950年，全校土地面積341畝（含江邊新漲土地12.3畝）。1951年2月，滬江大學由上海市人民政府接辦，校務由余日宣、蔡尚思主持。
1952年秋季，全國高等學校進行院系調整，滬江大學各科系分別並入復旦大學、華東師範大學、上海財政經濟學院、華東政法學院、交通大學，校址移歸第壹機械工業部上海機械制造學校和上海工業管理學校；1958年兩校合並升格為上海機械專科學校，1960年升格為上海機械學院（今上海理工大學）。