1840～1842年，英國人以30余艘艦船和不足1萬人的遠征軍打敗了擁有近百萬常備軍的清王朝。鴉片戰爭的失敗使清廷受到強烈震撼，魏源、林則徐等有識之士認為“夷之長技，壹戰艦，二火炮，三養兵練兵之法”。他們建議並規劃出創立中國近代海軍海防的初步方案，以期形成“中國水師可以駛樓船於海外，可以戰洋夷於海中”的戰略格局。
19世紀60年代初，清政府在鎮壓太平天國起義的過程中萌發了仿效西方堅船利炮、創辦近代海軍的設想。海關總稅務司英國人李泰國等先後建議購買外艦建立艦隊，得到清政府允準。1862年，李泰國在英國購艦船7艘，與英國海軍上校阿思本密謀企圖控制中國海軍，但遭到清朝官員抵制，此次購艦建軍計劃破產。
1865年，清政府創辦江南機器制造總局，次年創辦福建船政局，打算通過發展造船工業，創建近代海軍。1866年，在左宗棠、沈葆楨的操辦下，中國近代第壹所高等院校——船政學堂在福州誕生。1867年1月6日，船政學堂正式開學，采用法國教育體制，把船舶工程學校與海軍學校合二為壹，是壹所按技術分設專業的近代高等院校。
1867年，前江蘇布政使丁日昌首先提出建立“北洋、中洋、南洋”三支輪船水師的構想，無事出洋梭巡，有事則壹路為正兵，兩路為奇兵，聯合作戰。
1874年，日本艦隊以琉球船民事件為由人侵臺灣，沈葆楨帶艦人臺交涉退兵，形成中日雙方第壹次正面沖突。日軍侵臺使清政府朝野震動不已。同年11月5日，總理衙門上奏．強調了海防問題的必要性和急迫性，提出“練兵、簡器、造船、籌餉、用人、持久”六項加強海防、抵禦外侮的措施，並隨後展開了壹場著名的“海防大討論”。最終通過了“先就北洋創設壹支海軍，俟力漸充，就壹化三，擇要分布”的海軍海防發展戰略思路，並派李鴻章和沈葆楨分別督辦北洋、南洋海防事宜，從而直接推動了我國近代海軍建設的步伐。
1875年5月30日，清政府下令由沈葆楨、李鴻章分別籌建南北洋水師，每年撥付經費400萬兩白銀，由南北洋水師分用。為迅速見成效，且為重點防禦日本，清政府采納沈葆楨建議，優先重點發展北洋水師。
南洋海軍於1879年5月由沈葆楨等奏設“海外兵輪船統領”，以後又稱“南洋兵輪船總統”，由江南提督或長江水師提督兼任。1879年7月4日，福建水師成立，為我國最早成軍的近代海軍力量。到中法戰爭前，福建水師***有軍艦15艘，排水量近1．8萬噸，艦隊多為木殼艦，以國產為主。1884年中法戰爭，福州船政局所屬軍艦慘遭全殲，南洋海軍也損失了2艦。
北洋水師的艦船主要來自國外購買。此時正是歐美各國收獲海軍革命成果的時代，海軍武器裝備的發展可謂日新月異，而且對出售此類產品亦無嚴“定遠”號鐵甲艦格的限制，只要肯花錢，幾乎任何新式武器裝備都能很快買到。1875年，李鴻章通過總稅務司赫德在英國訂造4艦炮船，開始清朝海軍向國外購軍艦的歷史。在1879年日本吞並琉球後，清政府鑒於形勢緊迫，急令李鴻章從速購買鐵甲艦。李鴻章接受了駐德國公使李鳳苞的大力推薦，選定在德國伏爾鏘船廠訂造兩艘鐵甲艦“定遠”號和“鎮遠”號，另外再訂購壹艘鐵甲巡洋艦“濟遠”號。“定遠”和“鎮遠”屬同壹級別的姊妹艦。兩艦長93．87米，寬17．98米，排水量7335噸，航速14．5節，裝甲總重為1461噸。這兩艘軍艦造成後，成為世界第壹等的鐵甲艦，也是當時亞洲的第壹巨艦。1886年，“定遠”和“鎮遠”兩艘鐵甲艦停泊日本長崎補給、維護時，堅甲巨炮引得日本朝野壹片恐慌。
1888年12月17日，北洋水師正式宣告成立，並於同日頒布施行《北洋水師章程》。北洋水師***有大小艦只20余艘(不包括魚雷艇和輔助船只)，以2艘鐵甲艦、8艘巡洋艦為主力，總噸位超過4萬，是當時堪稱世界第六、亞洲第壹的海軍艦隊。