周、秦屬肅慎。當時烏蘇裏江以東海濱均屬我內地。
兩漢、三國、魏晉屬挹婁。
南北朝屬勿吉。
唐渤海國(公元713~926年)歸安遠府。
遼朝(公元916~1115年)歸東京道五國部。
金朝(公元1115—1234年)歸移馬猛安，屬速頻(恤品)路。
元朝(公元1279—1368年)歸遼陽行中書省水達達路阿速骨幾千戶所。
明朝(公元1368—1644年)為木倫部。
明永樂五年(1407年)三月，明政府於烏蘇裏江流域設亦速裏河衛，虎林地區屬亦速裏河衛(烏蘇裏江前名)管轄。永樂八年(1410年)於今烏蘇裏江以東伊曼河流域設亦麻河衛，屬奴兒幹都使司亦麻河衛管轄。明萬歷三十七年(1611年)女真族領袖努爾哈赤的兒子阿巴泰來招服，屬打牲部索倫部管轄。
萬歷四十四年(1616年)努爾哈赤稱汗，建元天命，史稱後金，稱此地為尼滿河。
天聰八年(1634年)至崇德五年(1640年)，皇太極統壹女真各部，此地為尼滿部，將赫哲居民編為“伊徹滿洲”(新滿洲之意)。
清代(1644~1911年)順治元年(1644年)清王朝建立後，仍稱尼滿河。
順治十年(1654年)屬寧古塔昂幫章京。雍正九年(1731年)屬三姓副都統。
鹹豐九年(1859年)在呢嗎口建卡倫，世傳為“卡倫屯”。
鹹豐十年(1860年)簽訂不平等的《北京條約》，將烏蘇裏江以東劃歸俄國，呢嗎地方由內地變為邊境。內河烏蘇裏江成了界江。
光緒八年(1882年)屬富克錦(今之富錦)協領。
光緒二十年(1894年)，蜂蜜山荒務局派員分設呢嗎口山海稅務局，兼理民詞與放荒。
光緒二十五年(1899年)，屬蜂蜜山招墾局。
光緒二十八年，在呢嗎河口設招墾分局。
光緒三十三年(1907年)，廢將軍，置行省，屬吉林行省密山府所轄。
設治後的歷史沿革
宣統元年(1909年)六月二十日，吉林巡撫陳昭常奏請“密山府屬呢嗎口地方，設壹分防同知”，此即呢嗎廳，七月初二奉朱批批準，因廳同知未派，仍由呢嗎口壹帶稅務局兼交涉辦理廳務。屬吉林行省東北路道密山府。***有人口900人。
宣統二年(1910年)，因沿用呢嗎口舊稱與俄伊曼難分，而呢嗎廳又在七虎林河之南，為“符名實，而垂久遠”，陳昭常又於宣統二年(1910年)三月九日，奏請將呢嗎廳改名為虎林廳，四月十八日奉旨批準。
民國2年(1913年)5月，改虎林廳為虎林縣。撤消密山府，虎林縣直屬吉林省依蘭道。民國18年(1929年)，廢道制，虎林縣直轄於吉林省。***有人口2000人。
偽滿大同2年(1933年)8月23日，偽滿政府仍設虎林縣，屬偽吉林省。
偽滿康德元年(1934年)12月，偽滿洲國省制改革，虎林縣劃歸偽濱江省所轄。
偽滿康德4年(1937年)7月1日，屬偽牡丹江省。康德6年6月1日，屬偽東安省。康德10年10月1日，屬偽東滿總省東安區域。康德12年5月28日，屬偽東滿省。
1945年8月17日，設立虎林縣地方維持會，屬合江省。
1945年9月1日，虎林縣地方維持會改虎林縣政府。群眾稱“李象山政府”(李是偽漢奸，原名李慶雲)。
1945年11月，中***東安地工委派姚忠達任虎林縣副縣長。李象山政府的權利被我黨領導的人民群眾所掌握。李象山只是掛名縣長。***有人口24499人。
1946年4月12日，劃歸綏寧省管轄。
1946年5月1日李象山被政府槍斃後，姚忠達代理虎林縣長，純屬我黨領導下的縣人民政府。
1946年6月，劃歸合江省東安地區領導。
1947年8月，劃歸牡丹江省東安地區領導。
1948年7月9日，劃歸合江省東安地區領導。
1949年4月，劃歸松江省領導。
1954年8月1日，劃歸黑龍江省領導。
1955年3月，改縣人民政府為縣人民委員會。
1956年3月，劃歸黑龍江省牡丹江地區領導。
1958年11月20日，虎林、饒河全縣，寶清、密山部分，鐵道兵農墾局(後改牡丹江農墾局)，合並為虎饒縣。
1962年2月28日，牡丹江農墾局與虎饒縣分設。1962年11月，劃歸黑龍江省合江地區領導。
1964年6月5日，撤消虎饒縣，恢復虎林縣、饒河縣。
1967年9月30日，成立虎林縣革命委員會。
1970年3月6日，劃歸牡丹江地區領導。
1980年11月29日，取消縣革命委員會，恢復虎林縣人民政府。
1983年9月，劃歸牡丹江市領導。
1993年8月30日，劃歸雞西市領導。
1996年10月，撤消虎林縣，改為虎林市。***有人口293301人。