津浦路東聯防部隊伴隨著路東根據地建立而誕生。1940年4月18日，津浦路東聯防司令部成立，司令楊梅生，政委陳慶先。
路東聯防部隊***有4個正規獨立團，獨立第壹團以第五支隊第十五團三營為基礎組成，團長漆德慶，政委朱雲謙，該團活動於來安地區；獨立第二團以第十五團壹、二營為基礎組成，團長劉樹剛（後饒守坤），政委劉景勝，該團活動在天長、儀征、揚州地區（以上兩個團仍屬五支隊指揮）；獨立第三團以第五支隊特務營為基礎組成，團長由楊梅生兼任（後漆德慶、李世安、朱國華），政委阮賢榜，該團在盱眙、嘉山地區活動；獨立第四團以江北指揮部特務營壹個連為骨幹，與天長縣地方武裝合並組成，副團長程啟文（代團長，後羅占雲），政委侯政（後王義勛），該團在天長、六合地區活動。聯防司令部還組建了壹個特務營。津浦路東各縣成立軍事科或縣總隊，領導壹個獨立營（亦稱模範營或縣總隊）。在根據地邊沿地區，普遍建立區中隊、鄉分隊，組織了人民自衛軍，區鄉還組建了半脫產與不脫產的基幹隊——模範隊、青年隊（民兵）。這樣，在路東根據地就形成了有主力部隊、地方部隊和自衛軍（民兵）三結合的武裝力量，***同擔負保衛根據地的任務。
1940年8月，撤銷了路東聯防司令部，所屬部隊歸江北指揮部直接指揮。皖南事變後，為適應形勢的發展和武裝鬥爭的需要，路東聯防司令部於1941年春重建，獨壹團和獨二團合編為第十五團，歸建主力部隊，聯防司令部保留獨三團和獨四團，作為發展地方武裝的骨幹力量。為加強各縣的地方武裝，由獨三團調兩個連分別編入嘉山、盱眙獨立營，獨四團調壹個連到來安獨立營，聯防司令部獨立營調壹個連編入淮寶獨立團，並將高郵、天長、六合、盱眙獨立營編成縣獨立團。8月，路東各縣軍事科統壹改為縣總隊部。路東地方武裝1941年發展很快，到年底達2．8萬余人（包括獨立團，區鄉武裝和民兵，其中脫產的4000人），有步槍1．17萬余支，輕機槍20余挺。
1942年1月，路東聯防司令部改稱淮南蘇皖邊區軍區。組建了獨立第五團，團長黃仁庭，政委汪登科。經過精簡整編，加強訓練，路東地方部隊戰鬥力逐步提高。
1943年2月，淮南根據地實行黨政軍壹元化領導，成立了淮南軍區（由第二師兼），撤銷了原津浦路東地方武裝指揮機關淮南蘇皖邊區軍區，組建津浦路東軍分區（由第五旅兼）。同時進行路東地區地方武裝的整編工作。以第五旅第十五團壹營與獨五團、嘉山縣總隊、盱眙縣總隊合編為盱嘉支隊；以獨立第三團與來安、六合縣總隊合編為來六支隊；以獨四團壹個連與天長、高郵縣總隊合編為天高支隊；以獨四團和冶山、儀征縣總隊合編為東南支隊。6月，以軍分區特務營壹個連和原湖西、水南辦事處武裝合編為甘泉支隊。路東地方武裝發展成為五個支隊後，戰鬥力進壹步提高。1943年9月，路東軍分區改由第四旅兼任，旅長梁從學兼分區司令，地委書記陳光兼分區政治委員（後余立金），羅占雲任副司令，高誌榮任副政治委員，朱紹清任參謀長，李世焱任政治部主任（後徐海珊）。1944年6月，為加強津浦路西的對敵鬥爭，第二師令第四旅免兼路東軍分區，赴路西作戰。在路東重新組建路東軍分區機關。1944年11月，羅占雲任路東軍分區司令，路東地委書記李世農兼政治委員，李世焱任副政委兼政治部主任，胡定千任參謀長。1945年3月，朱雲謙任路東軍分區副司令。路東軍分區仍轄5個支隊，並恢復了獨立第四團。
從1943年下半年到1945年8月，路東地方武裝在主力部隊全部部署在路西堅持對敵鬥爭、加強對西防禦的情況下，積極主動地開展攻勢作戰，頻繁出擊各縣的日偽軍據點，並三次攻打盱眙縣城，擴大了根據地。路東地方武裝在戰鬥中也不斷壯大，由初建時的1000余人發展到近萬人，由開始只能配合主力部隊作戰發展到能夠獨立作戰，為鞏固擴大路東根據地和保衛華中局、新四軍軍部及淮南地區黨政軍領導機關作出了貢獻。