津浦路東聯防部隊伴隨著路東根據地建立而誕生。1940年4月18日,津浦路東聯防司令部成立,司令楊梅生,政委陳慶先。
路東聯防部隊***有4個正規獨立團,獨立第壹團以第五支隊第十五團三營為基礎組成,團長漆德慶,政委朱雲謙,該團活動於來安地區;獨立第二團以第十五團壹、二營為基礎組成,團長劉樹剛(後饒守坤),政委劉景勝,該團活動在天長、儀征、揚州地區(以上兩個團仍屬五支隊指揮);獨立第三團以第五支隊特務營為基礎組成,團長由楊梅生兼任(後漆德慶、李世安、朱國華),政委阮賢榜,該團在盱眙、嘉山地區活動;獨立第四團以江北指揮部特務營壹個連為骨幹,與天長縣地方武裝合並組成,副團長程啟文(代團長,後羅占雲),政委侯政(後王義勛),該團在天長、六合地區活動。聯防司令部還組建了壹個特務營。津浦路東各縣成立軍事科或縣總隊,領導壹個獨立營(亦稱模範營或縣總隊)。在根據地邊沿地區,普遍建立區中隊、鄉分隊,組織了人民自衛軍,區鄉還組建了半脫產與不脫產的基幹隊——模範隊、青年隊(民兵)。這樣,在路東根據地就形成了有主力部隊、地方部隊和自衛軍(民兵)三結合的武裝力量,***同擔負保衛根據地的任務。
1940年8月,撤銷了路東聯防司令部,所屬部隊歸江北指揮部直接指揮。皖南事變後,為適應形勢的發展和武裝鬥爭的需要,路東聯防司令部於1941年春重建,獨壹團和獨二團合編為第十五團,歸建主力部隊,聯防司令部保留獨三團和獨四團,作為發展地方武裝的骨幹力量。為加強各縣的地方武裝,由獨三團調兩個連分別編入嘉山、盱眙獨立營,獨四團調壹個連到來安獨立營,聯防司令部獨立營調壹個連編入淮寶獨立團,並將高郵、天長、六合、盱眙獨立營編成縣獨立團。8月,路東各縣軍事科統壹改為縣總隊部。路東地方武裝1941年發展很快,到年底達2.8萬余人(包括獨立團,區鄉武裝和民兵,其中脫產的4000人),有步槍1.17萬余支,輕機槍20余挺。
1942年1月,路東聯防司令部改稱淮南蘇皖邊區軍區。組建了獨立第五團,團長黃仁庭,政委汪登科。經過精簡整編,加強訓練,路東地方部隊戰鬥力逐步提高。
1943年2月,淮南根據地實行黨政軍壹元化領導,成立了淮南軍區(由第二師兼),撤銷了原津浦路東地方武裝指揮機關淮南蘇皖邊區軍區,組建津浦路東軍分區(由第五旅兼)。同時進行路東地區地方武裝的整編工作。以第五旅第十五團壹營與獨五團、嘉山縣總隊、盱眙縣總隊合編為盱嘉支隊;以獨立第三團與來安、六合縣總隊合編為來六支隊;以獨四團壹個連與天長、高郵縣總隊合編為天高支隊;以獨四團和冶山、儀征縣總隊合編為東南支隊。6月,以軍分區特務營壹個連和原湖西、水南辦事處武裝合編為甘泉支隊。路東地方武裝發展成為五個支隊後,戰鬥力進壹步提高。1943年9月,路東軍分區改由第四旅兼任,旅長梁從學兼分區司令,地委書記陳光兼分區政治委員(後余立金),羅占雲任副司令,高誌榮任副政治委員,朱紹清任參謀長,李世焱任政治部主任(後徐海珊)。1944年6月,為加強津浦路西的對敵鬥爭,第二師令第四旅免兼路東軍分區,赴路西作戰。在路東重新組建路東軍分區機關。1944年11月,羅占雲任路東軍分區司令,路東地委書記李世農兼政治委員,李世焱任副政委兼政治部主任,胡定千任參謀長。1945年3月,朱雲謙任路東軍分區副司令。路東軍分區仍轄5個支隊,並恢復了獨立第四團。
從1943年下半年到1945年8月,路東地方武裝在主力部隊全部部署在路西堅持對敵鬥爭、加強對西防禦的情況下,積極主動地開展攻勢作戰,頻繁出擊各縣的日偽軍據點,並三次攻打盱眙縣城,擴大了根據地。路東地方武裝在戰鬥中也不斷壯大,由初建時的1000余人發展到近萬人,由開始只能配合主力部隊作戰發展到能夠獨立作戰,為鞏固擴大路東根據地和保衛華中局、新四軍軍部及淮南地區黨政軍領導機關作出了貢獻。