泥溝鎮簡稱“泥溝”，因古時溝河交錯，道路泥濘而得名。
泥溝鎮民國時期屬嶧縣。
解放後，除郭莊、趙莊、溝圈、吳莊、戴莊屬嶧縣，其余歸屬蘭陵縣。
1956年屬蘭城店區。
1957年設泥溝鄉。
1958年建泥溝公社。
1960年撤嶧縣屬棗莊市。
1962年析出蘭城店、馬蘭屯兩公社。
1962年6月棗莊市設臺兒莊區；泥溝鎮屬臺兒莊區。
1984年4月西部設泥溝鎮，東部改為蘭城店鄉。
2001年3月，泥溝鎮、蘭城店鄉合並為新泥溝鎮。