許建國，原名杜理卿，1903年9月出生在湖北省黃陂縣南陽鄉杜家嘴的壹個農民家庭。因家境貧寒，幼年時就綽輟離家，跟隨伯父到河南確山、泌陽及漢口等地刮腸衣、做學徒。1916年初，年僅13歲的許建國來到安源煤礦修理工場當學徒，後來進入劉少奇同誌主辦的職工夜校學習文化，接受革命教育。在中國工人運動的烈火中，許建國經受了鍛煉，接受了馬克思主義。
1922年秋，許建國參加了中國***產黨領導的第壹次安源煤礦大罷工。在罷工中，經陳昌仁、胡多謀介紹，許建國加入了中國社會主義青年團，同年轉為中***黨員。翌年3月，他又投身於路礦兩局工會為聲援京漢鐵路大罷工而發起的第二次安源煤礦大罷工。1925年秋，他又參加了安源路礦工會為要求發放欠薪而組織的第三次大罷工。罷工失敗後，工會組織被破壞，工會主要幹部先後被捕、犧牲。黨組織通知已暴露身份的同誌撤離安源，許建國被派往設在湖南醴陵的安源總工會辦事處報到，然後前往長沙工會待機就業。
1925年，北伐戰爭開始。中國***產黨領導的工人運動、農民運動如火如荼。許建國同另幾位工會幹部壹起，由中***湖南特委派往湘潭組建產業工會，發展黨的組織。他擔任過湘潭縣南區聯合工會委員長，縣工會委員兼糾察部部長。
1926年冬，許建國被派往長沙總工會糾察隊訓練班集訓。四個月後，回到湘潭擔任工人糾察隊隊長，領導四個武裝糾察分隊，配合農會打擊土豪劣紳。1927年春，許建國領導群眾清算了當地罪惡昭彰的劣紳晏容秋，工農群眾為之揚眉吐氣。
1927年4月12日，蔣介石在上海發動“四·壹二”反革命政變。同年5月，湖南長沙發生了“馬日事變”。國民革命軍何健部三十五師反動軍官許克祥率部進攻湘潭，形勢急轉直下，中***黨組織決定緊急疏散。許建國在轉移途中與組織失掉聯系。在嚴酷的白色恐怖下，他冒著生命危險，先後潛往長沙、武漢等地尋找中***組織。
1928年4月，許建國來到武昌粵漢鐵路局機務段，壹面做工，壹面找黨。次年7月被叛徒出賣，在武昌被國民黨湖南省清鄉司令部偵緝隊逮捕後押往長沙。反動當局以“暴徒騷事，危害民國”罪，判處許建國有期徒刑七年，關進長沙陸軍監獄。在獄中，他很快找到了獄中中***支部，在支部書記唐近仁領導下，與同獄的陳奉石、馬穆賓、樂天宇、向仲華等壹起，進行了團結教育同監難友、要求改善生活待遇以及策劃越獄等不屈不撓的鬥爭。